海德沙龙

【2023-05-15】

@赵昱鲲 AI会消灭人类吗？ 有可能，但需要人类的配合

@whigzhou: 写的挺好，我不同意的地方是太把阿西莫夫三原则当回事了，这三条是有关该主题的思考中非常初级的一种，经不起几分推敲，不仅三句之间相互矛盾，第一条的前后两半句就相互矛盾——这些矛盾仅当你假定一个无利益冲突世界才能消除

@whigzhou: 仅以第一条为例，假如你必须伤害肉人甲才能保护肉人乙免受伤害，怎么遵守这条？

@whigzhou: 该主题我见过的较深入思考，是Daniel Dennett的Darwin's Dangerous Idea第14章第4节 Safe Passage to the Future，一个非常好的思想实验

@whigzhou: 举个特别纯洁无暇的例子，你是一个 robot，正在努力帮助肉人甲（一个饭馆老板）经营好他的饭馆，你做的非常出色，饭馆生意大好，把附近几家店的生意都抢了，其中一家最近刚投入巨资装修，结果破产了，老板跳楼了，那么，你的行为算不算injure a human being? 特别是，如果你当初就遇见到有这种可能性呢？

嗯，当然，把人挤破产只是间接伤害，你的手上并未直接沾血，可是，如果你把阿西莫夫原则退让到重要手上不直接沾血就行，那还有多大意义呢？

@whigzhou: 多提几个这样的问题，仔细思考，你最后会发现，你需要它们拥有的，就是一个健全正常的人格——健全正常的动机系统，健全正常的道德心智，健全正常的伦理常识——不是内置几条抽象原则就万事大吉了

@whigzhou: 若是走内置原则这条路，那么要不要把整个司法系统内置进去？否则依靠自我裁决的话，有什么不能自我合理化的？

@宽轨高铁计划:适用正当防卫呀

@whigzhou: 弗拉基米尔大帝和阿道夫二等兵都说自己是正当防卫