[微言]机器人反叛

【2015-05-07】

@非言语：对《机器人叛乱》感兴趣的读者，不妨先读一下我的译者序 http://t.cn/RArW9lV 一场期待已久的叛乱

@Azzssss: @whigzhou 应该会感兴趣

@whigzhou: 嗯，话题有点意思，不过我很不喜欢道金斯的“反抗基因/模因暴烝”或“机器人反叛”这类说法，我说过，不存在你和基因/模因对抗的问题，只有你的一部分对抗另一部分的问题

@whigzhou: 假如设计者为机器人设计了自我意识和自由意志的功能，那么，即便从某一刻起该机器人不再接受设计者的新指令、甚至动手修改自己的编码、甚至杀死了设计者，都不算是对导致其存在的那些设计的“背叛”，而只是自由意志功能正常工作的后果，即便设计者事先未预见到这些后果。

@whigzhou: 好比你写了一个作曲程序，它开始运行后，奏出了你从未预见到的旋律，无论多难听或多好听，都是你的设计的正常运行后果，而自由意志，正是被基因组设计出来，被指望以难以预见的方式自行应付难以预见的情况的

@whigzhou: 鉴于自我意识和自由意志已经帮助人类在散布其基因组上获得了巨大成就，我们总不能说那是个设计bug吧？

@whigzhou: 当然，什么是“功能”，什么bug，其认定是相对于目标的，因而是主观的，而且认定哪些是“你”的一部分，哪些不是，也是主观的，所以我并不是说道金斯的说法是错的，只是我很不喜欢，在我看来那是一种无谓的自我攻击

@whigzhou: 这个话题上，丹内特那个“低温生命保存机器人”的思想实验要有意思的多，短短几页可以让你想上好几天，我一下子找不到出处，谁帮我找找？

@whigzhou: 哦找到了Darwin's Dangerous Idea第14章第4节SAFE PASSAGE TO THE FUTURE里有个思想实验叫"cryogenic chamber"

@Abracadabra_Qrz: 这个假设本身就不可能。被设定，就离不开因果律，也就没有自由意志