[微言]彭罗斯与强AI

【2012-09-07】

@李淼在微博 [[Roger Penrose]]，一个数学家和物理学家，20多年前写出《皇帝的新脑》。他坚持大脑的某些过程是非可算的，所以机器人无法模仿。下面是这本书最后他对自由意志的看法，他仍然强调不可算性，但对自由意志存在与否持观望态度。 http://ww2.sinaimg.cn/bmiddle/6201f848jw1dwo0kl553ij.jpg

@tertio: 彭罗斯绝对坑爹

@whigzhou: [[Daniel Dennett]]在[[Darwin's Dangerous Idea]]里用整个第15章回应了彭罗斯，我理解，彭的意思只是：某些想法（比如数学灵感）用机械式推理是推不出的，他据此否定强AI，这说法实在挺幼稚的，AI的推理可以是启发式的，而启发结构是可以突变的，其演变路径无须遵循机械推理规则

@whigzhou: 一个数学灵感完全可以对应启发结构的一次突变，这种突变可以是遵循自然律的，可计算的，但其表征的内容无须遵循机械推理规则，完全不矛盾

@whigzhou: 彭罗斯对强AI的否定和基于哥德尔定理的否定类似，都是先认定机器只能这么做，然后说机器做不到某某，其实前面的认定就错了，机器本身可以不断突变和进化

@古希腊人：对递归可枚举集没信心

@博伊德_in_relationship: 这要取决于强AI的定义，像人类本身一样的解决问题还是类似于西蒙·赫伯特所说的无限理性（of course, god can）。对于前者我毫不怀疑，更何况硅晶文明没有必要和碳晶文明完全一致。

@whigzhou: 呵呵，后一种我都想象不出是啥样的

【2012-09-08】

@HowardRoark: 彭罗斯的论证是针对图灵机的，那段利用哥德尔不完备定理进行的证明是无懈可击的。图灵机永远无法知道什么时候停止。他在书里也讲过如果有基于生物结构的计算机是可能实现对大脑非可算能力的模拟

@whigzhou: 这是对人类智能的误解，启发式算法本来就是冒险性的，不保证限时输出“正确”结果

@whigzhou: 设想N台图灵机，各自运行一个启发式算法，在规定时间强行终止，从中选取最优结果，显然，这些图灵机构成的系统是可以知道何时停止的，因为它事先就规定了停止时间

@whigzhou: 另一种：事先规定一个满意值域，N台图灵机任何一台先获得满意值就全体停机，并输出该值

@whigzhou: 第二种类似于大脑中的达尔文机制

@古希腊人: 外行话。没搞懂递归可枚举集吧？

@whigzhou: 不知道你是啥意思，不过我知道有些自然语言里最大数字是三，你想说啥？

@whigzhou: 嗯，使用这些语言的土著，能通过图灵测试吗？符合强AI条件吗？hiahia

@古希腊人: 图灵机是可计算性的概念机，等价于递归可枚举集。并发的图灵机等价于一台图灵机，而图灵机也不试图优化，只是探讨能算还是不能算。至于机器现在不能算未来能算，那个是复杂度问题，多台并发那些也是。可计算性跟多台或者计算新方法都无关。

@whigzhou: 这个我知道，可是跟强AI的可能性是什么关系？

@古希腊人: 强AI的可能性等价于图灵机。图灵机的可计算能力是不可能突破的。

@whigzhou: 是啊，可是哪里需要突破了？

@whigzhou: 停机问题是哥德尔定理的一个特例，哥定理说的只是：在足够强的公理系统中，总能找出一些命题，在该系统内无法确定真假。可是，这与强AI有啥关系？人的智慧能确定任何命题的真假？有必要吗？智慧只要能帮助人处理生活中遇到的问题、活下去、传宗接代即可，而它处理的方式都是修修补补的、勉强应付就行

@古希腊人: 当然不需要突破，可彭罗斯说强AI不可以达成说的是图灵机模型计算能力不够，而你用多路启发式搜索和未来更强的计算都不能说明问题

@whigzhou: 问题是他始终也没说清楚哪里“不够”了，那只是个直觉 http://t.cn/zWkyuK3

@whigzhou: Moreover, in the wake of the commentary his book provoked, Penrose now grants that heuristic programs are algorithms as well, and acknowledges that, if he is to find an argument against AI, he has to concede their tremendous power to track the truths of arithmetic and... http://ww3.sinaimg.cn/bmiddle/537956cajw1dwp4et7yj5j.jpg

@不存在者_AIAlpha: 我觉得Penrose的这段话其实是回避了“自由意志”的定义，而从“宿命论”这样容易引起歧义的名词说开，一点用也没有，简而言之，这篇文章绝大说数都是废话，没抓住问题要害

@whigzhou: 是啊，特别是最后一段露了大怯

@skywide: 停机问题可以破坏机器人三定律啊呵呵呵

@whigzhou: 哦，这倒是

@古希腊人: 那三定律本身就比较搞，为科幻小说增加张力和冲突是有用的，没什么现实意义。

@whigzhou: 是

@whigzhou: 说起三定律，想到丹内特出的一道题：假如你想过400年后的生活，于是决定把自己冻起来，你会设计一个什么样的方案，确保冷冻设备持续供电，并始终被置于适宜条件下？假设钱不是问题，比如你有100亿美元；当然，方案要以目前可得的技术和制度条件为基础。

@skywide: 当然是保存大脑完整了，肉体根本不是问题

@whigzhou: 未必，原题不是要把他的意识带到400年后，而是让他这个人生活在400年后，而仅仅带上大脑，人格是不完整的，构成人格/禀赋/性情的那些元素，并非全部存在于大脑之中

@whigzhou: 即便只是意识，影响其工作效果的元素，也并非全在大脑中

@whigzhou: 最简单的例子，睾酮水平高低，对你的意识工作效果就有很大影响

@whigzhou: 肾上腺素/内啡肽/血糖/视力/慢性胃痛/缺一条腿，都会让你拥有不同的心理状态，包括意识状态

@skywide: 不过，这种内分泌的不平衡状况不具有系统性，波动相对是随机的，如果偏离正常值的话就会产生疾病，这种异常状况应该撇开不谈。毕竟人格心理学的研究表明，智商高低与遗传相关性很高，工作效率的决定点还是神经触突的连结程度。

@whigzhou: 阈值具有系统性啊，视力和缺腿就更系统性啦

@whigzhou: 从6块腹肌变成大肚腩性情也会变啊

@skywide：回复@whigzhou: 不过阈值本身是由脑来决定的吧，内分泌的作用受阈值调节，但阈值一般和内分泌的分泌机制无关。视力和缺腿倒的确对体力劳动有重大影响，可以算进去。

@whigzhou: 嗯，许多阈值状态是在大脑里，不过我说的是在身体这边的，比如，运动可以释放内啡肽，但特定运动量的释放水平，是否与运动习惯有关？具体我不清楚，但肯定存在类似的关联

@whigzhou: 再比如，给你换上另一个甲状腺，新的“你”大概也颇有不同