海德沙龙

【2022-05-29】

@whigzhou: AI 的当前状况是，在它弄对的地方，可以对的很高级，而在它弄错的地方，往往错的很低级，

这其实是缺乏常识感的一种表现，类似情况在不同程度上在人类中也可以看到，比如常有一些领域顶尖专家，当他越出自己专业领域谈论其他事情时，往往表现的极度无知和愚蠢，

这个困难不容易克服，像人类这样层次丰富、面相多元的常识感是很难建立的，不仅需要一个完整的成长经历，一套良好的通识教育，还需要健全的动机与激励系统，因为许多常识是无法被动习得的，需要主动探索和尝试，而探索尝试需要动机，而从探索尝试中习得有用经验需要恰当激励与反馈，为AI系统设定这样的学习情境很不容易，当前研究者可能还不知道如何下手，门都还没摸到，

而且这种探索性学习还需要某种元认知能力，就是能不断对自己的学习经历进行反思，时不时 jump out of box，

路还很长，