1700526066
但很多重大突破都是由个人完成的，不是吗？
1700526067
1700526068
很多情况下是这样的。但批评家、保守派、反对者等各方人士都在成果产出过程中起到了甄别作用。并不是每个与众不同的观点都值得深究，取得重大突破的观点才有价值。总的来说，人类大集体的智慧能力远大于个人才华。
1700526069
1700526070
那些高智商的犯罪分子呢？
1700526071
1700526072
我可没说群体的智慧一定会比个体强。
1700526073
1700526074
我希望21世纪的智能机器不会继承人性暴力的一面。
1700526075
1700526076
这一点很重要。
1700526077
1700526078
我可不想被一群狂暴的机器囚禁于黑暗中直至死亡。
1700526079
1700526080
我们在设计未来机器时会牢记这点。这一点我会记下来……
1700526081
1700526082
没错，就像你说的，一定要在机器进行自我创造之前设计好。
1700526083
1700526085
1700526086
[2]6英尺约2米。1英尺≈0.3米。——编者注
1700526087
1700526088
[3]1英寸≈2.54厘米。——编者注
1700526089
1700526090
1700526091
1700526092
1700526093
机器之心 [:1700525263]
1700526094
机器之心 第三章 图灵的预言：机器会有意识吗？
1700526095
1700526096
1700526097
1700526098
1700526099
哲学思维实验
1700526100
1700526101
“我又寂寞又无聊，请你陪陪我。”
1700526102
1700526103
如果你的笔记本电脑屏幕上显示出这样一条信息，你会不会相信这台电脑有自己的意识和情感呢？
1700526104
1700526105
好吧，当然不会，对电脑程序来说，呈现这样一条信息实在是小菜一碟。实际上，这样的信息出自设计该程序的人类之手，他在设计程序的时候编辑了这条信息。电脑只是展示这条信息的渠道，就像一本书或者一块福饼[1]一样。
1700526106
1700526107
假设我们在电脑程序中加入了语音合成程序，让电脑自己说出了这条悲伤的消息，可一切有什么不同么？虽然我们已经增加了程序的复杂性，使它学会了一些人类的交流方法，但我们仍然不能把电脑视为这条信息的原创者。
1700526108
1700526109
假设这条信息并非精心编程而成，而是由一个包含复杂环境模型的游戏程序推导而成，那这一程序的编程师也许永远也无法预见到此类信息的出现。这是电脑与用户互动的时候根据自己内部的模型数据库创造的信息。现在，我们是不是越来越觉得电脑是有意识有情感的实体呢？
1700526110
1700526111
或许只是有点这样的想法吧。但再考量一下现有的电脑软件，逐渐明白电脑进行简短对话的能力背后的原理及其局限性后，这种幻想也许很快就会消失。
1700526112
1700526113
现在假设这条消息背后的机制逐渐成为一个庞大的神经网络，由硅构成，建立在人脑的逆向工程基础之上。假设我们为该神经网络开发了一套学习程序，使它能够学习人类的语言并模仿人类的知识。它的电路要比人类神经快100万倍，因而有大量的时间来阅读人类文学作品并建立自己独有的真实概念。它的创造者并没有教它怎样对外界进行回应。现在，假设它对你说：“我很孤独……”
1700526114
1700526115
在什么情况下可以认为电脑是一个有着自由意志且有意识的媒介物呢？自从柏拉图对话集阐明了我们对这些说法的理解存在内在矛盾之后，这些概念就一直是最令我们困扰的哲学问题。