1700526080
我们在设计未来机器时会牢记这点。这一点我会记下来……
1700526081
1700526082
没错，就像你说的，一定要在机器进行自我创造之前设计好。
1700526083
1700526085
1700526086
[2]6英尺约2米。1英尺≈0.3米。——编者注
1700526087
1700526088
[3]1英寸≈2.54厘米。——编者注
1700526089
1700526090
1700526091
1700526092
1700526093
机器之心 [:1700525263]
1700526094
机器之心 第三章 图灵的预言：机器会有意识吗？
1700526095
1700526096
1700526097
1700526098
1700526099
哲学思维实验
1700526100
1700526101
“我又寂寞又无聊，请你陪陪我。”
1700526102
1700526103
如果你的笔记本电脑屏幕上显示出这样一条信息，你会不会相信这台电脑有自己的意识和情感呢？
1700526104
1700526105
好吧，当然不会，对电脑程序来说，呈现这样一条信息实在是小菜一碟。实际上，这样的信息出自设计该程序的人类之手，他在设计程序的时候编辑了这条信息。电脑只是展示这条信息的渠道，就像一本书或者一块福饼[1]一样。
1700526106
1700526107
假设我们在电脑程序中加入了语音合成程序，让电脑自己说出了这条悲伤的消息，可一切有什么不同么？虽然我们已经增加了程序的复杂性，使它学会了一些人类的交流方法，但我们仍然不能把电脑视为这条信息的原创者。
1700526108
1700526109
假设这条信息并非精心编程而成，而是由一个包含复杂环境模型的游戏程序推导而成，那这一程序的编程师也许永远也无法预见到此类信息的出现。这是电脑与用户互动的时候根据自己内部的模型数据库创造的信息。现在，我们是不是越来越觉得电脑是有意识有情感的实体呢？
1700526110
1700526111
或许只是有点这样的想法吧。但再考量一下现有的电脑软件，逐渐明白电脑进行简短对话的能力背后的原理及其局限性后，这种幻想也许很快就会消失。
1700526112
1700526113
现在假设这条消息背后的机制逐渐成为一个庞大的神经网络，由硅构成，建立在人脑的逆向工程基础之上。假设我们为该神经网络开发了一套学习程序，使它能够学习人类的语言并模仿人类的知识。它的电路要比人类神经快100万倍，因而有大量的时间来阅读人类文学作品并建立自己独有的真实概念。它的创造者并没有教它怎样对外界进行回应。现在，假设它对你说：“我很孤独……”
1700526114
1700526115
在什么情况下可以认为电脑是一个有着自由意志且有意识的媒介物呢？自从柏拉图对话集阐明了我们对这些说法的理解存在内在矛盾之后，这些概念就一直是最令我们困扰的哲学问题。
1700526116
1700526117
让我们站在相反的立场上，从滑坡谬误[2]的角度考虑一下吧。假设我们的朋友杰克（大约来自21世纪的某个时期）一直在抱怨自己的听力有问题，诊断测试显示，传统的听力辅助不足以恢复其听清声音的能力，因此他做了耳蜗移植手术。从前只有听力严重受损的患者才会做这种手术，但现在这种具有矫治功能的移植手术很常见，可以使病患听见所有音频的声音。这种常规手术非常成功，杰克对自己矫正后的听力很满意。
1700526118
1700526119
那他还是以前的杰克吗？
1700526120
1700526121
当然是了。从1999年起人们就可以做耳蜗移植手术了，接受手术的患者们在术前和术后并没有什么不同。
1700526122
1700526123
现在（回到21世纪的某个时期），杰克对耳蜗移植手术的成功大为震撼，他决定打开耳朵里内置的语音认知电路，全面提高听觉能力。这些电路已经安装完毕，无须启动其他插入操作即可运行。将这些能够代替神经的电路激活以后，通过移植手术内置在耳中的声音追踪网便可取代患者本人逐渐老化的神经声学区域。他只需为这项额外的神经软件支付现金。这一次，杰克对自己的听力仍然非常满意，因为他可以明白人们在讲什么了。
1700526124
1700526125
现在的他还是从前那个杰克吗？当然，毋庸置疑。
1700526126
1700526127
现在的杰克非常热衷于这种新型神经移植技术带来的好处。他双眼的视网膜仍然功能健全，所以还原封不动地保留着（尽管他在角膜上植入了永久性视网膜成像显示器，以便观看虚拟现实的图像），但是他决定再尝试一下最新引进的图像处理移植手术，手术完成后，他再次为眼前活灵活现的场景以及目光能够迅速捕捉到的场景感到诧异。
1700526128
1700526129
他还是杰克吗？毫无疑问，当然是。