1700217025
心灵的未来 [:1700213102]
1700217026
心灵的未来 有自我意识的机器人
1700217027
1700217028
要使沃森那样的计算机具有自我意识需要采取什么步骤呢？要回答这个问题，我们必须回到我们对自我意识的定义：这是一种能力，能将自己置于一个环境模型中，然后在未来模拟这个环境模型以达到某个目的。完成第一步需要很高的常识水平，这样才能预见未来事件。然后，机器人需要把自己置于这个模型中，这要求机器人对自己可能采取的各种行为有所理解。
1700217029
1700217030
明治大学的科学家们已经开始了制造具有自我意识的机器人的第一步。这是一项非常困难的任务，但他们认为用心灵理论制造一个机器人可以实现它。他们先制造了两个机器人。在第一个机器人中编入完成某些动作的程序，第二个机器人编入观察第一个机器人后予以模仿的程序。他们能够制造出完全靠观察第一个机器人就能系统地模仿它的行为的机器人。专门制造具有某种自我意识的机器人，这在历史上是首次。第二个机器人具有一种心灵理论，即它可以通过观察另外一个机器人模仿它的行为。
1700217031
1700217032
2012年，耶鲁大学的科学家们进行了第二步，他们制造出了可以通过镜像测试的机器人。把动物放到镜子前，它们中的大多数都会认为镜子里的影像是另外一个动物。在我们的记忆中，只有少数动物通过了镜像测试。耶鲁大学制造出的机器人尼克（Nico）造型类似一副瘦长的导线骨架，具有机械手臂，顶部有凸出的双眼。把尼克放到镜子前，它不仅会认出自己，而且可以通过观察镜子中其他物体的镜像推测出它们的位置。这与我们开车时看后视镜，推测出我们后方物体的位置十分相似。
1700217033
1700217034
尼克的程序设计员贾斯汀·哈特（Justin Hart）说：“就我们所知，这是第一个能够这样使用镜子的机器人系统，是迈向一种机器人通过自我观察来自了解自身和长相的严密架构的重要一步，这是通过镜像测试所需要的非常重要的能力。”
1700217035
1700217036
由于明治大学和耶鲁大学的机器人代表了制造自我意识机器人的最先进技术，我们很容易看出科学家们距离制造出具有人类一样的自我意识的机器人还有很长的路要走。
1700217037
1700217038
他们的工作仅仅是一个开始，因为我们对自我意识的定义是要求机器人能够利用这种信息对未来进行模拟。这大大超出了尼克和其他机器人的能力。
1700217039
1700217040
这引出了一个重要的问题：计算机怎样获得自我意识？在科幻小说中，我们经常遇到互联网突然获得自我意识的情景，比如电影《终结者》。由于互联网是涉及整个现代社会的基本设施（比如我们的下水道系统、电力系统、电信、武器），具有自我意识的互联网就很容易控制这个社会。在这种情况下，我们是无助的。科学家们写道，这可能是一种“突生现象”（即，当我们集聚了足够多的计算机时，它们可能一下子跃升到下一个级别，无须外部的输入）。
1700217041
1700217042
然而，这好像囊括了所有的事，又好像什么都没说，因为中间的重要阶段都被忽略了。就好像是在说，只要道路足够多，高速公路就会突然具有自我意识。
1700217043
1700217044
但在本书中，我们给出了意识和自我意识的定义，由此我们可以列出互联网获得自我意识所需的步骤。
1700217045
1700217046
第一步，智能的互联网应该不断地对自己在世界中的位置建立模型。在原则上，这种信息可以从外部输入进互联网。这会涉及对外部世界的描写（如地球、城市和计算机），而这些都能在互联网上找到。
1700217047
1700217048
第二步，互联网要把自己置于这个模型之中。这种信息也很容易获得。这涉及对互联网的各个方面（计算机的数量、节点、传输线路等）以及它与外部世界的关系给出说明。
1700217049
1700217050
第三步是目前最困难的，需要为达成某个目标在未来不断模拟这个模型。这里我们遇到了巨大的障碍。互联网没有对未来进行模拟的能力，它也没有具体目标。即使在科学世界中，模拟未来也通常仅能在少数几个参数上实现（比如模拟两个黑洞的碰撞）。模拟包含互联网在内的整个世界完全超出了当今的编程能力。这可能包括纳入所有常识法则，所有物理学、化学和生物学规律，也包括纳入人类行为和人类社会的事实。
1700217051
1700217052
此外，智能互联网需要具有目标。今天，它只是一条被动的高速公路，没有方向，没有目标。当然，我们在原则上可以把一个目标强加给互联网。但是让我们考虑一下这个问题：我们可以制造出目标在于自我保护的互联网吗？
1700217053
1700217054
这也许是最简单的目标，但没人知道怎样为它编程。比如，这个程序会防止所有拔下插头停止网络的企图。目前，互联网完全没有能力识别出有什么能威胁它的存在，更不要说想出方法防止这些威胁了。（例如，有识别威胁能力的互联网需要认出各种企图，如关闭电源、切断通信线缆、摧毁服务器、阻断光纤和卫星连接等。另外，有能力预防这些攻击的互联网还要具备对每种情况的反制措施，然后在未来予以实行。地球上还没有计算机能够做到哪怕是其中最小的一点。）
1700217055
1700217056
换句话说，有一天我们可能会制造出具有自我意识的机器人，甚至是具有自我意识的互联网，但那一天十分遥远，也许要在本世纪末了。
1700217057
1700217058
但若假设这一天已经到来，有自我意识的机器人正行走在我们中间。如果这样一个机器人的目标能与我们的目标相融合，那么这种人工智能就不会造成问题。但如果机器人的目标与我们的目标不一样会怎么样呢？我们担心的是，人类会被具有自我意识的机器人超过，成为它们的奴隶吗？这些机器人由于拥有模拟未来的超强能力，它们可以预测出许多情况的结果，然后找出推翻人类的最佳手段。
1700217059
1700217060
控制这种可能性的一种方法是确保这些机器人的目标是善意的。我们已经看到，仅仅模拟未来并不够。这些模拟必须服务于最终目标。如果一个机器人的目标仅仅是保全自己，那么它就会防卫性地应对所有拔掉电源的企图，这对于人类来说可能意味着大麻烦。
1700217061
1700217062
1700217063
1700217064
1700217065
心灵的未来 [:1700213103]
1700217066
心灵的未来 机器人会接管一切吗？
1700217067
1700217068
1700217069
在几乎所有的科幻小说中，机器人都是危险的，因为它们有接管一切的欲望。事实上，“机器人”（robot）这个单词来自于捷克语，意思是“工人”，首先出现在卡雷尔·恰佩克1920年的戏剧《罗素姆的万能机器人》（Rossum’s Universal Robots）中，戏中科学家们制造出一个与人类长得相同的机械新物种。很快，上千个机器人开始从事卑贱的和危险的工作。但人类对它们很不友好，最后它们奋起反抗，摧毁了人类物种。虽然这些机器人接管了地球，但它们有一个缺陷：无法繁衍。戏剧的最后，两个机器人相爱了。所以，也许一种新的“人类”又将诞生。
1700217070
1700217071
电影《终结者》提供了另外一种更真实的情景，由军队制造的超级计算机网络“天网”控制了美国的核武器库。有一天，它突然醒来，有了知觉。军队试图关闭天网，但发现程序中有一个漏洞：网络有自我保护设计，而为达到这个目的，唯一的方法就是消灭问题的来源：人类。它发动了核战争，最后使人类成为反抗机器主宰的一群乌合之众。
1700217072
1700217073
机器人当然可能成为威胁。当今的捕食者无人机可以精准地消灭目标，而人是在几千英里之外通过操作杆控制它的。根据《纽约时报》的报道，开火的命令直接由美国总统下达。但未来捕食者可能会应用人脸识别技术，如果它对目标身份的确信程度达到99％，它就有权开火。无须人类的介入，它可以应用这项技术自动向任何符合信息档案的人开火。
1700217074