1701549626
1701549627
那些善意、温和的动机亦是同样的难题。你如何设计一个机器人，让它恪守阿西莫夫的定律：决不允许因不作为而致使人类受到伤害！迈克·弗莱恩（Michael Frayn）1965年的小说《锡人》（The Tin Man）讲述了这样一个故事：在一个机器人研究实验室，“道德之翼”中的工程师们麦金托什、戈德瓦瑟和辛森在测试机器人的利他性。他们过分较真于所有道德哲学课本中常用的一个道德两难问题：两个人坐在一个只能供一人使用的救生艇中，除非一个人弃船而去，否则两人都得死掉。于是工程师们将每个机器人分别放在一个皮筏上，皮筏上都分别已有一人，然后将皮筏放入一个大水缸中，观察将会发生什么情况。
1701549628
1701549629
第一次尝试时，见义勇为者1号迅捷地跃入水中，不过它跳到水里是为了去救皮筏边上的任何东西，可能是七公斤利马豆，也可能是湿海藻。经过好几周执拗的争论后，麦金托什不情愿地承认，缺乏鉴别力的机器人是不能令人满意的。于是他又开发了见义勇为者2号，它将只为一个至少同它一样复杂的有机体做出自我牺牲。
1701549630
1701549631
第二次尝试开始后，皮筏停了下来，慢慢地打起转，只位于水面以上几厘米了。“跳啊！”麦金托什喊着。
1701549632
1701549633
皮筏撞击在水上发出一声脆响。辛森和见义勇为者2号仍端坐着。皮筏逐渐没入水中，直到一个小波浪开始冲刷筏的顶部。这时，只见见义勇为者2号身体迅速前倾，抓住辛森的头。它干净利落地做了4次移动，测量了辛森的头盖骨，再停下来，开始计算。然后，随着咔嗒一声，它果断地从皮筏边上翻身滚入水中，毫不犹豫地沉入缸底。
1701549634
1701549635
尽管见义勇为者2号机器人的行为已经开始像哲学书中有道德的个体了，但对于它是否真的有道德却更加不清楚了。为什么不直接在这个自我牺牲的机器人身上拴根绳呢？这样再把它从水缸里捞出来时会容易些。麦金托什解释说：“我不想让它知道自己会被救起来。这会令它牺牲自己的决定变得无效，所以我会时常将一个机器人留在水缸里而不是把它捞起来。这是为了向其他机器人证明我说到做到。这星期我已经报废两个机器人了。”要搞明白如何将美德进行编程植入机器人的头脑，不但需要花费大量的机械物力，而且还说明，美德这个概念本身就是捉摸不定的。
1701549636
1701549637
那么大家最关心的爱的动机又是什么情况呢？在20世纪60年代，通俗文化中那些意志薄弱的计算机们禁不住的不仅是自私和权力的诱惑，就像喜剧演员艾伦·舍曼（Allan Sherman）跟着《魅力》（Fascination）的调子所唱的《自动化》（Automation）这首歌中描述的：
1701549638
1701549639
是自动化，我明白。
1701549640
1701549641
是它让工厂运转劳作。
1701549642
1701549643
是IBM，是Univac，[2]
1701549644
1701549645
是那些马达在咔嗒咔嗒，亲爱的。
1701549646
1701549647
我原以为自动化很不错，
1701549648
1701549649
直到一个10吨的机器坐了你的座。
1701549650
1701549651
是计算机将我们撕扯分隔，亲爱的。
1701549652
1701549653
自动化让我的心如刀挫……
1701549654
1701549655
是自动化，我听说。
1701549656
1701549657
所以我卷起铺盖卷，寒风中，在外面蜷缩。
1701549658
1701549659
我怎么能知道，当503开始闪烁，
1701549660
1701549661
它是在向我眨眼，亲爱的？
1701549662
1701549663
我还以为不过是点儿小灾祸，
1701549664
1701549665
当它悄无声地溜上我膝头盘坐。
1701549666
1701549667
但当它说“我爱你”，然后一下子抱住了我，亲爱的，
1701549668
1701549669
那时候，我只好拔掉……它的……插座。
1701549670
1701549671
尽管时常表现如精神错乱、神志失常，但爱绝不是设计故障、系统崩盘或功能失灵。心智从来没有像坠入爱河时那样全神贯注，所以爱一定是具有极其精致复杂的计算设计，才得出了包含吸引、迷惑、求爱、传情、俘获、承诺、摩擦、调戏、遗弃和心碎这些过程的特殊逻辑。最后，就像我奶奶过去常说的，每个茶壶总会找到一个盖；绝大多数的人，尤其包括我们所有的先辈，总能够两两厮守在一起足够长的时间，来繁衍数量不等的子孙。设想一下，你得编多少行程序才能复制这一奇迹！
1701549672
1701549673
机器人设计是一种意识的提升。我们似乎对我们的精神世界感到习以为常。睁开眼睛，熟悉的文章就会自动呈现在面前；想要移动肢体，躯体就会自然地换到合适的位置；从梦中醒来，就又会回到令我们感到舒适的、可预知的世界；丘比特搭弓引弦，爱之箭便随之而出。但要是仔细想想要实现这些几乎不可能的结果需要完成多少事情，你就会透过表象看到本质。视觉、行动、常识、暴力、道德还有爱，无一例外，都是可以厘清的智能的核心组成部分，它们是信息处理过程。其中每一项都是高级专项设计的杰作，而隐藏于意识状态背后的则是高度复杂的设备——光学分析仪、运动指导系统、实境仿真、人与物的数据库、目标排程器、冲突解决装置，等等。任何将心智如何运作的解释归因于某一种主要力量，或是安置心灵的灵丹妙药，如“文化”“学习”或“自组织”，听起来都是苍白空洞的。这些解释无法完整地反映，我们是如何成功地应对冷酷宇宙所提出的高要求的。
1701549674
1701549675
机器人难题暗示了心智具有固有的设备，但即使作为纯思维推断而言，这也是很令人震惊的。那我们在直接审视心智设备或这套设备的装配图纸时，能否看出这个复杂系统的一些端倪呢？我相信可以。我们所看到的，也像机器人难题本身一样，令我们思路大开。
[
上一页 ]
[ :1.701549626e+09 ]
[
下一页 ]