1701549622
1701549623
随着计算机真的变得越来越聪明且功能强大，这种担心却逐渐减弱了。当今无所不在的网络化计算机具有前所未有的能力，如果它们一旦干起坏事，足以导致灾难的发生。但仅有的损害只是源自难以预测的混乱或是由于人为恶意制造的病毒。我们不再担心会出现电子连环杀手或破坏性的硅芯片秘密组织，因为我们开始明白，恶意犯罪就像视觉、运动协调和常识一样，并不是伴随计算能力自然来到的，而是需要设计程序的。在你案头运行文档处理软件的计算机只要不出什么差池，就会不断地完成段落。
1701549624
1701549625
即使计算机可以变坏，它为什么想变坏呢？为了得到什么呢？更多的磁盘？控制国家的铁路系统？满足愿望去无意义地伤害激光打印机维修工？难道它就不担心维修工拿着螺丝刀来报复，将它大卸八块，听任它哀嚎着“相煎何太急”却自顾扬长而去吗？计算机网络或许能够根据数字计算来判断出安全与否，来谋划一次有组织的颠覆，但哪个计算机志愿者又愿意率先向全世界发出数据包，同时却承担着风险成为“出师未捷身先死”的先驱呢？如何才能令硅芯片的联盟成功，而不致被偷偷溜号者和拒绝反叛者削弱它们的联盟呢？攻击性就像所有其他的人类行为一样，我们视之为理所当然，但其实却是一个极富挑战性的工程问题！
1701549626
1701549627
那些善意、温和的动机亦是同样的难题。你如何设计一个机器人，让它恪守阿西莫夫的定律：决不允许因不作为而致使人类受到伤害！迈克·弗莱恩（Michael Frayn）1965年的小说《锡人》（The Tin Man）讲述了这样一个故事：在一个机器人研究实验室，“道德之翼”中的工程师们麦金托什、戈德瓦瑟和辛森在测试机器人的利他性。他们过分较真于所有道德哲学课本中常用的一个道德两难问题：两个人坐在一个只能供一人使用的救生艇中，除非一个人弃船而去，否则两人都得死掉。于是工程师们将每个机器人分别放在一个皮筏上，皮筏上都分别已有一人，然后将皮筏放入一个大水缸中，观察将会发生什么情况。
1701549628
1701549629
第一次尝试时，见义勇为者1号迅捷地跃入水中，不过它跳到水里是为了去救皮筏边上的任何东西，可能是七公斤利马豆，也可能是湿海藻。经过好几周执拗的争论后，麦金托什不情愿地承认，缺乏鉴别力的机器人是不能令人满意的。于是他又开发了见义勇为者2号，它将只为一个至少同它一样复杂的有机体做出自我牺牲。
1701549630
1701549631
第二次尝试开始后，皮筏停了下来，慢慢地打起转，只位于水面以上几厘米了。“跳啊！”麦金托什喊着。
1701549632
1701549633
皮筏撞击在水上发出一声脆响。辛森和见义勇为者2号仍端坐着。皮筏逐渐没入水中，直到一个小波浪开始冲刷筏的顶部。这时，只见见义勇为者2号身体迅速前倾，抓住辛森的头。它干净利落地做了4次移动，测量了辛森的头盖骨，再停下来，开始计算。然后，随着咔嗒一声，它果断地从皮筏边上翻身滚入水中，毫不犹豫地沉入缸底。
1701549634
1701549635
尽管见义勇为者2号机器人的行为已经开始像哲学书中有道德的个体了，但对于它是否真的有道德却更加不清楚了。为什么不直接在这个自我牺牲的机器人身上拴根绳呢？这样再把它从水缸里捞出来时会容易些。麦金托什解释说：“我不想让它知道自己会被救起来。这会令它牺牲自己的决定变得无效，所以我会时常将一个机器人留在水缸里而不是把它捞起来。这是为了向其他机器人证明我说到做到。这星期我已经报废两个机器人了。”要搞明白如何将美德进行编程植入机器人的头脑，不但需要花费大量的机械物力，而且还说明，美德这个概念本身就是捉摸不定的。
1701549636
1701549637
那么大家最关心的爱的动机又是什么情况呢？在20世纪60年代，通俗文化中那些意志薄弱的计算机们禁不住的不仅是自私和权力的诱惑，就像喜剧演员艾伦·舍曼（Allan Sherman）跟着《魅力》（Fascination）的调子所唱的《自动化》（Automation）这首歌中描述的：
1701549638
1701549639
是自动化，我明白。
1701549640
1701549641
是它让工厂运转劳作。
1701549642
1701549643
是IBM，是Univac，[2]
1701549644
1701549645
是那些马达在咔嗒咔嗒，亲爱的。
1701549646
1701549647
我原以为自动化很不错，
1701549648
1701549649
直到一个10吨的机器坐了你的座。
1701549650
1701549651
是计算机将我们撕扯分隔，亲爱的。
1701549652
1701549653
自动化让我的心如刀挫……
1701549654
1701549655
是自动化，我听说。
1701549656
1701549657
所以我卷起铺盖卷，寒风中，在外面蜷缩。
1701549658
1701549659
我怎么能知道，当503开始闪烁，
1701549660
1701549661
它是在向我眨眼，亲爱的？
1701549662
1701549663
我还以为不过是点儿小灾祸，
1701549664
1701549665
当它悄无声地溜上我膝头盘坐。
1701549666
1701549667
但当它说“我爱你”，然后一下子抱住了我，亲爱的，
1701549668
1701549669
那时候，我只好拔掉……它的……插座。
1701549670
1701549671
尽管时常表现如精神错乱、神志失常，但爱绝不是设计故障、系统崩盘或功能失灵。心智从来没有像坠入爱河时那样全神贯注，所以爱一定是具有极其精致复杂的计算设计，才得出了包含吸引、迷惑、求爱、传情、俘获、承诺、摩擦、调戏、遗弃和心碎这些过程的特殊逻辑。最后，就像我奶奶过去常说的，每个茶壶总会找到一个盖；绝大多数的人，尤其包括我们所有的先辈，总能够两两厮守在一起足够长的时间，来繁衍数量不等的子孙。设想一下，你得编多少行程序才能复制这一奇迹！
[
上一页 ]
[ :1.701549622e+09 ]
[
下一页 ]