1704611400
1704611402
人工智能：改变世界，重建未来 我们无法起诉机器人
1704611403
1704611404
Siri发布前两年，英国人工智能资深专家尤里克·威尔克斯（Yorick Wilks）发表了一篇名为“人工智能同伴导论”（Introducing Artificial Companions）的文章，讲述了第四章讨论的这种技术。在文中，威尔克斯简短地回答了责任问题。他特别感兴趣的是，智能增长是否伴随着责任增长。威尔克斯写道，假设人工智能助手告诉你的祖母，外面很暖和，但当她听到这个消息后走进的却是冰冷的花园，然后她感冒了，那么这种情况下谁应受到责备？此时此刻，连威尔克斯这位毕生都在询问和回答未来问题的人都得承认，这个问题对于读者“似乎有些超出想象”。仅仅过了几年，2015年年初，在牛津，我与尤里克·威尔克斯在他家附近共进午餐。他驾驶着自己的小型汽车在火车站与我会合，我们在附近一家意大利餐厅品红酒，讨论人工智能助手的话题，愉快地度过了几个小时。午餐期间，我的头脑中一直在感叹着过去几年人工智能的发展是如何迅速。一个2009年看起来像是科幻小说情节的哲学难题现在几乎成了现实。
1704611405
1704611406
我们对人工智能助手寄予了极大的信任，有时甚至超过了我们的本能与判断。Siri最早的电视插播广告由佐伊·丹斯切尔（Zooey Deschanel）主演，尽管当时窗外明显地下着大雨，但是她仍然看着窗外问Siri：“在下雨吗？”幸运的是，当时Siri的答复非常肯定。而在其他场合，人们远没有这么幸运。2013年年底，阿拉斯加州费尔班克斯的几位iPhone用户按照使用苹果地图应用数据的Siri的建议，选择了一条抵达费尔班克斯国际机场的路线，但这条路线非常危险地穿越了飞机起降的跑道。机场的营销主管安吉·斯皮尔（Angie Spear）称这是个很明显的证据，说明司机太过于相信导航系统。“无论标志牌上写的是什么，只要iPhone上的地图告诉他们继续沿这条路前进，他们就前进。”她说。
1704611407
1704611408
在处理技术引发的此类交通事故中，当前可用的法案条例非常有限，不过以往法院一直趋向做出针对人类的判决。比如，2009年，一位英国司机依据GPS（全球定位系统）的导航，却令自己困在了悬崖边的狭窄小路上。这名司机最终不得不被警察拖回主路。尽管英国法庭将之归因于他的GPS，但还是认定其有大意驾驶的过错。
1704611409
1704611410
法官倾向认定人类对此负责的原因是，我们习惯于一个充斥非智能工具的世界。举一个简单的例子，一个人用枪杀了另一个人，他应为自己的罪行负责，而不是让他的枪负责。同样，一家公司销售了有瑕疵的枪支，购买者在使用的时候枪支发生了爆炸，枪支公司应对所造成的所有伤害负责。这种思维也持续到了数字时代。1984年，也就是苹果公司首次推出麦金塔电脑（Macintosh，简称Mac）的这一年，美国一家名为阿斯隆工业的公司老板发现自己成了法庭的被告，他被指控使自己的客户置身危险之中。阿斯隆公司是一家销售自动投球机的公司，设备主要用于供人进行棒球挥棒练习。不幸的是，其中一些机器被证明存在缺陷。这些凶猛的机器发射的棒球极不规律，而且速度极快，有可能使某些不走运的客户颅骨骨折，甚至失明。尽管阿斯隆案件中没什么特别值得关注的事，但这个案件却令人难忘，因为法官宣布必须对阿斯隆工业而不是投球机进行起诉。原因是什么呢？因为“我们无法起诉机器人”。
1704611411
1704611412
然而，现代人工智能的主要不同点在于，人工智能不再仅限于由人类使用，而是一种由人类部署的工具。一旦部署，在多数情况下，机器就会按照所收集、分析和最终用于做出决定的信息，独立于指令而自行运转。
1704611413
1704611414
戴维·弗拉杰克（David Vladeck）是华盛顿乔治城大学的法学教授，他是一位少有的致力于研究人工智能法律责任问题的法律专家。和多数人一样，他认为陈旧的“我们无法起诉机器人”的观念可能需要改变。弗拉杰克的一个思维实验涉及《2001：太空漫游》中HAL9000超级计算机蓄意杀人案件。
1704611415
1704611416
对那些没有看过这部电影的人来说，这是一个非常简单的情节：HAL9000是全知的人工智能，控制着“发现一号”宇宙飞船的运行，飞船载着5名船员飞往木星。在电影的开始部分，HAL9000被称为“简单且不会出错”。然而，问题很快出现了。HAL9000希望知道“发现一号”正执行的绝密任务细节。船员戴夫（Dave）和弗兰克（Frank）拒绝透露这些信息，尽管事实证明他们也不知道所有细节。不久，HAL9000警告称“发现一号”舱外一个重要天线将要失去作用。戴夫和弗兰克开始怀疑HAL9000并把自己锁在了一个挖掘工具里讨论这件事，他们认为HAL9000不可能听到他们的对话。他们决定修复天线，还决定如果事实证明HAL9000出现了故障就关闭HAL9000。戴夫和弗兰克没有意识到HAL9000能够利用图像识别技术解读唇语。当弗兰克涉险到舱外检查天线时，HAL9000割断了他的氧气管并使他飘浮进了太空。戴夫徒劳地想挽救弗兰克，但当他也走到舱外的时候，HAL9000趁机关掉了其他三位正在睡眠中的船员的生命维持系统，杀死了他们。HAL9000随后拒绝让戴夫返回舱内，因为它知道戴夫会将它停用，而HAL9000认为这将危及整个任务。尽管如此，戴夫最终还是设法回到了“发现一号”飞船内，并且准备关闭HAL9000。HAL9000恳求戴夫停手，在最后的时刻，作为一个自主人工智能，它表达出了自己对死亡的恐惧。
1704611417
1704611418
弗拉杰克质疑HAL9000是否能够在法庭上对自己的行为负责。假设戴夫于2001年年底重新回到了地球，与一位人身伤害律师进行接洽（“你是否无故卷入了人工智能杀人案件之中？”），并要求有人对自己的遭遇和4位被HAL9000无故杀害的船员进行赔偿。至少按照现有法律，HAL9000可能会摆脱困境。与阿斯隆工业的失常棒球抛射机器一样，法庭处理这种案件时，可能承认机器造成了伤害，但会认定这是HAL9000程序员的错误而不是HAL9000的错误。
1704611419
1704611420
这可能不公平。正如弗拉杰克所说：“仅从可能参与设计、修改和集成人工智能系统元件的个人与公司的庞大数量看，就很难确认大部分责任人或责任方。许多元件早在人工智能项目构思之前许多年就已经设计出来了，这些元件的设计人员可能从未设想，或鲜少预期到他们的设计会集成到人工智能系统中，更不用说会造成伤害的某个具体的人工智能系统了。在这种情况下，指责在时间和地理位置上都与人工智能系统完成和运行相距甚远的元件设计人员有工作失误是有失公允的。法庭可能也不愿意说这种元件设计人员本该预见到这种伤害的出现。”
1704611421
1704611422
1704611423
1704611424
1704611426
人工智能：改变世界，重建未来 机器人学的三大法则
1704611427
1704611428
人工智能的潜在危险、我们对其日渐依赖以及法律的灰色地带共同构成了非常重要的问题：我们需要在这个领域建立一种伦理规范。简而言之，如果我们要建造思考的机器，难道我们不应努力使其成为考虑周到的机器吗？然而它仍然与科幻小说有着难解难分的关系，因而也就不必奇怪在科幻作家艾萨克·阿西莫夫的作品中有许多在人工智能中植入道德感的著名例子。阿西莫夫的“机器人学的三大法则”首次出现在其1942年的短篇小说《环舞》（Runaround）中，这篇小说最初发表于《惊世科幻》（Astounding Science Fiction）三月刊中。这三大法则通常简称为“阿西莫夫法则”，常为人们引用的法则内容如下：
1704611429
1704611430
1. 机器人不得伤害人，也不得见人受到伤害而袖手旁观。
1704611431
1704611432
2. 机器人应服从人的一切命令，但不得违反第一法则。
1704611433
1704611434
3. 机器人应保护自身的安全，但不得违反第一、第二法则。
1704611435
1704611436
尽管已经过去70多年了，但“阿西莫夫法则”依然统管着阿西莫夫的科幻小说同行们。2014年1月，当谷歌收购深度学习公司DeepMind时，一切发生了重大变化。作为交易的一部分，谷歌必须成立人工智能伦理委员会，目标是确保对人工智能这项技术的明智使用。尽管关于该委员会构成的公开细节寥寥无几，但是建立这样一个防护措施是一个重要的基准。2015年夏季，DeepMind应用人工智能主管穆斯塔法·苏莱曼（Mustafa Suleyman）承认，在这个领域公众看待人工智能的方式已经发生了转变。“故事已经从‘人工智能如此失败不令人恐怖吗？’转变至‘人工智能如此成功不令人恐怖吗？’”在一场深度学习大会上，他曾如是说道。
1704611437
1704611438
谷歌不是唯一认为必须确保人工智能承担责任的研究团体。由于过去10年间深度学习与其他人工智能的统计形式已经成为规范，纽约伦斯勒理工学院认知科学系主任塞尔默·布林斯乔德（Selmer Bringsjord）发起了一场一个人的战争，支持回归到从头到尾基于逻辑的人工智能。“我不做任何统计学上的事情，”在描述他在实验室的工作时，他告诉我，“我非常不喜欢它，认为它正将我们引入歧途。”
1704611439
1704611440
对于布林斯乔德而言，之所以需要回归从头到尾有逻辑的人工智能，是因为依靠“数学上令人费解”的统计工具本质上是愚蠢的行为。“你希望系统能够阐述其行为的依据和正确性吗？”他说：“我们应该希望更加复杂的人工智能系统能够证明，它们根据获得的输入，其所作所为是正确的决定。”
1704611441
1704611442
有逻辑的人工智能可能意味着《连线》和《快公司》的篇章中那种引人注意的技术推出过程应该放慢，但布林斯乔德认为，创造具有清晰推理过程的人工智能是最重要的，因为这个过程事后可以分析。近斯关于有逻辑的人工智能的一个例子出现在位于纽约哈德逊河东岸的布林斯乔德实验室中。这个展示中，一台计算机尽力破解“三个智者”出的难题，实验由三个小型类人机器人辅助进行：这一实验可能意味着人工智能自我意识的萌芽。在这个难题中，三个机器人被告知，两个机器人服用了停止说话的“哑药”。它们的任务是找出其中仍然可以说话的那个机器人。三个机器人都试图说“我不知道”，但只有一个实际发出声音。当它听到自己的机器声音时，这个机器人明白它就是那个没有被禁止发声的机器人。“对不起，我现在知道了。”它说，“我能证明我没有吃哑药。”随后它写下了关于这个难题的有条理的数学证明，并把它保存起来。布林斯乔德进行了相同测试的不同版本，或者任何旨在解决其他哲学难题的测试，他认为这些测试将形成一个人工智能可以利用的日益完善的技巧或功能指令系统。
1704611443
1704611444
由于围绕用于战争的自动人工智能武器进行的工作越来越多，人们迫切需要像布林斯乔德这样的工作项目。2014年，在塔夫茨大学和布朗大学成立了一个多学科综合小组，小组和布林斯乔德合作，获得了海军研究办公室的资助，去探索能否为可能用于战争的自主机器人赋予是非感。尽管这种探索得到的不是一个“友好的人工智能”，但它可能会使机器人在战场上做出符合伦理的决定。设想一下，比如，一个正将伤兵运往战地医院的机器人军医遇到另一个腿上受伤的士兵。权衡停止执行救助任务的利弊，能否在战场采用牵引疗法止疼以及其他难题，对于人类来说已然是个难以驾驭的复杂问题了，更不用说对于机器了。
1704611445
1704611446
这样的问题可能越来越成为常态。设想一下，如果一个生产自动驾驶汽车的公司决定，当其生产的车辆检测到前方即将发生碰撞时，它的车辆可以猛地驶出道路，从而保护驾驶员，这将会发生什么情况呢？这一操作非常合理，如果是人类在驾驶车辆，多数人也会做出这样的决定。然而，如果你的车正停在红灯前，但这时它发现后面的一辆车快速驶来，这时将会怎样？你的车知道可能要发生追尾事故，随后它就驶出了马路……并正好冲进了一群放学回家的学生当中。司机避开了一个小追尾和潜在的会扭伤脖子的事故，但结果却是三个学生死于非命、两人受伤。即使最忠诚的车迷也难以为这种成本和收益的互换进行辩护。而这些正是人工智能研究人员开始认真对待的问题。
1704611447
1704611448
1704611449
[
上一页 ]
[ :1.7046114e+09 ]
[
下一页 ]