1700046076
1967年，电车难题由英国哲学家菲利帕·福特（Philippa Foot）提出，是一道描述与道德相关的难题：电车司机只能沿着轨道行驶电车，轨道的一端有五个人在工作，另一端有一个人，无论电车开向哪一端都会撞死相应的人。大部分读者经过简单计算，认为五条人命比一条人命有价值，觉得这道题目非常简单。但电车难题之所以变得更复杂，是因为其他畸形的选择最终将会导致情形选入两难的境地。
1700046077
1700046078
电车难题并不只是针对无人驾驶汽车。最近，在纽约北部的伊萨卡中心城区，我们亲眼目睹了一出无异于电车难题的悲剧。一辆卡车从陡峭的山坡滑向伊萨卡中心区，司机已经将刹车踩到底了，然而车辆并没有停下的趋势。司机将面临着痛苦的抉择，这两吨载重量的失控卡车将撞向何方？最终司机避开了一群建筑工人，选择将卡车撞向附近的咖啡厅，27岁的阿曼达·布什（Amada Bush）当场身亡，她是一位年轻妈妈，正利用夏天这个周五下午担任侍应生赚些外快。
1700046079
1700046080
一位学者把大众关心的道德问题描述如下：“在车祸中，自动汽车的主要弊端是不同于人类司机可以即时思考如何处理碰撞，自动汽车的决策来源于程序员提前设置好的程序。”面对这样的表述，我们不禁会问，为何人类凭直觉作出的碰撞决定就可以被接受，而汽车的碰撞处理由于提前被设置好，就成了道德问题？第一，无人驾驶汽车的驾驶更为理性，能够快速进行风险和利益分析，这比一个自私、疲惫的醉汉的决策要好得多。第二，无人驾驶拥有360度的感知器，掌握的信息也更全面。
1700046081
1700046082
在我们看来，无人驾驶汽车的设想中的道德问题并不是基于“驾驶过程中，计算风险和价值哪个优先”的事实。所谓的道德问题实际上是因为这些计算是由人工智能得出的结果。最关键的问题并不是无人驾驶车辆是否有道德，而是预先设置的车祸处理方式的逻辑是怎样的。
1700046083
1700046084
面对危险时，每个人心里都会衡量风险与收益的关系。有人认为最好的方法是即使代价是牺牲几个人的生命，车辆也应当尽量避免对司机的伤害；另一些人的反应可能是避开所有人群，牺牲自己与车子。
1700046085
1700046086
大部分有经验的司机知道，在驾驶过程中，他们持续地作出一连串涉及衡量性命财产价值相关的决定。整个过程通常是无意识的。我们当中的有人可能不止一次要作出紧急的决定，避免撞向小生命，比如一只横穿马路的松鼠。我那理性的大脑不会发问道：“这样做是否值得？”事实上，我使车子转向，避开松鼠的举动表明我内心是计算过的。松鼠的生命比起车子猛然转向可能引起失控和事故的小概率风险，更有价值。
1700046087
1700046088
我的风险价值计算有时也能变得十分复杂。如果我的车后排坐着三个孩子，我可能不会选择忽然转向，决定测试一下松鼠的运气。如果当时的道路结冰路滑，行人拥挤，我的道德选择很有可能把车子内外的人的生命也考虑进去，价值显然比松鼠更高。这样，我就不会进行转向。如果假想的松鼠被换成一只狗，或是一位拄着拐的老人，等等，司机的计算可能会更复杂一些。
1700046089
1700046090
我们当中的有一部分幸运儿，暂时还没有遇到重大交通事故，没有被迫当众作出如此痛苦的抉择，也没有在抉择中展现出我们在处理不可避免的交通悲剧时的反应方式。由于无人驾驶汽车迫使我们公开作出这样痛苦的抉择，便激起了一阵惶恐。更具挑战性的是，在面对紧急情况时，无人驾驶需要我们把人类所认同的道德规则用于指引系统作出决策。
1700046091
1700046092
无人驾驶汽车需要我们认同一系列用于指导车辆紧急决策系统的道德准则。在公平民主的社会中，这套道德准则被大众认同，无人汽车制造企业也自觉遵守。不仅是应对悲剧发生的决策应当得到大众认同，当灾难发生时，汽车灾难的指导手册应当是公开透明，经得起事故考验的。类似于空难发生后航管局官员采取的步骤，在发生车祸后，无人驾驶汽车的指导手册“黑盒子”应当受到保险专业人士和执法部门人员的检查，他们最终会分析软件当时都作出了怎样的决策，采取了哪些行动。
1700046093
1700046094
当这些道德准备变成了法律，结果将产生新的道德滑坡和犯罪。想象一下，假如有黑盒子显示，汽车公司把车子的价值计算原则设置成车内人员的生命价值高，车外人的生命价值为零；或者车祸后，黑盒子记录显示，因为预先写入程序时的疏忽，软件被设置为“最小化车子的损坏程度，而不顾其他”。
1700046095
1700046096
自动驾驶汽车将会挑战我们的价值观和可靠性，并把驾驶从凭直觉转换到单纯依靠数据和逻辑。随着无人驾驶技术的普及，城市的设计也将会经历另一种变化，那时候停车场都消失了，车子被数据驱动制定最佳路线，缓解了出行难题；自动交通输运将给予我们的工作和生活地点更多选择；一些职业会消失，当人类司机从企业的求职表中被拿掉以后，新的商业模式将会出现，从而催生出新的职业。
1700046097
1700046098
1700046099
1700046100
1700046102
无人驾驶：人工智能将从颠覆驾驶开始，全面重构人类生活 第十一章 涟漪效应
1700046103
1700046104
至此，本书已接近尾声，我们还想提出一个问题，如果这个问题没有解决，那么任何对于无人驾驶的深入探讨都将是不完整的，那就是媒体炒作。近年来，无人驾驶汽车成为媒体大肆宣传的重点。“解放双手，解放双脚”的无人驾驶梦想之路精彩而漫长，然而，我们应当从中汲取教训：即使人们对自动驾驶汽车渴望已久，但人类的欲望是无法保证自动驾驶汽车真正出现的。
1700046105
1700046106
技术行业内的资深人员也许还能回想起，被称为“赛格威（Segway）”的两轮体感平衡车。2001年这种平衡车进行了大张旗鼓的宣传。就在宣传开始的前几天，《时代周刊》上的一篇文章解读了平衡车的神秘发展过程。文中提及史蒂夫·乔布斯在一本技术类书籍中，预言平衡车会像电脑一样普及；风投界传奇人物约翰·杜尔仔细思量“平衡车未来的影响力是否将会比互联网更大”。事实证明，他们都错了。今天，这种平衡车仅仅成了给仓库员、邮递员和商场保安提供代步服务的小型短途的交通设备。
1700046107
1700046108
诸如平衡车之类的科技层出不穷又迅速衰落，不禁使我们产生了一个有趣的疑问：“为什么同是前景乐观的新科技，其中一些能够对部分行业产生毁灭性的打击，而另一些却与宣传预期相去甚远？”与其他人一样，我们用了很长时间来思索该问题。经过多年时间，我们研发出一套用于评估新技术的长期潜力的小型而实用的测试工具，叫作“零原则（Zero Principle）”。
1700046109
1700046110
以下是零原则的工作原理。撼动传统行业的新兴科技都有一个共同特点：产品推出后，一项或多项生产工作的成本将降到几乎为零。实际上，遵循零原则的技术推出几年后，产生了极大的行业影响，最终成为行业革命的导火索。
1700046111
1700046112
我们来看一些历史先例，从蒸汽机开始。如果你是18世纪末英国的技术观察家，你会考虑对新兴的商用蒸汽机进行投资吗？如果你用零原则来衡量这个新产品的投资价值，你能马上看到它的潜力。
1700046113
1700046114
蒸汽机大幅降低了动力行业的机械成本。在发明蒸汽动力以前，工厂和磨坊的动力来源都受到直接、间接的现实操作限制。工厂的动力来源于水力，因为选址必须靠近湍急的河流瀑布，依靠动物作为动力同样受到区域限制，而且动物很快觉得疲惫，需要额外的照顾和喂养。
1700046115
1700046116
当商用蒸汽机被引入工业时，直接和间接的动力机械成本都被“蒸发”掉了，转变了制造流程，最终引发工业革命。蒸汽动力降低了钢铁产业的成本，并引发了下游行业的创新。价廉物美的钢铁催生了好几项下游行业的诞生，比如铁路运输和能抵御炮火的装甲舰制造业。
1700046117
1700046118
将近200年后，另一项产生深远影响的发明——计算机出现了。和蒸汽机一样，计算机势必会影响整个行业的发展，因为它降低了曾经十分高昂的计算成本。
1700046119
1700046120
在人类历史上，计算过程曾经一度缓慢、昂贵、依赖人力又容易出错。即便是经过专业训练的计算专家，使用最好的计算工具，每小时也只能运算几百次。20世纪50年代，计算技术发展成熟，计算成本开始大幅下跌。随后的几十年间，硅芯片替代了分析技术，提高计算速度和稳定性的同时，还降低了成本。小企业也能负担得起原来昂贵的计算，而且计算结果又快又准确，计算机器孜孜不倦。到了20世纪末，平价的计算机催生了软件行业和电子游戏行业的全球化市场，普通人也能购买个人电脑和游戏机。
1700046121
1700046122
历史显示，这两种不同的技术——蒸汽机和计算机——有着共同的潜在特点。它们的出现去除了主要的工业成本障碍，改变了许多不同行业领域的商业实践，快速影响着人们的工作和生活。今天无人驾驶技术的发展也可能会出现颠覆性的局面。只有时间才能证明我们是否即将步入另一个社会大变革时期，或是另一个过度宣传却毫无成效的新兴技术。
1700046123
1700046124
让我们把零原则应用在无人驾驶的案例中，看看哪些直接或间接成本能减少。无人驾驶汽车所能减少的最大经济、社会成本之一就是交通事故造成的伤害。另外，能节省下驾驶的时间。对于普通人来说，花在驾驶上的时间是间接的机会成本。对于运输公司而言，人类司机的时间成本直接以薪酬的形式体现，是决定货物运输过程的主要因素。最后，由于无人驾驶技术去掉了人为易发生事故的因素影响，汽车和货运车辆不再需要以“体型庞大”和“专为安全性而设计”的形象出现，同时无人驾驶还能降低燃油的消耗，催生丰富多样的车身和车型。
1700046125
[
上一页 ]
[ :1.700046076e+09 ]
[
下一页 ]