1700046051
个人隐私
1700046052
1700046053
在无人驾驶中，另一个亟待解决的常见问题就是无人驾驶车辆的乘客隐私问题。智能手机与社交媒体已经产生了许多包括个人隐私在内的道德挑战问题。无人驾驶汽车也会带来类似的问题。理想情况下，消费者监管机构将会将对人们的隐私进行保护，就像此前避免政府部门以监管之名或数据公司中介侵犯个人隐私那样，机构将进一步把管理范围延伸至无人驾驶汽车。
1700046054
1700046055
然而无人驾驶汽车将面临较为特别的隐私问题。车子是移动的，一旦被装配上高分辨率的视频摄像头，外加远超人类的感知与识别能力，汽车可能成为“机器人间谍”。滥用这种能力的可能性很高。车子能拍下乘客或路边行人的照片，进而传输给人脸识别系统软件。软件能将收集来的人脸数据传递给政府。危险性降低了，但烦恼却增多了。当各大公司的市场部急需人们的衣着、出行方式和其他习惯的数据，用来研究个年龄层的穿衣习惯或喜欢就餐的地点时，汽车软件能收集并发送相关的大数据。
1700046056
1700046057
行人和车内乘客都需要一定的隐私保护，或是公开透明的数据管理规则。每位无人驾驶车主都应当指导车子收集了什么数据，以及谁有权使用这些数据。假如无人驾驶汽车软件制造商打算把乘客数据卖给第三方，客户应当有权决定自己的个人数据是否用于商业用途。
1700046058
1700046059
如果未来的个人出行主要来自于无人驾驶车辆，管理车队的企业需要严格遵守个人隐私保护指引。由于无人驾驶出租车的乘客量大、路线长，对于数据交易员来说既像是一座宝贵的“金矿”，又仿佛打破了政府监管，收集了大量窃听素材。乘客应当能够基于个人意愿掌控无人驾驶汽车收集的自己数据的流通情况。在减免车费的前提下，也许有乘客愿意完全共享数据。
1700046060
1700046061
隐私还涉及另一项安全问题，那就是软件的脆弱性。任何软件操作系统都容易受到错误操作的影响和恶意入侵的攻击。正如我们在前几章讨论的，软件硬件都有一些潜在的安全漏洞。汽车的CAN总线协议对于潜在的黑客来说，就是一处没有特别防卫的入口。从软件层次来说，无人驾驶汽车的操作系统需要经过特别设计适当添加冗余设计。一旦发生稳定性问题，备用系统就能马上启动。
1700046062
1700046063
如果车辆接收外部数据，不管出于何种目的的数据转换延迟都可能造成安全问题。仿冒GPS定位信息就会成为新型犯罪手段，高清数据地图也将成为下一个犯罪目标。提供地图数据传输的渠道必须确保安全性，数据源的真实性需要进行甄别鉴定。路线规划与交通预测软件把车辆目的地的数据发送到更大型的数据系统中，并时刻保持消息灵通，这里面也包含了潜在的安全问题。
1700046064
1700046066
道德伦理规范
1700046067
1700046068
数据隐私与安全性是由无人驾驶汽车产生的、引起重视的道德挑战，另一个道德挑战是汽车对紧急情况的回应。当面对突发意外，无人驾驶汽车使用数据和软件，而不是人类的直觉，来计算出最佳处理方法。为了赋予车辆合宜的反应能力，程序员艰难地通过量化数值的途径来保障生命财产。
1700046069
1700046070
当通过系统软件开车时，人类司机不再需要在车祸发生瞬间，作出“留存哪方性命”的选择。这时经过程序员的提前预设，软件的决策逻辑将发挥作用。经过特别设计，软件能针对事故作出妥当回应，把破坏程度降到最低。想要制造这样的软件，我们人类社会必须首先定义好什么是“理想的处理方式”。在此过程中，就涉及人类如何判断生命与财物的价值。
1700046071
1700046072
给生命与财产赋予价值的做法提出一个让人不太舒服的问题：如何界定价值？谁来界定？车内的乘客有既定的价值，路上的行人也有。车祸中出现的可接受的处理结果包括，财物损毁或车辆损坏。如果无人驾驶汽车在编程时被写入的指令是“只将财产破坏降到最低”时，我们难以想象这样的指令执行起来会是何种情形！
1700046073
1700046074
当我在演讲中与观众谈论无人驾驶汽车的价值与潜在影响时，总会有人举手提出以下问题：“即将发生致命事故时，无人驾驶汽车是觉得撞向路旁的两名婴儿呢，还是牺牲车内的五名成人呢？”这类道德选择问题还将会在新的情况中被再次提出，但是核心问题出自经典的“电车难题（Trolley Problem）”，一道在过去几十年中的哲学课堂上被热议的问题。
1700046075
1700046076
1967年，电车难题由英国哲学家菲利帕·福特（Philippa Foot）提出，是一道描述与道德相关的难题：电车司机只能沿着轨道行驶电车，轨道的一端有五个人在工作，另一端有一个人，无论电车开向哪一端都会撞死相应的人。大部分读者经过简单计算，认为五条人命比一条人命有价值，觉得这道题目非常简单。但电车难题之所以变得更复杂，是因为其他畸形的选择最终将会导致情形选入两难的境地。
1700046077
1700046078
电车难题并不只是针对无人驾驶汽车。最近，在纽约北部的伊萨卡中心城区，我们亲眼目睹了一出无异于电车难题的悲剧。一辆卡车从陡峭的山坡滑向伊萨卡中心区，司机已经将刹车踩到底了，然而车辆并没有停下的趋势。司机将面临着痛苦的抉择，这两吨载重量的失控卡车将撞向何方？最终司机避开了一群建筑工人，选择将卡车撞向附近的咖啡厅，27岁的阿曼达·布什（Amada Bush）当场身亡，她是一位年轻妈妈，正利用夏天这个周五下午担任侍应生赚些外快。
1700046079
1700046080
一位学者把大众关心的道德问题描述如下：“在车祸中，自动汽车的主要弊端是不同于人类司机可以即时思考如何处理碰撞，自动汽车的决策来源于程序员提前设置好的程序。”面对这样的表述，我们不禁会问，为何人类凭直觉作出的碰撞决定就可以被接受，而汽车的碰撞处理由于提前被设置好，就成了道德问题？第一，无人驾驶汽车的驾驶更为理性，能够快速进行风险和利益分析，这比一个自私、疲惫的醉汉的决策要好得多。第二，无人驾驶拥有360度的感知器，掌握的信息也更全面。
1700046081
1700046082
在我们看来，无人驾驶汽车的设想中的道德问题并不是基于“驾驶过程中，计算风险和价值哪个优先”的事实。所谓的道德问题实际上是因为这些计算是由人工智能得出的结果。最关键的问题并不是无人驾驶车辆是否有道德，而是预先设置的车祸处理方式的逻辑是怎样的。
1700046083
1700046084
面对危险时，每个人心里都会衡量风险与收益的关系。有人认为最好的方法是即使代价是牺牲几个人的生命，车辆也应当尽量避免对司机的伤害；另一些人的反应可能是避开所有人群，牺牲自己与车子。
1700046085
1700046086
大部分有经验的司机知道，在驾驶过程中，他们持续地作出一连串涉及衡量性命财产价值相关的决定。整个过程通常是无意识的。我们当中的有人可能不止一次要作出紧急的决定，避免撞向小生命，比如一只横穿马路的松鼠。我那理性的大脑不会发问道：“这样做是否值得？”事实上，我使车子转向，避开松鼠的举动表明我内心是计算过的。松鼠的生命比起车子猛然转向可能引起失控和事故的小概率风险，更有价值。
1700046087
1700046088
我的风险价值计算有时也能变得十分复杂。如果我的车后排坐着三个孩子，我可能不会选择忽然转向，决定测试一下松鼠的运气。如果当时的道路结冰路滑，行人拥挤，我的道德选择很有可能把车子内外的人的生命也考虑进去，价值显然比松鼠更高。这样，我就不会进行转向。如果假想的松鼠被换成一只狗，或是一位拄着拐的老人，等等，司机的计算可能会更复杂一些。
1700046089
1700046090
我们当中的有一部分幸运儿，暂时还没有遇到重大交通事故，没有被迫当众作出如此痛苦的抉择，也没有在抉择中展现出我们在处理不可避免的交通悲剧时的反应方式。由于无人驾驶汽车迫使我们公开作出这样痛苦的抉择，便激起了一阵惶恐。更具挑战性的是，在面对紧急情况时，无人驾驶需要我们把人类所认同的道德规则用于指引系统作出决策。
1700046091
1700046092
无人驾驶汽车需要我们认同一系列用于指导车辆紧急决策系统的道德准则。在公平民主的社会中，这套道德准则被大众认同，无人汽车制造企业也自觉遵守。不仅是应对悲剧发生的决策应当得到大众认同，当灾难发生时，汽车灾难的指导手册应当是公开透明，经得起事故考验的。类似于空难发生后航管局官员采取的步骤，在发生车祸后，无人驾驶汽车的指导手册“黑盒子”应当受到保险专业人士和执法部门人员的检查，他们最终会分析软件当时都作出了怎样的决策，采取了哪些行动。
1700046093
1700046094
当这些道德准备变成了法律，结果将产生新的道德滑坡和犯罪。想象一下，假如有黑盒子显示，汽车公司把车子的价值计算原则设置成车内人员的生命价值高，车外人的生命价值为零；或者车祸后，黑盒子记录显示，因为预先写入程序时的疏忽，软件被设置为“最小化车子的损坏程度，而不顾其他”。
1700046095
1700046096
自动驾驶汽车将会挑战我们的价值观和可靠性，并把驾驶从凭直觉转换到单纯依靠数据和逻辑。随着无人驾驶技术的普及，城市的设计也将会经历另一种变化，那时候停车场都消失了，车子被数据驱动制定最佳路线，缓解了出行难题；自动交通输运将给予我们的工作和生活地点更多选择；一些职业会消失，当人类司机从企业的求职表中被拿掉以后，新的商业模式将会出现，从而催生出新的职业。
1700046097
1700046098
1700046099
[
上一页 ]
[ :1.70004605e+09 ]
[
下一页 ]