1700412110
技术内化对我们来说并不难，但也会让我们误入歧途。为工具赋予能量可能并不会实现人类利益的最大化。现在存在一个非常讽刺的现象：虽然科学家越来越多地发现身体行动和感官知觉在思维、记忆和技能发展中的重要作用，但我们真正行动的时间却变少了。更多时候，我们的生活和工作是通过计算机屏幕上显示的抽象介质来实现的。我们脱离了肉体的躯壳，为自己加上了感官的枷锁。计算机具有多种功能，在它的帮助下，我们成功设计出了许多工具。但是，同期望的相反，这些工具却窃取了工作给我们带来的身体上的快乐。
1700412111
1700412112
我们认为思维和身体是分离的，这是直觉观点，但这种观点是错误的，会导致我们低估同世界相融的重要性。反过来，我们很容易就会认为，计算机——从表面来看就像人工大脑，一台“思维机器”，是高级工具，能够进行思维活动。迈克尔·琼斯认为，正是得益于谷歌的地图工具和其他在线服务，“人类的智商至少提高了20个点”。我们可以依靠软件四处游走，设计建筑物，进行其他类型的思维或发明创造性工作，但我们被自己的大脑欺骗了，误以为在这个过程中没有任何牺牲，或者至少没有丢失什么重要的东西。更糟的是，我们仍忘了还有替代品。我们也忽视了一个问题：我们能够重新设定软件程序和自动化系统，非但不会削弱反而会加深我们对世界的理解。人因研究员和其他自动化专家已经发现，人类有办法打破玻璃笼子，同时保留计算机带给我们的益处。
1700412113
1700412114
[1]1码≈0.91米
1700412115
1700412116
[2]iBeacon是基于当前最新的蓝牙低功耗4.0技术的，可以用它来打造一个信号基站，当用户持有iOS（苹果公司的移动操作系统）设备进入该区域时，就会获得基站的推送消息。——编者注
1700412117
1700412118
[3]CAD即计算机辅助设计。——编者注
1700412119
1700412120
[4]具身认识也称“具体化”，是心理学中一个新兴的研究领域。具身认知理论主要指生理体验与心理状态之间存着强烈的联系。——编者注
1700412121
1700412122
[5]全部现代人的属和种。——编者注
1700412123
1700412124
1700412125
1700412126
1700412127
玻璃笼子：自动化时代和我们的未来 [:1700411243]
1700412128
1700412129
玻璃笼子：自动化时代和我们的未来
1700412130
1700412131
1700412132
1700412133
1700412134
玻璃笼子：自动化时代和我们的未来 第七章 自动化，为了人类
1700412135
1700412136
1700412137
1700412138
1700412139
1700412140
1700412141
1700412142
玻璃笼子：自动化时代和我们的未来 到底谁需要人类？
1700412143
1700412144
讨论自动化时经常会跳出这个问题，有时运用了其他修辞或表达方式，但归根结底发问的内容都是一样的。如果计算机快速发展，而相比之下，人类的发展进程相对较慢，人类笨拙且容易犯错，那么，为什么不设计一个完美无缺、至臻至善的系统，不需要人类监控或干预就能独立执行任务呢？为什么不把公式里所有的人类因素都剔除掉呢？2013年《连线》杂志刊登了一则封面故事，文中技术理论家凯文·凯利宣布：“我们要让机器人来接班。”他以航空业为例：“计算机大脑——飞机自动驾驶仪能自动驾驶787喷气机，但是，我们却要在驾驶舱里安排人类飞行员，负责看管自动驾驶，做到‘有备无患’，这是不合理的。”2011年爆出有人驾驶谷歌汽车发生车祸的新闻以后，某作家在知名的技术博客上呼吁：“我们需要更多的机器驾驶员！”针对芝加哥公立学校教师罢工事件，《华尔街日报》评论员安迪·凯斯勒半开玩笑地说：“为什么不忘了教师这回事，给404 151个学生每人发个iPad或是安卓平板电脑呢？”在2012年发表的一篇短文中，硅谷德高望重的风险资本家维诺德·科斯拉认为，当医疗软件（他称之为“算法医生”）不再只是初级护理医师的帮手，而是经过不断发展，已经可以用来诊断病情且完全取代医生时，医疗事业将会取得长足进步。他写道：“最终，我们不再需要普通的医生。”自动化可以“医治”我们这些不完美的自动化。
1700412145
1700412146
这个想法非常诱人，却过于简单了。机器会遗传制造者那容易犯错误的毛病。即使是最先进的技术，早晚也会出现故障、无法运行。而在运行过程中，计算机系统可能会遇到许多设计者和程序员都没有预料到的情况，这时，算法就会受困其中，无从入手。在2009年年初，大陆连线在布法罗坠机前的几个星期，美国空中客车A320飞机在从纽约拉瓜迪亚机场起飞的过程中撞上了一群加拿大雁，导致所有引擎都失去了动力。机长切斯利·萨伦伯格和副驾驶杰弗里·斯基尔斯立即做出反应，冷静果断，经历了令人备受折磨的3分钟，成功将几近残废的飞机安全迫降在哈得孙河面上。所有乘客和机组人员都获救了。如果驾驶室里没有负责“照看”A320的驾驶员，这架搭载着最先进自动化技术的飞机将会坠毁，机上的所有人员都会遇难。一架客机所有的引擎都失去动力是很少见的。但是，在出现机械故障、自动飞行失灵、恶劣的天气和其他意外事故时，驾驶员拯救整个飞机的事件却并不罕见。德国《明镜》周刊（Der Spiegel）在2009年的航空安全特辑中写道：“一次又一次地，自动化飞机上的驾驶员总会遇到一些飞机工程师未曾预料到的、新的、危险的意外情况。”
1700412147
1700412148
其他领域也存在这个问题。许多新闻媒体都报道了谷歌普锐斯发生的严重事故。但是，我们不知道，自始至终，谷歌汽车和其他自动测试车辆都配有备用司机，他们要在计算机无法完成操作时接过方向盘。按照政策规定，谷歌要求汽车在居民区街道上行驶时，都必须由人来驾驶；任何员工想要驾着谷歌汽车出去兜风，都必须完成严格的紧急驾驶技术训练。自动驾驶汽车并不像看起来那样完全不需要人类驾驶。
1700412149
1700412150
在医疗领域，医护人员经常要推翻临床诊疗计算机给出的错误指示或建议。许多医院发现，虽然计算机开药系统能降低分发药品时的常见错误，但也会带来新的问题。2011年在某家医院进行的一项研究表明，事实上，开药实现自动化以后，重复开药的情况反而增加了。诊断软件也远非完美。可能大多数时候，“算法医生”会给出正确的诊断和治疗方案，但是如果你的各种症状同计算机里用于计算概率的备选档案不符，那你就应该庆幸诊室里还有个人类医生，他会复核计算机的计算结果，并推翻计算机的诊断。
1700412151
1700412152
自动化技术变得越来越复杂，各项技术之间的关联性不断增强，软件指示、数据库、网络协议、传感器和机械部件之间环环相扣、相互依存。各个系统对科学家所说的“连锁故障”非常敏感，某个组成部件的失灵会引发大面积的、灾难性的连环故障。2010年，一组物理学家在《自然》杂志上发表了一篇文章，称人类世界是由一个个“相互依存的网络”构成的。“各种各样的基础设施，例如供水系统、交通、燃料和电厂”都通过电路或其他联结方式关联起来，这使得它们“对随机故障极度敏感”。即使只有数据交换领域才存在这种紧密的联系，一旦某一环节出现问题也会带来非常严重的后果。
1700412153
1700412154
这种脆弱越来越难以识别。麻省理工学院计算机科学家南希·莱韦森在《建造一个更安全的世界》（Engineering a Safer World）一书中指出，对于过去的工业机械化，我们可以“全面计划、理解、预测并保护各组件之间的相互作用”，在投入使用之前，系统的所有设计均需要经历严格的测试，“而现代的、高科技系统再也不具备这些特性了”。同它们事无巨细的前辈相比，现代系统的“智力控制性”较低。所有的部件都能完美运行，但是一个小的错误或是系统设计的疏忽——数十万行软件代码中隐藏的一个小失误仍然会引发严重事故。
1700412155
1700412156
计算机的决策和触发速度快得惊人，这也加剧了风险。2012年8月1日早上那惊心动魄的一小时就恰恰证明了这一点。当时，华尔街最大的贸易行骑士资本集团（Knight Capital Group）推出了一个新的买卖股票的自动程序。但是这个先进的软件程序存在一个缺陷，在测试的时候并没有被发现。程序一经启动，立即引发了大量未授权的、不合理的交易，每秒钟的股票交易金额达260万美元。当骑士资本的数学家和计算机科学家找到问题源头并关掉违规程序时，已经过去了45分钟，这个软件造成的错误交易金额高达70亿美元。骑士资本最终损失了近5亿美元，濒临破产边缘。事件发生后的一周之内，华尔街其他公司联合起来为骑士资本提供资金支持，帮助其摆脱困境，避免了又一场金融业的灾难。
1700412157
1700412158
当然，技术会不断进步，问题也会得到修正。但是，完美无瑕只能是一种理想状态，永远都无法实现。即使人类可以设计并构建一个完美的自动化系统，这个系统还是要在一个不完美的世界里运行。无人驾驶汽车不会行驶在乌托邦的街道上。机器人也不是在极乐世界的工厂里工作。还是会有大雁群和雷击。我们坚信会建造一个完全自给自足的、可靠的自动化系统，这本身就是自动化偏好的最好证明。
1700412159