1700412324
阻止LAR最困难的一点不是机器人在战术上是否能够发挥作用，而是部署了机器人以后，除了机器自身所具有的外在的道德，还会有一些其他伦理优势。人类战士具有基本的本能，在激烈、混乱的战场上，这种本能会触动人的内心，而机器人则没有这种本能。它们不会感到压力、沮丧或涌动的冲动情绪。克里斯托夫·海恩斯写道：“一般来说，机器人不会表现出复仇、慌乱、愤怒、怨恨、偏见或恐惧。除此之外，如果没有特殊编写的程序，机器人也不会故意给平民带来伤害，例如折磨拷问。机器人也不会强奸人。”
1700412325
1700412326
机器人不会撒谎，也不会掩饰自己的行为。我们可以通过编程，让它们“留下数字轨迹”，这样有助于提高军队的责任感。最重要的是，用LAR发动战争可以避免本国士兵伤亡。杀手机器人既能杀人也能救人。一旦人们清楚地认识到自动化士兵和武器可以降低子女在战争中遇害或致残的可能性，就一定会迫使政府实现战争自动化。用海恩斯的话来说，机器人缺乏“人类判断、常识、大局观、揣摩行为背后的意图的能力以及价值观理解力”，这一缺点可能最终并不重要。事实上，虽然机器人在道德方面存在欠缺，但还是具有其自身的优势。如果机器具有人类的思考和感知特性，我们就不会那么乐观地把它们送上战场，看着它们毁灭了。
1700412327
1700412328
路途越来越艰险。海恩斯指出，机器人士兵在军事和政治上的优势也给它们带来了道德困境。部署LAR不仅会改变战争和小规模冲突的方式。政客和将军最初决定是否参战的考虑也会发生变化。造成灾难性的平民伤亡一直是阻止战争、促进和谈的一大因素。因为LAR将降低“武装冲突的人类成本”，公众会“越来越远离”军事争论，“把是否派遣军队的决定作为一个经济或外交问题，交给政府去解决，这就促成了军事冲突‘标准化’。可能因此，LAR就会降低国家参战或采取致命性武器的门槛，这样一来，军事冲突就不再是解决问题的最终手段”。
1700412329
1700412330
每一种新式武器的诞生都会改变战争的本质，能够远程发射或引爆的武器，例如弹射器、地雷、迫击炮、导弹，一般都具有非常大的威力，既包括预期威力，也包括未预料到的影响。自动杀戮机器的影响可能远远超过了之前所有的武器。机器人自发开出的第一枪将震惊全世界。它将改变战争，甚至可能彻底改变这个社会。
1700412331
1700412333
深层自动化
1700412334
1700412335
机器人杀手和无人驾驶汽车给社会和伦理带来了挑战，指向一些同自动化发展方向相关的重要信息，这让人感到不安。以前，人们错误地认为，替代性神话就是指一项工作可以分成若干个独立的任务，并且，可以在不改变整个工作本质的前提下，实现各个小任务的自动化。这个定义需要得到扩展。随着自动化范围的扩大，我们不断认识到，社会可以被分成若干个独立的活动领域——例如工作、休闲或政府范畴的活动领域，在不改变整个社会性质的前提下，可以实现每个活动领域的自动化。世间万物都是相连的——改变了武器就改变了战争，当计算机网络使联系清晰化，事物之间的联系也会变得更紧密。从某些程度来讲，自动化达到了一种临界值。自动化开始塑造社会规范、人们的假设和伦理道德。人们看待自身和看待他人关系的方式各不相同，随着技术角色的不断变化，人们会调整个人能动性和责任感。人们的行为也发生变化。人们希望计算机能起到辅助作用，但是，当人们无法获得计算机的帮助时，就会感到迷茫。软件承担了计算机科学家约瑟夫·魏泽鲍姆所说的“强迫性要务”，“人们必须依靠软件才能打造自己的世界。”
1700412336
1700412337
20世纪90年代，互联网泡沫开始膨胀，人们兴奋地讨论“普适计算”。很快，专家警告人们，微型芯片将渗入各个角落——嵌入工厂机器和仓库货架，附着在办公室、商店和家里的墙上，埋在地下，悬浮在空气中，内置到购买的商品里，编织进衣物，甚至在我们的身体里游荡。微型计算机装配了传感器和收发器以后，可以测量所有我们可以想到的变量，从金属属性到土壤温度到血糖变化，计算机通过互联网将读数传送给数据处理中心，在数据处理中心里，更大型的计算机将对数字进行处理，输出指令，保证一切都保持规范性和同步化。计算将无处不在；自动化将环绕在周围。我们生活在电脑技术狂的天堂，整个世界是一台可以编程的机器。
1700412338
1700412339
这场狂潮的一大源头就是施乐帕克研究中心，据传说，史蒂夫·乔布斯的麦金塔电脑的灵感就来自这间位于硅谷的研究实验室。施乐帕克研究中心的工程师和信息学家公布了一组报告，描述了在未来，计算机将深入“日常生活的每一个角落”，“无法同生活分离”。我们甚至对周围正在进行的计算毫无察觉。我们被数据包围，享受着软件的服务，以至于我们不再为信息过载而感到焦虑，“一切都是那么平静”。这听起来像是田园般的生活。但是，施乐帕克研究中心研究员不是盲目乐观。他们也表示，可以预见到这个世界将会令人感到担忧。他们担心无处不在的计算系统会成为专制独裁者隐秘的理想场所。该实验室首席技术专家马克·维瑟1999年在《IBM系统期刊》（IBM System Journal）上发表了一篇文章，他写道：“如果计算系统无边无形，就很难知道谁在掌控，事物之间存在怎样的联系，信息的流向，以及信息的使用情况。”我们会对运行该系统的人员和公司给予充分的信任。
1700412340
1700412341
人们对无处不在的计算感到兴奋可能过于草率，同样，焦虑也没有必要。20世纪90年代的技术还不能把世界变成机器可读的模式，在互联网泡沫破灭之后，投资者没有心情再提供资金，去到处安装昂贵的微型芯片和传感器了。但是，在随后的15年里，情况发生了很大变化。现在，经济方程式已和以往大不相同。计算设备和高速数据传送的成本大幅下降。许多公司，例如亚马逊、谷歌和微软已经设计出了数据处理的实用程序。他们建立了云计算网格，能够通过高效集中的设备收集和处理大量信息，然后传送给智能手机、平板电脑上运行的应用，或是传送给机器的控制电路。制造商投资数十亿美元为工厂配备联网的传感器，技术巨头（如通用电气、IBM和思科）希望引领创建“物联网”，他们争相制定结果数据的分享规则。计算机现在非常普及，即使是世界微微抽动一下，也会被计算机用二进制数据流记录下来。我们可能并不是“沉浸在平静之中”，但确实浸泡在数据里。现在看来，施乐帕克研究中心好像就是先知。
1700412342
1700412343
工具和基础设施之间存在很大差别。当大量系统和网络运行以后，工业革命才达到顶峰。19世纪中期的铁路建设扩大了公司所辐射的市场范围，为机械化大生产和越来越大的规模经济提供了动力。几十年后，电网的诞生开启了工厂装配线的进程，工厂可以采用并且支付得起各种形式的电器设备，这推动了消费主义，工业化走进了千家万户。新的运输网、电网、电报、电话以及随之诞生的广播系统改变了社会。它们改变了人们工作、娱乐、旅行、教育甚至构建社区和家庭的方式。它们改变了生活的步伐和本质机理，远远超出了工厂蒸汽机械的影响。
1700412344
1700412345
托马斯·休斯在《能量之网》（Networks of Power）一书中回顾了电网的诞生所带来的影响，他写道，工程文化、商业文化以及最终的大众文化会进行自我重塑，以适应新系统。他表示：“人类和各个机构体系在发展自身特性时会迎合技术的特征。人类、思想和组织体系之间的系统性互动，无论是技术层面的还是非技术的，都引发了一种超级系统——社会技术系统，它四通八达且流动性大。”从这一点看来，无论是电力行业、生产模式还是相关的人类生活，技术动量都站稳了脚跟。“通用系统是传统动量的聚合。它的发展平缓，系统变化也只是功能更加多样了。”发展进程找到了最佳方式。
1700412346
1700412347
现在我们的经历同自动化历史上的某一刻类似。社会在不断调整，以适应无处不在的计算基础设施——比当时接受电网的速度还要快，社会正在被重塑。工业操作和商业关系背后的种种假设都发生了变化。圣菲研究所经济学家、技术理论家W·布莱恩·亚瑟解释说：“人类之间早已形成将商业流程都交给电子化技术来执行的习惯。”“在一个看不见的领域里，商业实现了严格的电子化。”亚瑟以欧洲范围内的船运流程作为例子。几年前，需要有许多人挥舞着写字板进行指挥。他们登记进出港情况，核对货单，检查货品，签字盖章批准许可，填写书面文件，写信或打电话给其他参与协调或规范国际货运的工作人员。货运路线的更改需要各方代表（发货人、收货人、运送者、政府机构）辛苦沟通，会带来更多的文案工作。现在，每件货物都配有射频标码。当货物通过港口或是中转站时，扫描仪读取标码，将信息传送给计算机。计算机再把这些信息转交给其他计算机，这些计算机一起协同工作，进行必要的检查，提供所需的认证，按需更改计划，并确保货运各方都能获取货运状态的当前数据。如果需要新的路线，计算机会自动生成，并更新标码和相关数据存储库。
1700412348
1700412349
这种广泛的信息自动交换已经成为经济领域的常规惯例。正如亚瑟所说，“完全在机器之间进行的、大量的机器会话”正在逐渐接管商业运作。要进入商业领域，就需要有能够参与这种会话的联网计算机。比尔·盖茨告诉公司管理人员：“你知道，你已经建成了一个非常好的数字神经系统，信息在机构内部流通就像思维在人体内发挥作用一样，快速且自然。”任何大公司，如果想要生存下来，没有别的选择，只能实行自动化，并且要不断推行自动化。公司需要重新设计工作流程和产品，从而实现更大规模的计算机监控，还要严格限制供应和生产过程中人员的参与程度。毕竟，人类跟不上计算机的速度，只会拖慢会话的速度。
1700412350
1700412351
科幻小说作家亚瑟·C·克拉克曾经问道：“人机结合是否具有稳定性？或者纯粹的有机成分是否会成为障碍，必须被抛弃？”至少在商业领域，在我们可以预见的未来，人类和计算机之间不存在固定分工。现在通行的计算机化的交流和协作方式几乎已经确定了，人类的角色将逐渐弱化。我们设计的系统将把我们自己抛弃了。如果未来几年，因为技术发展造成的失业现象越来越严重，其原因应该是我们新安装的底层的自动化基础设施，而不是工厂里的机器人或是办公室里的决策支持类应用。机器人和各种应用软件只是盛开在地上的看得见的花朵，但它们的自动化根系深埋地下、四处蔓延、嵌入土壤。
1700412352
1700412353
这个根系也为自动化供给养分，向更广阔的文化范围延伸。从政府服务条款到维系亲友关系，社会在逐渐转型，以适应新的计算机基础设施所勾勒的社会轮廓。这些计算机基础设施精心协调数据的即时交换，使得无人驾驶汽车和机器人杀手军队成为可能。提供个人或集团决策的预测算法也从计算机基建中获取预测材料。它支撑着教室、图书馆、医院、商店、教堂和家庭的自动化——从传统意义上来讲，这些场所同人类息息相关。美国国家安全局和其他侦查机构、犯罪团伙以及业务庞杂的公司，都借助计算机基建设施进行监控和谍报活动，并且活动的规模巨大，前所未有。这些远远偏离了公共机构和个体同小屏幕的“会话”。也正是由于这些基建，各式各样的计算工具指引我们每天的生活，按时发出个性化的提醒、指令和建议。
1700412354
1700412355
还要再提一下，人类和各个机构正在开发自身特点，以适应现在通行的技术。工业化没有把我们变成机器，自动化也不会把我们变成机器人。人类没有那么简单。但是自动化的扩张让我们的生活越来越程式化。证明人类智慧和创造性的机会越来越少，自力更生原来曾作为人类的主要特性，现在也很少有机会展现。除非我们再思考一下未来的前进方向，否则技术的狂潮将朝着这个方向不断加速前进。
1700412356
1700412358
透过玻璃
1700412359
1700412360
这是一场非常有趣的演讲。2013年2月底，TED[1]会议在洛杉矶附近的长滩表演艺术中心举行。讲台上演讲的男子衣着邋遢，略显不安，讲话的声音犹犹豫豫，他就是谢尔盖·布林。据说，在谷歌的两个创始人中，布林还算是性格相对外向的。他正站在讲台上展示一种眼镜，是谷歌设计的“头戴式计算机”。播放了一段简短的推广视频后，布林开始嘲讽起智能手机。谷歌曾经通过自家的安卓系统推动智能手机成为现在的主流设备。他从兜里掏出自己的手机，鄙夷地看着它。他说，使用智能手机是“一种柔弱的表现，你明白的，你坐在那儿，什么也不做，只是用手指滑动这个毫无特点的玻璃屏”。布林表示，智能手机会造成“社交孤立”，并且低头盯着屏幕还会削弱人对外部世界的感知能力。“你就想这样对待你自己吗？”
1700412361
1700412362
布林放下了手机，开始宣扬谷歌眼镜的优点。他表示，这个新设备会提供一种高级“形状因子”，可用于个人计算。人们的双手解放了，也不必再低着头，可以目视前方，同周围的事物重新建立起联系。人们重新融入了这个世界。谷歌眼镜还有其他优点。戴上谷歌眼镜以后，计算机屏幕一直处于人的视线之内，只要谷歌眼镜觉察到人们需要建议或帮助，谷歌就能通过谷歌即时资讯服务或其他追踪和个性化程序向人们传递相关信息。谷歌公司将最大限度地实现公司的愿景：信息流自动进入人类大脑。有了谷歌眼镜就忘了自动补全的谷歌搜索提示服务吧。布林回应同事雷·库兹韦尔的言论，他表示，戴上谷歌眼镜，你再也不用进行网页搜索了。你不必构思搜索关键词，不用在搜索结果中挑挑拣拣，也不必按照长长的链接转到具体的网页。“在你需要的时候，信息就会自动来到你面前。”计算机将成为无处不在的全知者。
1700412363
1700412364
布林笨拙的演示惹来了技术博主的嘲笑。但是，他说的还是有道理的。智能手机使人着迷，但也会让人堕落。人类大脑不能同时关注两件事。朝手机屏幕瞥一眼或是翻阅一下手机都会把我们从周围环境中抽离。手里握着手机时，我们好像变成了幽灵，在现实和虚拟两个世界间摇摆。当然，人总是容易分心的，思维总是四处游荡，注意力也会分散。但是，从没有哪个工具能像这样一直俘获我们的感官，分散我们的注意力。就像布林暗示的那样，智能手机将人类同一个符号化的世界联系起来，将我们驱逐出当下的现实世界。我们丧失了存在的力量。
1700412365
1700412366
布林保证谷歌眼镜会解决这个问题，但这无法令人信服。毫无疑问，如果有时使用计算机或相机时可以不用手，确实是个优势。但是，盯着悬浮在面前的屏幕也需要投入一定的注意力，不比浏览手里的手机少，可能还需要更多的注意力。对使用平视显示设备的飞行员和司机进行的研究表明，人们观看投放在外界环境上的文字和图片影像时，很容易产生“注意力隧道效应”。人的焦点会缩小，眼睛盯着显示图像，忽略视野内的其他事物。研究人员在飞行模拟器中进行了一项实验，使用平视显示设备的飞行员降落时要花费较长的时间才能发现有一架大型飞机挡在跑道上，而没有佩戴平视显示设备的飞行员低头扫一眼仪表读数，再抬头就能很快发现这一问题。其中有两名佩戴平视显示设备的飞行员甚至完全没有注意到正前方停着的飞机。心理学教授丹尼尔·西蒙斯和克里斯托弗·查布利斯2013年发表了一篇关于谷歌眼镜危害的文章，指出“感知能力需要双眼和大脑的共同参与，如果你的思维被占用了，你就无法注意到原本非常明显的事物了”。
1700412367
1700412368
由于采用了类似的设计，谷歌眼镜也很难避免这个问题。谷歌眼镜位于眼睛上方，时刻准备着，它只需一个眼神就能调取图像。至少手机可以被塞进口袋或手包里，或者也能放进汽车的杯托里。事实证明，你可以通过说话、移动头部、手势和指尖触摸同谷歌眼镜互动，这就对使用者思维和感官的参与度有更高的要求。而眼镜发出的来电提醒和信息提示的声频信号——布林在TED演讲时夸耀，“能通过头盖骨传送”，不像电话的嘟嘟声和蜂音那样突兀扰人。但是，打个比方来说，谷歌眼镜就像是附着在前额的计算机，只会让情况变得更糟。
1700412369
1700412370
无论是谷歌眼镜那样的头戴式设备抑或是腕上的Pebble[2]智能手表，这种可穿戴式计算机都是新鲜事物，它们究竟具有多大的吸引力，暂时还无法定夺。如果想要受到普遍欢迎，它们需要战胜某些大的障碍。现在看来，可穿戴式计算机没有什么优势，它们看起来甚至有点蠢——伦敦《卫报》称谷歌眼镜是“可怕的眼镜”。并且，可穿戴计算机内置的微型照相机让许多人感到不安。但是，就像之前的其他个人计算机一样，很快，可穿戴计算机就会升级，它们会变得不那么突兀，功能也会增加。现在看来，在身上佩戴计算机是一件很奇怪的事，但是在未来10年，这将成为一种常态。我们甚至会吞下药片大小的纳米计算机，以观察体内的生物化学变化和器官的功能。
1700412371
1700412372
但是，布林认为谷歌眼镜和其他可穿戴式设备将开拓计算新时代的想法是错误的。它们会给已有的技术动量注入更多能量。随着智能手机和平板电脑越来越普及，网络计算机更加便携化、私人化，可穿戴式设备的出现让软件公司能够更多地融入我们的生活。软件应用价格低廉、界面友好，可穿戴式设备甚至可以通过云计算基础设施使最平凡的琐事也实现自动化。计算机化的眼镜和腕表进一步拓展了自动化的领域。有了这些设备，使用者在走路或骑车的时候能够非常轻松地获取路线信息，算法还可以生成建议，告诉使用者下一顿饭去哪儿吃或晚上出去穿什么。可穿戴式设备还可以作为人类传感器，将用户的位置、想法和健康状况传送给云。这样一来，软件编写人员和软件所有者就有更多机会将越来越多的日常活动自动化。
1700412373
[
上一页 ]
[ :1.700412324e+09 ]
[
下一页 ]