1701561903
第二个原因在于外部事件也会毫无预期地对机器造成影响。像所有生物体一样，互联网正以我们无法预见或控制的方式不断变化着。近些年来，机器已能够自动更新其运行系统与各项应用程序。因此，当你打开自己的设备时，你已无法确定它仍是你昨天刚刚用过的那一台。你每天花一半时间处理的文档程序和电子邮件，可能就像你16岁的儿子，在见了个自诩是发型师的朋友之后，改头换面到你根本认不出来。我们的机器可能也很难预测，因为它们的运行取决于网络传输量，而且我们通常并不清楚这个传输量有多大。时不时地，负荷过大的网络传输量干脆就让我们的互联网停止运转了。就像一个乖巧的小孩一夜之间步入叛逆的青春期，最受你我青睐的机器正在变得越来越状况百出。我们永远猜不到它们接下来要干什么。
1701561904
1701561905
互联网变得人类化的方法之一就是它能够试着欺骗我们，甚至还挺成功的。我们以为点击某个网页链接就能看到一部离奇的影片，而事实上，它则警告我们最好买个杀毒软件清理一下硬盘，否则后果自负。还有的时候，我们访问某个网站，失手下载了恶意软件。这些恶果皆出于卑劣之人，技术本身是无辜的，但正是技术的复杂性让此等恶行成为可能。
1701561906
1701561907
往好处看，技术越来越像一个有血有肉的生命体，在某些层面上能够自我修复。它自带疗愈属性。当你割了个小口子，你会贴上一片创可贴，等着伤口愈合。现在，软件漏洞有时也会自行消失。自动更新确实有所助益，或者直接更换成下一代全新的硬件或软件系统，你所面临的困扰也就不复存在了。这就是无知之美。我们并不知道这究竟是怎么回事儿，如果运气好，好事就会发生。我们在无知无为中依靠整体寻求改善。
1701561908
1701561909
这些改变造成的后果之一是，我们开始越来越像对待人类一样看待技术，把它们视为全程参与知识共同体的一员。互联网是个极好的例子。正如我们把要理解的东西放在别人脑子里一样，我们也把它们存在互联网上。我们已看到，当别人脑中的知识能够为己所用时，这会导致我们高估自己的理解力。因为我们生活在一个分享知识的共同体当中，每个个体都无法分辨出知识到底储存在自己还是别人的脑袋里。这引发了深度错觉：当我对个人理解力进行自评时，他人的想法也被纳入其中，因而，我对自己的理解力的自我评价比实际上更好。
1701561910
1701561911
两个独立的研究小组发现，人类在使用互联网进行搜索时都存在相同的“边界模糊”。8得克萨斯大学的心理学者阿德里安·沃德（Adrian Ward）发现当进行互联网搜索时，人们在认知方面的自尊心，即他们对自己记忆和处理信息的能力的感觉也随之改善。此外，如果人们在互联网上搜索了他们不了解的事情，之后他们被问及是在哪里找到这些信息的，他们多半都不记得了并回答说自己一直都知道这些信息。其中许多人完全忘记他们曾在互联网上进行过搜索。他们将功劳归于自己而不是谷歌。
1701561912
1701561913
在另一组由马特·费雪（Matt Fisher），即与弗兰克·凯尔（解释性深度错觉的最早发现者之一）一起工作的耶鲁大学博士生主持的研究中，受试者被要求回答一系列涉及日常因果知识的问题，例如“拉链是如何工作的”。他们将受试者分成两组。一组被要求上网搜索来证实他们对拉链工作原理提供的解释中的细节。另一组则被要求在不借助任何外部资源的条件下回答问题。接下来，受试者被要求自评对某领域问题的回答能力，该领域同他们先前所回答的问题无关。例如，他们可能会被要求回答“为什么大西洋飓风多发于8月和9月”这样的问题用以自评。这一问题与拉链工作原理毫无干系。实验发现，那些曾上网搜索过的受试者对自己回答不相关问题能力的评分高于另一组。在互联网上搜索、找寻某一组问题答案的行为，让受试者感觉他们知道了所有问题的答案，包括那些他们并未搜索过的答案。
1701561914
1701561915
模糊你和互联网知识的边界，这有点反常但不无道理。互联网已成为一种不可或缺的综合工具。假如我们设计了一个以所执行任务为单位的人机系统，其作为一个单一实体，达成任务的职责既不在人类也不在机器，而是人机组合。如果我为了策划某次旅行已经参考了多个网站，其中一些用于获取资讯，另一些用于推荐行程，其他的用于预订，那么谁将是最终计划的制订者？大家都有所贡献。如果我没去目的地，什么都是一纸空谈。但我参考的每个网站多少都有所助益。因此我们都分担一部分职责。
1701561916
1701561917
倘若你近期曾使用互联网做过些什么，由于任务的执行已离不开互联网的参与，你会发现很难评估个人自身的能力表现。一切证据都指向，你和计算机是一个团队，且这个团队生来就比个人更出色。因此证据表明，你比那些无法利用互联网的人表现得更好。由于思维的延伸远超头骨之外，且包含了所有可用于追寻目标的工具，它几乎不可能准确地衡量你个人贡献了多少。就像我们所在的队伍赢得了比赛，此时，无论我们的角色是举重若轻还是微不足道，我们都是赢家。
1701561918
1701561919
这还是有些隐忧的。互联网上的知识如此浩瀚又唾手可得，我们或许正在塑造一个只要拿着一台智能手机并能连接无线网络，人人都能在多个领域自诩为专家的社会。在一项与阿德里安·沃德合作的研究中，我们调查了红迪网上的医务人员与那些在就诊前自行到网络医生9之类的网站上咨询的病人的接触经验。医务人员告诉我们，事实上，这些病人并不明显比那些没参考过互联网信息的病人知道得更多。然而，他们往往对自己的医学知识相当自信。这可能会让他们不屑于专业的医学诊断或寻求其他替代性治疗方案。在另一项研究中，我们请受试者就几个简单的金融问题上网搜寻答案，诸如“什么是股票”。接下来，请他们玩一种不相关的投资游戏（先前查询获得的信息并不会使他们在游戏中表现得更好）。他们也有机会对自己的表现下注。之前做过互联网搜索的人比没做过的更有自信。但他们并没有在游戏中表现得更好，最终也没赚多少钱。
1701561920
1701561921
问题在于，花几分钟（哪怕几个小时）研读网络医生的资料，并不能代替数年学习所训练出的足以做出可靠医学诊断的专业知识。在金融网站上学习几分钟也无法让人掌握投资的奥妙。但是，当整个世界的知识就在指尖时，我们仿佛真的认为自己博学多闻。
1701561922
1701561923
1701561924
1701561925
1701561927
知识的错觉：为什么我们从未独立思考 无法共享意向性的技术
1701561928
1701561929
撰写此书的当下，日常生活中最先进的人工智能莫过于GPS（全球定位系统）地图软件了。GPS设备在20世纪90年代和21世纪初变得越来越普遍。2007年，智能手机一经问世即内置了GPS，它们可谓无处不在。当你开着车，这些强大的小小系统规划出最佳路线，并视觉化地呈现出来，依据当前交通状况，或你是否错过了转弯的路口来更新它们的提示，它们甚至会跟你说话。它们的能力超乎寻常，以至彻底改变了我们大多数人的导航模式。它们甚至改变了，主要是改善了许多关系：夫妇们不再需要为了是否应该停车问路而拌嘴。
1701561930
1701561931
但请注意哪些事是这等惊人的机器们不会做的：它们不会因为你正在不情不愿地开车去父母家就决定选择一条远路。它们不会为了观赏今晚分外美丽的日落而选择沿湖的路线。它们不会因为今天交通状况太糟糕而建议你最好待在家里别出去。想要它们做这些也可以，但必须预先将其编入程序中。它们没有读心术来弄清楚你的意图即你的目标和期望、你打算怎么达成目标、满足期望。然后，这些将变成技术自己的意图，以想出那些新颖的点子。它们无法与你共享意向来追寻共同的目标。
1701561932
1701561933
我们无法与技术达成共识，从某种意义上讲，这是因为机器和使用者之间除了最基本的判断以外，并没有在所知和所做方面达成任何共识。机器会问你的目标是A、B还是C，并根据答案给予恰当的回应。但你不能临时想到一个新主意就让它跟着你的意向走。你跟机器之间可以建立一种默契，机器将尽己所能帮助你追寻目标。但你需要确保你已经告诉它你的目标是什么。机器不是合作者，它只是一个工具。从这个角度来说，身为工具的人工智能更像一台微波炉而不是实实在在的人。技术可能借由提供信息和有用的设备在知识共同体中占有一席之地，但它不同于共同体中的人类成员的角色。我们的机器就像绵羊一样，我们并不与之共事，我们只是利用它们。
1701561934
1701561935
共享意向的能力在一个智能体当中至关重要。语言以及概念化等核心功能都仰赖于此，因为正如我们所见，两者都是合作性活动。我们怀疑很难通过编程让一台计算机与你共享意向，因为这样做要求计算机能够与他者相辅而行，它得了解你知道些什么以及别人知道些什么，这需要一种能够反思自己与他人认知过程的能力。这种能力尚无法通过编程写入计算机。倘若真能实现，我们将会揭开人类意识的神秘面纱。然而，我们至今还对此毫无头绪。
1701561936
1701561937
我们正处于技术史上的尴尬时刻。几乎我们所做的一切都可以由人工智能来实现。机器已足够聪明，让我们放心地依赖它们，将它们摆在知识共同体的中心位置。然而，没有哪台机器具备那种对人类活动至关重要的神奇能力：它们无法共享意向性。这影响着人类与机器共事的方式。
1701561938
1701561939
当代人机系统的一个重要功能在于挽救生命，它们做得相当不错，特别是在它们还没把我们干掉的时候。现在哪里还有单凭人工操控的飞机、火车和工业设备。它们的运作早就离不开复杂技术的加持，连司机对汽车的控制都变少了。今天，每辆汽车大约装有50个微型处理器。10有些用于确保你行车舒适并与卫星相连，提供实时的娱乐服务。还有许多处理器在帮你操控汽车：动力转向系统会利用计算机调整你在不同行驶速度下所需的动力，防抱死制动器也使用计算机来防止轮胎打滑。而自动化革命才刚刚开始而已：全自动驾驶汽车已不再仅仅是科幻小说里的桥段。2015年年底，特斯拉汽车公司的首席执行官埃隆·马斯克表示，全自动技术大约将在两年内趋于成熟，尽管在无人驾驶汽车布满街道之前，政府监管部门可能还需要更长的时间来拟定相关法规。11
1701561940
1701561941
对更大型的交通工具而言，技术早已改变了游戏规则。没有自动飞行控制系统的辅助，现代客机根本飞不起来。最先进的军用喷气式飞机使用的是电传操纵系统：由于变数太多，它们需要一套在多数情况下比人工操作员感知和反应更快的自动化系统来控制飞行。我们对智能技术的依赖引向一条悖论。随着技术的更新，智能技术变得越发可靠和高效。也正因为它的可靠和高效，人工操作员也开始对其越发依赖。最终，人类无法集中注意力，变得心烦意乱，干脆让机器自行运转。可能发展到的最极端的情况是，驾驶大型客机或将变成一种消极被动的职业，就像在看电视一样。只要不发生意外，这样也挺好。但人类的价值也正体现在意外发生的时刻；处理突发情况的灵活性乃人类所独具的特质。机器不会为了追求一个共同的目标而彼此合作，它们仅仅是工具罢了。因此，一旦人工操作员监管不力，机器系统很可能引发严重事故。
1701561942
1701561943
自动化悖论指的是极其有效的自动安全系统导致了人们对其的依赖，而这种依赖削弱了人工操作员的作用，从而导向更大的险情。已相当复杂精密的现代技术正在这条路上越走越远。自动安全系统正在改进之中。随着它们变得愈加复杂，并且额外追加了提示和备用系统，它们也被开发出越来越多的任务。一旦自动安全系统失效，将会铸成更大的灾难。讽刺的是，飞机、火车和工业设备上的自动化系统会让其整体都岌岌可危。12因为技术并不了解系统所要实现之目标，它无法与人类共享意向性，总会出差错的威胁从未消失。当技术失效而人类毫无防备之时，灾难会随之降临。
1701561944
1701561945
这里有个典型的例子：当飞行器的空速不足以产生足够的升力让飞机保持在飞行状态时，飞机会发生失速。一旦失速，飞机基本上就是从空中坠落的。一种让飞机从失速中复原的办法是，压低机鼻，增大引擎功率，直到飞机的空速能产生足量的升力用以保持机身高度。改出失速状态乃是航校里的预备飞行员们应该掌握的最基本技能之一。这就是为什么2009年因坠海事故导致228人丧生的法航447的黑匣子找到后，空难调查人员如此震惊。空客A330发生失速并从空中坠落。副驾驶员莫名其妙地曾试图将机鼻上拉而不是下压。这怎么可能？美国联邦航空管理局于2013年出具的报告认为，飞行员已过度依赖自动飞行控制系统，缺乏基本的手动操作技能，这使他们无法应对异常情况。在这个案例中，机组人员可能根本没有意识到这架飞机有可能发生失速，也未能正确地理解设备发出的警示信号。这是一则自动化悖论的绝佳案例：飞机的自动化技术如此强大，以致当它出错时，一组飞行员居然手足无措。13
1701561946
1701561947
拜GPS设备的泛滥所赐，你或许也体会过自动化悖论。有些人完全听命于GPS发出的指令，让往哪里走就往哪里走，却很容易忽略GPS设备并不真的了解你想要干什么。由于人们一味地遵从GPS的指示，把车开进水里以及开下悬崖的故事数不胜数。14
1701561948
1701561949
1995年，“御皇”号游轮航行在马萨诸塞海岸的南塔克特岛附近。15原本连接船载GPS和船上天线的电缆被风吹断了。不幸的是，船员并没有意识到发生了什么。GPS发出了一条报错信息，但屏幕上微小的信号声并不足以引起船员们的注意。在失去卫星数据的情况下，GPS系统很快就进入设计之初被赋予的功能：切换到航位推算法（DR，通过估算速度、时间和方向，用前一处位置推算当前的位置）。报错信号也停止了。船员们也没注意到屏幕上两个表征这一切换（“DR”）以及无信号输入（“SOL”，“解决方案”的英语单词缩写，其实是对“不再计算精确位置解决方案”相当混乱的缩写）的小小缩略词。航位推算法只是一种有凭据的猜测，它无法对气流和潮汐做校正。因此，该船的自动驾驶系统正由一套合理但越来越不准确的推算系统操控着。船员确实监看了雷达地图，但它显示的路线信息也来自GPS的大致估测，不再反映船只的实际坐标。船员也没有将GPS与另一种有效的信息资源，即定位海岸无线电信号的导航系统，进行比对。一个不幸的巧合最终决定了这艘船的命运：一个警示南塔克特危险水域的航标在GPS系统中被当成波士顿海湾航道的标记。雷达监测到了这个航标，但船员认为一切都正按计划进行。他们没有注意到任何异样，直到发现海水颜色的改变表示他们已进入浅水水域。但那时已经太迟了。这艘32 000吨的游轮搁浅于距南塔克特岛10英里处。
1701561950
1701561951
幸运的是，这则故事有个皆大欢喜的结局。“御皇”号在搁浅24小时后被5艘拖船救出。多亏了双层船底，它仍可航行并将乘客们送抵波士顿。不过，确实也花了200万美元才让“御皇”号得以重返大海。
1701561952
[
上一页 ]
[ :1.701561903e+09 ]
[
下一页 ]