1702421012
最初，在关于人的机械式解读和关于机器的心理式、甚至精神式解读中间，产生了人工智能研究。诺伯特·威纳（Norbert Wiener），控制论之父，在20世纪60年代曾经梦想“通过电报线路来发送人类，在概念上是完全可能的”。而到了20世纪80年代中期，一名麻省理工学院的学生沉思道，他的老师——人工智能的先驱马文·明斯基（Marvin Minsky）的理想是：创造一台计算机，它如此精致美丽以至于灵魂也愿意住在这个躯壳里。不论灵魂是否已经做好了居住在我们目前任何一台机器里的准备，我们对机器人“卡格”和“凯斯麦特”的反应已经让人有了这种幻想。一名经常晚上在实验室里独自与机器人“凯斯麦特”待着的研究生向我吐露：“我对自己说，它只不过是台机器，但是在我离开之后，我老想晚上去确认一下，只是看看它是不是还好。”这并不令人感到奇怪，对于我们这些早在ELIZA程序起就接触人工智能的人来说，不论是成年人还是小孩都被人工智能所吸引，并不断维持这样的观点：这些机器人是有感知能力的，甚至是有同情心的。这种“共谋”使机器人有了生命，而他们面前的人也变得生动有趣，感到他们与机器人结成了某种关系。
1702421013
1702421014
多年之后，有些我的学生谈到与机器人“卡格”和“凯斯麦特”在一起时，会引用一句机器般的语言“我和你”。神学家马丁·布伯（Martin Buber）创造了这个短语，来指代一场深刻的、人类头脑与心灵之间的相遇。这暗示着，这是一场势均力敌的体验。即使是最先进的机器人与人类之间，也还从未有过这样的势均力敌。但即使是机器人“卡格”和“凯斯麦特”做出的简单动作，都鼓舞着人们不断放大这种描述。我想，人们有强烈的愿望去相信这种平衡是可能的，这是一件多么触动人心的事情。在“卡格”的案例中，我们通过机器人躯壳制造了一个“你”。在“凯斯麦特”的案例中，一张富有表情的脸和富有表现力的声音实现了这个设想。而这两名机器人都在通过凝视的力量与人建立起密切关系。一张机器人的脸就是一名教唆者，它怂恿我们去设想：我们可以和机器人进行换位思考。
1702421015
1702421016
当一台机器人吸引住了我们的目光，人类进化的生物本能会让我们以为，机器人对我们感兴趣。而这会使我们感到，我们与机器人是有可能建立更深层次的联系的。我们希望如此。我们需要社交机器人，因为我们的人生有诸多麻烦，我们需要关爱和关注。机器人会满足我们的这些需求，即使只是在幻想中。人们想从机器人那里得到满足，这意味着需要帮助机器人，弥补它的不足和过失。我们被吸引着进入一场必然的“共谋”。
1702421017
1702421018
在一次关于“儿童遇到机器人”的研究中，我邀请了机器人“卡格”和“凯斯麦特”的主要设计者布莱恩·斯卡塞拉蒂和辛西娅·布雷齐尔加入。我们把机器人和60名儿童做了引荐。这些儿童年龄在5～14岁不等，来自当地不同文化和经济背景的家庭。我们称之为“第一次邂逅”研究，因为对于这些孩子中的大多数来说，这是他们有生以来第一次见到类似“卡格”或“凯斯麦特”这样的机器人。
1702421019
1702421020
当孩子们见到这些机器人时，他们很快意识到这些机器人不是玩具——确实如此，正如我说过的，这些机器人有它们“自己”的玩具：一些动物标本，一个苗条的洋娃娃，或者许多木块。而实验室中摆设的说明是：“这些机器人不是属于你的，它们只是和你待在一起。”抑或说：“它们并非属于你，在某些重要的方面，它们与你很相似。”一些孩子很好奇地问：“如果这些机器人与人待在一起，那么人有什么弱点使他们需要这些机器人呢？”对一个13岁的小男孩来说，“卡格”意味着“人类不够好，所以他们需要机器人来弥补”。
1702421021
1702421022
在我们的“第一次邂逅”研究中，儿童们与机器人相处的时间是随意的。我们会问问题，但问题不多。我们鼓励孩子们说出他们头脑里的第一感觉。我们的目的是研究一些相当开放的问题：当面对一个充满社会智能的新奇玩意时，儿童们会作出怎样的反应？他们的关注点是什么？
1702421023
1702421024
在研究的结尾，答案是相当简单的。儿童想与机器人建立联系，教育它们，成为它们的朋友。同时，他们希望机器人喜欢甚至爱他们。儿童的表述非常直接：“‘卡格’喜欢我。”“‘凯斯麦特’和我妹妹很像，它爱我。”“‘卡格’是我的好哥们，它做所有事情都想和我在一起，就像最好的朋友。”即使是年纪最大的儿童，看到机器人学会了新的技能——比如当“凯斯麦特”学会了他的名字时，也明显感动了。如果“凯斯麦特”说的是另一个孩子的名字，这个孩子就会不高兴，他会认为这证明“凯斯麦特”对他不感兴趣。
1702421025
1702421026
为了赢得机器人的感情，儿童愿意付出相当大的努力。他们为机器人跳舞，唱好听的儿歌：《山谷里的农夫》、《生日快乐》、《三只盲鼠》。他们试着用动物标本和即兴表演的游戏让机器人高兴。一个10岁的小男孩慷慨地和“凯斯麦特”分享自己的陶土，并告诉我们他要“照顾它和保护它不受邪恶力量的影响”。但是由于机器人“卡格”和“凯斯麦特”本身并不具备情感的能力，因此需要孩子们自己的主观配合才能给人留下这样一种印象：（机器人对他们的）喜爱之情正在油然而生。事情会变得更紧张。这些先进的机器人要比那些简单的机器人玩具更加能够与人产生亲密感。因此，当它们并没有表现得与人很亲密时，似乎它们在刻意地“克制”自己的情绪。
1702421027
1702421028
在我们的研究过程中，“卡格”的一只胳膊坏了，“凯斯麦特”由于研究的需要也做了改动。有一段日子，这两台机器人都表现得有些“古怪”。儿童们仍然勇敢地与有缺陷的机器人一起互动。因此，有一天当“凯斯麦特”的麦克风出了问题时，一些孩子得出了这样的结论：他们认为“凯斯麦特”的表达出了问题，因为它在说外语。一名5岁的韩国小朋友十分肯定它说的是韩语。另一名12岁孩子则争论说这是法语，然后又改变主意说这是西班牙语。当“凯斯麦特”最终和她开始说话时，她非常高兴，她认为自己之前说对了。“它信任我”，她高兴地说。而且一边挥手，一边用西班牙语和它告别。当然，儿童有时也会被机器人离奇的功能故障弄得筋疲力尽，也会因为尝试去吸引故障机器人却不成功时，流露出忧虑，甚至流下失望的眼泪。但是，孩子们依然是锲而不舍的。因为机器人栩栩如生，让他们期待得更多。
1702421029
1702421030
通过前文提到的那些相对简单的机器玩具，我们可以发现，儿童的依恋并不简单取决于机器人能够做些什么，而在于儿童缺失了什么。在这场实验中，许多儿童似乎缺失了他们最重要的东西：父母的关注，以及“认为自己很重要”的意识。儿童把机器人想象成他们生活中失去的那些人的替代者。当这些机器人失灵时，有时会让他们重新产生旧时的失落感。我们向机器人索取什么，就代表我们需要什么。
1702421031
1702421032
在躯壳上塑造一个“你”
1702421033
1702421034
当儿童们意识到“卡格”并不会说话，他们却仍然坚持认为它应该会说话。有些孩子提出理论：它是聋人。有些孩子从学校里学了一点美国聋哑人手势语，并坚持把它作为一种交流方式。他们坚信一个说法：“卡格”有它想说的话，而且他们一定有兴趣听。
1702421035
1702421036
当9岁的阿利格拉见到“卡格”，她和它热情握手。“卡格”对她的举动也做出了回应，他们相互注视并且亲切握手了一会儿。然后阿利格拉想知道是否可以让“卡格”开口说话。“卡格”有一张嘴巴。阿利格拉觉得嘴巴就是用来说话的，就像5岁的小孩认为猫头鹰“菲比”应该有胳膊：“因为它可能想和我拥抱。”阿利格拉解释道：“‘卡格’可能想和其他人说话，而且它有时也许会想笑。”阿利格拉还认为一个“经过改进的‘卡格’”应该会跳舞。斯卡塞拉蒂问道：“它是应该为你跳一支舞？还是应该和你共舞呢？”阿利格拉马上回答：“当然是和我一起跳舞。”话音刚落，这个小姑娘便开始跳起舞来，先是一段街舞，然后是舒缓、优雅的芭蕾舞。作为回应，“卡格”晃晃它的头和它那只没坏的胳膊。机器人和孩子之间似乎建立起了某种特殊的情感联系。几分钟以后，阿利格拉说：“如果它的另一只胳膊也能动的话，我想我能教它怎么和我拥抱。”对她来说，栩栩如生的“卡格”完全可以对她表达爱意。之后阿利格拉的舞步更复杂、更快了。现在她不是和“卡格”一起跳，而是为了“卡格”而跳。她想取悦它，她说：“我有点想在它面前炫耀。”
1702421037
1702421038
在7岁的布鲁克与“卡格”相处的时间里，她说希望“卡格”有“一颗心和扁桃体”，这样自己就能与它说话，和它一起唱歌了。当这些不能实现时，她开始教“卡格”怎么把它的玩具——动物标本、洋娃娃、木块，平稳地放在胳膊、肩膀和脖子上。当“卡格”放歪了（这是它的正常表现，它很少能平衡物体），她轻轻地责备这个机器人：“你在听我说话吗，先生？”她说“卡格”的失败也许归咎于她没有找到它最喜欢的玩具，她依然是“卡格”热忱的老师。最后“卡格”终于成功地放平了它的洋娃娃，在她看来，这大大地鼓舞了机器人。当“卡格”在接下来的尝试中失败时，布鲁克认为它对游戏失去了兴趣。她问“卡格”：“问题出在哪儿？”她对这名学生的能力毫不怀疑，认为这仅仅是兴趣问题。
1702421039
1702421040
但是布鲁克渴望和这名机器人说话。她告诉“卡格”，她在家里感到被忽视，活在她11岁的姐姐安德烈娅的阴影里。根据安排，安德烈娅将在此后的另一天与“卡格”见面。她抱怨说：“没人和我说话……没人听我说话。”当“卡格”用沉默来回应时，她非常伤心地问：“你是想让我走开吗？‘卡格’，‘卡格’，‘卡格’……为什么你不听我说话？”突然，她自己得出了结论：“我之前没有想到……这才是你应该做的。”她一边自言自语，一边开始使用手语：“我知道怎么说‘房子’……我能教他怎么说‘房子’。”（她用右掌轻拍自己的头，做出房子的手势）然后，当“卡格”盯着她的手时，她又演示了“吃”和“我爱你”。她很高兴，因为“卡格”给了她关注：“它肯定爱我。”
1702421041
1702421042
现在，布鲁克感到自己是成功的、有竞争力的。她夸口说她和“卡格”的关系一定会比“卡格”和她姐姐的关系好：“她可能只是和‘卡格’聊天。我不仅仅是聊天，我还教它。”当布鲁克离开时，她向研究团队宣布：“我希望‘他’对我说话。我知道大厅那边的那台机器人（凯斯麦特）是会说话的，但我真的希望‘他’（卡格）能说话。”
1702421043
1702421044
对于这样的故事，斯卡塞拉蒂已经习以为常了。在研发“卡格”的7年时间里，他见过很多人被他的机器人迷住，并因为它不再与他们交谈而感到抓狂。他将“第一次邂逅”研究当成“责任教学法”（responsible pedagogy）的一次实验。在我们的研究里，有30名儿童参加了一个特殊的环节。在这个环节里，斯卡塞拉蒂揭开了“卡格”的神秘面纱。斯卡塞拉蒂使“卡格”具有智能和自主能力的零件一个接一个地停止运转。起初能和人进行眼神交流、模仿人类动作的机器人被肢解，最终成了一个木偶——匹诺曹男孩变成了木头、钉子和绳子。
1702421045
1702421046
那天之后，斯卡塞拉蒂向布鲁克和安德烈娅“询问情况”。他向这一对姐妹展示了“卡格”通过视觉监测仪能看到什么。然后遮盖住“卡格”的眼睛——两个近视相机、两个远视相机。这两个女孩子看着这4台相机逐一被遮住。随后，斯卡塞拉蒂给了她们可以控制“卡格”动作的计算机鼠标，她们可以开始“驾驭”它了。
1702421047
1702421048
不约而同的，这对姐妹让“卡格”的眼睛对准了她们。当她们从显示器中看到“卡格”正“看着”自己时，一开始安静、教条的语调被布鲁克的尖叫打破：“‘他’在看着我们！”而刚刚小心翼翼建立起来的“‘卡格’是一台机器”的感觉立即消失。即便这两个女孩子正在像操纵木偶一样控制这名机器人，她们将“卡格”看成了一个独立自主的主体，并确信它“喜欢”看着她们。
1702421049
1702421050
斯卡塞拉蒂接着进行情况询问，他试着说明，“卡格”的“喜欢与不喜欢”是由它的编程来决定的。他向女孩们说明，“卡格”的注意力集中的区域在计算机屏幕呈现为红色。而他们可以通过改变计算机程序对于事物价值的判定标准，从而改变哪些物品可以进入红色的区域，即获得机器人的注意。比方说，你可以告诉“卡格”去寻找同时具有红色属性和皮肤颜色属性的东西，这些条件经过组合之后就能使“卡格”找到一个穿红衣服的人。
1702421051
1702421052
尽管斯卡塞拉蒂向她们解释了原理，但这一对姐妹仍然认为这片红色区域是“一块能说明‘卡格’喜好的区域”，而且当“卡格”转向了她手的方向时，布鲁克很欣喜：“是的，‘他’喜欢我的手。”她们试着使“卡格”对一个彩色的毛毛虫标本感兴趣。让她们高兴的是，毛毛虫标本的确进入了“卡格”的红色区域。“卡格”还喜欢布鲁克的腿。但是她也为“卡格”不喜欢米老鼠玩具而感到沮丧。一方面，她理解“卡格”不感兴趣是因为米老鼠半红半黑的染色。因为黑色的部分使得它无法进入被程序筛选出的颜色之列。布鲁克说：“我知道，米奇只有一半是红色的。”但是她依然不停地说，似乎能够改变“卡格”的初衷。“我真的希望‘卡格’能喜欢米奇。我喜欢米奇，也许它也正在试着喜欢上米奇。”
1702421053
1702421054
科学家向孩子们演示了机器人背后的科学机制，正如电影《绿野仙踪》（The Wizard of Oz）里的那个著名片段，藏在魔法背后的那个人，秘密被揭开从而真相大白（在此次实验中，魔法背后的人正是机器人的原理）。孩子们依然还是会为“卡格”赋予生命。尽管斯卡塞拉蒂做了深入浅出的解释，孩子们还是宁愿相信“卡格”足够逼真，拥有自主意识和个性。在这个问题上，谁也无法说服他们。斯卡塞拉蒂想要使机器人的机能“透明”的努力，等同于告诉某人：他或她最好的朋友的思维是由电子脉冲和化学反应组成的。这样的解释也许被认为是准确的，但对于人际关系的交往来说却没有丝毫影响。
1702421055
1702421056
斯卡塞拉蒂关心的是“卡格”逼真的交流是一种假象，大多数他的同事持不同意见。他们希望制造出人类视之为同类的机器。他们认为机器人逼真的动作不是一场骗局，而是关系的推动者。在《理想国》（The Republic）中，柏拉图写道：“一切欺骗都可以说是附魔。”这句话反过来说也一样成立：一旦“卡格”开始施展魔法，它就会被人认为是同类。这就是迷惑、欺诈。
1702421057
1702421058
孩子们对这个观点应该不会感到陌生，这常常是许多童话故事的主要情节。在《哈利·波特》系列的第二卷里（这是一部关于训练有素的年轻巫师的童话），哈利的朋友金妮·韦斯莱在一次互动日记拼写中失利。她往日记里写，日记又写回来。这是ELIZA程序的魔法版本。即使是在一个由有生命的物体驱动的世界里（这里，照片上的人也能四处走动和交谈），也会产生警告。金妮的父亲也是一名巫师，他问道：“难道我没有教育过你吗？我以前是怎么跟你说的，不要相信任何会自己思考的东西，除非你能看到是什么在操纵它的大脑。”但是，太晚了。当有些东西好像自己会思考时，我们已经把它放在“与我们形成关系的事物”一类里面。然后我们抵制掌握有关机械原理的信息——或者一个细节，类似于是什么在控制它的大脑，为的就是防止我们与机器人的关系出轨。孩子们把“卡格”放到了一个“魔法环”里面。
1702421059
1702421060
当斯卡塞拉蒂把“卡格”变成一个步履蹒跚的木偶，展示着“卡格”的“大脑在哪里”时，孩子们记住的仍然是一个有自主能力和反应迅速的“卡格”。他们把“卡格”的功能故障视为生病，因此更要对它表现出支持。“共谋”的一部分表现是：当机器人坏掉时，为它“掩饰”。当“卡格”弄坏了它的胳膊，孩子们讨论的是它的“伤口”。他们挂念着它：“你觉得它需要，比如，绷带什么吗？”
1702421061
[
上一页 ]
[ :1.702421012e+09 ]
[
下一页 ]