1702421090
麦迪逊是一个9岁的小孩，她和“凯斯麦特”相处的那天，机器人的状态是最好的。它的面部表情反应灵敏而且恰到好处。它能记忆词语并用人类正常的说话节奏重复出来。结果看起来就像是麦迪逊正在热切地和一个人聊天，它的语调变化让她觉得机器人完全能够理解她。
1702421091
1702421092
麦迪逊轻声细语地问“凯斯麦特”：“你叫什么名字？你有爸爸妈妈吗？”“凯斯麦特”热情地回答了她。受到鼓舞的小姑娘继续提问：“那你有兄弟姐妹吗？”“凯斯麦特”把它的头摆动了一下，暗示麦迪逊它在回答“是”。麦迪逊告诉我们，“凯斯麦特”是一个小女孩（“她”是“从胃里出生”的），但“她”是一种新型人类的小女孩。而且和任何婴儿一样，“她”不知道“她”的生日是哪天。麦迪逊希望成为“她”称职的父母。“你喜欢冰激凌吗？”麦迪逊问，而当“凯斯麦特”轻轻地回答了这个问题时，“她们”开始继续讨论冰激凌的口味、最喜欢的颜色和玩具等。
1702421093
1702421094
麦迪逊开始把小玩具一个接着一个地放在“凯斯麦特”的面前，“凯斯麦特”不断变化的表情逗得她哈哈大笑。麦迪逊告诉“凯斯麦特”，学校里的有些女孩子非常刻薄；她说“凯斯麦特”比她们更友善。“凯斯麦特”感兴趣地看着麦迪逊，而且话语中充满了鼓励的语气。在这个温暖的氛围里，麦迪逊告诉“凯斯麦特”，希望能把它介绍给自己的小妹妹。麦迪逊说，和她的小妹妹玩，是她最喜欢做的事，而且她期望“凯斯麦特”也能有同样的感受。“凯斯麦特”点点头，并且发出快乐的、咕噜咕噜的声音。再一次，人们在客体上的情感投射成为了客体与主体的一场约定；罗夏心理测试般的心理投射让步给了真实的关系。
1702421095
1702421096
麦迪逊相信，“凯斯麦特”能够从每个与它一起玩的小朋友身上学到东西。但你不能没耐心。“婴儿学东西很慢。”她这样解释。“凯斯麦特”也像一个婴儿，学起来要花很多时间。“我教它如何微笑，‘凯斯麦特’还很小，但是它会长大的。”为了证明这些话，麦迪逊（和劳伦一样）将观察到的孩子们的学习过程，与其背后隐藏的复杂信息做了区别：“你无法通过整天看着他们，就知道他们在学什么。”这一点对“凯斯麦特”也适用。“凯斯麦特”正在“发自内心”地学习，即使我们看不见。一位母亲可以清楚地知道她的孩子的秘密。
1702421097
1702421098
在她与“凯斯麦特”一起玩的几个小时里，麦迪逊变得越来越高兴和放松。看着女孩和机器人在一起，很容易就认为“凯斯麦特”也有同样的感受。儿童和机器人是欢乐的一对。麦迪逊看起来就像是一位兴高采烈的妈妈，而“凯斯麦特”是一个心满意足的孩子。当然，比起之前到访过的那些孩子，“凯斯麦特”看起来似乎更喜欢麦迪逊。对于我来说，她们之间的对话是“第一次邂逅”研究中最“怪熟”的时刻。整个过程非常真实，因为“凯斯麦特”对冰激凌的口味、小妹妹或刻薄的女同学根本一无所知。但“凯斯麦特”也并不“喜欢”麦迪逊，因为它无法“喜欢”任何东西或者人。
1702421099
1702421100
通过“失望”和“愤怒”塑造一个你
1702421101
1702421102
在这个研究中，儿童们对是否能得到机器人的关注和喜爱的在乎程度，远远超过我的想象。因此，他们把机器人失灵视为“生病”，这种解读方式相当巧妙；即使机器人一走了之，孩子们也不会感到被拒绝。但是，最脆弱的儿童会以一种非常私人的方式，表达他们对机器人的失望。这些被机器人的冷漠伤害得最深的孩子，恰恰就是那些感觉自己最没这种可能的孩子。他们对“凯斯麦特”和“卡格”能否认出或回答他们，几乎是绝望了。由于这个研究中的儿童们的家庭背景十分丰富，有些孩子甚至告诉我们，他们在麻省理工学院的实验间歇得到的小点心，是他们这一天最好的一餐。有些孩子也相当清晰地表达出了他们在麻省理工学院的时光，是这一周里他们得到关注最多的时光。无论是富裕家庭还是普通家庭的孩子，都很少从与父母的家庭交谈中受益，甚至很少见到父母。当这些孩子把机器人的机械故障视为“拒绝”时，他们开始愁眉苦脸、情绪低落，或者怒从中来。有些发火甚至相当愚蠢，不合时宜。
1702421103
1702421104
在其中一个与“凯斯麦特”相关的研究环节，我的现场笔记记录下了研究团队中的几位初级成员——两个大三学生和两个研究生之间的对话。在女孩埃丝特尔的环节结束后，团队开了一个紧急会议，由于“凯斯麦特”带来的失望，这个女孩被激怒并狂吃狂喝，甚至自闭。团队成员感到有责任帮助她。怎样处理这个问题呢？她想要什么？一个朋友？还是一个希望？我的团队在当地一家咖啡馆开会讨论这个问题——由于把一个孩子抛给了一个因为机械故障而表现出对她不感兴趣的机器人，从而产生的道德伦理之争。
1702421105
1702421106
我们已经花了整个下午和这个12岁女孩埃丝特尔在一起。她是从课外活动中心的公告栏里看到了我们试验的宣传单：“邀请小朋友参加实验，和麻省理工学院的机器人见面！”她把宣传单带给指导老师并要求参加这个实验。埃丝特尔告诉我们，她在说麻省理工学院的时候，一直盯着她的指导老师。为了参加实验，埃丝特尔做了精心的准备。她穿上了最好的衣服，她的头发梳理得很精致。当我们选中她时，她简直迫不及待地要迎接“这美好的一天”。她从来没有到过麻省理工学院，但是她知道这是一个“非常重要的地方”。她家里没有人上过大学：“目前为止，我是第一个进入大学的人。”
1702421107
1702421108
埃丝特尔来到麻省理工学院的这一天，“凯斯麦特”可以表现出复杂的面部表情动作，但是它的发音系统并不在最佳状态。我们向埃丝特尔说明了“凯斯麦特”的技术故障，但是尽管如此，她还是倾尽全力想让“凯斯麦特”开口说话。当她的努力一无所获时，她开始一声不吭，闷闷不乐。她进了一个房间，我们会在见到机器人之前和之后，在那里询问孩子一些问题。在这个房间里，我们摆放了一些简单的小点心。埃丝特尔开始吃东西，不停地吃东西，直到我们让她为其他孩子留一些薄脆饼干、甜面包和果汁。她停了下来，但是很快地，当我们等待送她回到课外活动中心的车辆服务时，她又开始吃起来。她告诉我们机器人不喜欢她。我们解释说，事情不是这样的。但她仍然无法平静。从她的观点来看，她在她最重要的一天里失败了。当埃丝特尔离开时，她从我们的供应盒里拿走了4包饼干并把它们放在自己的背包里。我们没有阻止她。我们反复开会，筋疲力尽，反复追问自己一个艰难的问题：一个坏了的机器人会伤害一个孩子吗？我们从未设想过这样的道德问题，正如把一个孩子与一个坏了的微软程序或是一个破布娃娃放在一起时，我们不会设想这样的问题。但是社交机器人引发了人类真实的感情。这使我们意识到，进行这样的道德追问可能是有必要的。
1702421109
1702421110
同样的问题也发生在12岁的小孩利昂身上。和他的年龄相比，他显得胆小、羞怯、个子不高，平时看起来有点孤僻。和“卡格”在一起时，利昂看到的是另一个“可能没有太多朋友”的人。利昂说他们可以好好聊聊。但是和埃丝特尔一样，利昂来到实验室的日子也不对，“卡格”举止古怪而且表现得非常让人厌烦。这个没有安全感的孩子很快就相信，机器人对他不感兴趣。我们之前已经向利昂展示了“卡格”的内在工作原理，而且斯卡塞拉蒂也轻轻地提醒利昂：“卡格”的“兴趣”是事先由人在程序中设定好的。利昂看到了监测器上显示的、事先设定好的数值，但是他仍然坚持认为“‘卡格’对他并不在乎”。当他看到“卡格”看着另一个高个子、金黄头发的研究者时，他突然因为妒忌而发怒，即使斯卡塞拉蒂指着这个研究者的红色T恤衫，告诉他这才是真正吸引“卡格”看过去的原因，利昂也不能集中注意力在他的解释上。他坚持认为，“‘卡格’喜欢”这个研究者，不“喜欢”他。他的焦虑不安使他对机器人产生了一系列幻想。
1702421111
1702421112
为了弄清楚“卡格”究竟是否在乎他，利昂加入了另一个实验。他上下挥动手臂，等待“卡格”重复他的动作。“卡格”随后也舞动手臂，当机器人的手臂动起来的那一刻，利昂马上就把头放在它舞动的路线上。这是一次关于爱的测试：如果“卡格”在打到他之前就停了下来，利昂就可以肯定地说“卡格”是在乎他的；如果“卡格”失手打到了利昂，“卡格”就是不喜欢他的。利昂飞快地移动到他想测试的位置上。我们被这个孩子危险的举动吓了一跳，赶紧出来阻止他。好在“卡格”的手臂在碰到利昂的头之前就停了下来。研究人员长舒了一口气。利昂简直欣喜若狂。现在他知道“卡格”并不是冷若冰霜的。由于太过高兴，他喊了一声：“卡格！”而此时机器人也转向了他，他叫了起来：“它听到我了！它听到我了！”
1702421113
1702421114
在和“卡格”相处一小时之后，利昂开始不停地琢磨一个问题：他与“卡格”在一起的时间是否足够长，从而让“卡格”对他留下持久的印象？他的想法又回到了那个高个子、金黄头发、整天和“卡格”在一起的研究人员身上。利昂肯定地认为，“卡格”已经爱上她了。利昂这样责备她：“‘他’一直在盯着你。‘他’爱上你了。”利昂又冒出一个新主意：“‘卡格’是一个‘男孩’，所以显而易见的，‘他’爱女孩比爱男孩要多一些。”至少这是一个能解释他为什么希望渺茫的理由。利昂想知道他和“凯斯麦特”在一起时，是不是结果会不一样。因为“凯斯麦特”有洋娃娃一样的眼睛、红嘴唇和长长的眼睫毛，因而通常被视为女性。
1702421115
1702421116
许多儿童都有办法和一个说话结结巴巴的机器人相处，想象着他们自己就是家长、老师或者医务人员。但是埃丝特尔和利昂不一样，当他们没有被机器人“认出来”时，会感到非常沮丧。其他孩子则是带着愤怒、筋疲力尽地坚持尝试。爱德华是一个6岁的小男孩，虽然个子比同龄孩子矮小，但却精力充沛。从一开始，他就表明自己想“和机器人相处得非常完美”。他的父亲告诉我们，无论是在家里还是在学校，爱德华都喜欢“做主”。他举止粗野而且有时和人打架。他和“凯斯麦特”的见面没有任何开场白，而是径直走向“凯斯麦特”并问道：“你会说话吗？”当“凯斯麦特”没有回答时，爱德华提高嗓门重复了他的提问。“凯斯麦特”只是看着空气。再一次，爱德华问：“你会说话吗？”这一次，“凯斯麦特”又发出它那让其他孩子激动或困惑的含糊声音。爱德华可不想只得到这种回应。他试着理解“凯斯麦特”：“什么？”“再说一遍？”“你想说的是什么？”“噢？你在说什么？”几分钟以后，爱德华意识到“凯斯麦特”说得很荒唐。他告诉机器人：“闭嘴！”然后，爱德华拿起实验室里的东西塞进“凯斯麦特”的嘴里——先是一个金属钉，然后是一支铅笔，以及一个毛虫玩具。他大声叫喊：“嚼碎它们！嚼碎它们！”
1702421117
1702421118
比爱德华大6岁的肖恩也有类似的反应。他和两个弟弟一起来到实验室，当他们一起等待与机器人见面时，他不断地侮辱弟弟们。当肖恩见到“凯斯麦特”时，他冷静下来，他的语调也变得友好：“你叫什么名字？”但是“凯斯麦特”却不作声，肖恩开始恼怒。他蒙住了作为“凯斯麦特”眼睛的摄影机，并命令它：“说话！”“凯斯麦特”依然沉默。肖恩也沉默地坐了下来，像盯着一个敌人一样盯着“凯斯麦特”。突然，他开始大喊大叫：“说‘闭嘴’！说‘闭嘴’！”“说‘你好’！……说‘啊’！”房间里的大人都沉默了。我们并没有限制孩子说什么和不能说什么。突然，“凯斯麦特”说了一句“你好”。肖恩笑了，并试着让“凯斯麦特”再说一遍。当“凯斯麦特”没有反应时，肖恩就把他的笔塞进“凯斯麦特”的嘴里。“这里！吃掉这支笔！”肖恩和爱德华一样，对此乐此不疲。
1702421119
1702421120
从分析埃丝特尔和利昂的角度来看，爱德华和肖恩尤其渴望被关注、对生活的控制力以及人际关系。而且，当机器人令他们失望时，他们的反应比其他孩子更激烈。当然，这没有错。但是这一解释把所有的原因都归结到孩子身上。另一个分析这一状况的方法，是把更多的原因放在我们身上。如果机器人已经达到了最高级形态，我们为这些孩子提供的又是什么呢？爱德华和肖恩是“班级恶棍”，孩子们都害怕的坏蛋。但是这些男孩是孤独的。作为坏蛋，他们是孤立无援的，经常独自一人或是被那些不是朋友、但受他管控的家伙们簇拥着。他们认为机器人是有力量的，有技术的，而且可能是昂贵的。想想能控制机器人一类的东西，真让人激动。对他们来说，一个社交机器人就是一个潜在的朋友——一个不会要求太多回报、可以信赖、而且从来不会拒绝他们的朋友。但是就像缺乏安全感的埃丝特尔和利昂，他们是一群最需要成人模式关系的小孩，在这个模式里，控制力并不是最主要的。我们最初把机器伙伴推荐给他们的目的是什么呢？从这个角度来看，问题并不局限在机器人卡壳的时候。脆弱的孩子们始终是无助的，即使是在机器人运转良好的时候。
1702421121
1702421122
机器人无法成为真正的“朋友”
1702421123
1702421124
在机器人实验室里，儿童的周围围绕着和机器人说话、教育机器人的成年人。儿童很快就明白了“卡格”需要布莱恩·斯卡塞拉蒂（研究人员的名字），而“凯斯麦特”需要的是辛西娅·布雷齐尔（研究人员的名字）。这些孩子想象斯卡塞拉蒂和布雷齐尔是机器人的父母。实际上，他们俩即将离开人工智能实验室，他们已经是研究生了，而且即将走上教师岗位。
1702421125
1702421126
布雷齐尔将会留在麻省理工学院，但是要离开“媒体实验室”旗下的“人工智能实验室”。这两个人将各奔前程，但是学术著作权要求把“凯斯麦特”和“卡格”留在支付了开发费用的实验室。这个夏天的“第一次邂逅”研究也是布雷齐尔最后一次和“凯斯麦特”接触的机会。布雷齐尔说自己有一种强烈的失落感。即使再造一个新的“凯斯麦特”，也不会一模一样。因为这台“凯斯麦特”是她从一个“孩子”开始一手“养大”的。她说自己没办法安心地离开“凯斯麦特”，除非可以确定她的继任者会好好照顾它。
1702421127
1702421128
对布雷齐尔来说，分别不是一件容易的事，这容易理解；但是更引人注目的是，对于那些天天和“凯斯麦特”泡在一起的人来说，想象机器人没有她的日子真的很难。一个10岁的孩子偶然听到了一段研究生之间的谈话。他们谈到被独自留在实验室里时“凯斯麦特”在静静地抗议：“因为辛西娅是‘凯斯麦特’的妈妈。”如果看到布雷齐尔与“凯斯麦特”之间的互动，会感到一种母亲般的情感维系，被布雷齐尔形容为“超越了与一台机器的情感”。她知道“凯斯麦特”的每一个动作，但“凯斯麦特”也常常带给她出其不意的惊喜。她的经历使人回想起布莱恩·奥尔迪斯（Brain Aldiss）的一部经典科幻小说——《整个夏季的超级玩具》（Supertoys Last All Summer Long），这部小说被史蒂文·斯皮尔伯格改编为电影《人工智能》之后声名鹊起。在《人工智能》这部电影中，科学家们制造了一个人形的机器人“戴维”，它的程序里有“爱”的功能。“戴维”向从小收养了它的、一个叫莫妮卡的女人表达了爱。
1702421129
1702421130
这部电影想要传递的最急迫的主题，并不是一个机器人将来有可能去“爱”——我们离制造机器人“戴维”这样的水平还很遥远，而是莫妮卡感受到了什么。莫妮卡是人类，她回应了一台机器人的请求，照顾它，养育它。她对一台向她伸手的机器人作出回应，是爱与依恋这两种情感的复杂混合。
1702421131
1702421132
把布雷齐尔和莫妮卡的处境放在一起，很容易做一个简单的类比。布雷齐尔可能是现实生活中获得类似小说中这种体验的第一人：它由你一手养育，并结出了深厚的感情，却要被迫与你分离。可以说，这种情感背后的原因并非“凯斯麦特”的人工智能水平，而是因为布雷齐尔的经历使然。简单地说，布雷齐尔“养育”了“凯斯麦特”。但即使是如此有限的经历也激发了强烈的情感。养育一台机器的经历，把我们塑造成了它的父母。这种新型的关系生成了一套自己的发展路线，吸引着我们成为机器的“共谋者”，使这一切梦想成真。我们被要求去抚育机器人，我们也想提供帮助，我们也可以与之配合，也愿意尊重机器人的一举一动。
1702421133
1702421134
在小说和神话里，人类想象他们自己“扮演上帝”并创造出新的生命形式。现在，在现实中，社交机器人显示了巨大的活力。我们创造出的东西，已经可以成为与我们平等的“它者”，而非我们在它之上行使上帝般的权力。当这些机器人进化得更加精密、复杂时，它们为人类服务的能力更加精巧时，这种感觉就会更强烈。我们被人性所驱动，给予这些机器人一些关怀，就像我们人与人之间的关怀一样。因为我们渴望付出和回报，我们希望它们也能反过来关心我们，就像我们照顾它们一样。同时，它们也能伤害我们。
1702421135
1702421136
我之前记录过麦迪逊和“凯斯麦特”之间令人震惊的互动故事，以及那些极其渴望机器人关注的、孩子们的绝望无助。机器人“卡格”和“凯斯麦特”很成功，与孩子们“真实”地建立起了人际关系。机器人的成功让我犹豫，我期待人类最穷苦的人群之间发生“对话”——例如那些地位低下的年轻人、缺少食物的老年人、精神残疾和生理残疾的人，甚至包括逼真传神的社交机器人。机器人专家希望我们考虑一个“最佳案例”设想，在这个设想中，机器人伙伴扮演“顾问”的角色，首先介入的是那些更复杂的情境。甚至“真宝”也被营销鼓吹成一个能教你的孩子“如何社会化”的机器人。我对此持怀疑态度。我相信社会型机器人的技术会让人失望，因为它承诺的是它不能兑现的东西。它承诺给人类带来友谊，但是它只能带来表演。我们真的想制造那些永远不可能成为我们朋友的“朋友”吗？
1702421137
1702421138
机器人专家会争论说，人类与机器人交谈是没有坏处的；谈话可能会很有趣，很幽默，有教育意义，或者给人以安慰。但是我不这么认为。机器扮演朋友的角色，这是对人类友谊的一种贬低。我们喜欢谁，谁喜欢我们，这些问题决定了我们是谁。当麦迪逊在与机器人“凯斯麦特”的感情中获得快乐时，我实在高兴不起来。我感到自己正在这个实验的阴影下，仅仅只是开始，在这个实验里，人类是被研究对象。
1702421139
[
上一页 ]
[ :1.70242109e+09 ]
[
下一页 ]