1700217065
心灵的未来 [:1700213103]
1700217066
心灵的未来 机器人会接管一切吗？
1700217067
1700217068
1700217069
在几乎所有的科幻小说中，机器人都是危险的，因为它们有接管一切的欲望。事实上，“机器人”（robot）这个单词来自于捷克语，意思是“工人”，首先出现在卡雷尔·恰佩克1920年的戏剧《罗素姆的万能机器人》（Rossum’s Universal Robots）中，戏中科学家们制造出一个与人类长得相同的机械新物种。很快，上千个机器人开始从事卑贱的和危险的工作。但人类对它们很不友好，最后它们奋起反抗，摧毁了人类物种。虽然这些机器人接管了地球，但它们有一个缺陷：无法繁衍。戏剧的最后，两个机器人相爱了。所以，也许一种新的“人类”又将诞生。
1700217070
1700217071
电影《终结者》提供了另外一种更真实的情景，由军队制造的超级计算机网络“天网”控制了美国的核武器库。有一天，它突然醒来，有了知觉。军队试图关闭天网，但发现程序中有一个漏洞：网络有自我保护设计，而为达到这个目的，唯一的方法就是消灭问题的来源：人类。它发动了核战争，最后使人类成为反抗机器主宰的一群乌合之众。
1700217072
1700217073
机器人当然可能成为威胁。当今的捕食者无人机可以精准地消灭目标，而人是在几千英里之外通过操作杆控制它的。根据《纽约时报》的报道，开火的命令直接由美国总统下达。但未来捕食者可能会应用人脸识别技术，如果它对目标身份的确信程度达到99％，它就有权开火。无须人类的介入，它可以应用这项技术自动向任何符合信息档案的人开火。
1700217074
1700217075
现在假设这种无人机出现系统崩溃，它的人脸识别软件发生故障。那它就变成了流氓机器人，有可能杀死出现在视野中的所有人。更为糟糕的是，设想这样一个由中央司令部控制的机器人战队。如果中央计算机中的一个晶体管元件烧坏，出现故障，那么整个战队就可能进行持续杀戮。
1700217076
1700217077
如果机器人顺利运行，没有故障，但它们的编程和目标有一些无关痛痒的缺陷，这时会出现更为微妙的问题。对于机器人来说，自我保护是一个重要的目标，同样重要的是保护人类。当这些目标相互冲突时，真正的问题就来了。
1700217078
1700217079
在电影《我，机器人》（I，Robot）中，计算机系统认定人类有自我毁灭的趋势，他们总是不断进行战争，发动暴行，保护人类物种的唯一办法是接管人类，建立由机器主导的温和统治。这种目标冲突不是发生在两个不同目标之间，而是针对一个不现实的目标出现的。这些具有杀人倾向的机器人没有出现故障，它们从逻辑上推理出保护人类的唯一方法是接管社会。
1700217080
1700217081
解决这个问题的一种方法是建立目标等级。例如，帮助人类的愿望必须排在自我保护之上。电影《2001：太空遨游》采用了这个主题。电脑系统HAL 9000（哈尔9000）具有感觉能力，能够与人类轻松沟通，但HAL9000接收到的命令是自相矛盾的，在逻辑上无法完成。在尝试达成不可能的目标的过程中，它从平台上掉了下来，它疯了，而要遵从由不完美的人类发出的矛盾的命令，唯一的办法是消灭人类。
1700217082
1700217083
最好的方法也许是建立一套新的机器规则，要求机器人不能伤害人类，即使这与它们之前收到的指示相矛盾。它们的程序必须能够忽略命令中一些等级较低的矛盾，并总是遵守那些最高的法律。不过在最好的情况下，这也仅是一个不完美的系统。（例如，如果机器人的中心任务是保护人类，而不管其他目标，那么这就取决于机器人怎样定义“保护”这个词。它们对这个词的机械定义与我们的定义可能不同。）
1700217084
1700217085
一些科学家，如印第安纳大学的认知科学家道格拉斯·霍夫施塔特（Douglas Hofstadter）博士并不担心这种可能性，他们没有表现出恐惧。在我对他的采访中，他告诉我，机器人是我们的孩子，所以我们为什么不能像爱自己的孩子一样爱它们呢？他告诉我，他的态度是我们爱自己的孩子，即使知道孩子将来会接管这个世界。
1700217086
1700217087
我采访了卡内基梅隆大学人工智能实验室前主任汉斯·莫拉韦克（Hans Moravec）博士，他同意霍夫施塔特博士的看法。在他的著作《机器人》（Robot）中，他写道：“我们思维的孩子（指机器人）从生物进化缓慢的步伐中走出来，将会自由地成长面对更大的世界中巨大而深刻的挑战……我们人类在一段时间内会从它们的劳动中获益，但……与我们自己的孩子一样，它们将寻找自己的命运，而我们这些老去的父母会默默地消失。”
1700217088
1700217089
与之相反，另外一些人认为这是一种非常糟糕的解决办法。也许在一切都还来得及时，如果我们对自己的目标和看重的事情做出改变，这个问题还是可以解决的。因为机器人是我们的孩子，我们可以“教导”它们和善些。
1700217090
1700217091
1700217092
1700217093
1700217094
心灵的未来 [:1700213104]
1700217095
心灵的未来 友好的人工智能
1700217096
1700217097
机器人是我们在实验室中制造出来的机械生物，所以我们制造出来的是杀手机器人还是友好机器人取决于人工智能研究的方向。很多研究资金来自于军方，专门用于赢得战争，因此可以确定的是确有出现杀手机器人的可能性。
1700217098
1700217099
不过由于全世界30％的商用机器人由日本制造，这就出现另外一种可能性：机器人可以在一开始就被设计成有用的玩伴和工人。如果由消费市场主导机器人科学研究，那么这个目标就有可能实现。“友好的人工智能”的理念是，从一开始，机器人制造者就应该编入使机器人对人类有益的程序。
1700217100
1700217101
在文化上，日本人研究机器人的方法与西方不同。西方的孩子在看到类似“终结者”那样暴躁的机器人时会感到恐惧，而日本儿童浸淫在神道教中，相信一切皆有神灵，即使机械的机器人也是如此。所以当日本儿童遇到机器人时，他们会兴高采烈地尖叫，而不是感到不自在。所以，这些机器人广泛地出现在日本市场和家庭中一点也不奇怪。它们出现在百货公司中，与你打招呼，出现在电视上，参与教育节目。日本甚至还有一部严肃的电视剧以机器人为主角。（日本接受机器人还有另外一个原因。这些机器人将会承担这个老龄化国家的护士任务。日本21％的人口超过65岁，而其老龄化的速度超过所有国家。在某种意义上，日本是一列蹒跚前行的破旧列车。这里有三个人口因素。第一，日本女性拥有这个世界上最长的寿命。第二，日本的出生率为世界最低。第三，日本有着严格的移民政策，99％的人口为纯种日本人。如果没有年轻的移民照料老年人，日本就只能依赖机器人护士。这个问题不仅限于日本，欧洲会是下一个。意大利、德国、瑞士和其他欧洲国家也面临着同样的人口压力。日本和欧洲的人口可能在本世纪中叶遇到最严重的缩减。美国也没有好到哪里去。本土美国公民的出生率在过去几十年中也快速下降，不过移民会使美国的人口在本世纪持续增长。换句话说，机器人是否能把我们从这三个人口噩梦中挽救出来，这可能是一个价值万亿美元的赌局。）
1700217102
1700217103
在制造进入个人生活的机器人方面，日本领先于世界。日本人制造出了可以做饭的机器人（一个机器人能够在1分40秒内做出一碗面条）。走进一家餐馆，你可以在平板电脑上点菜，然后机器人就快速行动起来。它拥有两个大型机械手臂，能够抓取碗、勺子和刀叉，然后为你准备食物。一些机器人厨师甚至能赶上人类厨师。
1700217104
1700217105
还有能够提供娱乐的音乐机器人。有一个音乐机器人真的拥有手风琴一样的“肺”，可以抽送气体，使其通过乐器产生音乐。还有机器人女佣。如果你把洗完的衣服仔细放好，它会在你面前把它们叠好。甚至还有可以说话的机器人，它有人工的肺、嘴唇、舌头和鼻腔。例如，索尼公司制造了AIBO（爱宝）机器人，它的形态像一只狗，如果你爱抚它，它可以记录下很多种情绪。一些未来学家预测，机器人产业有一天可能会发展到今天汽车产业的规模。
1700217106
1700217107
这里的重点在于不必要把机器人编程为摧毁型的或统治型的。人工智能的未来在于我们自己。
1700217108
1700217109
但是，一些人批评“友好人工智能”，认为机器人可能接管世界，并不是因为它们有侵略性，而是因为我们制造它们时太过粗心。换句话说，如果机器人接管世界，那会是因为我们把它们编成了具有对抗性的目标。
1700217110
1700217111
1700217112
1700217113
1700217114
心灵的未来 [:1700213105]