1704611279
1704611280
如果这样，他希望：“发明意识上传相当于发明了盘尼西林。”在会谈将结束时，海沃思对我说：“这必须要做，每个人都会明白，这才是该做的事。我们将难以想象在它做成之前我们曾经在怎样生活。”
1704611281
1704611282
1704611283
1704611284
1704611286
人工智能：改变世界，重建未来 第八章 人工智能关乎未来的一切
1704611287
1704611288
2014年11月，时年43岁的特斯拉汽车和太空探索技术公司首席执行官埃隆·马斯克在未来学网站Edge.org上发出一条在线评论。“人工智能的进步……快得出人意料，”他写道，“除非你直接接触DeepMind这样的团队，否则你根本不知道这种步伐有多快，人工智能正在以近乎指数级的速度增长。未来5年就有可能发生一些非常危险的事情，最多不会超过10年。我并不是在对着我不懂的事情高喊‘狼来了’，也不是只有我一个人在考虑我们应该警惕起来。领先的人工智能公司已经在大力采取措施确保安全。它们意识到了危险，但它们是否可以规划和控制数字超级智能，并能够阻止恶意智能逃进互联网，这一点还有待证实……”
1704611289
1704611290
几分钟之后，他删除了这条消息。马斯克有很多特点，而且许多特点都很不错，而这些特点中绝对不包括孤陋寡闻。过去几年间，他领导的这家电动汽车企业对多家机器智能公司进行了投资，包括上文提及的DeepMind，这是一家深度学习公司，在前面章节已经介绍过它的工作内容。马斯克个人资产净值约为112亿美元，他说，他对人工智能进行投资不是为了获得投资回报，而是为了获得消息。“我喜欢密切注意人工智能的发展进程，”他对美国CNBC（全球性财经有线电视卫星新闻台）如是说道，“我认为人工智能可能会造成比较危险的后果。”
1704611291
1704611292
埃隆·马斯克并非唯一担心制造会思考的机器可能会造成尚不为人所知的危险的人。著名物理学家斯蒂芬·霍金（Stephen Hawking）是另一位表达保留意见的名人。“人们可以设想这样一种技术，它比金融市场更聪明，发明能力比人类研究人员更强，控制能力比人类领导更强，而且可以开发我们无法理解的武器。”他在2014年5月写道，“人工智能的短期影响由其控制人员决定，而长期影响则由人工智能是否完全被人控制所决定。”
1704611293
1704611294
霍金的许多观点都与本书一直讨论的人工智能的发展密切相关。如上文所说，伴随着神经网络的崛起，人工智能在金融市场的应用发生在20世纪80年代。在某些场合，人工智能确实证明了其无与伦比的发明能力，尤其是在处理基因算法时。人类的操控者可以只将重要的任务移交给即将管理我们生活的人工智能助理，与此同时，自人工智能出现之日起，人工智能武器的开发就一直是这个领域的目标之一。
1704611295
1704611296
霍金与马斯克着重强调了所谓的通用人工智能（Artificial General Intelligence，简称AGI）。到目前为止，本书中描述的所有人工智能应用都属于“狭义人工智能”或“弱人工智能”。这种称呼与该技术是否强大无关。正如我们在前几章看到的，今天，深度学习神经网络比构成传统人工智能的符号处理人工智能稳定许多倍。而“狭义”与“广义”或“强”与“弱”之分归结于智能的通用性。人工智能现在可以在很多特定领域打败人类，包括下棋和在电视节目《危险边缘》上回答问题。人工智能的应用范围一直在不断壮大，而且未来数十年内可能会覆盖当前一半的就业领域。
1704611297
1704611298
然而，尽管不同于只在小范围内有用的早期人工智能，这种狭义人工智能仍然可以进行扩展，从而在现实世界中发挥作用，但是这种人工智能仍然有明显的局限性，那就是只能用于单一且严格限定的领域。这里有个简单的例子，下棋人工智能虽然可以击败人类象棋大师，但它们在简单的翻译任务中则一无是处。如果你突然要求生产iPhone的机器人去画画，它可能也同样会非常失败。即使是旨在处理多任务的人工智能助手Siri等人工智能，如果你偏离了程序所预设的脚本，它也会变得混乱。尽管这些系统已经获得了惊人的海量数据和计算能力，但是它们缺乏基本的人类特质，比如不能从少量训练例子中总结规律，这就是为什么计算机科学家正在构建更多类生物学大脑算法。
1704611299
1704611300
那么通用人工智能中的“通用”有什么含义呢？与狭义、单领域人工智能应用相比，通用智能将表现出更广的、类人的智能。“通用问题解决者”就是这样一款人工智能。1959年赫伯特·西蒙、J. C. 肖（J. C. Shaw）和艾伦·纽维尔（Allen Newell）将一款人工智能软件乐观地命名为“通用问题解决者”，它能够在很多环境中运行，甚至在许多我们没有预测到的环境中运行。一言以蔽之，通用人工智能不是要建造思考的机器，而是要建造比我们人类更聪明的机器。
1704611301
1704611302
1704611303
1704611304
1704611306
人工智能：改变世界，重建未来 末日的开端
1704611307
1704611308
“当我们建造的机器比我们更聪明、更有能力时会发生什么”这一问题存在的时间比人工智能的存在时间还长。第一个围绕“机器人”的故事是卡雷尔·恰佩克（Karel Čapek）于1920年创作的科幻剧本《罗素姆的万能机器人》。在故事的结尾，人工智能发动了反抗人类的起义，并接管了地球。人类在这个过程中最终被全部消灭。比它还早的是玛丽·雪莱（Mary Shelley）在1818年创作的小说《弗兰肯斯坦》（Frankenstein），又称《现代普罗米修斯》（The Modern Prometheus）。她在拜伦勋爵的家里消夏时完成了这部小说，小说讲述的是一位年轻的理工科学生的故事，他创造了一个科学生物，这个生物最终变成了杀人狂。“弗兰肯斯坦情结”已经成为一个术语，用于描述人类对于人造产物的恐惧。它后来成了经久不衰的主题，从艾萨克·阿西莫夫（Isaac Asimov）的科幻小说到《侏罗纪公园》（Jurassic Park）的作者迈克尔·克莱顿（Michael Crichton）创作的惊险小说，以及最近上映的《机械姬》（Ex Machina）中都有它的身影。
1704611309
1704611310
真正的科学家不会像科幻小说作者那样非常迅速地考虑这个问题，但他们并没有落后太远。1964年，也就是举办纽约世界博览会的那年，控制论之父诺伯特·维纳预测：“未来的世界将会有一场突破智力局限的更紧迫的斗争，未来没有悠闲的生活，可以让我们躺着等待机器奴隶的服侍。”
1704611311
1704611312
维纳于1964年5月辞世，享年69年。然而，对超级智能机器的担忧依然在继续。1965年，英国数学家欧文·约翰·古德（Irving John Good）详细解释了部分担忧。“二战”期间，他与艾伦·图灵在布莱切利公园工作。他在破解纳粹密码方面发挥了重要作用，多年之后，留着小胡子的古德拥有了一辆车牌为007IJG的车，这个车牌仿佛是对他曾经的“绅士特工”岁月的一种戏谑的致敬。1965年，古德撰写了一篇论文，在文章中他阐述了超级智能机器对世界来说意味着什么。他将人工智能定义为能够胜任所有人类才能进行的智能活动的计算机。在一段广为流传的文章中，他写道：“既然机器设计也是一项智能活动，那么超级智能机器应该可以设计出更好的机器。毫无疑问随后将会出现一个‘智能爆炸’，人类的智能可能被远远甩在后面。因此，第一台超级智能机器是人类需要完成的最后一项发明。”
1704611313
1704611314
“智能爆炸”已经成为部分研究人员非常赞同的看法。本质而言，它的含义是，当超级智能机器不可避免地被制造出来时，既有的超级智能机器将设计能力更强的机器，要不然就是重新编写自己的软件，从而变得更加智能。这种不断发生的自我完善随后会使得机器的能力发生惊天动地的质变，并会加速这种质变。人类的智能在这个过程中将相形见绌。
1704611315
1704611316
古德的论文及其激起的讨论有着很多不确定的地方。因为超级智能机器可以解决我们人类预想中可能会面对的所有问题，所以超级智能机器就是我们需要进行的最后一项发明吗？还是因为它会将我们全部消灭，所以才会成为我们的最后一项发明？古德在此后曾担任斯坦利·库布里克的电影《2001：太空漫游》的顾问，也许我们可以从中找到一些线索。在这部电影里，名为HAL9000的人工智能变成了杀手，开始杀戮它的人类队友。
1704611317
1704611318
1704611319
1704611320
1704611322
人工智能：改变世界，重建未来 奇点来临
1704611323
1704611324
古德的论文发表后一年，一篇短篇小说发表在1966年3月科幻期刊《模拟科学》（Analog Science Fiction）上。《书呆子快跑》这篇小说讲述了一个大脑的故事，由于被直接放进了计算机数据源之中，大脑的能力被人工增强了。这是科幻作家、数学教授及计算机科学家韦尔诺·文奇（Vernor Vinge）出版的第一本小说，小说名字直接源自“漫威漫画”（Marvel Comics）中的头韵玩笑。文奇随后成了一个成功的小说家，但他仍然以1993年的纪实散文《技术奇点即将来临：后人类时代生存指南》而闻名于世。这篇散文叙述了许多古德已经提出的超级智能机器的理念，但增加了时间轴。“30年内，我们就将获得创造超级智能的技术方法，”文奇写道，“之后不久，人类时代就将终结。”
1704611325
1704611326
“奇点”（Singularity）这个术语指的是机器在智能方面超过人类的那个点，它已经成了人工智能的一个参考，其被应用的普遍性不亚于“图灵测试”。通常人们认为这是文奇的功劳，但实际上使用这个概念的第一位计算机科学家是约翰·冯·诺依曼。在冯·诺依曼人生的最后10年里，他和波兰裔美国数学家斯坦·犹拉姆（Stan Ulam）有过一次会谈，他们共同参与了“曼哈顿计划”（Manhattan Project）。犹拉姆随后在回忆这次对话时指出，冯·诺依曼曾痴迷或者说担心“不断加快的技术发展与人类生活模式的变化，这看起来似乎接近了人类历史上某个必要奇点，到了那个时候，就我们所知，与人类有关的事务会难以为继”。
1704611327
1704611328
和古德一样，韦尔诺·文奇在其1993年的文章里并没有得出明确的结论。如果出现奇点，他承认它的影响可能是好的，也可能是坏的。“从某个角度看，其前景符合我们很多最幸福的梦想。”他写道：“（它很可能）营造一个无限美好的地方，让我们能够真正了解彼此，并了解最神秘的事物。但是从另一个角度，它也很可能造成最糟糕的情况。”
[
上一页 ]
[ :1.704611279e+09 ]
[
下一页 ]