1700513915
AI·未来 [:1700512287]
1700513916
AI·未来 06 乌托邦、反乌托邦和真正的人工智能危机
1700513917
1700513918
1700513919
1700513920
1700513921
上一章提到的所有人工智能产品和服务都可通过现有技术实现了，将它们投放到市场上已经不需要人工智能研究的重大突破。这些产品和服务进一步激发了大众对于人工智能的想象力。它们使大众相信：现在距离实现人工智能研究的终极目标——强人工智能（AGI）只有一步之遥；作为有思维能力的机器——强人工智能有能力执行任何人类可以完成甚至人类都无法完成的任务。
1700513922
1700513923
有人预测，随着强人工智能迎来曙光，具备自我完善能力的机器会触发计算机智能发展的“奇点”——出现一种理解和操纵世界的能力让人类相形见绌的机器，人类与它们的智力差距差不多就是昆虫与人类的差距。这一大胆的预测将知识界分为两个阵营——乌托邦人士和反乌托邦人士。
1700513924
1700513925
乌托邦人士将强人工智能的开端和之后的奇点看作人类繁荣的前沿阵地，认为这是人类进一步拓宽智识和永生的机会。谷歌首席未来学家雷·库兹韦尔（Ray Kurzweil）设想了一个极端的未来，他认为人类和机器将完全融合。他预言，我们会将自己的思维上传到云，通过放入我们血流中的智能纳米机器人不断更新我们的身体。而现在距离实现强人工智能只差10年，2045年，我们将会迎来奇点时刻。(1) 另一些乌托邦思想家认为强人工智能可以快速解开物理宇宙的未解之谜。DeepMind创始人哈萨比斯则预言，创造超级智能可以让人类文明解决目前无解的难题，如为全球变暖和不治之症带来绝妙的解决方案。拥有超越人类想象力且可以更大程度地理解宇宙的超级能力后，这些机器就不再只是减轻人类负担的工具，它们更接近于全知全能的上帝。
1700513926
1700513927
不是所有人都如此乐观。埃隆·马斯克将超级智能称为“人类文明面临的最大风险”(2) ，他将创造超级智能比为“召唤恶魔”(3) 。已故的宇宙学家斯蒂芬·霍金（Stephen William Hawking）也加入了反乌托邦阵营。他们之中许多人都受牛津大学哲学家尼克·波斯特洛姆（Nick Bostrom）的著作《超级智能》(4) 启发。波斯特洛姆在书中展示了对人工智能研究人员的调查结果。他们预测的中值是在2040年创造出强人工智能，超级智能可能会在此后30年内出现。这本书吸引了众多未来学家。反乌托邦阵营中的大部分人其实并不担心人工智能会像《终结者》（The Terminator ）等科幻电影中想象的那样接管世界，他们真正恐惧的是如果人类本身成为超级智能实现某一目标的障碍，例如改变全球变暖，它们可以轻易甚至是无意中将人类从地球上抹去。对于想象力远超人类的计算机程序而言，抹杀人类根本不需要像电影中持枪机器人一样粗鲁。对于化学、物理和纳米技术的深刻理解，让它们可以用巧妙得多的方式立即完成任务。
1700513928
1700513929
尽管对强人工智能实现的时间各执一词，但这并不妨碍上述乌托邦和反乌托邦构想在人们心中激荡出惊叹和畏惧之情。这种强烈的情感甚至模糊了人类关于人工智能的幻想与现实水平之间的界限，也混淆了现状与需要思考的未来方向。
1700513930
1700513931
AI·未来 [:1700512288]
1700513932
人工智能发展现状
1700513933
1700513934
请本书的读者放心，我认为万能的超级智能在当前技术下还不可能实现。目前还没有已知的强人工智能算法或明晰的工程路线可以实现这些构想。人类的独特性并不是突然自发产生的，就像自动驾驶汽车不可能在深度学习过程中突然“醒悟”——“啊，我们（自动驾驶汽车）可以联合起来形成一个超级智能网络。”
1700513935
1700513936
实现强人工智能需要大量的人工智能基础科学的突破，以及深度学习的一连串巨大进步。这些突破与进步需要去除目前弱人工智能的能力天花板，赋予它们更强大的新能力，如多域学习、泛领域学习、自然语言理解、常识推理、规划以及通过少量示例学习。下一步发展情感智能机器人可能需要赋予它们自我意识、幽默感、爱、同情心和审美。这些都是阻碍当前人工智能发展成为强人工智能的关键障碍。每一项新能力的实现都可能需要多项重大突破，真正的强人工智能则意味着解决一切此类障碍。
1700513937
1700513938
许多针对强人工智能预测的错误，在于简单地以过去10年深度学习的高速进步推断未来，或者认为计算机智能会以不可阻挡的滚雪球方式呈现指数式增长。深度学习代表了机器学习的一个重要升级，但没有证据证明这样的升级代表了强人工智能快速发展的开始。
1700513939
1700513940
科学研究不是易事，基础科学的突破更是难上加难。像深度学习这类真正让机器智能更上一层楼的发现极其少见，通常需要数十年的发展甚至更长时间。自杰弗里·辛顿发表关于深度学习的里程碑式论文之后的12年(5) ，我还没有看到机器智能领域出现任何可与之比肩的重大进步。
1700513941
1700513942
接受波斯特洛姆调查的人工智能科学家们预言实现强人工智能的中位时间是2040年。但我认为他们高估了学术论证转化为广泛应用的速度。就像在20世纪80年代，作为世界领先的人工智能语音识别研究人员加入苹果公司时，我认为这项技术会在5年内成为主流，结果却延误了整整20年。
1700513943
1700513944
当然，另外，我也无法保证科学家们一定不会取得非常规的突破，创造出强人工智能甚至超级智能。不过我相信距离真正实现的那一天还有几十年甚至上百年，甚至永远无法实现。
1700513945
1700513946
强人工智能会是人机关系的一个重大转折点，许多人预测这会是人类史上意义最重大的一件事。我认为除非彻底解决了所有控制问题和安全问题，人类不应该跨越这个点。人工智能未来不会只有稳定的实质性进展和辉煌的人类繁荣；相反，我认为人类文明很快就会面临人工智能引起的危机。这场危机虽然不会带来好莱坞大片里的末日场景，却会以同样惊人的规模破坏经济和社会，甚至会触及21世纪人类意义的核心。简而言之，这将是一场涉及工作和不平等的危机。
1700513947
1700513948
目前来看，我并不恐惧引起人类文明瓦解的杀人机器人，但我害怕人类的错误选择会将自身引向悲剧。幸运的是，考虑到进展相对缓慢的基础科学突破，即使将来会实现强人工智能或超级智能，我们也还有时间针对未来的危机进行讨论、分析和准备。
1700513949
1700513950
AI·未来 [:1700512289]
1700513951
《北京折叠》：科幻小说和人工智能经济学
1700513952
1700513953
清晨6点的钟声敲响时，这座城市将自身折叠收起。密密匝匝的水泥钢筋建筑从头到脚弯折然后绕轴扭曲。外部阳台和雨篷转为向内，形成完全密封的光滑外观。高楼分解成一个个部件，重新组合，蜷缩成致密的巨大魔方。
1700513954
1700513955
这些楼宇中生活着北京第三空间的居民，他们是下层的劳动人民，夜间辛勤劳动，白天睡觉。随着城市折叠自身，小块小块土地开始180度旋转，它们翻过来将缩成一团的建筑挤入地下。
1700513956
1700513957
当这些方块的另一面转向天空时，另一座城市就呈现在眼前。随着第一缕曙光爬上地平线，这座新的城市露出地表。树木成荫的街道，宽阔的公园以及漂亮的独栋房屋开始展开，直至完全覆盖地表。第一空间的居民从睡梦中醒来，伸了伸懒腰，看向窗外只属于他们的世界。
1700513958
1700513959
这些是中国科幻作家、经济学者郝景芳的幻想。她的中篇小说《北京折叠》因生动描述了不同经济阶层被分开，生活在不同的世界而获得了著名的雨果奖。(6)
1700513960
1700513961
在这个未来的城市，城市分为三个阶层，人们在不同的时间来到地面生活。生活在第一空间的500万精英居民可以在清晨6点到第二天清晨6点的整整24小时里生活在一个干净整洁的超现代城市中。第一空间折叠翻转后，第二空间的2000万居民开始在稍逊于第一空间的城市中工作生活16个小时。最后，生活在第三空间的5000万人口是清洁工、小摊贩和普通的劳动者。从晚上10点到清晨6点，他们奔波于摩天大楼与垃圾堆之间。
1700513962
1700513963
作为第三空间支柱的垃圾分类工作本可以完全自动化，但现在却是靠人工完成，这是为了给在此生活的不幸居民提供就业岗位。不同的世界之间是禁止跨越的，这就创造出了一个阶层明确的社会，第一空间的特权居民无须担心底层贫民会来污染他们的技术乌托邦。
1700513964