1700513930
1700513931
AI·未来 [:1700512288]
1700513932
人工智能发展现状
1700513933
1700513934
请本书的读者放心，我认为万能的超级智能在当前技术下还不可能实现。目前还没有已知的强人工智能算法或明晰的工程路线可以实现这些构想。人类的独特性并不是突然自发产生的，就像自动驾驶汽车不可能在深度学习过程中突然“醒悟”——“啊，我们（自动驾驶汽车）可以联合起来形成一个超级智能网络。”
1700513935
1700513936
实现强人工智能需要大量的人工智能基础科学的突破，以及深度学习的一连串巨大进步。这些突破与进步需要去除目前弱人工智能的能力天花板，赋予它们更强大的新能力，如多域学习、泛领域学习、自然语言理解、常识推理、规划以及通过少量示例学习。下一步发展情感智能机器人可能需要赋予它们自我意识、幽默感、爱、同情心和审美。这些都是阻碍当前人工智能发展成为强人工智能的关键障碍。每一项新能力的实现都可能需要多项重大突破，真正的强人工智能则意味着解决一切此类障碍。
1700513937
1700513938
许多针对强人工智能预测的错误，在于简单地以过去10年深度学习的高速进步推断未来，或者认为计算机智能会以不可阻挡的滚雪球方式呈现指数式增长。深度学习代表了机器学习的一个重要升级，但没有证据证明这样的升级代表了强人工智能快速发展的开始。
1700513939
1700513940
科学研究不是易事，基础科学的突破更是难上加难。像深度学习这类真正让机器智能更上一层楼的发现极其少见，通常需要数十年的发展甚至更长时间。自杰弗里·辛顿发表关于深度学习的里程碑式论文之后的12年(5) ，我还没有看到机器智能领域出现任何可与之比肩的重大进步。
1700513941
1700513942
接受波斯特洛姆调查的人工智能科学家们预言实现强人工智能的中位时间是2040年。但我认为他们高估了学术论证转化为广泛应用的速度。就像在20世纪80年代，作为世界领先的人工智能语音识别研究人员加入苹果公司时，我认为这项技术会在5年内成为主流，结果却延误了整整20年。
1700513943
1700513944
当然，另外，我也无法保证科学家们一定不会取得非常规的突破，创造出强人工智能甚至超级智能。不过我相信距离真正实现的那一天还有几十年甚至上百年，甚至永远无法实现。
1700513945
1700513946
强人工智能会是人机关系的一个重大转折点，许多人预测这会是人类史上意义最重大的一件事。我认为除非彻底解决了所有控制问题和安全问题，人类不应该跨越这个点。人工智能未来不会只有稳定的实质性进展和辉煌的人类繁荣；相反，我认为人类文明很快就会面临人工智能引起的危机。这场危机虽然不会带来好莱坞大片里的末日场景，却会以同样惊人的规模破坏经济和社会，甚至会触及21世纪人类意义的核心。简而言之，这将是一场涉及工作和不平等的危机。
1700513947
1700513948
目前来看，我并不恐惧引起人类文明瓦解的杀人机器人，但我害怕人类的错误选择会将自身引向悲剧。幸运的是，考虑到进展相对缓慢的基础科学突破，即使将来会实现强人工智能或超级智能，我们也还有时间针对未来的危机进行讨论、分析和准备。
1700513949
1700513950
AI·未来 [:1700512289]
1700513951
《北京折叠》：科幻小说和人工智能经济学
1700513952
1700513953
清晨6点的钟声敲响时，这座城市将自身折叠收起。密密匝匝的水泥钢筋建筑从头到脚弯折然后绕轴扭曲。外部阳台和雨篷转为向内，形成完全密封的光滑外观。高楼分解成一个个部件，重新组合，蜷缩成致密的巨大魔方。
1700513954
1700513955
这些楼宇中生活着北京第三空间的居民，他们是下层的劳动人民，夜间辛勤劳动，白天睡觉。随着城市折叠自身，小块小块土地开始180度旋转，它们翻过来将缩成一团的建筑挤入地下。
1700513956
1700513957
当这些方块的另一面转向天空时，另一座城市就呈现在眼前。随着第一缕曙光爬上地平线，这座新的城市露出地表。树木成荫的街道，宽阔的公园以及漂亮的独栋房屋开始展开，直至完全覆盖地表。第一空间的居民从睡梦中醒来，伸了伸懒腰，看向窗外只属于他们的世界。
1700513958
1700513959
这些是中国科幻作家、经济学者郝景芳的幻想。她的中篇小说《北京折叠》因生动描述了不同经济阶层被分开，生活在不同的世界而获得了著名的雨果奖。(6)
1700513960
1700513961
在这个未来的城市，城市分为三个阶层，人们在不同的时间来到地面生活。生活在第一空间的500万精英居民可以在清晨6点到第二天清晨6点的整整24小时里生活在一个干净整洁的超现代城市中。第一空间折叠翻转后，第二空间的2000万居民开始在稍逊于第一空间的城市中工作生活16个小时。最后，生活在第三空间的5000万人口是清洁工、小摊贩和普通的劳动者。从晚上10点到清晨6点，他们奔波于摩天大楼与垃圾堆之间。
1700513962
1700513963
作为第三空间支柱的垃圾分类工作本可以完全自动化，但现在却是靠人工完成，这是为了给在此生活的不幸居民提供就业岗位。不同的世界之间是禁止跨越的，这就创造出了一个阶层明确的社会，第一空间的特权居民无须担心底层贫民会来污染他们的技术乌托邦。
1700513964
1700513965
AI·未来 [:1700512290]
1700513966
真正的人工智能危机
1700513967
1700513968
这个反乌托邦故事虽是一篇科幻小说，却清晰地描述了人们对未来世界中的经济阶层形成和失业率等问题的真实恐惧。郝景芳是清华大学的经济管理学博士，她的日常工作是在政府智库中开展经济学研究，包括调查人工智能对中国就业的影响。许多经济学家、技术专家和未来学家，包括我本人在内，深深地对未来感到忧虑。我认为人工智能的四波浪潮席卷了全球经济，它们有潜力撬开更大的贫富差距，引起大范围的技术性失业。正如郝景芳在故事中的生动刻画，未来由技术导致的财富与阶层上的悬殊可能演变为更深刻的裂痕：撕裂社会结构、挑战我们的人格尊严。
1700513969
1700513970
1700513971
1700513972
1700513973
我与《北京折叠》的作者、科幻作家郝景芳博士
1700513974
1700513975
人工智能对于商业来说是一个异常强大的工具。经济学家预测到2030年，人工智能将为全球经济带来15.7万亿美元的财富。很多收益来自自动化取代大量人工的工作。由此引发的裁员对所有劳动者都一视同仁，给高学历白领职工和许多体力劳动者带来同样的巨大打击。当人类与运算能力超过人脑的机器竞争时，大学本科甚至是高度专业化的研究生学位都不再是工作的保障。
1700513976
1700513977
除了引起直接失业，人工智能还会加剧全球经济不平衡。通过赋予机器人看、听、拿、操作、移动的能力，人工智能会彻底改革制造业，迫使发展中国家那些雇用了大量低薪工人的工厂破产，切断底层人民改善生活的路径，剥夺发展中国家通过低成本出口促进经济发展的机会。中国、韩国、新加坡的脱贫致富之路曾经证明了这种方式的有效性。大量的年轻工人曾经是发展中国家的最大优势，但在人工智能跨越式发展的未来，却会变成拖累和潜在的不稳定因素。
1700513978
1700513979
即使是发达国家，人工智能依然会造成更大的贫富差距。人工智能驱动的产业天然趋向于垄断，会在压低价格的同时消除公司间的竞争。最终，小型企业会被迫关门，人工智能时代的行业主宰会获得以前根本无法想象的利润，经济权力集中到少数人手中。在我看来，如果不加以管制，人工智能对于潜在的社会经济问题就是火上浇油。随着越来越多的人担心被机器取代，科学家扪心自问：在智能机器时代，人类的意义是什么？