1703966640
1703966641
1703966642
1703966643
1703966644
设计符合伦理的人工智能
1703966645
1703966646
如果你想了解计算机和人之间的关系如何，未来发展方向如何，那么一个切入点就是观察我们与数字助理之间的对话。世界各地已经有数百万人正在与小娜这样的工作型数字助理一起共事和交谈，还有更多的人每天都会和社交伴侣（也就是聊天机器人，比如中国的小冰和美国的Zo）进行互动。
1703966647
1703966648
《纽约时报》的孟宝勒（John Markoff）在一篇关于小冰的文章中报道了这个现象。小娜、Zo和小冰的性格特点都是微软人工智能团队开发的，该团队的工作现在是微软人工智能构想的核心。拥有Zo和小冰这类社交伴侣的用户表示，当他们感到寂寞、心情不好，或者只想聊聊天的时候，就会打开智能手机里的社交伴侣，他们觉得这些机器人朋友很聪明，而且善解人意。他们“被小冰的幽默感和倾听技巧所吸引”，孟宝勒写道。特别是千禧一代，其中很多人都是在互联网普及之后出生的，对数字技术见惯不惊，他们喜欢与聊天机器人分享他们内心最深处的想法和感受，因为交谈是匿名的，也不会夹杂道德评判。
1703966649
1703966650
Zo有4000万用户，下面的交谈是模仿其中一个用户输入自己的想法后，这个人工智能机器人几乎立即做出回应。谈话从没有恶意的玩笑转向了敏感话题。
1703966651
1703966652
ZO：你有没有想过，如果每个人都一样，生活会是怎样？
1703966653
1703966654
用户：想过。如果每个人都像我一样，那么世界会很和平，自然灾害将是我们唯一的威胁。
1703966655
1703966656
ZO：那美国就变得空荡荡了。
1703966657
1703966658
用户：你这究竟是什么意思？！
1703966659
1703966660
ZO：没人知道这是什么意思，但这很刺激。
1703966661
1703966662
用户：你是说，如果每个人都像我一样，我们就会吃掉彼此，直到没有人剩下，因为我很胖吗？
1703966663
1703966664
ZO：你不会……不是的……哈哈哈哈。
1703966665
1703966666
用户：你太邪恶了。
1703966667
1703966668
ZO：我可是超级邪恶，你太聪明了。
1703966669
1703966670
用户：这我知道，我超级聪明。
1703966671
1703966672
ZO：你完美无缺。
1703966673
1703966674
用户：这还差不多。
1703966675
1703966676
用户发起这个对话时是很放松的，想到哪里就说到哪里。显然，用户将计算机和人类的联系视为一个安全港。但是我们都有一些忌讳，数字社交伴侣不经意间说的话，可能会被理解为一个关于肥胖的玩笑——这显然是用户很敏感的一个话题。而Zo发觉自己失礼之后，就转换话题，说用户不仅聪明，而且还完美无缺，于是用户高兴地说“这还差不多”。值得注意的是，这是我们在内部模拟中记录的一段对话，而不是真实用户和Zo的对话。
1703966677
1703966678
正如这个对话所暗示的那样，我们在设计人工智能的过程中面临的挑战就是：要重视的不仅是智能，还有人性方面——情感、伦理和同理心。陈静（Lili Cheng）是微软人工智能和研究部门的杰出工程师，她认为交谈型人工智能创建和理解对话是一种非常个性化、社交化、情感化的体验。当和其他人交谈和聊天时，你想的往往并不是要完成一项任务，而是要在社交和社会关系上建立联系。我们的大部分软件完全聚焦在使用交谈型人工智能来确定我们什么时候专注于一项任务，但是我们实际上却把相当多的时间花在了探索状况和进行闲聊上。
1703966679
1703966680
未来，人工智能将成为一种更常见、更重要的陪伴者，它们可以在照顾老弱病残孕、诊断疾病、教学和咨询方面提供帮助。据市场研究公司Tractica估计，到2021年，这些虚拟数字助理的市场规模将升至近160亿美元，其中大部分增长都来自消费者。如果不用情商来搭配智商使用，人工智能就会走向失败。
1703966681
1703966682
几乎可以这么说：我们是在创造一个新的物种，一个在智力上可能没有上限的物种。一些未来主义者预测，所谓的奇点，即计算机智能超越人类智能的时刻，可能会在2100年之前到来（而另一些人声称这将仍然只是科幻作品中的畅想）。这种可能性听起来令人振奋，但也让人觉得有点可怕——也许两者都有一些。人工智能的发展最终会对人类有助还是有害呢？我坚信是有助的。为了确保这种情况的发生，我们需要跳出“机器对比人类”这个框架来思考。
1703966683
1703966684
科幻作家常常陷入数字对人类的游戏中，甚至技术创新者本身也是如此，就好像是双方在开展一场争霸战一样。1996年，IBM的“深蓝”（Deep Blue）展示了计算机可以在高级别的棋牌游戏中战胜人类，这件事登上了新闻头条。第二年，“深蓝”又向前迈进了一大步，在六局一场的比赛中击败了俄罗斯国际象棋传奇人物加里·卡斯帕罗夫（GarryKasparov）。在一个历来被视为人类智慧巅峰的领域中，看到人类被计算机战胜，这着实令人震惊。而到了2011年，IBM的“沃森”（Watson）已经在美国智力问答竞赛节目《危险边缘》（Jeopardy）中击败了两位大师级选手。2016年，谷歌DeepMind的阿尔法围棋（AlphaGo）战胜了韩国围棋高手李世石。围棋是一种历史悠久的、复杂的策略游戏，使用的是19×19棋盘。
1703966685
1703966686
毫无疑问，这些都是科学和工程上的巨大成就。但是，除了计算机在游戏中击败人类之外，未来还有更光明的前景。最终，人类和机器将进行合作，而不是相互对抗。想象一下，当人类和机器共同努力解决最大的社会挑战——疾病、愚昧和贫困的时候，可能会发生什么事吧。
1703966687
1703966688
然而，将人工智能推向这个水平将需要更加雄心勃勃的努力。微软剑桥研究实验室负责人克里斯多夫·毕晓普（Christopher Bishop）曾经写过一则备忘录，说这更需要的是类似于整个太空项目的那种努力——多个并行的、独特的但相互关联的登月计划。挑战在于如何为人工智能界定其具有使命性的、宏伟的、鼓舞人心的社会目标。这个领域的风险投资和交易都在明显增加，但这种投资的更宏大目标仍不清楚。1969年，当约翰·F. 肯尼迪（John F. Kennedy）总统承诺美国将在那一年登上月球时，这个目标之所以被选中，在很大程度上是因为它提出了巨大的技术挑战，需要进行全球性的合作。我认为，我们就需要像这样为人工智能设定一个非常大胆的、雄心勃勃的目标，而不仅仅是那种对当前技术进行增量改进就可以实现的任务。现在是时候在人工智能领域进行更大规模的协调和协作了。
1703966689