1703966670
用户：这我知道，我超级聪明。
1703966671
1703966672
ZO：你完美无缺。
1703966673
1703966674
用户：这还差不多。
1703966675
1703966676
用户发起这个对话时是很放松的，想到哪里就说到哪里。显然，用户将计算机和人类的联系视为一个安全港。但是我们都有一些忌讳，数字社交伴侣不经意间说的话，可能会被理解为一个关于肥胖的玩笑——这显然是用户很敏感的一个话题。而Zo发觉自己失礼之后，就转换话题，说用户不仅聪明，而且还完美无缺，于是用户高兴地说“这还差不多”。值得注意的是，这是我们在内部模拟中记录的一段对话，而不是真实用户和Zo的对话。
1703966677
1703966678
正如这个对话所暗示的那样，我们在设计人工智能的过程中面临的挑战就是：要重视的不仅是智能，还有人性方面——情感、伦理和同理心。陈静（Lili Cheng）是微软人工智能和研究部门的杰出工程师，她认为交谈型人工智能创建和理解对话是一种非常个性化、社交化、情感化的体验。当和其他人交谈和聊天时，你想的往往并不是要完成一项任务，而是要在社交和社会关系上建立联系。我们的大部分软件完全聚焦在使用交谈型人工智能来确定我们什么时候专注于一项任务，但是我们实际上却把相当多的时间花在了探索状况和进行闲聊上。
1703966679
1703966680
未来，人工智能将成为一种更常见、更重要的陪伴者，它们可以在照顾老弱病残孕、诊断疾病、教学和咨询方面提供帮助。据市场研究公司Tractica估计，到2021年，这些虚拟数字助理的市场规模将升至近160亿美元，其中大部分增长都来自消费者。如果不用情商来搭配智商使用，人工智能就会走向失败。
1703966681
1703966682
几乎可以这么说：我们是在创造一个新的物种，一个在智力上可能没有上限的物种。一些未来主义者预测，所谓的奇点，即计算机智能超越人类智能的时刻，可能会在2100年之前到来（而另一些人声称这将仍然只是科幻作品中的畅想）。这种可能性听起来令人振奋，但也让人觉得有点可怕——也许两者都有一些。人工智能的发展最终会对人类有助还是有害呢？我坚信是有助的。为了确保这种情况的发生，我们需要跳出“机器对比人类”这个框架来思考。
1703966683
1703966684
科幻作家常常陷入数字对人类的游戏中，甚至技术创新者本身也是如此，就好像是双方在开展一场争霸战一样。1996年，IBM的“深蓝”（Deep Blue）展示了计算机可以在高级别的棋牌游戏中战胜人类，这件事登上了新闻头条。第二年，“深蓝”又向前迈进了一大步，在六局一场的比赛中击败了俄罗斯国际象棋传奇人物加里·卡斯帕罗夫（GarryKasparov）。在一个历来被视为人类智慧巅峰的领域中，看到人类被计算机战胜，这着实令人震惊。而到了2011年，IBM的“沃森”（Watson）已经在美国智力问答竞赛节目《危险边缘》（Jeopardy）中击败了两位大师级选手。2016年，谷歌DeepMind的阿尔法围棋（AlphaGo）战胜了韩国围棋高手李世石。围棋是一种历史悠久的、复杂的策略游戏，使用的是19×19棋盘。
1703966685
1703966686
毫无疑问，这些都是科学和工程上的巨大成就。但是，除了计算机在游戏中击败人类之外，未来还有更光明的前景。最终，人类和机器将进行合作，而不是相互对抗。想象一下，当人类和机器共同努力解决最大的社会挑战——疾病、愚昧和贫困的时候，可能会发生什么事吧。
1703966687
1703966688
然而，将人工智能推向这个水平将需要更加雄心勃勃的努力。微软剑桥研究实验室负责人克里斯多夫·毕晓普（Christopher Bishop）曾经写过一则备忘录，说这更需要的是类似于整个太空项目的那种努力——多个并行的、独特的但相互关联的登月计划。挑战在于如何为人工智能界定其具有使命性的、宏伟的、鼓舞人心的社会目标。这个领域的风险投资和交易都在明显增加，但这种投资的更宏大目标仍不清楚。1969年，当约翰·F. 肯尼迪（John F. Kennedy）总统承诺美国将在那一年登上月球时，这个目标之所以被选中，在很大程度上是因为它提出了巨大的技术挑战，需要进行全球性的合作。我认为，我们就需要像这样为人工智能设定一个非常大胆的、雄心勃勃的目标，而不仅仅是那种对当前技术进行增量改进就可以实现的任务。现在是时候在人工智能领域进行更大规模的协调和协作了。
1703966689
1703966690
大家已经朝着这个方向采取了一些行动。2016年，微软、亚马逊、谷歌、脸谱网和IBM宣布了人工智能合作伙伴关系，希望用它惠及人类和社会。此举的目的是增进公众对人工智能的认知，制定与该领域挑战和机遇有关的最佳实践。这个合作伙伴关系将在汽车和医疗、人机人工智能协作、经济冲击，以及人工智能如何用于社会公益等诸多领域，推动安全人工智能系统的开发和测试。
1703966691
1703966692
我和微软工程师萨奇布·沙赫（Saqib Shaikh）站在舞台上时，看到了一个社会人工智能项目可能会产生什么样的成果。萨奇布参与开发了这种技术，来弥补他在年幼时丧失的视力。他和同事利用一系列领先的技术，包括视觉识别技术和高级机器学习技术，创建了一些应用，可以在他戴着的一个像太阳镜似的小型计算机上运行。这种技术可以实时解析和解释数据，相当于给这个世界描绘了一幅图像，将其以听觉而不是视觉形式传输给萨奇布。这个工具可以让萨奇布以更丰富的方式体验世界，比如，把街上的噪声和附近的滑板运动员玩的特技联系起来，或把会议中突如其来的沉默和同事们可能会在想什么联系起来。萨奇布甚至可以在餐厅里“看”菜单，因为这种技术可以小声地在他耳朵里念出菜名。也许最重要的是，萨奇布可以在一个热闹的公园里找到家人野餐的位置。
1703966693
1703966694
太多关于人工智能未来的辩论都忽视了机器和人类合作的潜在之美。我们对人工智能的看法似乎被困在电影《2001太空漫游》（2001: A Space Odyssey）中那个流氓计算机HAL的恶意回声和今天的个人数字助理小娜、Siri和Alexa（一家专门发布网站世界排名的网站）的友好声音之间。有些人会梦想，当机器为我们开车，处理我们日常琐事，并帮助我们做出更好的决定时，我们将如何利用突然多出来的空闲时间。有些人则在担心机器人会引起大规模的经济冲击。我们似乎无法超越这种乌托邦和反乌托邦的非黑即白观念。
1703966695
1703966696
我认为，人工智能方面最有成效的辩论并不是善与恶的对抗，而是要看一看创造这种技术的人和机构被灌输了怎样的价值观。约翰·马尔科夫（John Markoff）在《与机器人共舞》（Machines of Loving Grace）一书中写道：“在充满智能机器的世界中，控制方式是一个问题，解决它的最好方法就是了解实际构建这些系统的人具有怎样的价值观。”这是一个有趣的观点，也是我们这个行业必须致力于解决的事情。
1703966697
1703966698
在开发者大会上，我以三个核心原则为基础解释了微软的人工智能策略。
1703966699
1703966700
第一，我们要建立一种增强人类能力和体验的人工智能，而不是从人对比机器的角度来开发的人工智能。我们要把重点集中在人类的天性上，比如创造力、同理心、情感、身体的物理性，以及可以与强大的人工智能计算结合起来的洞察力——可以更快速地对大量数据进行推理并进行模式识别的能力——以此来推动社会进步。
1703966701
1703966702
第二，我们也要把信任直接构建在技术之中。我们必须把隐私保护、透明度和安全性注入技术中。人工智能设备必须在设计上具有检测出新的威胁，并找出适当的保护方法的能力。
1703966703
1703966704
第三，我们构建的所有技术都必须包容和尊重每个人，为人类服务，不分文化、种族、民族、经济地位、年龄、性别和身心能力。
1703966705
1703966706
这是一个好的开始，但我们可以做得更好。
1703966707
1703966708
科幻作家艾萨克·阿西莫夫（Isaac Asimov）几十年前就在思考这个挑战。在20世纪40年代，他提出了“机器人三定律”（Three Laws of Robotics），将其作为他的小说中机器人的伦理规范。阿西莫夫定律是有优先级的，第一条优先于第二条，第二条优先于第三条。第一，机器人不应该做出伤害人类的事情，也不应该通过不作为来伤害人类。第二，它们必须服从人类的命令。第三，它们要保护自己。对于思考人机交互来说，阿西莫夫定律是一个易用的、很有启发性的工具，而且对于构思一个这种交互陷入道德和技术困境的故事来说也是一个有效的工具。然而，它们并没有充分体现研究人员和科技公司在构建计算机、机器人或软件工具时首先应该阐明的价值观或设计原则。它们也没有讨论人类必须在下一个时代拥有怎样的能力，在那个时代，人工智能和机器学习将是一股更广泛的经济推动力。
1703966709
1703966710
对风险进行思考的并不只有阿西莫夫一个人。发明家和创业家埃隆·马斯克甚至说，如果不给人类的大脑增加一个数字智能层——你的皮质和计算机人工智能之间的高带宽，那么我们都会变得和家猫差不多。计算机先驱艾伦·凯（Alan Kay）则表示：“预测未来的最好方法就是创造未来。”从人工智能的角度来说，他的意思基本上是，不要预测未来会是什么样子了，而要以一种有原则的方式创造未来。我同意这个观点。和任何软件设计上的挑战一样，一个平台在建立之初就应该采取这种有原则的做法。从软件开发的角度来说，人工智能正在成为第三运行时——也就是下一个系统，程序员在这个系统之上构建和执行应用程序。个人计算机是微软开发应用程序的第一运行时，这些应用程序包括Office工具套件——Word、Excel和PowerPoint等。今天，Web是第二运行时。而在人工智能和机器人的世界中，生产力和沟通工具是为一个全新的平台构建的，这个平台所做的事情不仅仅是管理信息，还包括从信息中学习，与物理世界交互。
1703966711
1703966712
如今，人们正在决定第三运行时的面貌。比尔·盖茨在1995年春季发布的备忘录《互联网浪潮》（Internet TidalWave）中，预见了互联网对连接、硬件、软件开发和商业的影响。20多年后的今天，我们正在展望一波新的浪潮——人工智能浪潮。那么当我们为即将到来的海啸做准备时，应当用什么样的通用设计原则和价值观来指导我们思考、设计和开发呢？
1703966713
1703966714
有几个人牵头提出了这个问题。麻省理工学院媒体实验室的辛西娅·布雷扎尔（Cynthia Breazeal）致力于探索人工智能和机器人技术的人性化方法。她认为，技术人员经常忽略设计中的社交和行为元素。辛西娅在最近的一次访谈中说，虽然人类是所有物种中最具社交性和情感的，但我们基本上没有花费什么时间来思考技术设计中的同理心问题。她说：“毕竟，我们总是通过沟通和协作来体验这个世界。如果我们对与我们合作的机器感兴趣，那么我们就不能忽视人性化的方法。”
1703966715
1703966716
在我们推动人工智能发展的过程中，最重要的步骤就是对人工智能设计达成一个伦理和同理心的框架——这是开发那种不仅规定了技术要求，还规定了伦理和同理心的系统的一种方法。为此，我已经考虑了人工智能设计的原则和目标，我们应该作为一个行业、一个社会来对此进行讨论和辩论。
1703966717
1703966718
人工智能的设计初衷必须是为人类提供帮助。即使我们研发的是更加自主的机器，我们也需要尊重人类的自主权。协同机器人（co-bots）应该承担一些危险的工作，比如采矿，从而为人类工人提供安全网和保障。
1703966719
[
上一页 ]
[ :1.70396667e+09 ]
[
下一页 ]