1703966689
1703966690
大家已经朝着这个方向采取了一些行动。2016年，微软、亚马逊、谷歌、脸谱网和IBM宣布了人工智能合作伙伴关系，希望用它惠及人类和社会。此举的目的是增进公众对人工智能的认知，制定与该领域挑战和机遇有关的最佳实践。这个合作伙伴关系将在汽车和医疗、人机人工智能协作、经济冲击，以及人工智能如何用于社会公益等诸多领域，推动安全人工智能系统的开发和测试。
1703966691
1703966692
我和微软工程师萨奇布·沙赫（Saqib Shaikh）站在舞台上时，看到了一个社会人工智能项目可能会产生什么样的成果。萨奇布参与开发了这种技术，来弥补他在年幼时丧失的视力。他和同事利用一系列领先的技术，包括视觉识别技术和高级机器学习技术，创建了一些应用，可以在他戴着的一个像太阳镜似的小型计算机上运行。这种技术可以实时解析和解释数据，相当于给这个世界描绘了一幅图像，将其以听觉而不是视觉形式传输给萨奇布。这个工具可以让萨奇布以更丰富的方式体验世界，比如，把街上的噪声和附近的滑板运动员玩的特技联系起来，或把会议中突如其来的沉默和同事们可能会在想什么联系起来。萨奇布甚至可以在餐厅里“看”菜单，因为这种技术可以小声地在他耳朵里念出菜名。也许最重要的是，萨奇布可以在一个热闹的公园里找到家人野餐的位置。
1703966693
1703966694
太多关于人工智能未来的辩论都忽视了机器和人类合作的潜在之美。我们对人工智能的看法似乎被困在电影《2001太空漫游》（2001: A Space Odyssey）中那个流氓计算机HAL的恶意回声和今天的个人数字助理小娜、Siri和Alexa（一家专门发布网站世界排名的网站）的友好声音之间。有些人会梦想，当机器为我们开车，处理我们日常琐事，并帮助我们做出更好的决定时，我们将如何利用突然多出来的空闲时间。有些人则在担心机器人会引起大规模的经济冲击。我们似乎无法超越这种乌托邦和反乌托邦的非黑即白观念。
1703966695
1703966696
我认为，人工智能方面最有成效的辩论并不是善与恶的对抗，而是要看一看创造这种技术的人和机构被灌输了怎样的价值观。约翰·马尔科夫（John Markoff）在《与机器人共舞》（Machines of Loving Grace）一书中写道：“在充满智能机器的世界中，控制方式是一个问题，解决它的最好方法就是了解实际构建这些系统的人具有怎样的价值观。”这是一个有趣的观点，也是我们这个行业必须致力于解决的事情。
1703966697
1703966698
在开发者大会上，我以三个核心原则为基础解释了微软的人工智能策略。
1703966699
1703966700
第一，我们要建立一种增强人类能力和体验的人工智能，而不是从人对比机器的角度来开发的人工智能。我们要把重点集中在人类的天性上，比如创造力、同理心、情感、身体的物理性，以及可以与强大的人工智能计算结合起来的洞察力——可以更快速地对大量数据进行推理并进行模式识别的能力——以此来推动社会进步。
1703966701
1703966702
第二，我们也要把信任直接构建在技术之中。我们必须把隐私保护、透明度和安全性注入技术中。人工智能设备必须在设计上具有检测出新的威胁，并找出适当的保护方法的能力。
1703966703
1703966704
第三，我们构建的所有技术都必须包容和尊重每个人，为人类服务，不分文化、种族、民族、经济地位、年龄、性别和身心能力。
1703966705
1703966706
这是一个好的开始，但我们可以做得更好。
1703966707
1703966708
科幻作家艾萨克·阿西莫夫（Isaac Asimov）几十年前就在思考这个挑战。在20世纪40年代，他提出了“机器人三定律”（Three Laws of Robotics），将其作为他的小说中机器人的伦理规范。阿西莫夫定律是有优先级的，第一条优先于第二条，第二条优先于第三条。第一，机器人不应该做出伤害人类的事情，也不应该通过不作为来伤害人类。第二，它们必须服从人类的命令。第三，它们要保护自己。对于思考人机交互来说，阿西莫夫定律是一个易用的、很有启发性的工具，而且对于构思一个这种交互陷入道德和技术困境的故事来说也是一个有效的工具。然而，它们并没有充分体现研究人员和科技公司在构建计算机、机器人或软件工具时首先应该阐明的价值观或设计原则。它们也没有讨论人类必须在下一个时代拥有怎样的能力，在那个时代，人工智能和机器学习将是一股更广泛的经济推动力。
1703966709
1703966710
对风险进行思考的并不只有阿西莫夫一个人。发明家和创业家埃隆·马斯克甚至说，如果不给人类的大脑增加一个数字智能层——你的皮质和计算机人工智能之间的高带宽，那么我们都会变得和家猫差不多。计算机先驱艾伦·凯（Alan Kay）则表示：“预测未来的最好方法就是创造未来。”从人工智能的角度来说，他的意思基本上是，不要预测未来会是什么样子了，而要以一种有原则的方式创造未来。我同意这个观点。和任何软件设计上的挑战一样，一个平台在建立之初就应该采取这种有原则的做法。从软件开发的角度来说，人工智能正在成为第三运行时——也就是下一个系统，程序员在这个系统之上构建和执行应用程序。个人计算机是微软开发应用程序的第一运行时，这些应用程序包括Office工具套件——Word、Excel和PowerPoint等。今天，Web是第二运行时。而在人工智能和机器人的世界中，生产力和沟通工具是为一个全新的平台构建的，这个平台所做的事情不仅仅是管理信息，还包括从信息中学习，与物理世界交互。
1703966711
1703966712
如今，人们正在决定第三运行时的面貌。比尔·盖茨在1995年春季发布的备忘录《互联网浪潮》（Internet TidalWave）中，预见了互联网对连接、硬件、软件开发和商业的影响。20多年后的今天，我们正在展望一波新的浪潮——人工智能浪潮。那么当我们为即将到来的海啸做准备时，应当用什么样的通用设计原则和价值观来指导我们思考、设计和开发呢？
1703966713
1703966714
有几个人牵头提出了这个问题。麻省理工学院媒体实验室的辛西娅·布雷扎尔（Cynthia Breazeal）致力于探索人工智能和机器人技术的人性化方法。她认为，技术人员经常忽略设计中的社交和行为元素。辛西娅在最近的一次访谈中说，虽然人类是所有物种中最具社交性和情感的，但我们基本上没有花费什么时间来思考技术设计中的同理心问题。她说：“毕竟，我们总是通过沟通和协作来体验这个世界。如果我们对与我们合作的机器感兴趣，那么我们就不能忽视人性化的方法。”
1703966715
1703966716
在我们推动人工智能发展的过程中，最重要的步骤就是对人工智能设计达成一个伦理和同理心的框架——这是开发那种不仅规定了技术要求，还规定了伦理和同理心的系统的一种方法。为此，我已经考虑了人工智能设计的原则和目标，我们应该作为一个行业、一个社会来对此进行讨论和辩论。
1703966717
1703966718
人工智能的设计初衷必须是为人类提供帮助。即使我们研发的是更加自主的机器，我们也需要尊重人类的自主权。协同机器人（co-bots）应该承担一些危险的工作，比如采矿，从而为人类工人提供安全网和保障。
1703966719
1703966720
人工智能必须是透明的。不仅仅是技术专家，我们所有人都应该明白技术是如何运作的，其规则是怎样的。我们想要的机器不仅是智能的，而且是可以让人理解的；不仅仅是人工智能，而是共生智能。这种技术对人类很了解，但人类也必须了解技术是如何看待和分析世界的。如果你的信用评分出了错，你却无法纠正它怎么办？当社交媒体收集有关你的信息，却得出了错误的结论，这时就会需要透明度。伦理和设计是息息相关的。
1703966721
1703966722
人工智能必须最大限度地提高效率，同时又不会损害人的尊严。它应该保护文化，赋能于多样性。为了确保达成这样的结果，这些系统在设计时需要人们进行更广泛、更深入和更加多样化的参与。未来的价值观和美德不应该由技术行业来决定，也不应该仅仅由北美、西欧和东亚这些富强之地的居住者来控制。每个文化背景的人都应该有机会参与塑造人工智能设计中固有的价值观和宗旨。人工智能必须警惕社会和文化偏见，确保研究具有适用性和代表性，让那些有缺陷的思维方法不会在故意或无意中导致歧视长存。
1703966723
1703966724
人工智能在设计上必须注重智能隐私，能够为个人和群体信息提供精密的保护，程度要足以赢得人们的信任。
1703966725
1703966726
人工智能必须具备算法问责制，这样人类就可以撤销那些引发意外伤害的做法。我们必须为预料之中的和预料之外的情况设计这些技术。
1703966727
1703966728
这些伦理方面的考虑有很多都是结合在一起的，比如在我们的数字体验中就是如此。越来越多的算法会根据你以前的行为和偏好来影响你的体验——我们阅读什么内容，我们遇到什么人，我们可能会“点赞”什么东西。我们每天都会收到数百次这样的建议。我觉得这就提出了一个问题：在这样一个世界里，自由意志意味着什么，它又是如何影响到在观念上差异悬殊的用户和社区的？在设计内容和信息平台时，社会的多样性和包容性有什么作用？在理想情况下，我们很清楚自己的数据是如何运用于个性化内容和服务的，我们应该可以控制这些数据。但随着我们越来越多地进入一个复杂的人工智能世界，事情就并不总是那么容易了。我们如何保护自己和社会免受信息平台的不利影响——这些平台越来越多地建立在人工智能之上——是优先考虑互动度和广告收入，还是优先考虑事实、意见和情境的社会多样性可以带给我们的宝贵教益？这是一个重大问题，需要进行更多的思考。
1703966729
1703966730
但对人类来说，也有一些“务必”做到的事情，特别是需要清楚地考虑到未来世代必须优先考虑和培养的技能。为了不和时代脱节，我们的后代将需要：
1703966731
1703966732
•同理心——同理心在机器中难以复制，在人类与人工智能的世界中，它将是无价的。对合作和建立关系来说，感知别人的想法和感受是一种至关重要的能力。如果我们希望利用技术来满足人类的需要，我们人类就必须培养更深入地理解和尊重彼此的价值观、文化、情感和驱动力的能力，来发挥引导作用。
1703966733
1703966734
•教育——有些人认为，由于人类寿命的延长，出生率下降，在教育上的支出也会减少。但我认为，创造和管理我们今天还不能理解的创新，需要我们增加对教育的投入，以获得更高层次的思维方式和更公平的教育成果。大规模实施新技术需要知识和技能，而培养这些知识和技能是一个艰难的社会问题，需要很长时间才能解决。动力织布机是在1810年发明的，但由于缺乏训练有素的技术人员，这个发明花了35年的时间才转变了服装行业的面貌。
1703966735
1703966736
•创造力——人类最出类拔萃的技能之一就是创造力，这一点不会改变。机器将丰富和增强我们的创造力，但人类创造事物的动力将一直处于中心位置。小说家裘帕·拉希里（Jhumpa Lahiri）在一次采访中被问及，为什么她拥有如此特别的英语文采，新作品却要使用她的第三语言意大利语来写，她回答说：“继续寻找，这不就是创造力的要义吗？”
1703966737
1703966738
•判断和问责——我们可能愿意接受计算机生成的诊断或法律决定，但我们仍然希望对结果负责的是人类。
[
上一页 ]
[ :1.703966689e+09 ]
[
下一页 ]