1704608588
超级技术：改变未来社会和商业的技术趋势 第三部分 超级技术与社会
1704608589
1704608591
第13章 人工智能的伦理[1]
1704608592
1704608593
虽然机器怪物统治人类的威胁目前还是杞人忧天，但人类滥用机器的风险是真实存在的。
1704608594
1704608595
假设你走进一栋陌生大楼的某个暗室里面，你可能会因为在黑暗中可能潜伏着怪物而感到恐惧，或者你会直接打开灯，以避免撞到家具。这个暗室就是人工智能的未来。遗憾的是，有些人认为，当我们走进这个房子的时候，可能会遇到一些邪恶的、具有超级智能的机器。这种对于怪物、科学怪人的恐惧，在人类记忆中是与生俱来的。对于计算机的恐惧可以追溯到20世纪60年代，当时以密码学家身份与阿兰·图灵一起在布莱切利园共事的英国数学家欧文·约翰·古德做出了如下观察：
1704608596
1704608597
我们可以把超级智能机器定义为“一种可以远远超越任何人智力活动的机器，无论人类有多么聪明”。因为设计机器也是其中一项智力活动，所以超级智能机器能够设计出比它更好的机器，无疑这将带来一场“智能爆炸”，人类的智力将被远远地抛在后面。因此，第一台超级智能机器将会是人类需要完成的最后一项发明，前提是这台机器足够听话，会告诉我们如何控制它。有趣的是，我们很少在科幻小说之外的地方看到这样的观点，有时候还真是需要严肃地看待科幻小说。
1704608598
1704608599
一旦超级智能机器成为现实，它们也许并不会很听话，它们会把我们当作低等物种来奴役，无视我们的权利，只追求它们自己想要的，完全不管会给我们带来什么。如果你觉得这个听起来有点不可思议、没必要当真，那从半个世纪以前快进到现在，数字技术的快速发展使得很多人相信古德提到的“智能爆炸”（有时也被称为“奇点”）可能存在巨大的风险，如果我们不小心对待，那人类的末日可能就不远了。
1704608600
1704608601
例如，史蒂芬·霍金曾说：“我认为发展完整的人工智能也许会导致人类走向终点。”这就类似于：如果《圣经·启示录》的四骑士出现，那么我们就会陷入更大的麻烦。问题的存在总是有前提的，微软创始人比尔·盖茨也表达了类似的观点：
1704608602
1704608603
关于人工智能，我是属于担忧阵营的。刚开始这些机器还不是超级智能，可以为我们做很多工作。如果我们能管理好它们，那将很好。几十年后，机器的智能将强大到令我们担心。我和埃隆·马斯克还有其他很多人一样，不明白为什么有些人对此毫不担忧。
1704608604
1704608605
美国汽车制造商特斯拉的CEO（首席执行官）埃隆·马斯克如是说：
1704608606
1704608607
我认为我们应该十分谨慎地对待人工智能。如果让我猜测对人类最大的威胁是什么，那很可能就是人工智能，所以对于人工智能我们应该慎之又慎。越来越多的科学家认为应该从国家和国际层面进行全面监管，保证我们不会做出一些很愚蠢的事情。对于人工智能，我们正在召唤出某种恶魔。在所有这些故事中，总会有一个勇士拿着长剑和圣水，就好像他一定能控制这只恶魔，其实不一定。
1704608608
1704608609
如果你认为专家们的预言就是可信的，那不妨再想一想。很多专家也曾经做出过一些荒谬的技术预言。例如，2004年，比尔·盖茨预言：“两年内，垃圾邮件问题将被解决”。另外，马斯克也曾表示“未来我们不会生存在一个计算机模拟器中的概率只有数十亿分之一”。直译过来也就是说，你不是真实存在的，现在你是在《黑客帝国》的矩阵里面看这篇文章。
1704608610
1704608611
现实总是更加平凡，目前以及可预见的智能技术甚至不比一个算盘更聪明。问题的根源往往是人类的愚蠢和邪恶的天性。2016年3月24日，微软为推特（Twitter）开发了一个基于人工智能的聊天机器人Tay。仅仅16个小时后，他们就不得不将其下线。本来预计Tay在与人类交互之后将变得更加聪明，相反，它变成了一个邪恶、崇拜希特勒、否认大屠杀、提倡滥交、宣称“布什发动了‘9·11’”的话痨。为什么会这样？因为它就像一张厨房纸，不加区别地吸收各种杂乱的、肮脏的信息，并被其影响。微软也因此进行了道歉。
1704608612
1704608613
这就是人工智能目前的状态以及更加真实的可预见的未来。计算机仍然无法自己找到就在它身边的打印机。虽然完全的人工智能只存在于科幻小说这件事并不值得我们得意忘形，但经历了这么多不负责任的、奇怪的对超级人工智能风险的猜测，是时候打开房间里面的灯了，停止对科幻小说里面的情节进行担忧，开始关注人工智能在现实中的挑战，这样才能避免在设计和使用智能科技时犯下痛苦和代价昂贵的错误。
1704608614
1704608615
为人工智能设定边界
1704608616
1704608617
为了明确这些挑战，我们必须明白一个基本出发点，人工智能的成功在很大程度上基于这样的事实：我们正在创造一个人工智能友好的环境，智能技术无处不在，充满整个世界，我们就像携带水肺在里面遨游的潜水员。应该让这个世界去适应人工智能，而不是相反。让我们来看看这到底意味着什么。
1704608618
1704608619
在工业机器人时代，我们为机器人定义的边界是一个三维空间，在这个空间里机器人可以成功地完成其任务。我们不会制作一个类似于《星球大战》中的C3PO机器人，完全重复人类也能完成的任务，如在水槽里洗碗。我们会根据其有限的能力，为这些简单的机器人设置运行环境，利用它们来提供预定的输出。洗碗机之所以能完成其工作，是因为其环境是根据它的简单能力而设定的。亚马逊的货架机器人也是如此，环境被设置为机器人友好型的。如果有一天我们能为无人驾驶汽车设置好其周边环境，那它们就能成为实用的商品。
1704608620
1704608621
以前，设置边界要么是一种单独的现象（你购买需要特定边界的机器，如洗碗机或者洗衣机），要么在厂房里面进行，而厂房是为这些机器精心设计的。现在，环境被设置为一个人工智能友好的“信息圈”，并渗透到现实世界的方方面面，我们每天在任何地方都可以看到，家里、办公室、大街上。事实上，过去的几十年我们一直在为信息技术设置边界，但我们并没有完全意识到这一点。
1704608622
1704608623
在20世纪四五十年代，计算机要占据整个房间。艾丽斯需要走到计算机里面来与其一起工作，编程意味着使用螺丝刀，人机交互类似于一种躯体关系。70年代，艾丽斯的女儿从计算机里面走了出来，站在计算机面前，人机交互变成了一种语义关系。后来出现了DOS系统、命令行、图形界面和图标等交互手段。今天，艾丽斯的孙女又重新“走进”计算机，围绕着她的是不易被察觉的整个“信息圈”，人机交互又变成了“躯体关系”，包括触摸屏、语音命令、听力设备、动作感知应用、地理位置数据等。
1704608624
1704608625
在这个人工智能友好型的信息圈里，我们经常会被要求点击验证码（CAPTCHA，全自动区分人类和计算机的公开图灵测试）来证明自己是人类。这些验证码由一些稍微扭曲变形的字符串组成，可能混杂着一些其他图形，我们必须解读它们以证明我们是人类，而不是人工智能，例如，在维基百科注册一个新账户时就会用到它们。有时就是一个简单地写着“我不是机器人”的勾选框，程序不能进行点击，因为它们不能理解这条信息的内容，但对人类来说轻而易举。
1704608626
1704608627
每天我们看到越来越多的人在上网，会有越来越多的文件、工具、互相交互的设备、传感器、RFID（射频识别）标签、卫星、制动器、数据等，总而言之，更加边界化。另外，更多的工作和活动也在数字化：游戏、教育、娱乐、约会、聚会、争吵、关心、闲聊、广告等。我们在一个设定了边界的“信息圈”里做这些事情，在这个“信息圈”里我们更像是客人，而不是主人。对于人工智能以及智能技术来说这是一个好消息。当我们对“信息圈”进行扩展的时候，它们的作用和成功将成倍增加，毕竟它们才是真正的数字原住民。但是，给世界设定边界的过程也会引发一些显著的问题，有一些问题是众所周知的，如数字鸿沟等，也有一些问题是更加微妙的。
1704608628
1704608629
“信息圈”里的婚姻
1704608630
1704608631
假设两个人，A和H，他俩结婚了并且希望婚姻能天长地久。但是A在家里做的事越来越多，同时变得更加呆板和顽固、不能容忍错误、不愿意改变，H刚好相反，变得更加懒惰、越来越依赖A。这样的结果就是两者的不平衡，A最终影响了两人的关系，并扭曲了H的行为，虽然A不是有意为之。如果二者的婚姻关系能继续维系，那都是因为A的谨慎经营。
1704608632
1704608633
在这个比喻里面，人工智能和智能技术扮演的就是A的角色，而人类就是H。这样做的风险在于：通过对世界设定边界，技术可能会塑造我们的物理环境和精神世界，并强制我们去适应它们，因为这是让世界继续运行下去的最好或者最简单的办法，事实上某些时候也是唯一的办法。所以人工智能将成为婚姻中呆板却付出得更多的一方，而人类则是聪明但懒惰的一方。如果不考虑离婚这个选项，那又应该是谁去适应谁呢？你可能会记得现实生活中有很多类似的例子，有时很多事情根本做不好，或者只能用一种很笨的方法来做，但对于计算机系统来说，这是它们完成任务的唯一方法。就像英国喜剧小品《小不列颠》里面的卡罗尔·贝尔一样，对于客户的请求总是说“电脑说不行”。
1704608634
1704608635
更重要的是，这些越来越智能的技术不断地在我们的生活中涌现，已经深深地影响到我们对自己和这个世界的看法。关键在于我们的机器并没有意识或者智慧，它们不能像我们一样理解或者认知某些事情。
1704608636
[
上一页 ]
[ :1.704608587e+09 ]
[
下一页 ]