1701071630
1701071632
人类2.0：在硅谷探索科技未来 警惕人工智能真正的危险之处
1701071633
1701071634
人工智能真正的危险是什么
1701071635
1701071636
人工智能不会控制和杀死人类，也不会让我们失去工作。但我真正担心的是，如今我们制造的机器人是在模仿人类理性的“机器思维”，而不是先天的“符号思维”。简单来说，这种差别就好像人类遇到灾难时会向神灵祈祷，或者围着火跳舞（以此驱逐厄运），而一个快没电的机器人永远不会这么做。
1701071637
1701071638
这为什么很危险呢？我们从何为“符号思维”与“机器思维”说起。
1701071639
1701071640
美国哲学家苏珊·朗格（Susanne Langer）1942年写的一本《哲学新解》（Philosophy in a new key）是对我影响最大的书之一。朗格的理论是，人类是符号的动物，我们一直在创造看起来跟“适者生存”原则背道而驰的庞大的符号体系。所有人类文明中广为传播的各种仪式、礼制及巫术等都是一种符号活动，如果从其他动物的视角来看，这些根本毫无意义。一些部落里的人们围着火跳舞，以此祈祷某事发生，动物可不会这么做。当动物想要一起繁育后代，它们直接进行繁殖即可，人类则需要精心准备婚礼，新人们通常需要在众多宾客前完成繁杂的程序。
1701071641
1701071642
创造一种符号一定有某种目的，但就人类来说，我们简直毫无止境，我们根本停不下来，我们的头脑不断在创造庞大的符号体系，很多时候是为了创造符号体系而创造符号体系。
1701071643
1701071644
复杂的传统婚礼看起来并没有什么实用目的，它远超出了我们生存的需要。甚至可以说，人类的语言作为一种沟通工具也太复杂了，它在我们生活中扮演了远超过沟通的角色。机器语言相对总是简单并清晰明了，做这个或做那个，不要做这个或不要做那个。而我们人类有时候会发表一段冗长的演说，表达的意思还模棱两可。
1701071645
1701071646
杰弗里·米勒（Geoffrey Miller）是我们这个时代最伟大的进化心理学家之一，他在2000年写的一本《求偶心理》（英文书名为TheMating Mind：How Sexual Choice Shaped the Evolution of Human，中文版暂无）中猜测，语言可能只是性炫耀的一种形式，沟通只是语言次要的用途。他将人类的语言比作孔雀多彩的尾巴。意思是人类的语言对人类之独特就犹如美丽的尾巴于孔雀之独特，试图教给黑猩猩人类的语言是毫无意义的，正如希望人类长出孔雀美丽的尾巴也是毫无意义的。
1701071647
1701071648
朗格认为，仪式和巫术等都是人类自发的行为，都是人类的大脑倾向于将所有事物都转换成符号的副产品。这种创造符号的习性会一直增长，直到符号不再有什么用处，甚至还有害处。英国哲学家伯特兰·罗素（Bertrand Russell）首先指出，语言成为沟通的首要形式的原因是，说话是经由身体的活动迅速产生大量符号的最经济的方法。
1701071649
1701071650
将某件事物“构思”成符号实际上是有好处的，从物理的角度来说，世界上没有两个人会看到同样一件事物（每个大脑都有轻微的不同），但所有人都可以就同一件事物形成一样的符号。就好像让两个人看同一个地方的地图，如果地图的画法稍微不同，两个人就找不到同一个地方，但如果两个人交换的是各自形成的地图的概念，他们就有可能找到同一个地方。
1701071651
1701071652
当我们认为两种情况很相似时，不是因为它们都给我们带来了一样的感觉，而是因为它们都属于同一种符号。伟大的语言学家爱德华·萨丕尔（Edward Sapir）同样认为，语言最初并不是为沟通而诞生的。丹麦语言学家奥托·叶斯柏森（Otto Jespersen）认为，唱歌和跳舞先于语言而生，沟通只是符号化的副产品，仪式、神话和音乐等则是人类创造的符号系统的绝佳的例子，信仰则是一种终极的符号体系。
1701071653
1701071654
然而，现代人的思维却大量轻视这些符号系统。我们的社会越来越基于理性的规章和制度而运转，越来越倾向于避免这些“无用”且“昂贵”的仪式。因为生活日益被设计成“高效”的。孩子们按照一定的程序被送入学校（幼儿园、小学、初中、高中、大学……），然后他们被期望找到一份好工作，甚至连娱乐活动都是高度有规则的，什么游戏要怎么玩等都需要规定得很清晰……这在我看来就是“机器思维”，一种必须遵循理性规则的思维。
1701071655
1701071656
想一下传统婚礼与现代世俗婚礼的不同，印度的传统婚礼需要花上三天，现代的政府婚姻登记处只要简单的婚姻登记就可以了。可以说，我们在基因里就被设定成了“符号思维”（沉溺于仪式与传说等的思维），然而，也不知何时，不知为什么，我们就越来越喜欢“机器思维”的社会了。
1701071657
1701071658
现在你可能会开始理解，为什么我说放弃人工智能领域基于知识的方法有些太早了。基于知识的人工智能完全是关于符号系统的，那是关于知识如何被呈现的，那就是知识本身。如果你“知道”某件事，那意味着你能创造关于它的符号。
1701071659
1701071660
遗憾的是，如今流行的人工智能（基于神经网络的深度学习）是关于“机器思维”的，不是关于“符号思维”的。“深度学习”擅长识别和执行任务，而不是创造复杂的符号系统。
1701071661
1701071662
为什么符号思维这么重要呢？首先，这就是我们本来的样子。这就好像你问：“为什么眼睛这么重要？”同样，如果你的大脑不再创造任何符号了，你也不再是人类了。
1701071663
1701071664
其次，这些符号系统定义了我们的价值观，告诉我们某些事情比其他事情更重要。比如，尊重和帮助你的邻居或长者比叫外卖和找停车位更重要。我们的“符号思维”告诉我们要礼貌行事，多行好事。道德在一个“符号思维”里是自然产生的。相反，“机器思维”只是简单地遵守设定好的规则和制度。如果没有一个告诉孩子们要尊重父母的规则，机器思维就不会尊重父母。也就是说，我们现在正在发展的人工智能和正在设计的机器人将不会有任何道德观念。
1701071665
1701071666
如果你还没觉得这有什么不妥，那我就要反问，我们创造机器的最终目的是什么？我想答案应该是，“让我们更幸福”。而现在，我们正处于将“智能”理解成“有用”的边缘：一台机器如果越有用，我们就认为它越智能。但有用不等于能让我们幸福。
1701071667
1701071668
那到底机器能为我们做点什么才会让我们感到更幸福呢？这个问题很难回答。因为我们经常将物质上的丰盛理解成幸福，结果往往是拥有之后感到更不幸福。在日本和斯堪的纳维亚半岛（挪威和瑞典）这些国民物质生活质量很高的地方，自杀率一直很高，但在一些特别穷困的国家，自杀率却一直很低。那么，到底是什么让人们真正感到幸福？
1701071669
1701071670
当我到非洲一些穷困的国家旅行时，我一直被那些微笑乃至大笑的人环绕着。而当我行走在西方世界一些所谓的发达城市的街头时，却几乎很少有人微笑。造成这种反差的原因是我们经常迷失于商品的价值。从耶稣到佛陀，很多伟大的智者早就已经警醒世人财富并不等同于幸福。这正是那些伟大的符号体系（信仰等）所能提供的：一条通往幸福的道路。这也是为什么舍弃“符号思维”是很危险的，而加速整个舍弃过程的人工智能和机器人从这个意义上来说，才变得真正很危险。
1701071671
1701071672
当人们问我关于人工智能是否让我们永生时，我也经常提醒他们，你们真的想要永生吗？这个星球上活得最久的是细菌和树，它们活得幸福吗？你想要成为一棵树吗？
1701071673
1701071674
机器能像我们一样思考吗
1701071675
1701071676
那么，我们有没有可能创造出像人类一样思考，像人类一样有感情的机器人呢
1701071677
1701071678
问题是，机器真的能思考吗？机器能有感情吗？这其实是一个哲学问题。如果你能做所有我可以做的事情，那我可以假设你会思考，但是我没有办法来证明。我不能跳到你的脑袋里证实你真的会思考。你可能像个僵尸一样，虽然能像我一样行动，但其实没有感觉，更没有感情。我永远都无法确定其他人能跟我一样“思考”。
1701071679
[
上一页 ]
[ :1.70107163e+09 ]
[
下一页 ]