1700519063
“但人人都知道机器只能以无生命的机械方式行动。”
1700519064
1700519065
这个反对的理由看上去更合理一些：确实，人们如果被比作某种琐碎的机器，是应该感到被冒犯的。但在我看来，“机器”这个词已经开始过时。几个世纪以来，类似“机械”这种词让我们想到的都是一些简单的设备，比如滑轮、杠杆、火车头、打字机之类。（“计算机式的”这种词汇继承了相似的琐碎感，听上去就像是做无聊的简单算术一样。）但我们应该认识到自己仍处于机器时代的早期，实际上也不知道将来机器会变成什么样子。如果某个火星人十亿年前到访，看到一些由细胞组成的团块，这些团块甚至连爬行都还不会，而火星人根据这些判断地球生物未来的命运，你觉得合理吗？同样，我们也不能根据现在看到的情况就猜出机器在未来到底能完成什么任务。
1700519066
1700519067
我们第一次认识计算机，是20世纪40年代使用的一些机器，它们只有几千个组件。而人脑包含了数十亿个细胞，每个细胞本身就很复杂，而且还与其他几千个细胞相连接。当今计算机的复杂程度只能算中等水平；它们现在有几百万个组件，而且人们已经开始制造由十几亿个组件构成的计算机，用于研究人工智能。然而，尽管计算机已经发生了这样大的变化，人们使用的还是旧词汇，就好像什么变化也没发生一样。现在的运算规模是过去无法想象的，我们应该转变态度来适应这种现状。“机器”这个词已经不再能带我们去到足够远的地方了。
1700519068
1700519069
不过修辞并不能起决定作用。让我们先搁置这些争议，来研究一下大量未知的脑功能吧。这样，在我们明白自己到底是多么奇妙的机器时，就能找回一些自尊了。
1700519070
1700519071
1700519072
1700519073
1700519074
心智社会：从细胞到人工智能，人类思维的优雅解读 [:1700518394]
1700519075
心智社会：从细胞到人工智能，人类思维的优雅解读 第3章 冲突与妥协
1700519076
1700519077
心智社会：从细胞到人工智能，人类思维的优雅解读 [:1700518395]
1700519078
3.1 冲突
1700519079
1700519080
许多孩子不但喜欢建造，还喜欢破坏。让我们来想象另一个智能体，把它叫作“破坏者”，它的专长就是拆东西。我们那个孩子很喜欢听到叮叮咣咣的噪声，还喜欢看到好多东西一起移动。
1700519081
1700519082
1700519083
1700519084
1700519085
假定“破坏者”被唤醒了，但视野里没有什么东西可以破坏，这时“破坏者”就会去寻求一些帮助——比如让“建设者”去工作。但是如果过些时候，“破坏者”觉得塔已经高到可以推倒了，而“建设者”还想再建高一些怎么办？谁能来解决这一争议呢？
1700519086
1700519087
最简单的办法就是把决策权交给“破坏者”，因为最开始是它发动“建设者”去工作的。但如果要展示出一个孩子思维中更真实的图景，我们就会发现这种选择还依赖许多其他的智能组。举例而言，我们假定“建设者”和“破坏者”在最开始时都是被更高层级的智能体——“玩积木”发动起来的。那么当“建设者”和“破坏者”在塔是否足够高这一点上无法达成一致时，冲突就出现了。
1700519088
1700519089
1700519090
1700519091
1700519092
在最开始时又是什么唤起了“玩积木”呢？可能是某个更高层级的智能体，“玩耍”，先被激活了。然后，在“玩耍”内部，尽管有“玩娃娃”和“与小动物玩耍”这两个竞争者，最终还是“玩积木”掌握了控制权。不过就算是它们的主管上司“玩耍”本身，也必须和“吃”和“睡觉”这样的其他高级智能组竞争。毕竟，孩子玩耍不是一个孤立事件，它总是和现实生活中许多其他事情一起发生。无论我们选择做哪件事，总是在同时还有其他事情想做。
1700519093
1700519094
在本书的几个部分中，我会假定智能体之间的冲突有向上级移动的倾向。举例而言，“建设者”和“破坏者”之间的冲突时间延长将会削弱它们共同的上级，即“玩积木”，从而减弱它压制自身的对手，即“玩娃娃”和“与小动物玩耍”的能力。接下来如果冲突还不能很快解决，它就会在下一个更高的层级上削弱“玩耍”的控制力，于是“吃”或者“睡觉”就可能夺取控制权。
1700519095
1700519096
1700519097
1700519098
1700519099
心智社会：从细胞到人工智能，人类思维的优雅解读 [:1700518396]
1700519100
心智社会：从细胞到人工智能，人类思维的优雅解读 3.2 无法妥协
1700519101
1700519102
为了解决争端，国家发展出了司法体系，公司建立了政策，个体之间则会争论、战斗或者妥协——又或者寻求外部调停者的帮助。那么，如果思维内部发生了冲突会怎么样呢？
1700519103
1700519104
无论何时，只要有几个智能体竞争相同的资源，它们就有可能陷入冲突。如果等着这些智能体自己解决，那这些冲突可能会一直持续下去，从而导致智能体们陷于瘫痪状态，无法完成任何目标。这时会发生什么？我们认为那些智能体的上级也同样面临竞争的压力，而且不论是因为发生了冲突还是智能体本身能力不足，只要下级完成目标的速度变慢，上级就很有可能被削弱。
1700519105
1700519106
无法妥协定理（The Principle of Noncompromise） ：一个智能体的下级智能体之间出现的内部冲突持续时间越长，这个智能体与自己的竞争者相比状态越弱。如果这种内部问题不能很快解决，其他的智能体就会获得控制权，而以前参与工作的智能体则会被“解散”。
1700519107
1700519108
只要玩积木进行得不错，“玩耍”就能维持它的优势，继续占有控制权。但同时，这个孩子可能会开始感到饥饿和困倦，因为其他的程序正逐渐唤醒“？吃”和“睡觉”的智能体。只要“吃”和“睡觉”还没有被强烈激活，“玩耍”就能牵制住它们。不过，如果“玩耍”内部发生了任何冲突，都会削弱它的力量，让“吃”和“睡觉”有机可乘。当然，“吃”和“睡觉”最终还是会取得胜利，因为等待的时间越长，它们的力量越强大。
1700519109
1700519110
我们自己也经历过这样的事。当手头的事情进展得很顺利时，我们就很容易抵挡外界的小干扰，但如果工作内容出现了一些麻烦，我们就开始变得越来越没有耐心，很容易烦躁。最终，我们会发现自己很难集中精神，最细微的干扰也会让其他不同的兴趣点占据主导。不过，任何智能组就算失去了对其他系统的控制，也并不代表其自身内部的活动就终止了。一个失去了控制的智能组也能继续在其内部运作，从而为抓住以后的机会做好准备。然而，我们通常不会意识到其他那些在思维深处持续进行的活动。
1700519111
1700519112
这个把控制权让位给其他智能组的过程何时停止呢？每个思维都有一个最高的控制中心吗？未必如此。我们有时通过迎合上级来解决冲突，但有些冲突一直都不会结束，而且会不断对我们造成困扰。