1700521954
心智社会：从细胞到人工智能，人类思维的优雅解读 [:1700518530]
1700521955
心智社会：从细胞到人工智能，人类思维的优雅解读 16.5 雪崩效应
1700521956
1700521957
我们所讨论的那些方案如果和我们描述的一模一样，那么它们很少能真正起作用。它们大部分很快就会崩溃，因为实际上所有的智能体都会参与到不受限制的活动中去。设想每个典型的智能体都倾向于唤醒其他若干智能体，然后这些被唤醒的智能体又会去唤醒若干其他智能体，以此类推，活动的传播速度会比森林大火还快。但这项活动最终什么也无法完成，因为所有的智能体都会互相干扰，谁也无法获得它们所需资源的控制权。实际上，这差不多就是癫痫发作时会发生的事。
1700521958
1700521959
每个生物系统都会发生相似的问题。每个原则或机制都应该受到控制，只在限定的范围内运作。就连小小的基因团体也有一些方案，在每个细胞内指挥制造蛋白质时也会控制数量。在每种规模上，我们都发现了这样的模式。每种生物组织、器官和系统都受一些控制机制约束，一旦这些机制失效就会出现疾病。是什么保护了我们的脑不受这种活动雪崩的影响呢？在我们的智能组中，交互排斥方案很有可能是最常见的约束各种水平的活动方式，但同样也有其他防止爆炸的常见方案。
1700521960
1700521961
节约（conservation） ：强迫所有活动都依赖于某种物质或其他可量化的事物，每次只能获得特定的量。举例而言，我们给所有的智能体都设定了电流限制，用以控制Snarc机器，这使得在特定的时刻，它们之中只有几个可以活动。
1700521962
1700521963
消极反馈（negative feedback） ：提供一个“总结”设备评估智能组中的所有活动，然后按照与整体的比例向智能体广播“抑制”信号。这会把雪崩扼杀在摇篮中。
1700521964
1700521965
审查员与抑制器（censors and suppressors） ：“节约”和“反馈”方案都倾向于进行无差别的控制。之后我们会讨论一些方法，它们在学习识别和避免之前产生过麻烦的特定活动类型方面更敏感，功能也更多。
1700521966
1700521967
这些方法足够简单，可以在小社会里应用，但它们的功能不够多样。在更复杂的社会中，我们需要学习解决困难的问题，这些方法无法解决可能出现的所有管理难题。幸运的是，在更大规模上建立的系统也许能够通过建构和解决自我管理的问题，把自身得到强化的能力应用于对自身的管理。在接下来的几部分中，我们将会看到这种能力如何在几个发展阶段中不断成长。所有这些并不一定需要在每个孩子的思维中独立发生，因为孩子所处的家庭和文化社群可以发展出更复杂的自我约束方案。所有人类社会似乎都在制定方针指导其成员如何思考，这些方针以常识、法律、宗教或哲学的形式出现。
1700521968
1700521969
1700521970
1700521971
1700521972
心智社会：从细胞到人工智能，人类思维的优雅解读 [:1700518531]
1700521973
心智社会：从细胞到人工智能，人类思维的优雅解读 16.6 动机
1700521974
1700521975
想象一个口渴的孩子学会去拿旁边的杯子。之后，孩子为什么没有在任何情况下都去拿杯子呢，比如觉得孤独或者觉得冷的时候？我们是怎么区分我们学到的不同东西可以实现不同目标的呢？方法之一就是给每个不同的目标保留一个单独的记忆库。
1700521976
1700521977
1700521978
1700521979
1700521980
每个原型专家的独立知识库
1700521981
1700521982
为了让这个方法起效，我们必须限制每个专家只在自己的目标活动时才学习。我们可以通过把它们放置在一个交互排斥系统中来实现这一点，比如“饥饿”的记忆只有在“饥饿”活动时才会形成。这样的系统永远不会对要用什么记忆感到困惑。感到饥饿的时候，它只会去做以前感到饥饿时学会去做的事；不会在口渴的时候去吃东西，也不会在饥饿的时候去喝水。但如果给每个目标都保留一个不同的记忆库就太奢侈了，因为就像我们说过的，大部分真实世界的目标使用的都是同样类型的知识。如果所有专家都可以共用常见的、一般性目的的记忆不是会更好吗？
1700521983
1700521984
1700521985
1700521986
1700521987
知识基础生长到彼此之中
1700521988
1700521989
这也会产生问题。如果任何一个专家为了自己的好处想要重新安排某些记忆，其可能会破坏其他专家所依赖的结构。不可预测的互动太多。专家们如何合作共享它们所学到的内容呢？如果它们和人一样，就可以交流、谈判和组织。但因为每个单独的专家太小，所工作的领域也太特别，所以它们无法理解其他专家的工作。它们能做到的最好的事就是互相利用其他专家可以做的事，而不需要理解那是什么。
1700521990
1700521991
1700521992
1700521993
1700521994
心智社会：从细胞到人工智能，人类思维的优雅解读 [:1700518532]
1700521995
心智社会：从细胞到人工智能，人类思维的优雅解读 16.7 利用
1700521996
1700521997
思维中的一个专家如果不理解其他专家的工作，又怎么和它们合作呢？在外部世界中，我们也面临同样的窘境，我们同人和机器打交道，但不知道他们的内部运行原理。头脑中也是一样，思维的每个部分都会利用其他部分，但并不知道其他部分是怎么工作的，只知道它们看上去在做什么。
1700521998
1700521999
假设“口渴”知道可以在杯子里找到水，但不知道怎么找到或者拿到杯子，这些事只有“寻找”和“拿起”知道该怎么做。于是，“口渴”必须有某种可以利用其他那些智能体的能力。同样，“建设者”也有相似的问题，因为它手下的大部分次级智能体之间都不能直接沟通。开启“寻找”和“拿起”对“口渴”或“建设者”来说是很容易的事，但这些次级智能体怎么能知道要找什么和拿什么呢？“口渴”一定要向“寻找”传送一张杯子的图片吗？“建设者”一定要传送砖块的图片吗？麻烦之处在于“建设者”和“口渴”都没有“寻找”所需要的那种信息，也就是事物的外观样式，这类知识存在于“看见”的内部记忆机器里。然而“口渴”可以通过激活两个联结而实现喝水的目标：一个联结是让“看见”幻想一个杯子，另一个联结是激活“寻找”。“寻找”之后又可以激活“拿起”。如果这个杯子在视线范围内的话，这就足以让“口渴”定位并得到杯子了。
1700522000
1700522001
1700522002
1700522003