1700521963
消极反馈（negative feedback） ：提供一个“总结”设备评估智能组中的所有活动，然后按照与整体的比例向智能体广播“抑制”信号。这会把雪崩扼杀在摇篮中。
1700521964
1700521965
审查员与抑制器（censors and suppressors） ：“节约”和“反馈”方案都倾向于进行无差别的控制。之后我们会讨论一些方法，它们在学习识别和避免之前产生过麻烦的特定活动类型方面更敏感，功能也更多。
1700521966
1700521967
这些方法足够简单，可以在小社会里应用，但它们的功能不够多样。在更复杂的社会中，我们需要学习解决困难的问题，这些方法无法解决可能出现的所有管理难题。幸运的是，在更大规模上建立的系统也许能够通过建构和解决自我管理的问题，把自身得到强化的能力应用于对自身的管理。在接下来的几部分中，我们将会看到这种能力如何在几个发展阶段中不断成长。所有这些并不一定需要在每个孩子的思维中独立发生，因为孩子所处的家庭和文化社群可以发展出更复杂的自我约束方案。所有人类社会似乎都在制定方针指导其成员如何思考，这些方针以常识、法律、宗教或哲学的形式出现。
1700521968
1700521969
1700521970
1700521971
1700521972
心智社会：从细胞到人工智能，人类思维的优雅解读 [:1700518531]
1700521973
心智社会：从细胞到人工智能，人类思维的优雅解读 16.6 动机
1700521974
1700521975
想象一个口渴的孩子学会去拿旁边的杯子。之后，孩子为什么没有在任何情况下都去拿杯子呢，比如觉得孤独或者觉得冷的时候？我们是怎么区分我们学到的不同东西可以实现不同目标的呢？方法之一就是给每个不同的目标保留一个单独的记忆库。
1700521976
1700521977
1700521978
1700521979
1700521980
每个原型专家的独立知识库
1700521981
1700521982
为了让这个方法起效，我们必须限制每个专家只在自己的目标活动时才学习。我们可以通过把它们放置在一个交互排斥系统中来实现这一点，比如“饥饿”的记忆只有在“饥饿”活动时才会形成。这样的系统永远不会对要用什么记忆感到困惑。感到饥饿的时候，它只会去做以前感到饥饿时学会去做的事；不会在口渴的时候去吃东西，也不会在饥饿的时候去喝水。但如果给每个目标都保留一个不同的记忆库就太奢侈了，因为就像我们说过的，大部分真实世界的目标使用的都是同样类型的知识。如果所有专家都可以共用常见的、一般性目的的记忆不是会更好吗？
1700521983
1700521984
1700521985
1700521986
1700521987
知识基础生长到彼此之中
1700521988
1700521989
这也会产生问题。如果任何一个专家为了自己的好处想要重新安排某些记忆，其可能会破坏其他专家所依赖的结构。不可预测的互动太多。专家们如何合作共享它们所学到的内容呢？如果它们和人一样，就可以交流、谈判和组织。但因为每个单独的专家太小，所工作的领域也太特别，所以它们无法理解其他专家的工作。它们能做到的最好的事就是互相利用其他专家可以做的事，而不需要理解那是什么。
1700521990
1700521991
1700521992
1700521993
1700521994
心智社会：从细胞到人工智能，人类思维的优雅解读 [:1700518532]
1700521995
心智社会：从细胞到人工智能，人类思维的优雅解读 16.7 利用
1700521996
1700521997
思维中的一个专家如果不理解其他专家的工作，又怎么和它们合作呢？在外部世界中，我们也面临同样的窘境，我们同人和机器打交道，但不知道他们的内部运行原理。头脑中也是一样，思维的每个部分都会利用其他部分，但并不知道其他部分是怎么工作的，只知道它们看上去在做什么。
1700521998
1700521999
假设“口渴”知道可以在杯子里找到水，但不知道怎么找到或者拿到杯子，这些事只有“寻找”和“拿起”知道该怎么做。于是，“口渴”必须有某种可以利用其他那些智能体的能力。同样，“建设者”也有相似的问题，因为它手下的大部分次级智能体之间都不能直接沟通。开启“寻找”和“拿起”对“口渴”或“建设者”来说是很容易的事，但这些次级智能体怎么能知道要找什么和拿什么呢？“口渴”一定要向“寻找”传送一张杯子的图片吗？“建设者”一定要传送砖块的图片吗？麻烦之处在于“建设者”和“口渴”都没有“寻找”所需要的那种信息，也就是事物的外观样式，这类知识存在于“看见”的内部记忆机器里。然而“口渴”可以通过激活两个联结而实现喝水的目标：一个联结是让“看见”幻想一个杯子，另一个联结是激活“寻找”。“寻找”之后又可以激活“拿起”。如果这个杯子在视线范围内的话，这就足以让“口渴”定位并得到杯子了。
1700522000
1700522001
1700522002
1700522003
1700522004
这个方案可能不可靠。如果“看见”此时开始关注别的事物，“拿起”就会得到错误的物体。婴儿常常因为这样而让自己失望。但这种方案的简易性是每个人在建立更强大的技能时都需要的：人们需要一个程序，在能够改进这个程序之前，它有时能起作用就行。
1700522005
1700522006
这仅仅是描绘如何建构一个“获取机器”的草图。之后讨论语言的时候，我们还会回来谈这个理念，因为“口渴”和“建设者”必须做的事与人们在使用语言时需要做的事很像。当你对另一个人说，“请帮我递一下杯子”，你不会传一张杯子的影像给别人，而只是发送一个信号去利用那个人的记忆。
1700522007
1700522008
相对于自己知道怎么去做，通过利用其他智能组的能力来完成目标可能看上去是一个劣质的替代品，但这就是社会资源的力量。如果要关注每条神经和肌肉要做什么这种小细节，那么没有一个高水平的智能组可以完成复杂的目标。除非大部分工作都由其他智能组完成，否则一个社会中没有一个部分可以完成任何重大的事情。
1700522009
1700522010
1700522011
1700522012