1700524109
心智社会：从细胞到人工智能，人类思维的优雅解读 [:1700518637]
1700524110
心智社会：从细胞到人工智能，人类思维的优雅解读 27.1 恶魔
1700524111
1700524112
我们的读者一定很想知道玛丽和那个风筝最后怎么样了。接下来的故事是这样的：
1700524113
1700524114
有一次玛丽受邀参加杰克的聚会。她想知道他会不会想要一只风筝。但是简告诉她：“杰克已经有一只风筝了，他会让你把它拿回去的。”
1700524115
1700524116
这里的“它”指的是什么呢？很明显简说的不是杰克已经有的那只风筝，而是玛丽打算送给杰克的那只新风筝。是什么引导了听众的判断，使其认为这就是讲述者所要表达的意思呢？其实除了“它”指的是哪个风筝之外，我们还有很多别的问题需要解决。比如，我们怎么知道“它”指的就是一只风筝呢？而“把它拿回去”是说从杰克那里拿回去，还是把风筝退回商店呢？为了简单起见，我们先不考虑其他可能性，假定“它”指的就是一只风筝，但如果要判断究竟指的是哪只风筝，我们还必须理解“把它拿回去”这个更大的短语是什么意思。这个短语一定要能与听众脑海中已经存在的某种思维结构相匹配。讲述者希望能够唤起听众自己赠送和接收生日礼物的一些记忆片段，从而使他们能够借助这种相似的生活常识，找到最适合理解这个短语的思维结构。但是因为每个听众的头脑中都有着巨大的信息量，有什么程序可以快速地唤起那些有用的知识呢？在1947年，麻省理工学院的研究生尤金·查尼艾克做了一个研究，以探索这个故事中每个短语如何帮助阅读者理解后文的短语。他认为每当我们听到一个事件的时候，某个特定的识别智能体就会被启动。这些智能体接下来会活跃地运行，观察并等待着其他相关事件的发生。（因为这些识别智能体平时都在静静地潜伏着，只会在特定的情形下才介入，所以它们也被称为“恶魔”。）比如说，一旦有个故事中出现了某人买了份礼物的细微暗示，特定的“恶魔”就会被激活并等待着下面这种事件的出现：
1700524117
1700524118
如果有迹象表明被送礼物的人拒绝了这个礼物，它就会在下文中搜寻礼物被退回的信号。如果你看到了礼物被退回的征兆，它又会搜寻被送礼物的人拒绝礼物的信号。
1700524119
1700524120
查尼艾克的理论引发了很多新的思考。比如，激活一个“恶魔”的难度有多大？它们的活跃状态能维持多久？如果被激活的“恶魔”太少，我们对事情的理解就会很迟钝。但如果被激活的“恶魔”太多，我们又会被错误的讯息搞得晕头转向。这些问题没有什么简单的答案，而且我们所说的“理解力”本来就要靠大量的技能不断累积才能获得。你可能只需要一些孤立的“恶魔”就可以理解某一小段的故事，但要理解其他内容，可能就需要动用一些更大的程序，从你的海量回忆中搜寻能与接下来的故事情节相匹配的记忆片段，还有一些内容的理解可能取决于哪些智能体被各种微忆体激活了。你以为你在专注地讲述或聆听一个故事，实际上你的痴迷程度有多少是在被这些“恶魔”的预期操控着呢？
1700524121
1700524122
1700524123
1700524124
1700524125
心智社会：从细胞到人工智能，人类思维的优雅解读 [:1700518638]
1700524126
心智社会：从细胞到人工智能，人类思维的优雅解读 27.2 抑制器
1700524127
1700524128
如果可以永远不犯错误就太好了。要做到这一点，一种方法是让大脑中永远都是绝对完美的正确思想，但这是不可能做到的。不过我们可以尽力去尝试在那些坏主意造成很大危害之前及早地识别出它们。因此，我们可以设想有两种恰好相反的自我完善方式。一种是扩展我们的思路范围，这样我们就会有更多的主意，但也意味着有更多的错误。另一种是我们试着去避免重复那些曾经犯下的错误。每个族群或团体都会逐渐形成一些限制和禁忌，以此告诫成员们哪些事情是不应该做的。我们的思维也是如此，我们从记忆的累积中获取经验，以此来告诫自己哪些是不应该想的。
1700524129
1700524130
然而，怎样才能让一个智能体阻止我们重复做一些过去做过的错误或徒劳无功的事情呢？再理想化一些，这个智能体甚至可以让我们根本不会再想到那些不好的思路。但这看上去似乎是自相矛盾的，就像你去对一个人说：“不要想猴子！”他仍然会用某种方式去做这件事。要想知道它是如何发挥作用的，可以想象一个会导致某种错误的思维状态序列：
1700524131
1700524132
1700524133
1700524134
1700524135
要阻止这个不当行为的发生，我们可以引入一个特殊的智能体，它能够识别出过去不当行为出现之前的思维状态。
1700524136
1700524137
抑制器（suppressor-agent） 智能体会在你想到某个“坏主意”的时候出现，然后阻止你做出相应的不当行为，使你在想到一些替代措施之前保持冷静。如果一个抑制器可以说话，它一定会大叫：“不要再想了！”
1700524138
1700524139
抑制器的确可以使我们避免重复过去所犯的错误，但是它只能在我们确切地出现了不良思维状态之后，才把我们“拉回去”，这种方式的效率很低。如果我们能够预测到那些错误的思路并加以阻止，就不用再出现那些不好的思维状态了。在下一节中我们就会讲到如何利用一种叫作审查员的智能体去做到这一点。
1700524140
1700524141
审查员（censor-agent） 智能体不需要等到一个坏主意形成后才有所行动，它们可以对不良思维形成之前的那个思维状态进行拦截。如果一个审查员可以说话，它可能会说：“想都不要想！”
1700524142
1700524143
虽然西格蒙德·弗洛伊德很久以前就提出了审查员的构想，但它们在当前的心理学中很少被提及。我认为这是一个严重的疏忽，审查员是我们得以学习事物和进行思考的基本条件。问题可能在于我们的审查员运行得太成功了，以致人们根本没有发现它们。因为对心理学家们来说，研究一个人做了什么，自然要比研究一个人没做什么容易得多。
1700524144
1700524145
1700524146
1700524147
1700524148
心智社会：从细胞到人工智能，人类思维的优雅解读 [:1700518639]
1700524149
心智社会：从细胞到人工智能，人类思维的优雅解读 27.3 审查员
1700524150
1700524151
要了解抑制器和审查员都要做些什么，我们不仅要考虑实际出现的思维状态，还要考虑其他具有细微差异的相似环境中可能出现的各种思维状态。
1700524152
1700524153
1700524154
1700524155
1700524156
抑制器在一个行为将要形成之前通过调停对其进行阻止，但这很消耗时间，因为在找到可接受的替代措施之前，我们什么都做不了。而审查员则可以通过更早开始调停来避免这种时间浪费。与抑制器等到行为将要发生时才叫停的做法不同，审查员运行得更早，使得我们还有一些时间去选择替代方案。而且审查员仅仅是让我们的思维调转到一个可接受的方向上，而不像抑制器那样直接阻断思维的进程，所以完全不会浪费时间。
1700524157
1700524158
如此看来，审查员显然要比抑制器更高效，但我们也要为这种效率付出一些代价。短时间内我们的思维退回去得越远，它们再向前推进的方向就越多，我们到达一个错误思维状态的可能性也就越大。同时，为了避免某个特定思维状态的出现，审查员还要提早学会识别这一状态之前所有可能的思维状态。因此，每个审查员可能都迫切需要一个庞大的记忆库。据我们了解，每个人都积累了数百万个审查记忆，用以避免无效或有害的思维模式出现。