1700519677
心智社会：从细胞到人工智能，人类思维的优雅解读 [:1700518421]
1700519678
心智社会：从细胞到人工智能，人类思维的优雅解读 6.3 思维实验
1700519679
1700519680
你通过什么方式发现世上的事物？就是看和看见！好像很简单，但其实一点儿也不简单。不经意的一瞥就会调用十亿脑细胞来呈现当下的景象，并总结它与以往的经验记录有何不同。你的智能组会对世上发生的事总结出各种小理论，然后让你去做一些小实验证实或者推翻后重新总结这些理论。它之所以看上去简单，只是因为你并没有意识到所发生的事。
1700519681
1700519682
你又是通过什么方式发现自己思维中的事物呢？使用和上面类似的技术。你整理一些关于思维的小理论，然后做一些小实验验证这些理论。麻烦之处在于，思维实验的结果并不会像科学家们试图求证的那样干脆利索。问问你自己，当你想象一个圆形的方块时会发生什么，或者你想要同时开心和难过会怎么样。为什么这种实验的结果那么难描述？或者为什么很难从其中得出有用的结论？因为我们被搞糊涂了。我们的思维中关于思维的实验本身就是一种思维实验，所以它们之间会相互干扰。
1700519683
1700519684
思考会影响我们的思维。
1700519685
1700519686
做计算机编程的人也会遇到类似的问题，新程序会因为组件之间意想不到的相互作用而发生故障。为了找到问题所在，程序员们开发了一些特殊的程序用以排除其他程序的错误。但是和思维实验一样，这也存在一种风险，那就是被排查的程序可能会更改用于排查的程序。为了防止这种事情发生，现在的计算机都配备了一种特殊的“干扰”装置，它能检测到其他程序试图更改排查程序的行为。一旦发现，“罪犯”就会当场被“冻结”，以便排查程序对其进行检验。要做到这一点，我们就必须为干扰装置提供能储存足够的信息专用内存条，以便在排查之后重新启动冻结程序时可以像什么都没发生过一样。
1700519687
1700519688
人脑也配备了类似的装置吗？对于一次只做一件事的电脑而言，建立自我排查系统是一件容易的事。但像人脑这样一次开动很多程序的复杂系统，要建立这样的程序就非常困难。问题在于，如果你要冻结一个程序而让其他程序继续工作，就会改变正在检查的程序。然而，如果让所有程序同时冻结，你就无法验证这些程序之间到底是怎样相互作用的。
1700519689
1700519690
稍后，我们会看到意识是与我们的瞬时记忆相连的。这表示就其自身而言，意识能告诉我们的内容很有限，因为它不能进行完美的自我实验。这种实验需要把缓存中发生的事完美地记录下来。但无论什么样的内存设备都会被那些想要探索其运行原理的自我实验搞糊涂，因为这些实验一定会更改它们正在检测的记录！我们没办法完美地处理这些干扰。从原则上来说，这并不表示意识不能被理解。它只是说明，要想研究意识，我们必须用一些不那么直接的科学方法，因为这不是我们简单地“看和看见”就能完成的。
1700519691
1700519692
1700519693
1700519694
1700519695
心智社会：从细胞到人工智能，人类思维的优雅解读 [:1700518422]
1700519696
心智社会：从细胞到人工智能，人类思维的优雅解读 6.4 B-脑
1700519697
1700519698
有一种方法可以让思维观察自身并记录所发生的事：把脑划分成A和B两个部分。A的输入和输出与真实的世界相连，用于感知那里发生的事。但B不能与外部世界有任何联系，相反，只让它与A相连，A就是它的全部世界。
1700519699
1700519700
1700519701
1700519702
1700519703
现在，A可以看见外部世界发生的事并对其采取行动，而B可以“看见”和影响A中发生的事。这样的B有什么用呢？A的活动里有一些是B可以学会识别和影响的。
1700519704
1700519705
1700519706
1700519707
1700519708
这种两部分的安排有助于形成一个“反思的”意识社会。B-脑可以对A-脑进行实验，就像A-脑可以对身体或者对其周围的人和事物进行实验一样。A可以试着预测和控制外部世界，B则可以试着去预测和控制A将会做什么。举例而言，B-脑可以通过直接改变A或者影响A自身的学习程序来监督A的学习过程。
1700519709
1700519710
虽然B可能并不清楚A的活动和外部世界到底有什么关系，但B对A可能还是有用处的。因为B-脑可以学会担任一种类似咨询师的角色，心理咨询师或管理咨询师，他们不需要了解客户所从事专业中的所有细节，就能对客户的心理策略进行评估。B不用了解A的目标是什么，就能学会识别出A并没有在完成目标，只是在原地打转或徘徊，因为A的某些智能体一直在不断重复同样的事，A为此感到困惑。于是B可能会采取一些简单的补救办法，比如抑制那些智能体。当然，这可能会导致B的行为对A造成困扰。举例而言，如果A有一个目标是把一长串数字相加，从B的角度而言，它可能觉得这是在做一件重复的事，于是可能会开始进行干扰。这可能会让一个人更习惯于多样化的事物，在这种任务中就很难集中精神，抱怨它们很无聊。
1700519711
1700519712
根据B-脑对A中所发生的事的了解程度，可以说整个系统具有一定程度的“自知力”。然而，如果我们把A和B更紧密地联系在一起去互相“观察”，什么事都有可能发生，而且整个系统可能会变得不稳定。无论怎样，也没有理由只停留在两个级别上；我们还可以把C-脑联系起来去观察B-脑，以此类推。
1700519713
1700519714
1700519715
1700519716
1700519717
心智社会：从细胞到人工智能，人类思维的优雅解读 [:1700518423]
1700519718
心智社会：从细胞到人工智能，人类思维的优雅解读 6.5 被冻结的反思
1700519719
1700519720
现在的时间和过去的时间
1700519721
1700519722
也许都存在于未来的时间，
1700519723
1700519724
而未来的时间又包容于过去的时间。
1700519725
1700519726
——T.S.艾略特