1700519667
1700519668
设想一个外星人发明了一种全新的方式让人可以从一个房间进入另一个房间。这项发明的功能和门的作用一样，但它的样式和机理超出了我们目前的经验范围，我们认不出这是一扇门，也猜不到如何使用它。其所有的物理细节都不对头。我们平常所期望的门不是这样的，而应该是镶嵌在墙里、带有合页、可以转动的一块木板。不要紧：在它的外表添加一些装饰、符号、图标、记号、词汇等能提示它用途的迹象。给它包上长方形的外形，或者加上一块用红白相间的字体写着“出口”的推板拉手，那么每个来自地球的人不用想也能知道那个伪装出来的传送器是干什么用的，并知道把它当成门来用。
1700519669
1700519670
刚开始时，给一个不是门的新事物加上和门有关的符号感觉很奇怪，但我们其实一直都处于这样的窘境中。我们的思维中没有门，只有各种迹象之间的联结。夸张一点儿说，我们所谓的“意识”只不过是心理屏幕上不时闪过的菜单，供其他系统使用而已。这非常像玩电脑游戏的人用符号启动复杂的游戏机，但他们其实一点儿也不明白这中间的工作原理。
1700519671
1700519672
当你去思考它的原理时，也几乎不太可能搞明白！想想如果我们真的面对着脑中由万亿线路组成的网络又能怎样呢。这些结构中少之又少的一些部件已经被科学家们观察了很多年，但人们仍然无法理解它们的运行原理。幸运的是，用语言或信号来启动思维中一些有用的程序，对我们的日常生活来说已经足够了。谁会去管它们是怎样运作的，只要它们正常工作就行！想想锤子对你来说是不是基本上就是用来敲东西的，球基本上就是用来丢出去和接过来的。为什么我们对事物的理解通常不是“它是什么”，而常常是“它是做什么用的”？那是因为我们的思维进化到现在，并没有变成一种科学或哲学工具，而是要去解决填饱肚子、保证安全、繁衍后代等实际问题。我们倾向于认为知识本身是好东西，但知识只有在可以帮助我们达成目标的时候才算有用。
1700519673
1700519674
1700519675
1700519676
1700519677
心智社会：从细胞到人工智能，人类思维的优雅解读 [:1700518421]
1700519678
心智社会：从细胞到人工智能，人类思维的优雅解读 6.3 思维实验
1700519679
1700519680
你通过什么方式发现世上的事物？就是看和看见！好像很简单，但其实一点儿也不简单。不经意的一瞥就会调用十亿脑细胞来呈现当下的景象，并总结它与以往的经验记录有何不同。你的智能组会对世上发生的事总结出各种小理论，然后让你去做一些小实验证实或者推翻后重新总结这些理论。它之所以看上去简单，只是因为你并没有意识到所发生的事。
1700519681
1700519682
你又是通过什么方式发现自己思维中的事物呢？使用和上面类似的技术。你整理一些关于思维的小理论，然后做一些小实验验证这些理论。麻烦之处在于，思维实验的结果并不会像科学家们试图求证的那样干脆利索。问问你自己，当你想象一个圆形的方块时会发生什么，或者你想要同时开心和难过会怎么样。为什么这种实验的结果那么难描述？或者为什么很难从其中得出有用的结论？因为我们被搞糊涂了。我们的思维中关于思维的实验本身就是一种思维实验，所以它们之间会相互干扰。
1700519683
1700519684
思考会影响我们的思维。
1700519685
1700519686
做计算机编程的人也会遇到类似的问题，新程序会因为组件之间意想不到的相互作用而发生故障。为了找到问题所在，程序员们开发了一些特殊的程序用以排除其他程序的错误。但是和思维实验一样，这也存在一种风险，那就是被排查的程序可能会更改用于排查的程序。为了防止这种事情发生，现在的计算机都配备了一种特殊的“干扰”装置，它能检测到其他程序试图更改排查程序的行为。一旦发现，“罪犯”就会当场被“冻结”，以便排查程序对其进行检验。要做到这一点，我们就必须为干扰装置提供能储存足够的信息专用内存条，以便在排查之后重新启动冻结程序时可以像什么都没发生过一样。
1700519687
1700519688
人脑也配备了类似的装置吗？对于一次只做一件事的电脑而言，建立自我排查系统是一件容易的事。但像人脑这样一次开动很多程序的复杂系统，要建立这样的程序就非常困难。问题在于，如果你要冻结一个程序而让其他程序继续工作，就会改变正在检查的程序。然而，如果让所有程序同时冻结，你就无法验证这些程序之间到底是怎样相互作用的。
1700519689
1700519690
稍后，我们会看到意识是与我们的瞬时记忆相连的。这表示就其自身而言，意识能告诉我们的内容很有限，因为它不能进行完美的自我实验。这种实验需要把缓存中发生的事完美地记录下来。但无论什么样的内存设备都会被那些想要探索其运行原理的自我实验搞糊涂，因为这些实验一定会更改它们正在检测的记录！我们没办法完美地处理这些干扰。从原则上来说，这并不表示意识不能被理解。它只是说明，要想研究意识，我们必须用一些不那么直接的科学方法，因为这不是我们简单地“看和看见”就能完成的。
1700519691
1700519692
1700519693
1700519694
1700519695
心智社会：从细胞到人工智能，人类思维的优雅解读 [:1700518422]
1700519696
心智社会：从细胞到人工智能，人类思维的优雅解读 6.4 B-脑
1700519697
1700519698
有一种方法可以让思维观察自身并记录所发生的事：把脑划分成A和B两个部分。A的输入和输出与真实的世界相连，用于感知那里发生的事。但B不能与外部世界有任何联系，相反，只让它与A相连，A就是它的全部世界。
1700519699
1700519700
1700519701
1700519702
1700519703
现在，A可以看见外部世界发生的事并对其采取行动，而B可以“看见”和影响A中发生的事。这样的B有什么用呢？A的活动里有一些是B可以学会识别和影响的。
1700519704
1700519705
1700519706
1700519707
1700519708
这种两部分的安排有助于形成一个“反思的”意识社会。B-脑可以对A-脑进行实验，就像A-脑可以对身体或者对其周围的人和事物进行实验一样。A可以试着预测和控制外部世界，B则可以试着去预测和控制A将会做什么。举例而言，B-脑可以通过直接改变A或者影响A自身的学习程序来监督A的学习过程。
1700519709
1700519710
虽然B可能并不清楚A的活动和外部世界到底有什么关系，但B对A可能还是有用处的。因为B-脑可以学会担任一种类似咨询师的角色，心理咨询师或管理咨询师，他们不需要了解客户所从事专业中的所有细节，就能对客户的心理策略进行评估。B不用了解A的目标是什么，就能学会识别出A并没有在完成目标，只是在原地打转或徘徊，因为A的某些智能体一直在不断重复同样的事，A为此感到困惑。于是B可能会采取一些简单的补救办法，比如抑制那些智能体。当然，这可能会导致B的行为对A造成困扰。举例而言，如果A有一个目标是把一长串数字相加，从B的角度而言，它可能觉得这是在做一件重复的事，于是可能会开始进行干扰。这可能会让一个人更习惯于多样化的事物，在这种任务中就很难集中精神，抱怨它们很无聊。
1700519711
1700519712
根据B-脑对A中所发生的事的了解程度，可以说整个系统具有一定程度的“自知力”。然而，如果我们把A和B更紧密地联系在一起去互相“观察”，什么事都有可能发生，而且整个系统可能会变得不稳定。无论怎样，也没有理由只停留在两个级别上；我们还可以把C-脑联系起来去观察B-脑，以此类推。
1700519713
1700519714
1700519715
1700519716