1701743135
推理的迷宫：悖论、谜题及知识的脆弱性 [:1701739762]
1701743136
说明书中的一页
1701743137
1701743138
分析一下这个问题的技术细节是有好处的。为便于讨论，我们调整一下假设：假定屋里的人是说汉语的，但是他对英语一无所知，甚至不认识罗马字母。（这样假定可以使讨论更方便，因为我们的讨论变成了如何理解英语。）向屋里提供的故事是《伊索寓言》中狐狸和鹳的故事，次日向屋里提出的一批问题是关于这两只动物的。屋里有一本说明书，书名是《如果有人从门缝塞进来一张写有英文的纸怎么办？》，书是用汉语写的。我们考虑一下这本书的内容。
1701743139
1701743140
这本书必须有一部分内容教你如何识别“Fox”（狐狸）这个单词。我们知道，英语中只有单词（而非字母）才有意义。于是，为了模拟对角色和故事中的事件进行推理的心理过程，任何算法都必须把对应于角色和事件的单词分离并识别出来。懂英语的人瞟一眼就能认出“Fox”这个词，但是说汉语的人做不到，他必须遵循一个繁复的算法。这个算法可以是这样：
1701743141
1701743142
1.搜索文本，寻找类似于以下符号的符号：
1701743143
1701743144
1701743145
1701743146
1701743147
如果发现了类似符号，转到步骤2。如果文本中没有这样的符号，转到说明书的第30 761 070 711页。
1701743148
1701743149
2.如果此符号的右侧紧跟着一个空格，则回到上一个步骤。如果此符号的右侧紧跟着另一个符号，把第二个符号与下列符号比较：
1701743150
1701743151
1701743152
1701743153
1701743154
如果相符，则转到步骤3。否则，回到步骤1。
1701743155
1701743156
3.如果步骤2中的第二个符号右侧紧跟着一个空格，则转到步骤1。否则，比较其右侧符号与下列符号：
1701743157
1701743158
1701743159
1701743160
1701743161
如果相符，转到步骤4。否则，回到步骤1。
1701743162
1701743163
4.如果步骤3中的符号右侧紧跟着一个空格或下列符号之一，则转到说明书的第84 387 299 277页。如果其右侧是一个不同的符号，则回到步骤1。
1701743164
1701743165
1701743166
1701743167
1701743168
这些指令距离最终目标还差很远。当涉及如何对狐狸进行思考时，谁知道指令会复杂到什么程度呢？
1701743169
1701743170
我们手里没有塞尔设想的理解中文的算法，但是我们有简单一些的算法。假设有一个非常幼稚的人，他以前从来没见过袖珍计算器，这个可怜的家伙可能会形成一个错误的观点：计算器有思想。你可以用塞尔实验的方式令他醒悟。向他提供计算器使用的微处理器的说明书和接线图，把计算器按键在输入问题时产生的电信号传递给他。让他模拟计算器在算题时进行的操作。这个由真人模拟的微处理器可以产生正确的结果，但是没有意识到自己实际上算了一道数学题。他不知道自己计算的是2加2，还是14.881度角的双曲余弦。这个人不会有抽象的数学运算的意识，同样，计算器也不会有。如果有人利用系统观点回应提出反驳，你可以让实验对象记住所有东西并在头脑中完成操作。是这样吗？
1701743171
1701743172
别这么确信。计算器为了进行一个简单的计算需要经过数以千计的步骤。这个实验很可能需要许多个小时。除非实验对象记忆力超群，否则他不可能在头脑里完成对微处理器的模拟。在执行过程中，他几乎肯定会遗忘某些中间过程，从而毁掉全盘工作。
1701743173
1701743174
现在考虑塞尔的实验对象的状况。给他的说明书必须非常大，甚至要比地球上的任何房屋都要大。
1701743175
1701743176
由于还没有人设计出可以操纵汉语字符正确地“回答”问题的算法，我们无法估计这种算法的庞大程度和复杂程度。但是，由于这种算法必须模拟人类的智能，所以有理由认为，它的复杂程度不会比人脑差太远。
1701743177
1701743178
可以设想，1 000亿个神经元中的每一个在实际的（或潜在的）心理过程中发挥某种作用。因此我们可以认为，那本模拟人类操作汉字符号的说明书至少需要包括1 000亿条不同的指令。如果每一页上写一条指令，就意味着要写1 000亿页。于是，这本名为“如果有人从门缝塞进来中文文本怎么办？”的书更像是一套丛书，这套丛书包括1亿卷，每卷1 000页。这大致相当于纽约市图书馆藏书量的100倍。这个数字后面也许可以去掉几个0，但是很明显，没有人能够记住这些指令。同样，没有人可以不用到纸片，或者更好的工具——一个庞大的档案管理系统。
1701743179
1701743180
问题的关键不在于这个算法偶然地因过分庞大而不可执行。中文处理算法中嵌入了大量的人类思维过程，其中包括基本常识的储备。（例如，人们在餐馆里如何行事的常识。）人脑是否有能力记住同人脑本身一样复杂的东西？当然不能。这个问题类似于，你不能吃下比你本人大的东西。
1701743181
1701743182
你很可能见过这样的统计结论：“平均而言，一个美国人每6个月吃掉一整头牛。”对于这种说法可以做类似分析。一头牛比人大，但是作为统计对象的人每次只消灭牛的一小部分。在任何一个时刻，你的体内都不会包括太多的牛肉。塞尔的实验对象也是如此。
1701743183
1701743184
人脑是由物理材料构成的，记忆存储是通过这些物理材料的化学状态和电状态实现的，因此，记忆力的容量是有限的。人脑有多大部分是用来记忆东西的尚不清楚，但是显然不会是全部。也许只有一小部分有记忆功能。人脑的其他部分必须用来执行其他功能，例如，对记忆进行操作，获取新的感觉材料，等等。