1700519038
心智社会：从细胞到人工智能，人类思维的优雅解读 [:1700518392]
1700519039
心智社会：从细胞到人工智能，人类思维的优雅解读 2.5 容易和困难的事
1700519040
1700519041
20世纪60年代，在美国麻省理工学院的人工智能实验室内，“建设者”化身成一套计算机程序。我与我的合作者西蒙·派珀特一直想用一只机械手、一只电视眼以及一台计算机组合成一个机器人，让它可以用儿童积木进行建构。我们和我们的学生用了几年的时间来开发移动、看见、抓住以及制造“建设者”智能组所需的几百个小程序。我倾向于认为这个项目让我们有机会一窥儿童在学习如何“玩”简单的玩具时，思维中一些特定的部分。这个项目留给我们一些疑问，那就是：就算有上千种微小技能，是否就足以让儿童在小桶里填满沙子？这种经验启发我们对思维领域产生了许多理念，这是我们以往所学的心理学知识无法做到的。
1700519042
1700519043
要做这些先驱实验，我们首先要制作一只机械“手”，还要在它的指尖上配备压力和触觉传感器。之后还要把一台电视摄像机与我们的电脑相连，并且写出一些计算机程序让“眼睛”可以辨认积木的边缘。这只“眼睛”还得能识别出自身的“手”。开始时那些程序运行得并不顺利，于是我们增加了更多的程序，利用手指的触觉来确认事物确实在视觉所呈现的位置上。不过还是需要其他的程序让计算机可把“手”从一个地方移动到另一个地方，并且通过“眼睛”看到没有东西挡住去路。我们还需要写更高层级的程序，让机器人可以用来计划将要做什么——还有更多的程序来确认这些计划真的会被执行。要让所有这些事都能可靠运行，我们需要程序在每一步都（再次通过“眼睛”和“手”）确认所有思维中所计划的事确实在外部发生了，或者修正所发生的错误。
1700519044
1700519045
在尝试让机器人可以工作的过程中，我们发现许多日常问题比成年人认为困难的那些问题、谜题和游戏复杂得多。在这个积木的世界中，当我们被迫比平常更小心地进行观察时，在每个环节都会发现大量意想不到的因素让问题变得更复杂。比如一个看起来很简单的问题：不要使用已经放进塔中的积木。对一个人来说，这看起来就是一个简单的常识：“如果一个物体已经用于实现一个旧目标，就不要在实现新目标时再使用这个物体。”没有人准确地知道这一点在人类的思维中是怎样实现的。很明显，我们根据经验可以识别出在哪些情境下容易遇到难题，长大后，我们学会了提前计划来避免此类冲突。什么样的策略最值得一试？哪些又能帮助我们避免最可怕的错误？在我们预期、想象、计划、预测和预防的过程中，肯定涉及了成千上万甚至是上百万个小程序，但这些程序太自动化了，所以我们把它当成了“普通的常识”。然而，如果思维如此复杂，是什么让它看起来这么简单呢？对于我们的思维能使用这么复杂的机器，开始时我们可能觉得不可思议，不过后来就不会去想它了。
1700519046
1700519047
一般而言，思维最擅长的事都是我们很少觉察的事。
1700519048
1700519049
通常都是其他系统开始失灵的时候，我们才会调用一些特殊的智能组，也就是与“意识”相关的智能组。相应地，我们对运行不佳的简单程序会更有意识，对于没有瑕疵的复杂程序反而意识不多。这表明我们不能对所做的事哪些比较简单、哪些比较复杂做即兴的评判。大多数情况下，思维的每一部分只能感觉出其他部分在完成自己工作时的安静程度。
1700519050
1700519051
1700519052
1700519053
1700519054
心智社会：从细胞到人工智能，人类思维的优雅解读 [:1700518393]
1700519055
心智社会：从细胞到人工智能，人类思维的优雅解读 2.6 人类是机器吗
1700519056
1700519057
把人类的思维比作计算机程序或机器，许多人都会感到被冒犯。我们已经看到一个简单的建塔技能如何由更小的部件组成。但所有的事物，比如真实的思维，都是由这样琐碎的部件构成的吗？
1700519058
1700519059
“太可笑了，”许多人会说，“我当然不会觉得自己像一台机器。”
1700519060
1700519061
但是如果你不是一台机器，你又怎么知道身为一台机器是什么感觉呢？人们可能会这样回答：“我会思考，所以我知道思维是怎么运作的。”但这就好像在说：“我会开车，所以我知道发动机是如何运作的。”知道如何使用某个物品，不代表知道它的工作原理。
1700519062
1700519063
“但人人都知道机器只能以无生命的机械方式行动。”
1700519064
1700519065
这个反对的理由看上去更合理一些：确实，人们如果被比作某种琐碎的机器，是应该感到被冒犯的。但在我看来，“机器”这个词已经开始过时。几个世纪以来，类似“机械”这种词让我们想到的都是一些简单的设备，比如滑轮、杠杆、火车头、打字机之类。（“计算机式的”这种词汇继承了相似的琐碎感，听上去就像是做无聊的简单算术一样。）但我们应该认识到自己仍处于机器时代的早期，实际上也不知道将来机器会变成什么样子。如果某个火星人十亿年前到访，看到一些由细胞组成的团块，这些团块甚至连爬行都还不会，而火星人根据这些判断地球生物未来的命运，你觉得合理吗？同样，我们也不能根据现在看到的情况就猜出机器在未来到底能完成什么任务。
1700519066
1700519067
我们第一次认识计算机，是20世纪40年代使用的一些机器，它们只有几千个组件。而人脑包含了数十亿个细胞，每个细胞本身就很复杂，而且还与其他几千个细胞相连接。当今计算机的复杂程度只能算中等水平；它们现在有几百万个组件，而且人们已经开始制造由十几亿个组件构成的计算机，用于研究人工智能。然而，尽管计算机已经发生了这样大的变化，人们使用的还是旧词汇，就好像什么变化也没发生一样。现在的运算规模是过去无法想象的，我们应该转变态度来适应这种现状。“机器”这个词已经不再能带我们去到足够远的地方了。
1700519068
1700519069
不过修辞并不能起决定作用。让我们先搁置这些争议，来研究一下大量未知的脑功能吧。这样，在我们明白自己到底是多么奇妙的机器时，就能找回一些自尊了。
1700519070
1700519071
1700519072
1700519073
1700519074
心智社会：从细胞到人工智能，人类思维的优雅解读 [:1700518394]
1700519075
心智社会：从细胞到人工智能，人类思维的优雅解读 第3章 冲突与妥协
1700519076
1700519077
心智社会：从细胞到人工智能，人类思维的优雅解读 [:1700518395]
1700519078
3.1 冲突
1700519079
1700519080
许多孩子不但喜欢建造，还喜欢破坏。让我们来想象另一个智能体，把它叫作“破坏者”，它的专长就是拆东西。我们那个孩子很喜欢听到叮叮咣咣的噪声，还喜欢看到好多东西一起移动。
1700519081
1700519082
1700519083
1700519084
1700519085
假定“破坏者”被唤醒了，但视野里没有什么东西可以破坏，这时“破坏者”就会去寻求一些帮助——比如让“建设者”去工作。但是如果过些时候，“破坏者”觉得塔已经高到可以推倒了，而“建设者”还想再建高一些怎么办？谁能来解决这一争议呢？
1700519086
1700519087
最简单的办法就是把决策权交给“破坏者”，因为最开始是它发动“建设者”去工作的。但如果要展示出一个孩子思维中更真实的图景，我们就会发现这种选择还依赖许多其他的智能组。举例而言，我们假定“建设者”和“破坏者”在最开始时都是被更高层级的智能体——“玩积木”发动起来的。那么当“建设者”和“破坏者”在塔是否足够高这一点上无法达成一致时，冲突就出现了。