1700519853
我们用来总结高级目标和计划的词汇和符号，与控制低级目标和计划的信号并不相同。所以当我们的高级智能组想要去刺探它们所利用的次级机器的工作细节时，完全无法理解其中发生的事。这就是为什么我们负责语言的智能组无法解释我们骑车时如何保持平衡，也无法区分照片和真实的事物，或者从我们的记忆中提取信息。我们发现，在开始学说话之前，想用语言技能来谈论思维中负责平衡、观察和记忆的组件是特别困难的事。
1700519854
1700519855
“意思”本身就与尺寸和规模有关：只有在一个大到可以拥有许多意思的系统中，谈论其中一种意思才讲得通。对于那些较小的系统，这一概念就会显得空洞而肤浅。举例而言，“建设者”的智能体们不需要明白什么意思就可以完成它们的工作，“？添加？”所要做的就是开启“拿起”和“置放”。“拿起”和“置放”不需要去分辨那些开启的信号是什么意思，因为只要开启，它们就做开启应该做的事。一般而言，一个智能组越小，其他智能组就越难理解它这种微小的“语言”。
1700519856
1700519857
两种语言越小，二者之间相互翻译就越困难。这并不是因为存在很多意思，而是因为意思太少了。一个智能体做的事越少，其他智能体所做的事与之相似的可能性就越低。而如果两个智能体之间没有任何共同之处，翻译也就无从建立。
1700519858
1700519859
在翻译人类语言时有一个人们更熟悉的困难，那就是每个词都有许多意思，主要的问题就是缩小意思的范围，直到某种意思是两种语言所共有的为止。但对无关的智能体之间的沟通而言，如果它们从一开始就没有共同之处，那么缩小范围也没什么帮助。
1700519860
1700519861
1700519862
1700519863
1700519865
心智社会：从细胞到人工智能，人类思维的优雅解读 6.13 自我知识很危险
1700519866
1700519867
更全面地“了解自我”似乎预示着某种强大而美好的前景，但这种快乐的思想背后其实隐藏着谬误。思维如果想自我改变，了解自己的运行原理无疑是有帮助的。但这种知识也有可能轻易地毁掉自我，比如我们把笨拙的思维手指伸进精密的思维机器中去。我们的头脑会强迫我们去玩思维捉迷藏的游戏，是否也是因为这一点呢？
1700519868
1700519869
看看我们多倾向于去做冒险改变自我的实验，多么难以自拔地被毒品、冥想、音乐甚至谈话所吸引——这些都是强大的成瘾事物，可以改变我们的人格。只要承诺可以超越正常愉悦和奖励，人人都会为之着迷。
1700519870
1700519871
在普通的生活中，愉悦系统的制衡有助于我们的学习，从而让我们行为得体。举例而言，为什么就算一件事在开始时很有意思，但如果不断重复，我们还是会感到无聊？这似乎是我们愉悦系统的属性之一：如果没有足够的多样性，它们就倾向于感到厌腻。每台学习机器都必须有这样的保护机制，否则它们可能会陷入无尽的重复之中。我们很幸运，拥有这样的机制可以防止我们浪费太多时间，而且也很幸运，因为我们很难压抑这种机制。
1700519872
1700519873
如果我们可以随心所欲地控制愉悦系统，就无须完成任何成就，只要不断制造成功的愉悦感就可以。那之后就什么都做不成了。
1700519874
1700519875
是什么防止了这种干扰呢？我们的思维存在许多自我约束。举例而言，我们很难确定思维中正在发生什么。稍后，在谈论婴儿发展的时候我们就会看到，就算我们内在的眼睛可以看到内部正在发生什么，要想改变那些我们最想改变的智能体，也就是婴儿时期帮助我们形成持久理想自我的那些智能体，也是特别困难的。
1700519876
1700519877
这些智能体很难改变，是因为它们有着独特的进化起源。许多其他思维智能体的长期稳定性取决于我们对于自己应该是什么样子的看法变化有多慢。如果我们的冒险冲动可以随意摆弄人格形成的基础，随机情况下，我们之中能幸存下来的人不多。这样做为什么不好呢？因为一个普通的“思维改变”如果导致了不好的结果是可以逆转的，但如果你改变了自己的理想自我，那就没有什么转圜的余地了。
1700519878
1700519879
西格蒙德·弗洛伊德的理论认为每个人的成长都受到一些无意识需求的控制，这些需求包括取悦、安抚、反抗或终结父母的权威形象。然而，如果我们承认这些形象的影响力，可能会觉得它们太幼稚或者太没价值因此无法容忍，并且试图寻找一些更好的东西来代替它们。但是一旦放弃了所有这些与本能和社会之间的联系，之后我们用什么来代替呢？自创的目标可能更加反复无常，而最终我们每个人可能都只会沦为这些目标的工具。
1700519880
1700519881
1700519882
1700519883
1700519885
心智社会：从细胞到人工智能，人类思维的优雅解读 6.14 困惑
1700519886
1700519887
意识一般都是在我们的系统运行出故障时才会参与其中。举例而言，我们平时走路或说话的时候，不太会感觉到这些事到底是怎么发生的。但如果一个人的腿受伤了，他可能才会第一次注意走路到底是怎么一回事（“要想左转，我得把自己朝那个方向推”），那时他才可能会考虑是哪些肌肉在完成这个目标。认为自己感到困惑的时候，我们才会开始反思自己的思维是如何解决问题的，这时才会用上所知的那一点点关于思维策略的知识。之后我们可能会说：
1700519888
1700519889
“现在我必须更有条理一些。我为什么不能专注于那些重要的问题，而不被无关紧要的细枝末节分神呢？”
1700519890
1700519891
矛盾的是，与困惑而不自知相反，一个人意识到自己感到困惑反而是一件明智的事。因为这样我们才有动力运用自己的智能来改变或修复那些有缺陷的程序。然而我们并不喜欢困惑，还常常蔑视这种状态，没有体会到承认这种状态的好处。
1700519892
1700519893
然而，当你的B-脑让你开始询问“我到底想干什么”的时候，你可以以此为契机改变目标或者改变描述当前情境的方式。这样的话，你就能逃离受困的痛苦，因为似乎也没有什么其他选择。对困惑的意识体验和疼痛相似，可能因为二者都会驱使我们寻找逃离困境的方法。不同之处在于困惑直接对抗思维的故障状态，疼痛反映的是外部的干扰。不论哪种情况，都需要拆除和重建内部程序。
1700519894
1700519895
困惑和疼痛如果导致我们在更大尺度上放弃而不是珍惜目标，都会产生伤害：“这整个主题都让我感到难受。也许我应该放弃整个项目，放弃我的职业或者关系。”不过就算是这样让人灰心的想法，也能刺激我们去寻找其他有可能提供帮助的智能组。
1700519896
1700519897
1700519898
1700519899
1700519901
心智社会：从细胞到人工智能，人类思维的优雅解读 第7章 问题与目标
1700519902
[
上一页 ]
[ :1.700519853e+09 ]
[
下一页 ]