1700521955
心智社会:从细胞到人工智能,人类思维的优雅解读 16.5 雪崩效应
1700521956
1700521957
我们所讨论的那些方案如果和我们描述的一模一样,那么它们很少能真正起作用。它们大部分很快就会崩溃,因为实际上所有的智能体都会参与到不受限制的活动中去。设想每个典型的智能体都倾向于唤醒其他若干智能体,然后这些被唤醒的智能体又会去唤醒若干其他智能体,以此类推,活动的传播速度会比森林大火还快。但这项活动最终什么也无法完成,因为所有的智能体都会互相干扰,谁也无法获得它们所需资源的控制权。实际上,这差不多就是癫痫发作时会发生的事。
1700521958
1700521959
每个生物系统都会发生相似的问题。每个原则或机制都应该受到控制,只在限定的范围内运作。就连小小的基因团体也有一些方案,在每个细胞内指挥制造蛋白质时也会控制数量。在每种规模上,我们都发现了这样的模式。每种生物组织、器官和系统都受一些控制机制约束,一旦这些机制失效就会出现疾病。是什么保护了我们的脑不受这种活动雪崩的影响呢?在我们的智能组中,交互排斥方案很有可能是最常见的约束各种水平的活动方式,但同样也有其他防止爆炸的常见方案。
1700521960
1700521961
节约(conservation) :强迫所有活动都依赖于某种物质或其他可量化的事物,每次只能获得特定的量。举例而言,我们给所有的智能体都设定了电流限制,用以控制Snarc机器,这使得在特定的时刻,它们之中只有几个可以活动。
1700521962
1700521963
消极反馈(negative feedback) :提供一个“总结”设备评估智能组中的所有活动,然后按照与整体的比例向智能体广播“抑制”信号。这会把雪崩扼杀在摇篮中。
1700521964
1700521965
审查员与抑制器(censors and suppressors) :“节约”和“反馈”方案都倾向于进行无差别的控制。之后我们会讨论一些方法,它们在学习识别和避免之前产生过麻烦的特定活动类型方面更敏感,功能也更多。
1700521966
1700521967
这些方法足够简单,可以在小社会里应用,但它们的功能不够多样。在更复杂的社会中,我们需要学习解决困难的问题,这些方法无法解决可能出现的所有管理难题。幸运的是,在更大规模上建立的系统也许能够通过建构和解决自我管理的问题,把自身得到强化的能力应用于对自身的管理。在接下来的几部分中,我们将会看到这种能力如何在几个发展阶段中不断成长。所有这些并不一定需要在每个孩子的思维中独立发生,因为孩子所处的家庭和文化社群可以发展出更复杂的自我约束方案。所有人类社会似乎都在制定方针指导其成员如何思考,这些方针以常识、法律、宗教或哲学的形式出现。
1700521968
1700521969
1700521970
1700521971
1700521973
心智社会:从细胞到人工智能,人类思维的优雅解读 16.6 动机
1700521974
1700521975
想象一个口渴的孩子学会去拿旁边的杯子。之后,孩子为什么没有在任何情况下都去拿杯子呢,比如觉得孤独或者觉得冷的时候?我们是怎么区分我们学到的不同东西可以实现不同目标的呢?方法之一就是给每个不同的目标保留一个单独的记忆库。
1700521976
1700521977
1700521978
1700521979
1700521980
每个原型专家的独立知识库
1700521981
1700521982
为了让这个方法起效,我们必须限制每个专家只在自己的目标活动时才学习。我们可以通过把它们放置在一个交互排斥系统中来实现这一点,比如“饥饿”的记忆只有在“饥饿”活动时才会形成。这样的系统永远不会对要用什么记忆感到困惑。感到饥饿的时候,它只会去做以前感到饥饿时学会去做的事;不会在口渴的时候去吃东西,也不会在饥饿的时候去喝水。但如果给每个目标都保留一个不同的记忆库就太奢侈了,因为就像我们说过的,大部分真实世界的目标使用的都是同样类型的知识。如果所有专家都可以共用常见的、一般性目的的记忆不是会更好吗?
1700521983
1700521984
1700521985
1700521986
1700521987
知识基础生长到彼此之中
1700521988
1700521989
这也会产生问题。如果任何一个专家为了自己的好处想要重新安排某些记忆,其可能会破坏其他专家所依赖的结构。不可预测的互动太多。专家们如何合作共享它们所学到的内容呢?如果它们和人一样,就可以交流、谈判和组织。但因为每个单独的专家太小,所工作的领域也太特别,所以它们无法理解其他专家的工作。它们能做到的最好的事就是互相利用其他专家可以做的事,而不需要理解那是什么。
1700521990
1700521991
1700521992
1700521993
1700521995
心智社会:从细胞到人工智能,人类思维的优雅解读 16.7 利用
1700521996
1700521997
思维中的一个专家如果不理解其他专家的工作,又怎么和它们合作呢?在外部世界中,我们也面临同样的窘境,我们同人和机器打交道,但不知道他们的内部运行原理。头脑中也是一样,思维的每个部分都会利用其他部分,但并不知道其他部分是怎么工作的,只知道它们看上去在做什么。
1700521998
1700521999
假设“口渴”知道可以在杯子里找到水,但不知道怎么找到或者拿到杯子,这些事只有“寻找”和“拿起”知道该怎么做。于是,“口渴”必须有某种可以利用其他那些智能体的能力。同样,“建设者”也有相似的问题,因为它手下的大部分次级智能体之间都不能直接沟通。开启“寻找”和“拿起”对“口渴”或“建设者”来说是很容易的事,但这些次级智能体怎么能知道要找什么和拿什么呢?“口渴”一定要向“寻找”传送一张杯子的图片吗?“建设者”一定要传送砖块的图片吗?麻烦之处在于“建设者”和“口渴”都没有“寻找”所需要的那种信息,也就是事物的外观样式,这类知识存在于“看见”的内部记忆机器里。然而“口渴”可以通过激活两个联结而实现喝水的目标:一个联结是让“看见”幻想一个杯子,另一个联结是激活“寻找”。“寻找”之后又可以激活“拿起”。如果这个杯子在视线范围内的话,这就足以让“口渴”定位并得到杯子了。
1700522000
1700522001
1700522002
1700522003
[
上一页 ]
[ :1.700521954e+09 ]
[
下一页 ]