1700517844
天才与算法：人脑与AI的数学思维 机器人术语
1700517845
1700517846
我去参观了斯蒂尔斯的实验室。镜子前20个机器人一字排开，它们探索着用自己的身体在镜子里做出各种形状。每当有新的动作和形状出现时，它们就创造一个新词来描述它。例如，机器人将其左臂置于水平位置，它就为这个动作起个名字（发明一个词）。每一台机器人都为自己独特的动作创造了一套属于自己的独特语言。
1700517847
1700517848
真正令人兴奋的时刻是这些机器人开始互相交流时。一个机器人从它的词典中选取一个单词，并要求另一机器人执行与该词相对应的动作。当然，第二个机器人不知道它想要什么，所以它选择一个动作作为猜测。如果猜对了，第一个机器人就会给出正向的肯定；如果没有猜对，它将向第二个机器人展示该动作。
1700517849
1700517850
第二个机器人可能已经给这个动作起了自己的名字，在这种情况下，它不会放弃自己的选择，而是会更新字典来包含这个新词。随着交互的进行，机器人会根据交互的成功程度来衡量单词的价值，对交互失败的单词进行降级处理，以减少交互的不畅。交互进行一周后，令人大为吃惊的是，一种共同的语言出现了。通过不断的更新和学习，机器人发展出了自己的语言。这种语言足够复杂，甚至包含了像代表“左”和“右”等更为抽象的单词。这些词，是在词和动作与位置的直接对应关系的基础上发展而来的。在这个试验中，任何趋同的进展都是令人兴奋的。但对我来说，真正引人注目的是：这些机器人有一种它们可以互相理解的新语言，但研究人员在试验进行的一周内一直无法理解这种语言，直到他们与机器人进行了极大量的交互，才能解译这些新词的含义。
1700517851
1700517852
斯蒂尔斯的试验为洛夫莱斯的预言提供了一个很好的反证。斯蒂尔斯编写的代码允许机器生成自己的语言，代码中出现了一些新的东西，演示证明除了机器以外，没有任何人类能够理解它们的共同语言。学习这门语言的唯一方法就是让机器人演示每个单词所对应的动作或位置。
1700517853
1700517854
谷歌的Google Brain提出了一种新的加密算法，即创建独有的语言算法，这样就可以在不被第三方窃密的情况下进行交互通信。他们在密码学的视域下进行了这样的试验：Alice的任务是向Bob发送秘密信息，Eve尝试截获并破译该秘密信息。如果Eve不能截获或破译Alice所发送的信息，则Alice得分；反之亦然。此试验中，Alice和Bob共享一个数字，这是Eve唯一不能访问的。这个数字是Alice和Bob创建代码的关键。Alice和Bob的任务是使用这个数字创建一种秘密语言，这种秘密语言只有在知道密钥的情况下才能被解密。
1700517855
1700517856
一开始Alice试图掩盖信息的企图很容易被黑掉，但经过15 000次交互以后，Bob就能解读Alice所发送的信息了，而Eve解读的概率还是跟瞎猜没任何区别。Alice和Bob使用的神经网络意味着，它们的交互很快就会被不断重新定义的语言所掩盖，所以不止Eve被挡在门外，就算是人类，即使通过查看结果代码，也不可能解读出它们正在做的交互。这些机器人可以安全地交谈，而我们人类却无法窃听它们的私语。
1700517857
1700517858
1700517859
1700517860
1700517862
天才与算法：人脑与AI的数学思维 受阻于“中文房间”试验[1]
1700517863
1700517864
这些驾驭着语言、把英语翻译成西班牙语、挑战并赢得《危险边缘》、理解叙事技巧的算法，提出了一个对整个人工智能领域都很重要的有趣问题：在怎样的情况下，我们应该认定算法理解它实际在做什么。我们也许可以从约翰·希尔勒设计的“中文房间”试验中得到结论。
1700517865
1700517866
“中文房间”的试验过程是：想象一下，你被关在一个房间里，房间里有一本用英文写成的从形式上说明中文文字句法和文法组合规则的手册，以及一大堆中文符号。依靠这本手册的说明，将中文符号组合起来，你就可以和一个讲中文普通话的人进行非常有说服力的沟通，而你不需要理解任何一个中文字或词。
1700517867
1700517868
希尔勒试验的目的，是为了证明这样的观点：一台被编程以文本形式进行回应的计算机，虽然我们很难将其与真正的人类区分开来，但它仍不能被认为是具有智力或理解力的。“嵌入式”这一思路是对图灵测试的巨大挑战。但是，转过来再想想，当我在说话的时候，我的大脑到底在做什么呢？这个过程中我的大脑是不是在某种程度上也在遵循一套指令？是否存在一个阈值，超过这个阈值，我们就可以认定计算机是理解中文普通话的？
1700517869
1700517870
当我提到“椅子”时，我知道我在说的是什么。但当一台计算机谈论一把“椅子”时，它不需要知道“椅子”这个东西是供人们坐在上面的一个物理物体。它只需要遵循规则，但遵循规则并不等同于理解。如果算法没有亲身体验过“椅子”，就不可能完美地使用“椅子”这个词。这就是为什么体现智能的问题与人工智能当前的发展趋势高度相关。
1700517871
1700517872
在某种程度上讲，语言就是我们周围环境的低维度投影。正如弗兰兹·卡夫卡（Franz Kafka）所言：“所有的语言都只是拙劣的翻译。”所有物理意义上的椅子都是不相同的，但它们在语言上被压缩成了一个数据点：“椅子”。这个数据点可以被另一个人打开，再将“椅子”这个数据点放到他所经历过的所有“椅子”上。有各式各样的“椅子”，它可以是扶手椅、长凳、木椅或办公椅，这些会让人产生不同的联想。这就是维特根斯坦著名的“语言游戏”。一台对具象世界没有实践经验的计算机肯定会在“中文房间”的低维空间里受阻。
1700517873
1700517874
归根结底，意识的奇特本质允许我们将所有信息整合到一个统一的体验中。如果我们研究一个单独的神经元，它肯定不懂英语，但当我们用一个个神经元构建出大脑中枢神经时，我们知道它确实懂得语言。当我坐在房间里用手册处理递进来的中文普通话时，我就像是大脑的一部分，是负责处理中文普通话的神经元的一个子集。你可能不明白我在说什么，换句话说，整个系统是由我、房间和手册组成的。这是整个大脑的组成，而不仅仅是我坐在那里。在“中文房间”里，我就相当于计算机的CPU（中央处理器），通过进行基本的计算来执行计算机程序的指令。
1700517875
1700517876
机器可以在不理解语言或不接触周围物理世界的情况下，生成有意义的句子，甚至是美的句子吗？这正是程序员们以各种方式努力去解决的问题。也许机器不需要理解它在说什么，就能写出令人信服的文学作品。这又回到了让我开始对语言进行研究的问题：现代人工智能在组织语言文字来叙述故事方面能做得有多好？
1700517877
1700517878
[1] 也称华语房间（Chinese room）试验，是由约翰·希尔勒提出的一个思想试验，借以反驳强人工智能的观点。——译者注
1700517879
1700517880
1700517881
1700517882
1700517884
天才与算法：人脑与AI的数学思维 第15章 人工智能讲故事
1700517885
1700517886
罗伯特·穆齐尔（Robert Musil）
1700517887
1700517888
追求外物真相的人会成为科学家，追求内在自我天性解放的人有可能成为作家，那二者兼具的人会成为什么样的人呢？
1700517889
1700517890
我从小到大读过的一些故事给我留下了很深刻的印象。罗尔德·达尔（Roald Dahl）的《达尔惊奇小说选》名列榜首，这本书中有这样的故事：一个吃了很多蜂王浆的男人变成了一只蜜蜂；一个著名的流浪艺术家拍卖自己带有文身的皮肤，价高者得；一个温良贤淑的家庭主妇，用冷冻羊腿杀死了自己的丈夫，并把羊腿交给调查此案的侦探。其中一个令人不安的故事写于1953年，讲述了“伟大的自动语法分析器”。
1700517891
1700517892
在这个故事中，思维呆板机械的阿道夫·奈普（Adolphe Knipe）一直想成为一名作家，可是他写出来的东西既迂腐又无趣。但后来，灵光乍现，他得到了一个启示：语言遵循语法规则，这规则的本质基本上就是数学。在这样的认识下，他开始创造一个巨大的机器——“伟大的自动语法分析器”，它能够在15分钟内模仿在世的获奖作家，写出足以以假乱真的，甚至更好的作品。奈普以他的“自动语法分析器”为要挟，威胁这些作家，让他们授权给自己使用他们的名字。在故事的结尾，讲述者与自己的良知做斗争：
[
上一页 ]
[ :1.700517843e+09 ]
[
下一页 ]