1700216973
1700216974
如果一个罪犯购买了一个机器人，并要求机器人犯罪会怎么样呢？这引出的问题是：在机器人被要求违法时，是否应该允许机器人反抗主人命令？我们从前一个例子看出，机器人的程序必须使其理解法律并做出道德抉择。如果它判定自己的任务是违法的，它就必须反抗主人的命令。
1700216975
1700216976
这里还有机器人反思主人的信念所引起的道德困境，主人可能有着不同的道德理念和社会标准。如果机器人能够思考主人的观念和信念，人类社会中的“文化战争”只会被放大。在某种意义上，这种冲突不可避免。机器人是其创造者的梦想和愿望在机械上的延伸，而当机器人已经复杂到可以做出道德抉择时，它们便真的会这样做。
1700216977
1700216978
当机器人开始表现出挑战我们的价值观和目标的行为时，社会中正确与错误的分界线可能会得到加强。刚刚离开一场喧闹的摇滚音乐会的年轻人，他们拥有的机器人会与附近安静社区中的老年居民拥有的机器人发生冲突。前面这些机器人的程序可能是放大乐队的音响，而后面的机器人却要把噪音水平降到最低。狂热虔诚的原教旨主义者所拥有的机器人可能会与无神论者拥有的机器人进行争论。来自不同国家和文化的机器人，它们的设计会反映各自社会的风俗习惯，而这也会发生冲突（先别说机器人，对人类也是如此）。
1700216979
1700216980
怎样对机器人编程来消除这些冲突呢？
1700216981
1700216982
无法去除。机器人只会反映其创造者的偏见。最终，这些机器人的文化和道德差异将不得不诉诸法庭审判。没有物理定律或科学法则能够判决这些道德问题，所以最后需要通过法律来处理这种社会冲突。机器人不能解决人类造成的道德困境。事实上，机器人只会放大这种困境。
1700216983
1700216984
但如果机器人能够做出道德和法律抉择，它们是不是也能体会并理解感觉呢？如果它们成功地解救了某个人，它们能不能感受到快乐？或者更进一步，它们能感觉到诸如红颜色这样的事情吗？冷静地分析救人的道德问题是一回事，理解、感觉是另一回事。机器人有感觉吗？
1700216985
1700216986
1700216987
1700216988
1700216990
心灵的未来 机器人会理解或感觉吗？
1700216991
1700216992
几个世纪以来，关于机器人是否能够思考、是否能够感觉，涌现了大量的理论。我自己的哲学是“建构主义”（constructivism），即不要没完没了地、无意义地争论这个问题，我们应该将精力投入到机器人制造中，看看我们能够达到什么样的水平。否则，我们就陷入了无休止的哲学思辨，问题无法得到最终解决。科学的优势在于，一旦所有事情都弄清做好后，我们可以进行实验来准确地解决问题。
1700216993
1700216994
所以，要解决机器人是否能够思考的问题，最终的方法是制造一个机器人出来。不过有些人认为，机器永远不可能像人一样思考。他们最有力的论据是，虽然机器人对于事实的处理要快过人类，但它并不能“理解”自己在处理的是什么。虽然它对感觉（如颜色和声音）的处理要好过人类，但它并不是真正地“感觉”或了解“经历”这些感觉的内涵。
1700216995
1700216996
例如，哲学家戴维·查默斯（David Chalmers）把人工智能的问题分为两类：简单问题和复杂问题。对他而言，简单问题是制造越来越会模仿人类能力的机器，如下棋、数字计算、识别某些图形等。复杂问题涉及制造可以理解感情和主观感觉的机器，这些被称为“可感受性”（qualia）
1700216997
1700216998
他们认为，这种情况与向盲人传达红色的意义一样，机器人永远不可能了解红色的主观感觉。或者，一台计算机可以很流利地将汉语翻译为英语，但它无法理解它翻译的是什么。在这个图景中，机器人就像光彩夺目的录音机或计算器，在准确记忆信息、处理信息方面的表现令人吃惊，但却没有任何理解。
1700216999
1700217000
应该严肃地对待这些论据，但看待可感受性和主观感觉问题还有另一种方法。未来，机器很可能会比人类更好地处理感觉，如红色。它将能够比人类更好地描述红色的物理属性，甚至是更好地把它用在文学性的句子中。机器人是“感觉”到红色吗？由于“感觉”这个词并没准确定义，所以这个问题并不重要。将来的某个时刻，机器人对红色的描写可能超过人类，然后机器人会不无道理地问：人类真正懂得红色吗？也许人类无法真正理解机器人能够理解的关于红色的细微信息。
1700217001
1700217002
行为主义者伯尔赫斯·弗雷德里克·斯金纳（B．F．Skinner）曾经说过：“真正的问题并不是机器人能否思考，而是人类能否思考。”
1700217003
1700217004
同样，机器人将能够定义汉语字词并比任何人用得都好，这只是时间问题。到那时，机器人是否“懂得”汉语的问题就不重要了。对于所有实际问题而言，机器人对汉语的掌握要好于人类。换句话说，“懂得”这个单词也没有被准确定义。
1700217005
1700217006
随着机器人使用单词和操控感觉的能力超过我们，有一天机器人是否“懂得”或“感到”单词和感觉都将不重要。这个问题不再具有任何重要性。
1700217007
1700217008
数学家约翰·冯·诺依曼（John von Neumann）说：“在数学中，你不是理解事物。你只是习惯它们。”
1700217009
1700217010
所以，问题并不在于硬件，而在于人类语言的本质，其中的字词并没有准确的界定，对不同人会有不同解释。有人曾经问伟大的量子物理学家尼尔斯·玻尔（Niels Bohr），怎样理解量子理论中的深刻的悖论。他的回答是，答案在于你怎样界定“理解”一词。
1700217011
1700217012
塔夫斯大学的哲学家丹尼尔·丹内特（Daniel Dennett）博士写道：“没有什么客观的实验可以把一个聪明的机器人与一个有意识的人区分开。现在你面临一个选择：要么执着于这个复杂问题，要么在惊叹中摇摇头忽略它。就这样吧。”
1700217013
1700217014
换句话说，所谓的复杂问题并不存在。
1700217015
1700217016
就建构主义哲学而言，问题不在于辩论一台机器能不能感觉到红色，而在于建造这台机器。在这个图景中，描述“理解”和“感觉”这两个单词会有连续的各种级别。（这意味着，也许甚至可能给不同程度的理解和感觉标定不同数值。）在这个体系的一端，我们看到的是今天笨重的机器人，它们只能操作几个符号，仅此而已。在另一端就是我们人类，我们为自己能够感觉到“可感受性”而自豪。但随着时间的推移，机器人描写感觉的能力最终会在所有层次上超过我们。那么很明显它们能够“理解”。
1700217017
1700217018
这就是艾伦·图灵（Alan Turing）著名的图灵测验背后的思想。他预言，有一天我们将制造出能够回答所有问题的机器人，它与人类将没什么不同。他说：“如果一台计算机能够欺骗一个人，让他相信自己是人类，那么这台计算机就堪称智能。”
1700217019
1700217020
物理学家、诺贝尔奖得主弗朗西斯·克里克（Francis Crick）表述得最为精准。在20世纪，他注意到生物学家在激烈地辩论“什么是生命”这个问题。现在，我们有了关于DNA的知识，科学家们意识到这个问题并不清晰。这个简单的问题背后有着很多变化、层次和复杂性。“什么是生命”的问题就这么渐渐消失了。相同的情况也可能最终出现在感觉和理解上。
1700217021
1700217022
[
上一页 ]
[ :1.700216973e+09 ]
[
下一页 ]