1700859836
如果有危险或破坏性很强的机器人怎么办?科幻小说长期以来的主食,就是那种跟人类作对的机器人,一些研究者已经在试图绕过它们,把机器人编程得具有某种道德框架。当我们考虑机器人的多种用途时,道德机器人的思想就不是那么异想天开了。即使无人驾驶汽车也可能需要做出道德要求很高的决定,而这种决定连人都会觉得难以做出。
1700859837
1700859838
例如,不妨想象一辆无人驾驶汽车察觉到有位年轻妇女在路边推一辆婴儿车,但如果该车绕过她,就会撞上一辆中间坐着两位乘客的车。这辆车是直接撞妇女和婴儿,还是向左边绕过去撞另一辆车呢?假如有个机器人在战争或自然灾害情况下,协助进行撤退,如果有很多伤者,机器人如何决定先救谁或先治谁?必须有某种伦理编程,可在近期而不是遥远的未来,适用于机器人。
1700859839
1700859840
军队依然还是技术创新的前沿。美国军方现在正与塔夫茨大学、伦斯勒理工学院、布朗大学、耶鲁大学和乔治城大学等合作,研究如何为自动机器人配置伦理感。这个项目表明,军队越来越依赖于军用无人机了。截至目前,所有无人机都由军人遥控,但军事研究现在正倾向于让自动武器能做出闪电式的决定,看谁是战斗人员而谁不是,从而决定何种附带性破坏是可以接受的。
1700859841
1700859842
军事机器人无疑会铺平道路,决定机器是否能做出道德决定,而军方也在这方面领先一步。大量军事决定都基于国际认可的交战规则。佐治亚理工学院的人工智能专家罗纳德·阿肯撰写了一本书,题为《控制自动机器人的致命行为》。他认为,军事机器人做的决定,实际上会比士兵更好,这完全是因为它们不受人类愤怒和报复心这些弱点的影响。此外,机器人能在很快考虑所有可能行动之后,找出最正确的行动。另外,目前尚不能对机器人编程,令其应对现实生活中突发的所有可能事件。自杀式袭击者和其他恐怖主义者可能会逃过自动机器人的眼睛,混在人群中,这可能令大脑造成道德困惑。假定有一个被通缉的恐怖主义者,身穿平民服装,却到医院或学校避难。机器人能够滥杀无辜而进行打击吗?它能够把救无辜之人于未来恐怖主义者之手的可能性,与当前某些人丧生进行衡量对比吗?
1700859843
1700859844
对设计道德机器人这一项目持批评态度的人坚称,即使进行大量编程,战争情况或灾难情况变量太大,是机器人实际上无法应对的。机器人专家诺尔·夏基说,无论机器人多么精致、复杂,都不可能具有道德感,也就是拥有真正道德决定的那种意志和能力。在有可能做出几种选择时,就是普通人也会难于就正确的行动做出决定,而这并不是不常见的。部分问题在于,现实世界中变量太多,普通人无法从一系列的决定中预计所有可能的结果,而这些无法预测的事,是无法给机器编程的。
1700859845
1700859846
也许机器永远都不可能区分对错。它们只能选择许多行动方案中,不含有无法预料情况的那一种。但是,若将自动机器人置于生死攸关的情境,就意味着它们会做出生死攸关的决定。机器人专家不仅需要与工程师、语言学家、心理学家等合作,还需要与伦理学家、律师和政策制定者合作。绕过这些问题,结果有一个方法,那就是不把机器人置于生死攸关的境地,或者把所有决定权交到人的手里。但在危险情况下用机器人而不用人的主要原因之一,就是认为机器人属于耗材。不过,随着机器人技术的进一步演进,有些机器人可能取得更高的价值,特别是当它们获得了有价值的经验之后,包括与人类形成错综复杂的关系时,就更是如此了。我们可以把这些社会化或个人化机器人置于比其实用主义兄弟机器人更高的阶层,然后区别对待。
1700859847
1700859848
科学家和哲学家们在解决如何让机器人讲伦理的时候,我们人类却在处理我们日益依赖机器人和其他技术的问题。
1700859849
1700859850
也许,人们因过于依赖机器人而可能失去的最重要的技能,就是我们的社交技能,而这可能造成巨大的社会和心理伤害。从生到死都主要由机器人照料,这意味着关键的家庭纽带和社会纽带将被瓦解。当机器人成为我们的保姆、朋友、仆人和恋人时,我们彼此还互相需要吗?所有这些依赖性都可能会编程,悄悄进入我们的生活,不用大肆声张,等我们开始意识到我们的社会、情感和精神发展都受到伤害时,可能已经为时晚矣。我们对机器人可能已经依赖到难以自拔的地步,因为到了那时,我们已经忘记如何形成人类关系了。今天也许是人类历史中不受机器人依赖而评价其使用的最后时刻了。机器人会使我们更强大,还是会让我们堕落呢?
1700859851
1700859852
(1)此处的温度单位为华氏度,约为37.83℃。
1700859853
1700859854
1700859855
1700859856
1700859858
超越人类 第九章 千万别把这个叫“超人类主义”
1700859859
1700859860
今天,英文首字母为大写T的超人类主义者(Transhumanists)已经涵盖了本书涉及的所有技术,以及比这些更多的技术。他们寄希望的技术清单上,包含了大脑上传和低温学(把已故者冷冻,以后解冻并恢复生命),这使他们处于科学主流之外,而他们近年来一直被视为是一种怪异的“邪教”。但正当超人类主义者试图放弃“邪教”的元素,以期让人更加重视时,主流研究世界却在悄悄地接近超人类主义者的观点。几位超人类主义思想家,如牛津大学哲学家尼克·博斯特罗姆,他们都来自名牌大学,撰写的都是富有思想性的一流文章,主张建立一个“能无限扩展,可自我转型,充满动态乐观主义的”人类未来。随着综合技术的发展,超人类主义越来越受尊重,而英文首字母为小写t的超人类主义(transhumanism),也通过常规的主流渠道涌现出来。就像我们的主角维克多,本来一听“超人类主义”这个标签就畏葸不前的数不清的人,现在却越来越接受综合技术提供的各种疗法了。
1700859861
1700859862
尽管超人类主义很具革命性,但它的到来并不是大张旗鼓的——一般人从来都没听说过。但正如弗朗西斯·福山2004年所言:“当代生物医学的研究日程上,很多内容不言自明就带有某种超人类主义性质。”超人类主义通过医生、医院、大学和其他研究机构、美国军方,以及NIH资助的实验室,正向我们走来。我们大多数人都不会认为自己是T字母大写的超人类主义者,但是,属于该类别的技术所提及的,都是古代就有,对更多生命、力量、美和能力的追求,它几乎是放之四海而皆准的。由于超人类主义在我们生活中的切入点目前是通过医学疗法,逆转这种趋势是不大可能的。人工器官、心跳起搏器,以及其他协助性装置和精神治疗药物,都已经投入使用,因此,对超人类主义的拥抱大多是不知不觉的。我们做出的有意识的选择,都在痛苦和解除痛苦、残疾和有能力、死亡和生命之间。人类增强和延寿能包装在一起走来,这只不过是碰巧而已。
1700859863
1700859864
对超人类主义的反对早就根深蒂固,这明显就是因为这样一些传统,它们禁止自负假说、禁止宗教的阐释,不想让人废除只属于上帝的特权。但是,大多数(而不是所有)的宗教传统,都重视精神转换所达到的至境,而保守的伦理学家却未能把对至境的高度重视与所赞成的反对激进自我改善观点协调起来。生物保守分子特烦一件事,那就是,人们寻找至境不是为了精神的来世,而是为了凡俗的现世。你寻找的至境若与精神生活有关,他们就支持,但他们却无法证明,精神追求和寻求最佳现世生活之间,究竟有何与生俱来的冲突。
1700859865
1700859866
向善心理,人皆有之,人类增强因此广受欢迎,正是这种心理促使人人都希望生活继续改善。在很多人那儿,这种驱动力却受到一种恐惧的阻碍。他们害怕未来,害怕因僭越传统界限而受罚。对有些人来说,恐惧会压服那种寻求激进自我改善的冲动,但对其他许多人来说,更健康、更强壮、更聪明、活得更久的诱惑力,总会变得难以抗拒。我们既已在很大程度上征服了环境,现在就必须面对我们自己的限度,这个限度横亘在我们和我们渴望的至境之间。可以这样论证说,我们永远也不大可能达至完美无缺的境地。但是,也可以这样论证说,向那个方向努力本身,有着不可估量的价值,意义无比重大。
1700859867
1700859868
福山称,普世平等的民主观,基于关于人之本质的这样一个假定,即它能超越种族、性别,甚至智力,而“改变这个本质,是超人类主义项目的核心”。但几十年来,福山和其他生物保守主义者一直都在做类似论辩,却从未给何谓人之本质下定义。不下定义,他们的论点就始终是模糊一团。长期以来,生物保守主义者以这种论调蒙混过关,因为无法验证他们的假定。然而,既然技术已能为人类有机体带来激进的变化,而且创造的高度先进的人工智能也已上道,那么我们关于人性的很多假定就会得到验证。如果我能以激进的方式增强我的记忆、提高我的决策能力和情绪、杜绝所有精神病的倾向,那我的本质是什么?另外,如果我能发生所有这些变化,却发现我的主观意识改变极少或根本未变,那怎么办?总而言之,要想回答这些问题,就必须跟着人类增强项目前行,体验第一手的结果。
1700859869
1700859870
列昂·卡斯解释他为何反对增强技术时,就其所称的“厌恶的智慧”大量撰文。他写道:“在关键个案中……厌恶之感是深度智慧的情感表现,是理智的力量无法充分言说的……我们能即时,而且也不用争辩,就凭直觉感到我们正确地认为亲切的一切已经遭到了强暴……一般化的恐怖和厌恶,都是犯规和反常的初步认定之证据。”
1700859871
1700859872
卡斯的论点中,还是有一点意思,的确有这么一种东西,人有强烈的感情,是正当的感受,尽管难以言说。但言说感情这种事,是生物伦理学家的工作,这样才能在光天化日之下来对之进行考察。卡斯解释不了感情,却又要把多重假定建立在这种感情之上,甚至建立在反思之上,这对支撑他的立场是无济于事的。如果人的反感是正当的,那这种反感就应该经得起考验。此外,一人反感之事,可能另一人却毫不觉得反感。斯苔西·苏曼迪格所属教堂的一些教区居民,听见她人工心脏的跳动,就会感到恶心,但对她和她的亲人来说,那颗心脏却是无价之宝。人可能起先对一种新想法产生反感,但进一步考察之后便意识到,其实没有什么需要反对或害怕的。
1700859873
1700859874
卡斯断言一般人都会产生反感,如此行事很危险,相当于为盲目的偏见而辩护。我们需要记住,每个文化的反感对象都不一样。对中东的某些文化来说,如果看见某个女人未从头到脚覆盖起来,那就令人反感,但这种反感在世界其他地方就不可能被证明是合理的。很多个人,以及一些社会所有的人,都会因一张开列不完的清单上列举的新技术、新思想、新风俗和新道德观而反感。很有可能,正是这种排斥一切新鲜事物的保守主义,才能像胶水一样把整个社会团结在一起。但如果那种保守主义产生的观念经不住考验,论点就不攻自破了。
1700859875
1700859876
反对人类增强的人中,有些人并不仅仅是为了自己而排斥。他们相信,其中危险太大,因此人皆不能接受。但是,阻止人们采纳激进增强的欲望,也会被视为是扼杀人类想增长、创造、进步等的自然冲动。尽管任何懂道理者都同意,人皆有不可剥夺的权利为自己拒绝增强,但需要更强的论点才能说服人相信,他有权阻止愿意增强者不享受增强。
1700859877
1700859878
反对能增强人类能力的激进新技术的常见论点中,还有一些其他的前后矛盾之处。神学者特德·比德斯在他1997年出版的《装上帝?基因决定论和人类自由》一书中,考察了一种非理性的倾向,许多反对先进技术的论点中,都有这种倾向。根据比德斯的观点,人类不可能从上帝那儿偷走权力。不过,宗教生物保守主义者似乎都断言,上帝无所不在,但与此同时,人类会把进化掌握在自己之手,从而废黜他的权力——这是一个矛盾问题。凡是想把此生的生活过得更迷人的努力,都会遭到反对,因为有一种不言自明的假定,这样做就会偷去天堂的一些光辉。但如果天堂就是人们想出来的那种东西,那人类就不可能打造一个能够与之竞争的世界。上帝无所不能,但人类却有可能贬低他,这种自相矛盾之处,是经不起检验的。虽然生物保守主义者明显反对超人类主义,但是世界上的各个宗教到目前为止所表现的迹象,依然还是比较含蓄的。
1700859879
1700859880
尽管有些人看出,宗教和人类增强之间有着与生俱来的冲突,但人类生活的两种途径互相分享,之间还是有共同点的。如上所述,许多宗教都认为,寻求人类至境是神圣不可侵犯的,因此不仅鼓励信徒寻求精神转换的至境,而且也寻求在地球上过上最好的生活。这主要意味着最好的精神生活,但许多传统都教导人们,深刻的精神发展会导致生活各方面的改善。此外,由于疗法和增强互相缠绕,因此在去除病患痛苦这方面,也能找到共同点。
1700859881
1700859882
世界上的主要宗教几乎尚未开始考虑其对人类增强的立场问题,但其中许多宗教已开始考虑激进延寿,而激进延寿正是人类增强中一个不可分割的部分。从他们关于延寿的想法中,可以看出这样一种暗示,即一般来说,这些传统可能会确立一种与增强相适应的观点。2013年,皮尤研究中心从大范围的宗教和基督教各教派中宴请思想家,想查明每位思想家对激进延寿问题的看法。如果说有什么共同点的话,那就是减轻疾病和痛苦是人心所向,而肉体不朽则并未如此,因为它绕过了精神层面上的再生。
1700859883
1700859884
基督教有几个教派高度重视生活方式要过得健康,并把这一点跟是否能更好地宣传教会使命联系了起来。艾兰·韩迪塞兹是基督复临安息日会健康部部长。据他说:“我们生活得越久,身体越健康,我们就越能把工作做好。”基督复临安息日会也像被宴请的其他所有宗教团体一样,对延寿技术是否能够平均分配很关心。几乎所有宗教都有这种关注,而如果历史可资借鉴,那最前沿的医学技术发展就是不可能停止的。不过,这种关注最终可能是短命的。延寿技术和生命增强技术,很可能就像任何新技术,都会首先为富人所利用,而在人人都能利用之前,会有一段迟滞时间。不能仅因普遍取用预期时间延迟,就对创新进行打压。
1700859885
[
上一页 ]
[ :1.700859836e+09 ]
[
下一页 ]