1700412506
主人和奴隶
1700412507
1700412508
弗洛斯特的十四行诗娓娓道来，其中一篇对技术的道德危害提出了警告。技术就像割草人的大镰刀一样残忍，不加分辨地把花——那些娇弱的、淡淡的兰花，同草梗一并割下。许多无辜的动物，比如绿蛇都受到了惊吓。如果技术能表达我们的梦想，那么它也可以用来象征其他事物，象征我们身体里那些恶的东西，比如对权力的渴望以及随之而来的傲慢自大和麻木不仁。弗洛斯特在随后的《一个男孩儿的愿望》中又提到了他对技术的看法。诗的第二节讲到割干草，诗中的主人公来到一片刚刚修剪过的草地，一只蝴蝶从他的眼前翩翩飞过，他的目光被蝴蝶吸引，之后，他发现在割下的草丛里有一小簇花，“一簇花/闪烁的绽放的语言/得到了镰刀的宽恕”。
1700412509
1700412510
露珠下，它们博得了割草者的爱
1700412511
1700412512
留下继续繁茂，不是为了我们
1700412513
1700412514
也不为了吸引我们
1700412515
1700412516
而是清晨满满的欢愉
1700412517
1700412518
弗洛斯特在告诉我们，借助工具进行劳作绝不仅仅是一项实践，它本身带有脆弱性，其中总是蕴含着道德选择，并带来相应的道德影响。这取决于我们——工具的使用者和制造者，我们要教化技术，让冰冷的刀刃也闪耀着智慧。我们应该是敏感的、谨慎的。
1700412519
1700412520
目前，世界许多地区还将镰刀作为种粮务农的工具。但是，现代农业已经很少用到镰刀了，现代农业的发展同现代工厂、办公室和家庭类似，要求设备越来越复杂、高效。打谷机诞生于18世纪80年代，机械收割机是在1835年左右问世的，打包机则要晚几年，到了19世纪末，联合收割机开始投入商业化生产。在近几十年，技术发展的步伐才开始加速，而现在，农业实现了计算机化，这一条发展线路是完全符合逻辑的。托马斯·杰斐逊认为，农民是所有职业中最具活力和道德的，但现在，农民却把大部分责任都转交给了机器。农场工人正在被“自动拖拉机”取代，机器人系统借助传感器、卫星信号和软件进行播种、施肥、除草、收获、打包作物，有的还负责挤牛奶、照料家畜。现在正在开发的是机器人牧羊人，可以在大草原上放牧。虽然在工业化农场里有时还会看到镰刀的身影，但没有人会再去倾听它的诉说了。
1700412521
1700412522
工具和人具有同质性，这是推动我们使用工具的动力。因为我们认为工具是身体的延伸，是自身的一部分，所以我们别无选择，只能深深卷入那些同工具相关的道德选择之中。不是镰刀而是割草的人选择去砍断还是放过花朵。我们使用工具越来越熟练，对工具的责任感也就自然增强。对于新手来说，手里的镰刀就像是异物；对于成手来说，镰刀和手融为一体。技术会增强物品和使用者之间的联系纽带。身体和道德的这种纠葛不会随着技术复杂性的提高而减退。在一篇关于1927年独自飞过大西洋的报道中，查尔斯·林德伯格提到飞机和他自己时好像是在说同一个事物：“是我们成功穿越了大洋，而不是我，也不是它。”飞机拥有非常复杂的系统，包含多个组件，但是对于经验丰富的飞行员来说，飞机从本质上来说还是工具。弗洛斯特所说的“镰刀拨开草丛而不伤害花朵的爱，与飞行员拨开云雾的爱，两者是相同的。
1700412523
1700412524
自动化会削弱工具和使用者之间的联系，这并不是因为计算机控制的系统过于复杂，而是因为自动化不需要太多的人类参与。他们将工作原理隐藏在秘密代码中。在非必要的情况下，自动化都会抗拒操作人员的参与。人类因此无法在使用自动化的过程中锻炼技能。最终，自动化具有一种麻痹人的作用。我们再也不会认为工具是我们自身的一部分。1960年心理学家兼工程师J·C·R·利克里德发表了一篇重要论文——“人类计算机共生”（Man-Computer Symbiosis），论文描述了人类同技术之间关系的转换。他写道：“在过去的人机系统里，人类操作员具有主动权，由他们提出方向，进行整合，制定标准。系统里的机械化部分只能作为人类的延伸，首先是手的延伸，其次是眼睛。”而计算机的问世改变了这一切。“机器不再只是某种扩展，而是取代了人类，自动化大行其道，而留下来的人类与其说是借助机器，不如说是机器帮助的对象。”自动化的程度越高，人们就越会将技术视作一种不可替代的、外部的力量，它会超出人类的控制，不受人类影响。改变技术发现途径的尝试只是徒劳。我们按下了开始按钮，沿着编写好的路径前进。
1700412525
1700412526
要采取这样一种服从的姿态，无论怎样都会削减人类原本在控制发展进程方面所肩负的责任。机器人收割机的驾驶座位上空无一人，但是自始至终，收割机和镰刀一样，都是人类意识思维的产物。可能机器并没有像手工工具那样在我们的脑图谱中占有一席之地，但是从道德层面来说，机器仍然是人类意志的延伸。如果一条绿蛇因为机器人而受到惊吓（或犯下更大的错误），我们会去谴责机器人。更深层的责任——监控自我建构的条件也在变小。计算机系统和软件应用在塑造人类生活和整个世界方面所扮演的角色越来越重要，因此，在人类的选择被技术动量排挤掉之前，我们有责任更多地参与系统与应用的设计和使用。我们应该多加注意自己创造的东西。
1700412527
1700412528
如果这听起来有点儿天真或不切实际，那是因为我们认为人和技术之间不是躯干和四肢的关系，也不是兄弟姐妹的关系，而是主人和奴隶的关系，这种比喻对我们造成了误导。这种观点由来已久。按照兰登·维纳的描述，在西方哲学思想的启蒙阶段，这种观点就已经确立了，最早由雅典人提出。亚里士多德在《政治》（Politics）的开篇就讨论了家庭问题，他认为奴隶和工具从本质上来说是相同的，前者作为“动物性工具”，后者是“非动物性工具”，两者都为主人一家服务。亚里士多德假设，如果工具具有动物性，那么就可以直接替代奴隶了。他期待实现计算机自动化和机器学习，“如果要做到上级不需要下属、主人不需要奴隶，我们能想到的只有一种情况——所有（非动物性）工具都可以按照指令或预期独立完成任务”。就好像“梭子自动编织，拨片自己弹奏竖琴一样”。
1700412529
1700412530
一直以来，把工具视为奴隶的观念扭曲了我们的思想。这种想法表明，一直以来整个社会都梦想着摆脱辛勤的劳动，马克思、王尔德和凯恩斯都曾经提到过这一点。并且，无论是技术爱好者还是技术恐惧者，在他们的工作中，我们都可以看到这个愿望。技术评论家耶夫根尼·莫洛佐夫在2013年出版的《技术至死：数字化生存的阴暗面》（To Save Everything, Click Here）一书中写道：“机械奴隶是人类自由的促成者。”同年，技术爱好者凯文·凯利在《连线》杂志上发表了一篇短文，宣称：“我们要让机器人接管我们的工作，他们能够做并且会比我们做得更好。”不仅如此，机器人会解放我们，让我们去发现“新任务，扩展人类，机器人让我们更关注人本身”。《琼斯妈妈》（Mother Jones）杂志社的凯文·德拉姆在2013年也撰写了一篇文章，写道：“最终，等待着我们的是自动化的闲暇和沉思乐园。”他预测，到2040年，我们那超级智能、超级可靠、超级服从的计算机奴隶——“它们永远不会疲惫，永远不会发脾气，永远不会犯错误”，他们将把我们从辛勤的劳作中拯救出来，带领我们进入更美好的伊甸园。“我们可以随心所欲地度过每一天，可以学习也可以玩电子游戏，全都由我们自己决定。”
1700412531
1700412532
如果把人和技术关系中两者的角色调换一下，就会彰显出社会对技术的恐惧。如果我们依靠技术奴隶，不再进行思考，那么我们自己就变成了奴隶。自18世纪开始，在描述工厂机器时，社会评论家总是将其塑造成将工人压迫成为奴隶的元凶。马克思和恩格斯在《共产主义宣言》（Communist Manifesto）中写道：“大量的劳动者每时每刻都在被机器奴役。”现在，人们总是抱怨自己像是应用软件和科技设备的奴隶。2012年，《经济学人》杂志上面刊登了一篇题为“智能手机的奴隶”（Slaves to the Smartphone）的文章，文中写道：“有些时候，这些设备需要人类授权，但是对大多数人来说，技术奴隶已经翻身成了主人。”更戏剧性的是，一个世纪以来，机器人起义一直是反乌托邦式未来幻想文学的主题，具有人工智能的计算机从奴隶身份翻身一变，成了人类的主人。“机器人”这个词是1920年由一位科幻小说作家创造的，它来源于捷克语“robota”，即“奴役”的意思。
1700412533
1700412534
这种“主人——奴隶”的比喻，不仅引来了道德上的担忧，也扭曲了人们对技术的认识，人们更加觉得工具和使用者是分离的，工具的力量是独立于人类而存在的。我们开始将技术视作产品，根据技术的内在特征——智能、效率、新颖性和类型来判断一项技术的好坏，而不是以技术给我们带来的帮助为依据。我们选择一项工具因为它是新的、很“酷”、很快，而不是因为借助这个工具我们能更加融入这个世界，丰富我们的经历和认知。我们成了纯粹的技术消费者。
1700412535
1700412536
更广泛地说，“主人——奴隶”的比喻促使整个社会对技术和进步持一种过分简单的、宿命论的观点。如果我们假定工具是人类的奴隶，认为工具的目的是实现人类的最大利益，那么就不应该尝试去限制技术。任何进步都会给予人类更大的自由，让我们向前跨一大步，即使不是乌托邦，技术也使我们至少离这个世界最好的样子越来越近了。我们告诉自己，任何过失都会被随之而来的创新所弥补。如果我们放任技术进步自行发展，那么它会为进步过程中出现的问题找到解决方法。凯利写道：“技术不是中立的，而是人类文化中一股不可抗拒的正面力量。”他这句话表达了这几年里越来越被人们接受的、自私的硅谷理念。“我们有道德义务去发展技术，因为技术会带来更多机会”。而自动化的进步也增强了人类的道德责任感，毕竟自动化工具所散发的生命力最强，并且，正如亚里士多德所说，让人类摆脱劳作的任务非奴隶莫属。
1700412537
1700412538
相信技术是一种自动化力量，仁慈且具有自愈能力，这种观点非常吸引人。它让我们乐观地面对未来，也减轻了我们在未来所肩负的责任。有些人依靠自动化系统和控制系统计算机所带来的省力效应和利润集中等特点，获得了巨大财富，对于这些人来说，对技术的信任非常符合他们的利益。技术为这些新兴财阀增添了一抹英雄主义色彩，让他们扮演起了主角：近来的失业现象对人们来说可能是不幸的，但是，仁慈的公司创造出计算机奴隶，以帮助人类寻求最终的解放，在这条道路上，失业是不可避免的。成功的企业家兼投资家彼得·蒂尔是硅谷最杰出的的思想者，他认为“机器人革命从根本上来说就会导致人类失业”。但是，他马上补充道：“这也有好处，人类可以获得解放，去做许多其他的事情。”解放听起来比解雇让人舒服多了。
1700412539
1700412540
人们对这种浮夸的未来主义已经麻木了。历史提醒我们，在有关技术解放的夸张辞藻背后一般都隐藏着对劳动的蔑视。这样我们就不会轻易相信现在的技术巨头们，不会认为他们是因为倾向自由、不甘于政府缓慢的进度，所以才赞同采取大范围的财富再分配。技术巨头们表示，对于失业人群来说，财富再分配是为实现自我追求提供资金支持的必要方式。即使社会上出现一些“咒语”或“魔力算法”，能够平均分配自动化成果，我们也应该怀疑是否会随之产生凯恩斯所说的“经济福祉”。在汉娜·阿伦特所著的《人的境况》（The Human Condition）一书中，有一章体现了阿伦特的先见之明。她认为如果能够实现自动化乌托邦，结果可能给人的感觉不是天堂，而是一个残忍的恶作剧。她写道，整个现代社会是按照“劳动社会”的模式组建起来的，在这个社会里，人类用劳动赚取薪金，然后进行消费，这是人类定义自己和衡量自身价值的方式。许多以前看来“高等的、更有意义的活动”已经被边缘化甚至遗忘了，“只剩下孤独的个体，他们考虑的是工作，而不是谋生”。让技术来满足人类一直以来“想要从劳动的‘辛劳困苦’中解放出来的愿望”可能并不能如愿。技术会让我们掉入更深的深渊。阿伦特总结，自动化给我们带来的是“一个没有劳动的劳动者社会，也就是说，人们无事可做。毫无疑问，没有什么能比这更糟糕了”。阿伦特明白，乌托邦主义就是一种错误的渴望。
1700412541
1700412542
设计更多的软件并不能解决自动化所带来的或加剧的社会和经济问题。我们的非动物性奴隶不会载着我们驶向舒适与和谐的乌托邦世界。如果要解决或至少缓解这些问题，需要大众同问题的复杂性进行斗争。要保证未来社会能良好发展，我们需要对自动化加以限制。我们要改变对进步的认识，强调社会和个人发展而不是技术进步。我们可能甚至需要接纳一种原来认为无法想象的观点，至少是在商业领域：在人和机器之间赋予人类优先权。
1700412543
1700412545
一则寓言
1700412546
1700412547
1986年，加拿大人种论学者理查德·库尔给米哈里·契克森米哈写了一封信。库尔阅读了一些契克森米哈早期的关于心流的文章，并且，库尔也提及了自己深入苏斯渥普（Shushwap）部落所进行的研究，这个原住民部落居住在汤普森河谷，也就是现在的英属哥伦比亚。库尔提到，苏斯渥普部落拥有大面积的领地，领地内资源丰富，猎物众多，还生长着可食用的草和梅子。他们不必为生存担忧。他们建起村子，发展“复杂的技术”，“高效利用环境资源”。他们认为生活是美好且富足的。但是，部落中年纪稍长的人注意到，舒适的环境背后暗藏着危险。“世界是可以预知的，生命中没有了挑战。这样生活也就没有了意义。”因此，每隔30年，苏斯渥普人就在长者的带领下进行迁徙。他们离开家园，放弃村子，前往野外。库尔写道：“所有人都要到另外一个地方。”这样，生活又充满了全新的挑战。“他们要探试新的河流，认识新猎物留下的踪迹，在新领地里种植许多凤仙花。现在，他们的生命又重获意义，又有了生存的价值。所有人都感到活力充沛、内心愉悦。”
1700412548
1700412550
破笼而出
1700412551
1700412552
当我和来自科罗拉多州的建筑师E·J·米德谈起他公司采用的CAD系统时，他说了一些有启发性的话。困难的部分不是学习如何使用该软件，这是很容易的。困难的是学习如何不使用它。高速、易用和新奇的CAD软件很诱人。该公司的设计师在开始一个项目时的第一反应就是使用电脑。但是，当仔细了解了自己的工作后，他们就意识到该软件会阻碍创造力。即使它能提高效率，但会限制人们对美学和功能的追求。米德和他的同事考虑到自动化的影响，开始抵制该技术的诱惑。他们发现，在项目进行过程中，自己“开始使用计算机的阶段越来越延后”。在工作的早期，即形成阶段，他们用回了速写本和描图纸，用纸板和泡沫芯材制作模型。“在后期，电脑非常好用，”米德在总结自己对CAD软件的了解时说，“相当便利。”但是电脑的“便利”也可能潜藏危险。对于粗心和缺乏判断力的人来说，它可以压倒其他的因素，使设计师忽视更重要的考量。“你必须深入了解该工具，避免被它操控。”
1700412553
1700412554
与米德谈话的一年多前，我刚开始为本书进行研究，我有幸在一所大学校园与该校一名自由摄影师见面。他在一棵大树下悠闲地站着，等待一些挡住阳光的云彩飘走。我注意到他面前庞大的三脚架上有一台大幅胶片相机，十分显眼，因为它看起来十分古老、有些可笑。我问他为什么还在使用胶片。他告诉我，在几年前他用数码摄影和能够运行最先进图像处理软件的计算机取代了胶片相机和暗房，但几个月后，他又换了回来。他并不是对设备的操作或图像的分辨率、精度不满意，而是因为他工作的方式发生了变化，并且不如从前。
[
上一页 ]
[ :1.700412505e+09 ]
[
下一页 ]