1700412390
1700412391
社交网络迫使我们以符合其背后公司利益和偏见的方式来呈现自己。通过Facebook的大事年表和其他的纪录片专题可以看出，Facebook鼓励用户将个人的公共形象和身份融为一体。它希望将他们锁在一个单一的、统一的“自我”里，贯穿始终，从孩童时代到生命终点。这符合公司创始人对于自我及其可能性的狭隘概念。马克·扎克伯格说过：“你拥有一种身份。以前，你在工作好友或同事以及熟人面前呈现的是不同的形象，这种日子也许马上就要到头了。”他甚至认为“拥有两重身份就是不诚实的表现”。这种观点一点儿也不出人意料，同Facebook想要将用户包装成整齐划一的数据集卖给广告商的愿望相吻合。对于公司来说，让人们觉得不应该太注重个人隐私就会给公司带来额外利益。如果拥有一重以上的身份就表明不诚实，那么，渴望保持某些不同于公众观点的想法或行动显示出的就是性格的懦弱。但是我们可以粉碎Facebook通过软件强加给我们的自我概念。自我很少是确定的，它有种千变万化的品质。它形成于自我探索中，随着环境而变化。这在人们年轻时尤为如此，那时，一个人的自我概念是不固定的，它要经历测试、实验和修正。特别是在人生早期，束缚在一种身份里可能会阻止个人成长和个人实现。
1700412392
1700412393
每种软件都包含了这样的隐含假定。在自动化智能查询中，搜索引擎会优先考虑流行性和新近性，而不是观点的多样性、论证的精确性或是表达的质量高低。就像所有的分析程序一样，它们偏爱那些倾向数据分析的标准，而对那些需要审美经验或其他主观判断的标准毫不在乎。论文自动评分算法鼓励学生们去死记硬背写作技巧。这些程序检测不出语气，对知识的细微差别也丝毫不感兴趣，对创造性的表达也十分抗拒。故意破坏语法规则可能会让读者感到高兴，但电脑对此绝不姑息。不管是推荐电影还是推荐潜在恋爱对象的引擎都在迎合我们已经明确的欲望，而不是向我们推荐新奇意外的事物。它们认为我们更喜欢熟悉的习惯，而不是冒险；它们认为我们更喜欢可预见的事物，而不是奇思妙想。家庭自动化的技术把照明、暖气、烹饪以及娱乐程序化，一丝不苟，家庭生活被强加了一种准时准点的心态。它们不露声色地鼓励人们去适应已建立好的惯例和日程，让家变得更像工作场所。
1700412394
1700412395
对于软件的偏见还可以扭曲社会决策和个人决策。谷歌在推销无人驾驶汽车时表示，虽然不能完全杜绝交通事故，但无人驾驶汽车的确能够大大减少事故发生。巴斯蒂安·特龙在2011年的演讲中说道：“你们可知道行车事故是造成年轻人死亡的头号原因？你们又是否意识到这些事故大多是人为疏忽，而不是机器错误，因此，这些死亡是否可以通过机器来避免？”特龙的话很有说服力。在管理危险活动方面，例如开车，社会长期以来都优先考虑安全性，每个人都肯定技术革命在减少事故和受伤风险中所扮演的角色。但即使这样，事情也不像特龙说的那样是非分明。目前来说，无人驾驶汽车避免事故和死亡的能力依旧是理论上的。就像我们看到的，机器与人为错误之间的关系很是复杂，很少以我们期待的那种方式呈现出来。而且社会的目标也永远不是一维的。甚至需要重新审视我们的安全需求。我们一直都知道，需要权衡法律和行为准则——安全和自由的权衡，保护自己和置自己于危险之中的权衡。我们允许、有时甚至鼓励人们进行带有危险性的嗜好、运动和其他追求。我们知道，充实的人生并不是完全孤立的人生。即使在设定高速公路的速度限制的时候，我们也在权衡安全和其他目的。
1700412396
1700412397
这样的权衡很难，而且通常在政治上具有争议，它们塑造了我们生活的社会。问题是，我们是否愿意将选择的权利转交给软件公司？当我们将自动化视作弥补人为疏忽的灵丹妙药的时候，我们排除了其他的选项。匆忙投向无人驾驶汽车的怀抱也许不仅仅会剥夺个人自由和责任，还会妨碍我们去探索降低交通事故发生概率的其他方式，例如加强驾驶员教育或是推广公共交通。硅谷对高速公路安全的担忧虽然坦诚，但也是有选择性的，这一点值得我们注意。近年来，因使用移动电话和智能手机而分心已成为造成车祸的一大原因。美国国家安全委员会的一项分析指出，在2012年美国公路上发生的车祸事故中，有1/4都是因为使用手机造成的。谷歌以及其他顶尖科技公司几乎没有做出任何努力来开发一款意在阻止人们在开车的时候使用手机接听电话、收发短信，或是使用应用程序的软件，而这绝对比建造一辆可以自动驾驶的汽车有意义得多。谷歌甚至派它的说客前往州政府，以图阻止通过禁止员工佩戴谷歌眼镜以及其他分散注意力的眼部佩戴设备的法案。电脑公司可以为社会做出重要贡献，我们对此应该表示欢迎，但是我们不应该把这些公司的利益与我们的自身利益混淆起来。
1700412398
1700412399
玻璃笼子：自动化时代和我们的未来 [:1700411254]
1700412400
代码背后的商业动机
1700412401
1700412402
如果你不理解软件编写人员的商业、政治、智力和道德动机，也不了解数据自动处理所固有的局限性，那么你很容易就会被技术操控。正如拉图尔所说，我们冒险用他人的意念替换自己的想法，却没有意识到其实这种交换已经发生了。我们越是让自己向技术靠拢，冒的风险就越大。
1700412403
1700412404
我们不在意室内管道，总是忽略它们的存在，是因为我们已经习惯了。虽然我们无法修好漏水的水龙头或是罢工的马桶，但我们明白为什么会有这些管道以及它们的功能。同理，我们对大多数技术视而不见正是因为它们太普遍了。它们的运作方式以及背后的假设和利益都非常明显，或者至少是人们可以察觉到的。技术可能带来意想不到的效果——室内管道改变了人们对卫生和隐私的观点，但是它们并没有什么隐藏的动机。
1700412405
1700412406
但是，要是让信息技术隐形可就是另外一回事了。虽然我们意识到，信息技术存在于生活中，但是对我们来说，计算机系统还是非常艰涩难懂的。在许多情况下，软件代码作为商业机密被保护起来，我们无法窥见。即使我们能看到代码，也很少有人能明白其中的含义。我们不懂代码语言。而流入算法的数据也被隐藏起来了，它们通常存储在远端的守卫森严的数据中心里。我们不知道如何收集数据，不知道收集数据的目的，也不知道谁能够访问这些数据。现在，软件和数据不再存储在个人硬盘里，而是通过云存储的方式被集中起来，我们甚至无法确定计算机系统的工作原理在什么时候发生了变化。大众化的程序每时每刻都在进行升级改版，而我们却没有意识到。昨天使用的应用程序，可能今天就变了样。
1700412407
1700412408
现代世界一直都非常复杂。它被分割成一个个技术和知识的专有领域，经济系统和其他体系交错，现代世界拒绝人们进行任何尝试去了解它的全貌。而现在，这种复杂程度比以往任何时候都要强，连“复杂”本身都藏了起来。在精心设计的简洁的屏幕后面，在用户友好的界面背后，它悄悄掀起了面纱。用政治学家兰登·温纳的话来说，我们被“隐匿的电子复杂性”包围了。人们之间的“关系和联系”曾经是“人类世界的一部分”，表现为人与人、人与物的直接互动，现在却“被抽象掩盖了”。当那种神秘的技术被隐藏起来，我们最好应该提高警惕。在这一点上，技术的种种假设和意图已经渗透到人类自身的愿望和行为中。我们再也无法分辨软件是在帮助我们还是在控制我们。我们握着方向盘，却分不清是谁在驾驶。
1700412409
1700412410
[1]TEP指technology（科技）、entertainment（娱乐）、design（设计）的英文缩写，是美国一家私有非营利机构，该机构以它组织的TED会议著称，会议宗旨是“值得传播的创意”。——编者注
1700412411
1700412412
[2]Pebble是由硅谷创业公司Pebble Technology公司设计的一款兼容iPhone和Android（安卓智能操作系统）手机的智能手表，用户可以直接通过Pebble手表查看设备中的短信。——编者注
1700412413
1700412414
1700412415
1700412416
1700412417
玻璃笼子：自动化时代和我们的未来 [:1700411255]
1700412418
1700412419
玻璃笼子：自动化时代和我们的未来
1700412420
1700412421
1700412422
1700412423
1700412424
玻璃笼子：自动化时代和我们的未来 第九章 事实是，劳动让我们有存在感
1700412425
1700412426
1700412427
1700412428
1700412429
1700412430
1700412431
1700412432
玻璃笼子：自动化时代和我们的未来 我总会想到一句诗，特别是绞尽脑汁写这本书的时候，脑海里更是经常浮现出这句话：
1700412433
1700412434
“事实是劳动者所知的最美的梦。”
1700412435
1700412436
这句诗是美国诗人罗伯特·弗罗斯特的十四行诗《割草》（Mowing）的倒数第二句，这首诗是他创作初期的最佳诗篇之一。这首诗创作于20世纪之初，那时候罗伯特还是一个20岁出头的年轻人，刚成家不久。罗伯特当时还是个农民，他的爷爷在新罕布什尔州的东德里给他买下了一小块地，他在那里养了些鸡，照料一些苹果树。那是他人生中的一段艰苦时光。没什么钱，前途渺茫。他先后从达特茅斯学院和哈佛大学辍学，都没有拿到学位。他做过各种琐碎的工作，没有一个做出样子的。整个人处在病态当中，噩梦缠身。他的第一个孩子是个男孩，3岁时死于霍乱。他的婚姻也麻烦不断。弗罗斯特之后回忆道：“生活充满绝对专横，让我陷入混乱。”
1700412437
1700412438
不过，正是在东德里的那段孤独时光使弗罗斯特成了一位作家和艺术家。农场上的事物启发了他——漫长而又重复的日子、孤独的劳作、与大自然之美和大自然之无情的亲密接触。劳作的压力释放减轻了生活之累。“我在东德里那段时间曾感受到永恒与不朽，五六年间都不关心时间的存在，”他会这样描述自己在新德里的日子，“不用钟表，因为长时间不读报纸，我们的想法也显得不合时宜。如果我们能好好计划一番，或者是预测到之后遭遇的一切，这一切本可以更加完美。”弗罗斯特利用在农场劳作后的休息时间创作了许多诗歌，包括他第一本诗集《少年的意志》（A Boy’s Will）中的大部分作品、第二本诗集《波士顿以北》（North of Boston）中的一半作品以及他后续诗集中的多篇作品。
1700412439