1700411950
玻璃笼子：自动化时代和我们的未来 [:1700411236]
1700411951
数据和算法的缺陷
1700411952
1700411953
但是，复制思维的产物并不等同于复制思维。图灵强调过，算法永远也不能完全替代人类的直觉。有意识的推理无法得出“直觉判断”，这种无意识的判断不会消失。从文件中搜寻事实证据，或在数据阵列中解析统计模式并不是人类智慧的体现。在实际生活中，我们善于观察、积累经验，从中获取知识，依靠自身的理解力将所得的知识同丰富的、流动的世界编织在一起，从而完成各项任务，从容应对挑战。人类具有灵活的思维、有意识或无意识的持续性认知、推理能力和灵感，正是这些特质让我们可以进行抽象思考，可以批判地看问题，能够运用比喻，进行推测，变得聪明，这些可以极大地开发人类的逻辑能力和想象力。
1700411954
1700411955
多伦多大学的计算机科学家兼机器人专家赫克托·莱韦斯克举了一个例子，这是一个简单的问题，人类可以马上给出答案，但计算机却无法理解：
1700411956
1700411957
一个大球撞翻了桌子，因为它是由聚苯乙烯泡沫塑料制成的。
1700411958
1700411959
谁的原料是聚苯乙烯泡沫塑料？是大球还是桌子？
1700411960
1700411961
我们不用多想就能给出答案，因为我们知道聚苯乙烯泡沫是什么，知道当一个东西撞到桌子上时会发生什么，知道桌子是什么样的，知道形容词“大”有什么隐含意义。我们了解题目发生的场景，理解描述问题的文字。但计算机缺少对世界的真实体会，会觉得这个问题描述的过于含混，无从下手。计算机被囚禁在算法里。莱韦斯克表示，计算机的智慧局限于对大型数据集的统计和分析，虽然“系统具有出色的性能，但也只是个白痴学者”。计算机可能很擅长象棋、智力竞赛、面部识别或其他特别有限的思维活动，但“在其他情况下就完全束手无策了”。计算机拥有超凡的精确度，但这也正是它们感知力的有限性的体现。
1700411962
1700411963
即使是面对概率性问题，计算机也并不是完美无瑕的。计算速度和准确性可以掩盖基本数据的局限性和数据失真的问题，此外，数据挖掘算法本身还存在一定缺陷。任何大型数据集都存在真假关系混杂的问题。计算机很容易被某种巧合误导，或是生成虚假联系。更严重的是，当某个数据集成为重要决策的依据，数据和数据分析方法很可能会出现误差。为了在金融、政治或社会领域获取利益，人们决定跟计算机系统赌一把。社会科学家唐纳德·T·坎贝尔在1976年发表了一篇著名的文章，他在文中解释说：“社会决策所使用的社会定量指标越多，导致误差的压力就越大，对于所监测的社会进程，计算机出现数据失真和误差的可能性也就越大。”
1700411964
1700411965
因为数据和算法存在缺陷，专业人士或我们这些普通人很容易产生自动化偏好，这是十分危险的。维克托·迈尔·舍恩伯格和肯尼思·库克耶在2013年共同出版了《大数据时代》（Big Data），他们在书中写道：“即使我们有合理的理由怀疑分析存在偏差，我们也会无意识地被分析结果束缚。”“或者，我们会把某些本不属于数据的功劳记到它的名下。”关联计算算法存在一种特殊的风险，原因在于，这种算法依靠以往的数据对未来进行预测。大多数时候，未来会遵循之前的事例，按照预想的路径发展。但是在某些特殊的情况下，实际发展会偏离既定的模式，这时算法的预测就不准确了——这是事实，已经给某些高度计算机化的对冲基金公司和相关机构带来了灾难性的影响。虽然计算机有许多优点，但它们缺乏常识性知识，这仍让人颇感担忧。
1700411966
1700411967
微软研究员凯特·克劳福德提出了“数据原教旨主义”的概念。有些人类技能是计算机无法模仿的，我们越是拥护“原教旨”，就越容易低估这些技能的价值——我们赋予了软件太多控制权，反而限制了自己获取专业知识的能力。这些知识能让我们不依靠直觉，创造性地看问题，但这些知识需要通过亲身经历才能获得。电子病历给我们带来了诸多影响，有些是我们未曾预料到的，这些影响表明，模板和公式必然会减少，这两者太容易束缚人类的思维。美国佛蒙特州的医生兼医学教授劳伦斯·威德被称为电子病历之父，他从20世纪60年代以来就一直极力倡导医生使用计算机，以此帮助他们做出正确的、有根据的医疗决策。虽然如此，威德还是警告称，医疗界现在存在“滥用统计知识”的问题，“这会逐步排挤掉那些病人看护所必备的个性化知识和数据”。
1700411968
1700411969
研究心理学家加里·克莱因主要研究人类决策问题，他对此深感担忧。他指出，基于证据的医学迫使医生遵照既定的规则行事，“会妨碍行医的科学性”。如果医院和保险公司“强制使用EBM（循证医学）系统，并且威胁如果没有按照最佳的医疗范例进行治疗，出现任何不良后果都将面临法律起诉，那么医生就不会愿意去尝试没有通过随机对照实验评估的治疗方案了。一线医生集合了医学专业知识和研究精神，如果一线医生在实际探索和发现方面受到阻碍，那么科学进步也就无法实现”。
1700411970
1700411971
如果我们不加以注意，脑力劳动自动化会改变智力的本质和关注点，并终将侵蚀文化的根基：我们理解世界的欲求。预测算法非常擅长挖掘关联性，却毫不关心特征和现象的根本原因。但是，它们对动因的解析——小心翼翼地解开事情发展的方式和原因，加深了人类对事物的理解，并最终为我们搜寻知识的行为赋予了意义。如果从职业和社会的角度来看，我们认为概率自动计算就已经足够了，那么我们很可能丧失或至少弱化寻求进一步解释的欲望和动机，在沿着通往智慧和奇迹的迂回道路上，我们也不再冒险前行。如果计算机能在一两毫秒内吐出“答案”，我们还有什么可担忧的呢？
1700411972
1700411973
在1947年发表的文章《政治理性主义》（Rationalism in Politics）中，英国哲学家迈克尔·奥克肖特生动地描述了现代理性主义者：“在他的思维世界里，没有空气，没有四季变换，气温恒定不变；思维的种种过程尽可能地同外部影响隔绝，虚无缥缈。”唯理主义者不关心文化或历史，他们不培养或展示个人观点。他们的思想理论仅凭借“将经历的复杂性和多样性快速简化成公式”而闻名。我们可以把奥克肖特的话作为对计算机智能化的最好描述：非常实用、高产，完全没有好奇心、想象力和物欲。
1700411974
1700411975
[1]UPS是美国联合包裹速递公司。——编者注
1700411976
1700411977
1700411978
1700411979
1700411980
玻璃笼子：自动化时代和我们的未来 [:1700411237]
1700411981
1700411982
玻璃笼子：自动化时代和我们的未来
1700411983
1700411984
1700411985
1700411986
1700411987
玻璃笼子：自动化时代和我们的未来 第六章 当世界只剩下屏幕
1700411988
1700411989
1700411990
1700411991
1700411992
1700411993
1700411994
1700411995
玻璃笼子：自动化时代和我们的未来 [:1700411238]
1700411996
玻璃笼子：自动化时代和我们的未来 伊格卢利克小岛位于北加拿大努勒维特地区梅尔维尔半岛的附近海域。冬天的时候，这座小岛会让人迷失方向。小岛冬季的平均气温在–20℃左右，厚厚的海冰覆盖了周围的海水，长期不见太阳。虽然这里环境艰苦，但是400多年来，因纽特猎人总是会离开家园，冒险到这个小岛上来。他们横穿数英里的海冰和冻土，寻找北美驯鹿和其他猎物。1822年，英国探险家威廉姆·爱德华·帕里在日记中提到，他的因纽特人向导具有“惊人而准确的”地理知识。从那以后，人们发现，因纽特猎人能够在广袤荒凉的北极地带行进，这里没什么地标，积雪带不稳定，足迹一晚上就消失了，猎人这种探路能力让许多航海家和科学家为之震惊，这种能力并不是来自强大的技术——他们不使用地图、指南针或其他工具，而是基于对风向、雪堆形状、动物行为、星星、潮汐和洋流的深入了解。因纽特人是洞察事物的专家。
1700411997
1700411998
或者，他们至少曾经是这方面的专家。在千禧年之交，因纽特文化发生了变化。2000年，美国政府撤销了多个对民用全球定位系统的限制。GPS设备的价格下降了，同时，精确性却得到了提升。伊格卢利克猎人已经用雪地摩托车替代了狗拉雪橇，开始依靠计算机地图和指引进行探路。年轻的因纽特人特别渴望新技术。过去，年轻的猎人必须拜年长者为师，作为学徒刻苦学习很长一段时间，培养探路能力。而现在，年轻猎人不必再接受训练，他们购买价格低廉的GPS接收器，将导航任务交给GPS仪器去完成。并且，在一些恶劣的天气条件下（如浓雾），他们也能出门打猎，这在以前是无法实现的。自动导航设备简单、方便、准确，这让因纽特人的传统技能显得麻烦和过时了。
1700411999