1707567650
1707567651
1707567652
1707567654
微粒社会：数字化时代的社会模式 评价型社会
1707567655
1707567656
2013年，戴夫·艾格斯出版了小说《圆环》。他在书中描述了一家同样名为“圆环”的公司，这家公司拥有一种由数据驱动的世界统治力，借助无处不在的摄像头和对整个互联网的完全监控，这家公司几乎知道每个人的一切。“发生的一切我们必会知道”，正是这家公司的口号。
1707567657
1707567658
评论家们赞誉这部小说是首部关于像谷歌、脸谱网之类的大型数据公司的高水平小说，而技术专家则嘲笑这部小说在所有基本技术问题上的幼稚和错误。双方都有道理，就像作者自己所说的那样，这部小说虽然写得很快，但他对文中描绘的那些技术并非一窍不通，所以他在书中的描绘不会那么不恰当：这家公司自动计算关于用户的所有数据，自动评估他们的行为，还会进行比较和分级。“圆环”公司的雇员将会根据人们在社交媒体上的参与程度对其进行评价（就是所谓的参与评级）。那些被社区警察记录在案的人，将会在增强现实档案中被标记为蓝色——这意味着人们可以与他安心相处。而对于犯罪分子，人们会根据其危险等级而做不同的标记：顺手牵羊的盗窃犯会被标为黄色，暴力犯罪分子会被标为红色。所有人的“真实特征”，这些从社交网站、银行汇款信息、信用卡消费记录、视频摄像头等当中得来的所有数据，将会允许人们对某人的信誉等级、购买行为、职业道德以及更多的信息做出评价和分级。
1707567659
1707567660
这远没有人们想象的那样不靠谱。很早以前，我们作为人和消费者就如同iTunes上的音乐以及亚马逊上的书籍一样被丰富地评价。而且每一次点击都会使评价更加全面：总是回答“这条评论对您有用吗？”的人会为程序算法的发展做出贡献。那些数字化的评价，有时被称作分数，有时被称作画像。求职者的在线活动会透露出其在创造力和领导力方面的素质，编程人员会根据他人对其所写代码的评价预期奖励多少，信用卡公司会让程序算法调低那些使用信用卡向治疗医师、婚姻咨询师付费的人的信用等级，更滑稽的是，使用信用卡偿付轮胎维修服务的持卡人的信用等级也会被调低。一家加拿大银行在他们的云端数据库中发现，那些光顾某个特定酒吧的人的破产风险特别高，银行会相应地调低所有这些酒吧光顾者的信用等级。
1707567661
1707567662
甚至用颜色标记犯罪分子的事情也不再只是小说中的情节。在美国，超过50家行政机构和警察机关开始采用MORIS——一个苹果手机上的应用程序。它可以进行面部识别，而且能在不同的犯罪数据库以及Flickr（一个图片分享网站）和脸谱网上搜索嫌疑人。每个人都可以在几秒钟内被识别出来，甚至比德国的通行做法更加厉害。在德国，每个人随时可以通过其个人身份证件得以识别。
1707567663
1707567664
每一条评价同时包含着一种预测：根据过去推测未来。那些经常在亚马逊上购买爱情小说的人，不可能明天就转而投向恐怖视频的怀抱。那些通过MORIS发现的“犯罪分子”相比于一个正派的公民会得到警察的区别对待。得分、画像、样本总是与过去和未来有关：昨天和明天都很重要。我们看到，许多案例都在佐证这个道理：人会对自己保持忠诚。仅仅因此，就值得数据公司和国家投入如此多的资金和资源用于分析已经发生的过去。
1707567665
1707567666
尽管所有的行为方式都被认为是稳定的，能够改变未来的恰恰是那些评价和预测。评价和预测不是中立的，它们介入个体的生活之中，考验着我们对于民主体制中平等的理解。这可以在一种被认为无可置疑的领域——科学论文的发表——得到体现。来自麻省理工学院的一组科研人员已经计算出，哪些专业文章在未来有可能被频繁引用。文章会在发表后数天被一种网络结构测评，这种网络结构会评估数年后这篇文章是否有可能大受欢迎。这样一来，那些青年科学家的前途可能在他们开始钻研之前就终结了，只是他们不知道。
1707567667
1707567668
如果一台计算机向50岁的阿尔伯特·爱因斯坦预测他在未来很有可能成为诺贝尔奖获得者，会发生什么呢？恰好成为诺贝尔奖得主，还是这个预测可能会诱使爱因斯坦游手好闲最终无所事事？这些打着程序算法比人更客观的幌子的预测是如何介入我们生活的呢？我们又该如何应对它们？是将其视作现实、趋势还是谬论呢？诸如“根据您的基因分析，您在50岁前有37%的可能患上一种可怕的疾病”这样的句子意味着什么呢？这会使我们的生活更好还是更坏，它会促使我们做出什么样的举动呢？
1707567669
1707567670
不过大部分的计算机评估结果只在幕后起作用。几乎所有的数据公司都会搜集用户的个人信息资料，并且对其进行全方位的打分：商业信誉、购买意愿、在社交媒体上的影响、固执性、可被影响性。用户对此通常并不知晓。这会使人们产生巨大的不适，并且会激发人们对于普遍歧视的怀疑。人们会感觉被以某种方式观察，同时受到糟糕的对待。只有透明才能改变这种状况。
1707567671
1707567672
但问题是，我们无法轻易地回答这些程序有益于谁，又有害于谁。一个经常听到的观点认为，首先会因为这种评分而受到损害的是穷人和被歧视者。银行将会通过更多的数据更好地识别那些财务状况不稳定的顾客，信用卡公司也可以更加轻易地从顾客的支付记录中解读出风险情况从而区别对待他们。博客作者萨沙·洛沃写道：“那些私人数据将会被自动计算，而且在个体不知情的情况下遭到滥用。”洛沃曾是数字化进程的狂热追随者，而现在他变成了一个持有悲观看法的雄辩者。
1707567673
1707567674
但是，就像洛沃所写的那样，事情并非那么简单。这些数据可能恰恰对那些受歧视者有所助益。一家名为吉尔德的公司设置了56 000种变量在网络上搜寻那些不是从精英大学毕业却工作出色的编程人员，他们发现了这些迄今被忽视的人，并且给了他们一个机会。
1707567675
1707567676
旅行网站Orbitz发现，那些拥有苹果电脑的人在预订宾馆时意愿支付更高的价钱，因此他们在对这些客户进行房间报价时会比向使用Windows（视窗）操作系统的客户报价时更高。苹果电脑用户的优势，即能够为一台电脑支付更多的钱，此时却变成了他们的劣势。巴塞罗那的科研人员比较了向具有“节约特征”的网络使用者和向具有“富裕特征”的网络使用者的报价，发现了这样的结果：面向“节约者”的报价部分地低于面向“富裕者”的报价，最高可达4成。而在一家在线商店，那些从打折网站跳转过来的网络冲浪者可以比那些从其他网站跳转过来的网友支付更少的费用，最高可达23%。但是如果反过来，那在经济学上就没有意义了：如果商家针对那些不太富裕的人提高价格的话，他们可能会得不偿失。
1707567677
1707567678
程序算法得出的结果甚至可能比人类的判断更公正。如果是由一台机器做出选择的话，在我们的社会中，深色皮肤的求职者可能会有更好的机会。我们当然不应当将机器给出的评分与理想的决定相比，而应该将其与人类通常做出的决定相比。人类的决定往往是充满偏见的、狭隘的、有偏向性的。程序算法绝对是能够确保更多公正性的工具，前提是我们能够正确运用这种工具。
1707567679
1707567680
消费者保护可能是一个例子。消费者保护的一个挑战在于，在不剥夺其自主决策权的情况下，在人们做出之后很可能会后悔的决定之前保护他们。可供选择的方法是解释说明。比如在购房、保险或者信贷方面，程序算法模型可以清楚地给出精确的、私人定制化的答复。对于那些想购房的人，机器能够提供更多、更详细的数据，比如：那些同样资质的购房者，其购房后面临的破产风险有多高？一旦他们买下这样一个大房子，为此陷入疲于奔命状态的概率有多大？以及其他更多有用的信息。
1707567681
1707567682
或者设想一下，商品检验基金或者一家相对具有可信度的机构在严格保护私人信息的前提下提供分析顾客特征的服务，从中推导出他们的典型错误。或者这家基金设计了一种“游击—算法”，它能够据此模拟银行和信用卡公司如何评价他们的顾客。在此基础上，它可以提供很多有效的警告和建议。
1707567683
1707567684
重要的是要认识到我们会与丰富的评价模式格格不入。目前还没有证据显示，这些评价模式是被统一控制或者认证的；也没有事实证明它们是否有意义，或者它们到底有多危险。我们可能会在一种重叠而又矛盾的评级网络中活动。控制社会的一大特点就是：使人迷惑。
1707567685
1707567686
所有评级都将充满偏见。这是不可避免的。这些评级从来都不是中立的，总会掺杂可疑的、决定越过数据筛选和程序算法的逻辑。虽然一些程序算法的拥护者辩称他们的分析软件的确有上帝一般的客观性，并且强调它们会还原现实，“就像现实原来的样子一样”，但这只不过是欺骗而已。每一款软件都会体现编程者的意志。
1707567687
1707567688
比如脸谱网正在根据某个用户与其所有朋友交流的频繁度不断评估朋友的价值和意义。朋友因此不再是同样的朋友，而是有极大的差异性。脸谱网将亲戚的评级提得更高，甚至会在用户主页显示亲戚发布的、与他并无关系的状态更新。血浓于水——脸谱网正是通过代码下意识地强调了这个准则，而许多用户可能并没有意识到这一点。
1707567689
1707567690
我们或许要在这些影响下生活，至少要在那些特别关注生活方式和理念的非国家机构带来的影响下生活。这也意味着算法不会一直歧视同样的社会群体而优待其他的社会群体。在微粒社会中，优势与劣势转变得非常迅速。
1707567691
1707567692
在这种差异革命和控制革命的叠加中，我们将面临更多的细微歧视，与之伴随的是被快速计算并快速消失的概要特征，它们像闪电一样照亮我们的生活。我们很难从这些概要特征中总结出社会的一般劣势。但是这些短暂的细微歧视会加强人们对于社会不公平的感受。
1707567693
1707567694
在这种评级社会中，有一个群体可能会被视为失败者：专家群体。
1707567695
1707567696
1707567697
1707567698
[
上一页 ]
[ :1.70756765e+09 ]
[
下一页 ]