1707567930
1707567931
在高度解析的社会，同类的事情还在无数的地方发生着：医疗体系混乱了，因为高度知情的病人也要参言，同时拷问医生的权威；人脸识别程序解析了公共空间，我们生活其中，却到现在都还以为自己是匿名存在的；植入设备如脑起搏器模糊了人和机器的界限；保险公司突然不知道他们应该如何对事物进行估价了——在维尔茨堡大学，有一个作为轻型摩托车投保的自动轮椅，因为人们找不到更合适的归类了。
1707567932
1707567933
如果无人驾驶汽车真正得到承认，那么整个交通系统都必须重构：汽车和交通事故的数量会减少；汽车生产商的销量会降低；国家税收收入降低的同时，开出的罚单也变少了；石油公司卖不了那么多汽油；诊所在交通事故伤亡上赚不到那么多钱；停车场将会变成居住区或者公园；不再需要那么多警力；保险费将会降低；道路工程将会减少，因为无人驾驶汽车可以成纵列行驶从而更有效率地利用高速公路——在平常的交通中，高速公路的利用率最多只有5%。没有什么还会和现在一样。而我们人类将会坐在无人驾驶汽车里，一边自顾自地打着瞌睡，一边希望这台机器知道它在干什么。
1707567934
1707567935
1707567936
1707567937
1707567939
微粒社会：数字化时代的社会模式 使不可见者可见
1707567940
1707567941
跟随本书的脚步，我们一再看到数字化是如何一路让看不见的现象得以显现的。患糖尿病的菲利克斯脱离了被平均值笼罩的黑暗，以他的唯一性出现在人们面前。奥巴马的选民变得前所未有的透明，还有韦伯的企业、拉斯韦加斯赌博机旁的赌客，以及使用电脑提升学习效率的学生。
1707567942
1707567943
与此同时，不断被谈到的还有神秘的电脑以及冷酷的程序。它们被认为是一种“幽灵般的存在”，一些信息技术专家甚至喜欢称它们为“无法触及的、复杂的和难于理解的”。这让它们更加难以掌控。
1707567944
1707567945
于是微粒社会的核心中存在着这样一个悖论：那些高度不透明的数字化机器，正在创造着无法辩驳的透明。这样的对立也让我们的制度不堪重负。国家陷入压力，一方面要保护民众，使之不为数字化耀眼的光芒所伤；另一方面又要将光芒照进机器的黑暗当中。这正是微粒社会中国家的一项艰巨任务。接下来两节的内容都将围绕这个挑战展开。
1707567946
1707567947
这个既不透明又透明的悖论会使我们在思考智能机器及其内在的算法时陷入一种独特的混乱。一方面有人称，它们将决定我们的生活，控制我们的行为。由此，一种新的、几乎无法控制的权力笼罩了地球，它关系着我们存在的所有方面，统治着、影响着同时规训着我们——这正是源于它对我们无情的透视和计算。
1707567948
1707567949
另一方面，我们却无力地站在程序的对面，因为我们不懂它们。我们面对的是“看不见的机器”，它们摆脱了我们的控制，所以我们需要经历的，是一个“不可见的世纪”。根据这样的解释，数字化的机器拥有了大得无边的权力，而且是完全虚无的。它们看穿一切，但自己是无法被看穿的，以前的人们称呼这样的存在为：神。
1707567950
1707567951
哲学家温迪·楚指出，程序将会成为一切“不可见的却又有着巨大影响力的事物”的“强有力的隐喻”，“从基因密码到市场的‘看不见的手’，从意识形态到文化”。
1707567952
1707567953
与此相应地，有关电脑的类比也在被广泛地使用。据说，我们的基因密码也“是数字化的，正如电脑代码一般”。还有作者认为，我们的文化也是可以再编程的，我们的大脑就是一台由神经元构成的电脑，进化就是对我们的“编程”，而基因密码每天都在被不断写入：“我们才是机器人，不断被写入新的基因，却对此茫然无知。”
1707567954
1707567955
一切都是电脑，人也不例外。但首先，这种想法是错误的；其次，我们也不愿接受这样的想法。它其实把一些最为世俗的东西神化了。但是电脑并不神秘，恰恰相反：原则上它比人容易看穿，因为我们能对它的每个计算步骤的源头进行追溯。这在实践中绝非易事，在原理上却是可行的。
1707567956
1707567957
假设我们要决定由谁享受一份社会福利，同时确保没有社会群体受到亏待。要是由人来决定，虽然出于好意，但他们可能还是会做出非常不公正的选择，因为他们受着深深固化且无意识的偏见的蛊惑。与此相对，程序隐瞒不了它的标准。我们可以核查是否所有数据都已输入；运行数据测试；为了理解运算过程，还可以删除数据或是输入其他数据。这可绝不简单：在搞懂程序的过程中，理论和实践上都存在着很多障碍。但程序的所有决定在原则上都比人更规矩，而且可以追根溯源。对电脑的神秘幻想掩盖了这个简单的事实。
1707567958
1707567959
程序在隐秘中运行的原因，不在于它们不可理解，而在于它们被隐藏了。它们被秘密地隐藏起来，程序的所有“谜团”都在于此。那些编写它们的机构，从脸谱网到德国大型电商Zalando，从银行到大学，从社会福利部门到特工组织，将它们视作企业或是国家机密，像保护金矿一样保护着它们。
1707567960
1707567961
程序的不透明正是这种保密的结果。我们不知道它们在干什么，因此我们有正当理由对数字化感到巨大的不快。我们被看穿了，却又无法回看过去。但这种不透明是人为制造的，是权力的表达而非程序的本质。看清这一点至关重要：我们必须停止将程序神化为“有魔法的力量”——因为这样我们只是正中了那些用不透明来为程序掩护的人的下怀。相应地，问题来了——我们怎样才能在将程序变得透明、对审查开放的同时，又不忽视公司和国家对于保密的正当诉求。这是微粒社会的关键问题之一，因为它直接涉及微粒社会的权力结构。
1707567962
1707567963
幸运的是，这件事情并没有像它平常被描述的那样令人绝望。奥地利研究人员维克托·迈尔–舍恩伯格和英国记者肯尼思·库克耶在其值得一读的《大数据时代》一书中提出了可能是最有启发的建议。他们将希望寄托在所谓的程序审查师身上。这些人不是鲁道夫·斯坦纳学院的电脑专家，而是计算机工程师、数学家以及统计学家，他们的任务是审查所有类型的程序：在公司，在行政部门，在大学。正如会计师之于收支平衡表，他们的存在只为程序。像会计师一样，程序审查师负有公正和认真负责的义务，必须对错误和欺诈行为担责。
1707567964
1707567965
舍恩伯格和库克耶以会计师为蓝本设计这个新的职业分支并非偶然。会计师也出现在一个存在着剧烈变革和社会复杂性迅速增长的时代。在19世纪末的工业化进程中，公司成长为大型康采恩（一种高级垄断组织形式）和企业集团，不再能被人们看清，它们——正如今天的程序一样——高度不透明地运行着权力，会计师的工作因此变得必要。自1870年德意志帝国确立了对股份制公司进行审查的责任之后，会计师这项职业不断发展，其造就的关于精确和保密的职业道德，甚至被写进了法律。今天，这种审查形式显得如此理所当然，以致我们都忘了这种行为在当时受到了怎样的争议，而应当强制企业公开账目这一思想，在当时又是如何令人感到匪夷所思。
1707567966
1707567967
因此，企业或许必须承担起使自己的程序接受审查的义务。计算机学家阿努帕姆·达塔在他的多项工作中证明，如何在不检查所有运算步骤的情况下，发现程序对隐私的侵犯。于是，一家公司甚至不必公开每个细节，仍然能让审查得以实现。这些检查的技术都是高度复杂的，但在这里，它们和通常的会计工作也没有什么本质上的不同。
1707567968
1707567969
斯坦福大学教授爱德华·费尔顿也在开发类似的方法。他将自己的方法称为负责算法。他的重点是，不仅对私人的，还要对国家的程序进行透视。例如，机场的一个程序要决定哪些旅客需要接受额外的检查。这应严格地遵循随机原则，但果真如此吗？这个程序会不会系统地歧视特定群体？怎样才能一方面对此加以确定，一方面又不将（机场）程序的运行机制公之于众，从而白白地教会潜在的恐怖分子如何避开检查？费尔顿提出了一些解决之道，其目的在于让国家程序保持机密的同时，又能接受审查。大量的程序由此得以在公正的基础上得到审查，而又不至于以一种有弊端的方式被公开。
1707567970
1707567971
实例表明：透明是可以实现的，只是还缺乏标准化的方法。簿记的正确与否之所以更容易检验，是因为所有的收支平衡表遵循着同样的范式，有着同样的目标。而被编写的程序则高度个别化地运行着，服务着完全不同的目的。问题在于，一个独立的程序审查师团队是否有能力审查一个大企业如谷歌的程序，更不用说能否理解了。审查是极端复杂的，目前我们甚至还不知道在此过程中需要尤其注意些什么。程序的中立性或者无党派性意味着什么？它可能存在吗？比起不公正的程序，公正程序的特点究竟为何，是什么将好的程序与坏的程序相区别？坏是对谁而言，公平是依据怎样的标准，公正又是凭着怎样的理论？
1707567972
1707567973
这并不是说要反对有关程序审查师和负责算法的想法，而是要将挑战挑明。透视程序的制度肯定是复杂的，集巨大权限于一身，而且有着灵活的指导方针与标准。这是可能的，也应该是目标所在——只是目前，这超出了我们的视野。
1707567974
1707567975
另一方面，自数字于4 000年前出于管理的目的在美索不达米亚被发明以来，会计师们还是给自己的出现预留了一些时间。有关程序的问题从出现到现在还不到60年，而问题的大规模出现也就是近20年的事。而现在，现存制度解体的速度，已经超过了新制度创建的速度。所以说，在程序拥有者和程序涉及者的不对称性方面，或许不会出现立马的改变。
1707567976
1707567977
1707567978
1707567979
[
上一页 ]
[ :1.70756793e+09 ]
[
下一页 ]