算法霸权 数学杀伤性武器的威胁pdf更新

大学排名和身体质量指数（BMI）竟然是一场骗局？

在数据经济时代，我们不仅是数据巨头的用户，也成为它们的商品？

为什么说“一般人公式”会带来更多的间接损害与不公？

数据安全和数据正义该如何维护？

未来20年，算法和大数据将席卷世界，接管我们的生活、社会和经济。我们生活中的很多方面都将落入自动化的数据分析之下。确保算法和大数据的公平性将是一项重大的任务，数据伦理的价值和意义将不断凸显出来。在这本书的作者凯西?奥尼尔看来，黑盒里，大数据的规模、伤害和隐秘共存，她在书中引用了大量发生在美国当下的、基于大数据和算法的、改变个人生活的案例，并对影响这些城市生活经验的算法做了特别的观察和研究。作者认为，数据和算法的关系就像枪械和军火，数据没有价值观，是中立的，但来自人类行为的输入，难免隐含偏向，而算法创造的数据又对人类行为产生反作用，从而导致更多的不公。凯西在书中指出：算法模型一旦运转，执法行为就会增多，产生的新数据又会进一步证明加强执法的必要性。形象地说，就是哪里“前科”越多，哪里就越受算法“关照”，最终形成一个失真甚至有害的回环。因此，建模者应该对自己的算法承担更多责任，政策制定者要对模型的使用进行管理，让更多的人受益，维护社会的公平与民主。

算法霸权 数学杀伤性武器的威胁 内容简介

我们生活在算法的时代。我们去哪个学校上学，是否能够获得车贷、需要为健康保险支付多少钱，这些对我们的生活有着重大影响的决定越来越由不得人类自己，而是被各种数学模型所操控。从理论上来说，模型可以更好地促进公平，因为每个人适用于同等的规则，不存在偏袒。

但凯西?奥尼尔这本迫切而且必要的书却告诉我们，事实刚好相反。如今，被广泛使用的算法模型，即使其本身充斥着错误，也依旧不受管束、不被质疑。其中，“强化歧视”的问题特别值得反思：如果一个穷学生因为被借贷模型认定为风险过高（仅仅是根据该学生所生活的街区就得出此判断）而贷不了款，那么接下来，他就会被剥夺能够帮他摆脱贫困的接受优质教育机会，继而陷入一系列的恶性循环。

通过追踪一个人的生命轨迹，凯西?奥尼尔试图在书中揭露数学杀伤性武器对塑造个人和社会未来的影响。这些数学杀伤性武器给教师和学生评分，筛选简历，批准贷款或拒绝贷款，评估员工，甚至监督我们的健康状况，因此凯西?奥尼尔呼吁建模者，要对自己的算法承担更多责任，并且呼吁政策制定者对模型的使用进行监督管理。她指出，对模型的掌控最终取决于我们自己。这本重要的书迫使我们直面问题，揭示真理，要求改变。

算法霸权 数学杀伤性武器的威胁 目录

引文

第一章 盲点炸弹

不透明、规模化和毁灭性

第二章 操纵与恐吓

弹震症患者的醒悟

第三章 恶意循环

排名模型的焦虑与特权

第四章 数据经济

掠夺式广告的赢家

第五章 效率权衡与逻辑漏洞

大数据时代的正义

第六章 筛选

颅相学的偏见强化

第七章 反馈

辛普森悖论的噪声

第八章 替代变量和间接损害

信用数据的陷阱

第九章 “一般人”公式

沉溺与歧视

第十章 正面的力量

微目标的出发点

结束语

注释

索引

算法霸权 数学杀伤性武器的威胁 精彩文摘

小时候，我常常盯着车窗外的车流，研究车牌号。我会把每个车牌号分解成素数，如：45=3*3*5。这叫做因式分解，是我最喜欢的研究消遣。我这个小数学迷对素数问题特别感兴趣。

我对数学的爱好最终发展成热爱。14岁时我参加数学大本营，带回来一个心爱的魔方。数学使我彻底逃脱现实世界的混乱。经过一步步证明，数学不断发展，知识领域不断扩大。我也加入到数学领域中，上大学时主修数学，后来取得博士学位。我的论文研究代数理论，这一领域根源于我小时候爱做的因式分解。最后，我成为巴纳德学院的终身教授，该学院与哥伦比亚大学联合培养数学系。

后来，我做了一个重大的改变。我从大学离职，到顶尖对冲基金D.E.Shaw担任数学分析专家。我离开学术界进入到金融领域，把抽象的数学理论应用到实践中。我们所做的数据分析为一个又一个账户变现数万亿美元。起初，在这新研究室研究全球经济我感到兴奋又震撼。但是，我在那儿工作一年多以后，2008年的秋天，全球金融危机爆发。

很明显，金融危机使得我曾经的庇护所数学不仅卷入了世界问题中，还助推了其中的许多问题。房地产危机，重大金融机构倒闭，失业率上升，数学家通过运用神奇的公式成为这些问题的帮凶。而且，数学的功能特别强大，这一点我非常喜欢，一旦数学与科技结合，系统的效率会提高，规模扩大，混乱和不幸就会倍增，我现在意识到这是一种缺陷。

要是我们当时头脑清醒的话，就会后退一步思考，数学是怎么被我们误用的，我们该如何防止未来发生同样的灾祸？但是，金融危机以后，数学新技术比以往更热门，甚至延伸到更多领域，每时每刻都在搅动着海量信息，大多数数据都是由社交媒体或者电子商务网站搜刮而来。而且，数学逐渐不再关注全球金融市场动态，而是关注我们人类。数学家和统计学家一直在研究我们的欲望、行动和消能费力。他们一直在预测我们的信用，评估学生、职员、情人以及罪犯的潜力。

这是大数据经济，收益前景非常可观。一个电脑程序可以在1-2秒内快速扫描成千上万份简历或是贷款申请，然后整理成清晰的列表，最有潜力的求职者位居前列。这不仅节约时间，而且还公平客观。毕竟，电脑程序不像人类带有个人偏见，而只是一种处理无情数字的机器。到2010年左右，数学破天荒地介入人类事物，公众热烈欢迎数学这一工具。

但是，我看到了麻烦。数学应用助推数据经济，但这些应用的建立是基于不可靠的人类所做的选择。有些选择无疑是出于好意。但是，其中有许多模型把人类偏见、误解和偏爱编入软件系统，这些系统日益操控我们的生活。这些数学模型像上帝一样模糊不清，只有该领域的最高牧师即数学家和计算机科学家才能明白模型是如何运作的。人们对模型得出的结论毫无争议，从不上诉，即使结论是错误的或是有害的。而且模型往往会惩罚社会中的穷人和受压迫的人，而富人因此更加富有。

我为这些有害模型提出了一个名称：数学毁灭武器，或者简写成WMD。接下来我将用一个例子向你们阐明这种模型的破坏特点。

这个案例和很多案例一样，出发点是好的。2007年，华盛顿特区新上任市长艾德里安?芬提（Adrian Fenty）下定决心改善本市教学质量不佳的学校。当时，几乎每两个中学生中就有一个九年级学生勉强才能毕业，只有8%的八年级学生在数学上的表现达标。市长芬提聘用教育改革者李阳熙（Michelle Rhee）担任华盛顿市教育总督。

当时流行的理论是学生学得不够好是因为老师教得不好。所以，在2009年，教育总督李阳熙落实开除教学表现差的教师的计划。这是全美教学质量差的地区的一种趋势，而且从系统工程的角度看，这种想法非常有意义：评估教师。开除最差的教师，把最好的老师调到最有用武之地的地方发挥他们的才干。用数据专家的话来说就是，“优化”学校系统，尽可能保证提供给孩子好的教育。除了“差”教师，谁还能与此争论？教育总督李阳熙开发了一个叫作IMPACT的教师评估工具，在2009-2010学年底，华盛顿特区开除了得分垫底的2%的教师。第二年年底，又开除5%，也就是206名教师。

华盛顿特区五年级教师萨拉?韦索基（Sarah Wysocki）似乎没有任何理由担心。她在麦克法兰中学仅任教两年就得到校长和学生家长的好评。校长表扬她对孩子专心，学生家长称她是“我接触过的老师中最好的一个”。

但是在2010-2011年年底，韦索基得到IMPACT的评分很惨。她的问题来自一个叫作增值模型的新评分系统，该系统用于评估数学和语言技能教学的效果。这个系统算法得出的分数占她总评分的一半，并且重要性超过学校领导和社区的好评。华盛顿特区别无选择只好开除她，以及IMPACT得分在最低限度之下的另外205名教师。

这看起来不像是政治破坏或者分数定论。该学区的这一评估办法确实有点逻辑。毕竟学校领导有可能是糟糕教师的朋友。他们可能喜欢他们的个性或是表面上的尽心尽力。糟糕教师看起来“挺好”。所以，像许多其他学校系统一样，华盛顿特区愿意减少人为偏差，更加注重分数，因为分数是根据实实在在的结果即数学和阅读成绩得出的。华盛顿特区官员承诺，分数可以清楚说明问题。分数更能体现公平。

韦索基当然觉得这些数字极其不公平，她想知道这些分数怎么得来的。她后来告诉我说：“我认为没有人能理解这些分数。”一个优秀的教师怎么会得到如此低的分数呢？增值模型评估的到底是什么？

她熟知，评估模型很复杂。华盛顿特区聘用麦斯迈提卡政策研究机构（Mathematica Policy Research），该机构提出这套评估体系。该机构遇到的难题是测量特区学生的进步，然后计算学生的进步或退步多少能够归因于他们的老师。这当然不容易。