惩罚贫穷：大数据横行的自动化时代，隐藏在算法之下的不平等歧视

2019年莉莉安・史密斯圖書獎（Lillian Smith Book Award）、 2018年麥加農中心圖書獎（McGannon Center Book Prize）獲獎作品 本書揭露高科技工具影響人權與經濟公平。 看似客觀中立的機器運算， 可能在學習人類提供的資料後， 再複製社會偏見與歧視，形成「自動不平等」！ ▴美国印第安纳州在三年内驳回100万人的医疗照护、粮食券和现金财富申请，只因为资格自动审查机制把不完整的错误统统归结为未能履行者的申请。繁琐的程序和不合理的期望使人们无法获得应得的利益，只有少数幸运儿才能获得公共资源。 ▴▴洛杉矶由于住房有限，目前采用一种演算法，计算数名无家可归者的「相对匮乏」，并按照优先排序提供这些人住房服务与资源。然而，这套系统会共享警察系统的人口老龄化和工人阶层的个资，造成穷人与犯罪分子容易被归纳为同一个分类，否决了他们的基本权利，损害了他们的人性与自主权。 ▴▴▴宾州阿格勒尼郡的风险预测模型以统计数据来预测哪些家庭会虐童、哪些人是问题父母，但数据库的数据来源却集中在仰赖公共资源的低收入家庭。光是在2016年，模型预测报告了1万5139笔虐童中，发现3633笔不正确；此时，数千个贫困家庭与少数族群的生活已无端援救及护士。 进入数字时代以来，金融、就业、政治、卫生和公共服务、治安管理等领域的决策都经历了革命性的变化。如今是由自动化系统而不是由真人来掌控哪些社区受到监管，哪些家庭获得需要的资源，或者哪些人接受诈骗调查。虽然人们生活在这些新的数据下，但侵犯性及惩罚性最强的制度却完全是针对穷人所设计的。 政治学家维吉妮亚·尤班克斯在书中，有系统地研究了数据探查、政策演算法、预测性风险模型对美国穷人与劳工阶层的影响。书中充满了令人揪心、瞠目结舌的故事，例如印第安纳州一名妇人因癌症末期领取治疗，错过了重新认证补助资格的领取，被取消福利救济；宾州的一位单亲妈妈每天都担心失去女儿的抚养权，只因她符合某种统计形象。 美国一直以来采用最尖端的科学与技术来司法、调查和惩戒穷人。「数位追踪」与「自动化决策系统」就像之前的立济贫院以及郡科学慈善运动，中产阶级看不到贫困，国家抽离了道德规范，做出非人道的选择：谁能获得温饱、谁得挨饿受冻；谁有幸福、谁尚无家可归；政府应该拆散哪些家庭。在这个过程中，它们更让民主，重新焕发了人们最珍视的民族价值观。 也许，肥胖并不是我们都需要立即面临的课题，但在演算法的使用下，所有权都将不可避免地避免受到资源分配的影响。这本研究深入、蚓激昂的好书来得正是时候！本书特色1。综观书市，大多数类似的书籍都只是探讨穷人演算对社会的影响，很少有本书同样聚焦于「贫困」问题；而这个问题并非单一地发生在身边，因为演算让所有的人都可能遇到类似的困境。这样的主旨使本书在相关中更加显着独特。 2. 本书特别针对公共福利相关措施进行描述，从事社会福利相关职业、关注贫困社会的读者制度，或者对科技评价社会福利有兴趣的读者，在读完本书之后，对贫困现象的产生与发展有更进一步的了解。李建良／中央研究院法律研究所特聘研究员×科技部「智慧的创新与规范」专案计划总主持人 李政德／成功大学数据科学所教授杜文苓／政治大学创新国际学院帕克 林文源／清华大学人文社会人工智能应用与发展研究中心主任、通识教育中心教授 林佳和／政治大学法学院副教授 阿泼／转角国际专栏作家洪敬舒／台湾劳工阵线协会研究部主任张国晖／台湾大学国家发展研究所副教授、风险社会及政策研究中心研究员张烽益／台湾劳动与社会政策研究协会执行长黄益中／公民教师、《思辨》作者刘扬铭／作家刘静怡／台湾大学国家发展研究所专任教授颜择雅／作家、出版人（以上依姓氏笔画排序）国外评价推荐 「这本书十分骇人。不过，读了以后，你将变得更加精明，更有能力去寻求正义。」——娜欧蜜·克莱恩（Naomi Klein）／《震撼主义》（The Shock Doctrine）作者「尤班克斯在书中精采地记录了自动化时代『另一半的人如何生活』，并揭露了新的数位鸿沟：一个使最边缘化的社群陷入困境的全面监控网路。这本震慑人心、发人深省、充满人道关怀的好书，揭露了资料导向的政策所造成的反乌托邦，并促使人们创造一个更公正的社会。」——阿朗卓·尼尔森（阿隆德拉·尼尔森）／《DNA的社会生活》（社会生活） DNA）作者 「在这本发人深省的好书中，尤班克斯让我们，社会虽然有表面的改革，但我们针对族群所反对的政策，依然是由古老的济贫法所作者主导，而那些法条只会排挤并惩罚社群中最贫困的人。」——弗朗西丝·福克斯·派文（Frances Fox Piven）／《规范穷人》（Regulation the Poor） 「這是今年最重要的科技好書。如今每個人都擔心網路對民主的影響，但尤班克斯指出，我們面臨的問題遠比『假新聞』更嚴重——自動化系統鞏固了社會與經濟不平等，破壞私人與公共福利。尤班克斯深入研究歷史與報告，幫大家更瞭解我們面臨的政治與數位力量，以便更有效地反擊。」——阿斯特拉・泰勒（Astra Taylor）／《人民平臺》（The People's Platform: Taking Back Power and Culture in the Digital Age）作者 「這本書清楚地揭露美國的體制（從執法到醫療、再到社會服務）日益懲罰窮人，尤其是有色人種。如果你擔心美國現代工具的不平等，這是一本必讀的好書。」——桃樂西・羅伯茲（Dorothy罗伯茨）／《杀死黑色尸体》（Killing the Black Body）与《瓦解的关连》（Shattered Bonds）作者「这本书是写给所有人看的，包括社群领袖、学者、律师、接受政府援助的人以及需要更深入研究『靠数位产业致富的国家利用如何技术来创造维持并不稳定下层』的人。」——马基亚·西里尔（Malkia A.西里尔）／媒体正义中心（媒体正义中心）的执行董事与共同专栏人开始了“想了解资讯科技对美国边缘化人口的社会影响，这本书是近期最重要的书籍。当我们讨论人工智慧消灭人类的可能性时，尤班克斯的这本书应该列入必读书单。”——伊森·佐克曼（Ethan） Zuckerman）／麻省理工学院公民媒体中心主任「惊人，精采万……诚如尤班克斯所说，自动化加上不顾道德又严格效率的新技术，不仅威胁到那些社会上可能有可能无的数百万人，也威胁到民主。如果你想了解这个数位梦魇如何深入我们的体制并尝试规范我们的生活及你去挑战它，这是一本必读的好书。」——··吉罗（亨利） Giroux）／《身陷险境的大众》（处于危险中的公众：特朗普与美国威权主义的威胁）作者 「这是一个扣人心弦的精采故事，讲述了不良数据、劣质软体、无能或腐败官僚如何把不良族群的生活弄得天翻地覆。现在的治理往往隐藏在令人费解的法律与计划码的，每个人都应该读一读这本书，以了解治理现代的实际运作。」——法兰克·帕斯夸（弗兰克·帕斯夸莱）／《黑匣子社会》（The Blackbox Society: The Secret Algorithms That Control Money and Information） 「尤班克斯的新书讲述正在兴起的监控国家，这个精采的故事令人震惊。『数位济贫院』不断扩大网络，与其说是为了帮助穷人，不如说是为了管理、约束、惩罚穷人。读完这本书，并加入尤班克斯的列行，一起反对这个网络所造成的不公正吧。」——桑福德·施拉姆（Sanford Schram）／《福利用语》（Words of Welfare）与《惩罚穷人》（Disciplined the Poor）作者