懲罰貧窮: 大數據橫行的自動化時代, 隱藏在演算法之下的不平等歧視

懲罰貧窮: 大數據橫行的自動化時代, 隱藏在演算法之下的不平等歧視

Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor

出版日期:
2022/03/31
75
380285
查詢門市庫存
2019年莉莉安・史密斯圖書獎(Lillian Smith Book Award)、
2018年麥加農中心圖書獎(McGannon Center Book Prize)獲獎作品

內容簡介

2019年莉莉安・史密斯圖書獎(Lillian Smith Book Award)、
2018年麥加農中心圖書獎(McGannon Center Book Prize)獲獎作品

本書揭露高科技工具影響人權與經濟公平。
看似客觀中立的機器運算,
可能在學習人類提供的資料後,
再複製社會偏見與歧視,形成「自動不平等」!


▴美國印第安納州在三年內駁回100萬人的醫療照護、糧食券和現金救濟申請,只因為資格自動審查機制把不完整的申請錯誤統統歸結為申請者未能配合。繁瑣的行政程序和不合理的期望使人們無法獲得應得的利益,只有少數幸運兒得以獲得公共資源。

▴▴洛杉磯由於住房有限,當局採用一種演算法,計算成千上萬名無家可歸者的「相對弱勢」,並按照優先排序提供這些人住房服務與資源。然而,這套系統會跟警察系統共享貧窮人口和工人階級的個資,造成窮人與犯罪分子輕易被歸納為同一個分類,否決了他們的基本權利,損害了他們的人性與自主權。

▴▴▴賓州阿格勒尼郡的風險預測模型以統計數據來預測哪些家庭會虐童、哪些人是問題父母,但數據庫的資料來源卻集中在仰賴公共資源的低收入家庭。光是在2016年,模型預測的1萬5139筆虐童報告中,就有3633筆不正確;在此同時,數千個貧困家庭與少數族群的生活早已無端遭受侵入及監視。

進入數位時代以來,金融、就業、政治、衛生和公共服務、治安管理等領域的決策都經歷了革命性的變化。如今是由自動化系統而不是由真人來掌控哪些社區受到監管,哪些家庭獲得需要的資源,或是哪些人該接受詐欺調查。雖然人人生活在這種新的資料制度下,但侵入性及懲罰性最強的制度,卻完全針對窮人所設計。

政治學家維吉妮亞・尤班克斯在本書中,有系統地探究了資料探勘、政策演算法、預測性風險模型對美國窮人與勞工階級的影響。書中充滿了令人揪心、瞠目結舌的故事,例如印第安納州一名婦人因為癌症末期住院治療,錯過了重新認證補助資格的預約,被取消福利救濟;賓州的某個單親媽媽每天都擔心失去女兒的撫養權,只因她符合某種統計形象。

美國一直以來使用最尖端的科學與技術來遏制、調查和懲戒窮人。「數位追蹤」與「自動化決策系統」就像以前的郡立濟貧院以及科學慈善運動,讓中產階級看不到貧困,讓國家抽離了道德規範,做出非人道的選擇:誰能獲得溫飽、誰得挨餓受凍;誰有住房、誰依舊無家可歸;政府應該拆散哪些家庭。在這過程中,它們更削弱了民主,背叛了人們最珍視的民族價值觀。

也許,貧窮並非我們都需要馬上面臨的課題,但在演算法的使用之下,所有人都將無可避免地受到資源分配的影響。這本研究深入、慷慨激昂的好書來得正是時候!

【本書特色】
1. 綜觀書市,大部分類似的書籍都僅探討演算法對於社會的影響,很少有如本書一樣聚焦於「貧困」議題;而這個問題並不單單只會發生於窮人身上,因為演算法讓所有的人都有可能遇到類似的困境。這樣的主旨使本書在相關作品中更顯獨特。
2. 本書特別針對公共福利相關的措施來做描述,從事社會福利相關職業、關注當今貧窮社會議題的讀者,或是對科技應用於社會福利制度有興趣的讀者,在閱讀完本書之後,都能對貧困現象的產生與發展有更進一步的瞭解。
展開看更多

產品目錄

推薦序
・小心AI:從諍友到盟友的人文社會介入——林文源
・製造貧窮冤案的演算法——洪敬舒
・每人都有貧窮之處,也都可能因之受懲罰——張國暉
・當科技從「管理貧窮」成為「懲罰貧窮」的遮羞布——張烽益
・從故事與數字,正視科技造成的貧困問題——劉揚銘

前言:示警
第一章:從濟貧院到資料庫
第二章:美國內部的資格認證自動化
第三章:洛杉磯的高科技無住房服務
第四章:阿勒格尼演算法
第五章:數位濟貧院
結論:拆除數位濟貧院

謝辭
資料來源與研究方法
注釋

作者介紹

維吉妮亞・尤班克斯 Virginia Eubanks

維吉妮亞・尤班克斯

紐約州立大學奧爾巴尼分校政治學副教授,著有《數位死胡同》(Digital Dead End),並與艾萊西亞・瓊斯(Alethia Jones)合編《堅持自我》(Ain't Gonna Let Nobody Turn Me Around)。在《科學人》(Scientific American)、《國家》(The Nation)、《哈潑》(Harper’s)和《連線》(Wired)等雜誌發表過多篇有關科技與社會正義的文章。20年來致力投入社群科技與經濟正義運動,現居紐約州特洛伊。

洪慧芳

國立臺灣大學國際企業學系畢業,美國伊利諾大學香檳分校MBA,曾任職於Siemens Telecom及Citibank,目前為專職譯者。

各界推薦

【國外好評推薦】
「這本書十分駭人。不過,讀了以後,你將變得更精明,更有能力去尋求正義。」——娜歐蜜・克萊恩(Naomi Klein)/《震撼主義》(The Shock Doctrine)作者

「尤班克斯在書中精采地記錄了自動化時代『另一半的人如何生活』,並揭露一道新的數位鴻溝:一個使最邊緣化的社群身陷困境的全面監控網路。這本震懾人心、發人深省、充滿人道關懷的好書,揭露了資料導向的政策所造成的反烏托邦,並敦促眾人創造一個更公正的社會。」——阿朗卓・尼爾森(Alondra Nelson)/《DNA的社會生活》(The Social Life of DNA)作者

「在這本發人深省的好書中,尤班克斯讓我們看到,現代社會雖有表面的改革,但我們針對弱勢族群所制訂的政策,依然是由古老的濟貧法所主導,而那些法條只會排擠並懲罰社群中最貧困的人。」——弗朗西絲・福克斯・派文(Frances Fox Piven)/《規範窮人》(Regulation the Poor)作者

「這是今年最重要的科技好書。如今每個人都擔心網路對民主的影響,但尤班克斯指出,我們面臨的問題遠比『假新聞』更嚴重——自動化系統鞏固了社會與經濟不平等,破壞私人與公共福利。尤班克斯深入研究歷史與報告,幫大家更瞭解我們面臨的政治與數位力量,以便更有效地反擊。」——阿斯特拉・泰勒(Astra Taylor)/《人民平臺》(The People’s Platform: Taking Back Power and Culture in the Digital Age)作者

「這本書清楚地揭露美國的體制(從執法到醫療、再到社會服務)日益懲罰窮人,尤其是有色人種。如果你擔心美國現代工具的不平等,這是一本必讀的好書。」——桃樂西・羅伯茲(Dorothy Roberts)/《殺死黑人》(Killing the Black Body)與《瓦解的關連》(Shattered Bonds)作者

「這本書是寫給所有人看的,包括社群領袖、學者、律師、接受政府援助的人以及需要更深入瞭解『靠數位產業致富的國家如何利用技術來創造並維持永久性下層階級』的人。這是為我們這個時代撰寫的書。」——馬基亞・西里爾(Malkia A. Cyril)/媒體正義中心(Center for Media Justice)的執行董事與共同創辦人

「想瞭解資訊科技對美國邊緣化人口的社會影響,這本書是近期最重要的書籍。當我們開始討論人工智慧危害人類的可能性時,尤班克斯的這本書應該列入必讀書單。」——伊森・佐克曼(Ethan Zuckerman)/麻省理工學院公民媒體中心主任

「內容驚人,精采萬分⋯⋯誠如尤班克斯所述,自動化加上不顧道德又講究效率的新技術,不僅威脅到那些社會視為可有可無的數百萬人,也威脅到民主。如果你想瞭解這個數位夢魘如何深入我們的體制並試圖規範我們的生活及你該如何挑戰它,這是一本必讀的好書。」——亨利・吉羅(Henry Giroux)/《身陷險境的大眾》(The Public in Peril:Trump and the Menace of American Authoritarianism)作者

「這是一個扣人心弦的精采故事,講述不良資料、劣質軟體、無能或腐敗官僚如何把弱勢族群的生活搞得天翻地覆。現在的治理往往隱藏在令人費解的法律與程式碼的背後,每個人都應該讀一讀這本書,以瞭解現代治理的實際運作。」——法蘭克・帕斯夸(Frank Pasquale)/《黑盒子社會》(The Blackbox Society: The Secret Algorithms That Control Money and Information)作者

「尤班克斯的新書講述正在興起的監控國家,這個精采的故事令人震驚。『數位濟貧院』不斷擴大網絡,與其說是為了幫助窮人,不如說是為了管理、約束、懲罰窮人。閱讀這本書,並加入尤班克斯的行列,一起反對這個網絡所造成的不公正吧。」——桑福德・施拉姆(Sanford Schram)/《福利用語》(Words of Welfare)與《懲罰窮人》(Disciplining the Poor)作者


【權威推薦】
呂建德/中正大學社會福利學系教授
巫彥德/人生百味共同創辦人
李明璁/社會學家、作家
李建良/中央研究院法律學研究所特聘研究員×科技部「人工智慧的創新與規範」專案計畫總主持人
李政德/成功大學數據科學所教授
杜文苓/政治大學創新國際學院院長
林文源/清華大學人文社會AI應用與發展研究中心主任、通識教育中心教授
林佳和/政治大學法學院副教授
阿潑/轉角國際專欄作者
洪敬舒/臺灣勞工陣線協會研究部主任
張國暉/臺灣大學國家發展研究所副教授、風險社會及政策研究中心研究員
張烽益/臺灣勞動與社會政策研究協會執行長
黃益中/公民教師、《思辨》作者
劉揚銘/自由作家
劉靜怡/臺灣大學國家發展研究所專任教授
顏擇雅/作家、出版人
(以上依姓氏筆畫排序)

規格

誠品貨碼 / 2682143494007
ISBN13 / 9786267089385
ISBN10 / 626708938X
EAN貨碼 / 9786267089385
頁數 / 304
開數 / 25K
裝訂 / P:平裝
語言 / 1:中文/繁體
尺寸 / 21X14.7X1.5CM
級別 / N:無

退貨說明

退貨須知:

  1. 依照消費者保護法的規定,您享有商品貨到次日起七天猶豫期(含例假日)的權益(請注意!猶豫期非試用期),辦理退貨之商品必須是全新狀態(不得有刮傷、破損、受潮)且需完整(包含全部商品、配件、原廠內外包裝、贈品及所有附隨文件或資料的完整性等)。
  2. 請您以送貨廠商使用之包裝紙箱將退貨商品包裝妥當,若原紙箱已遺失,請另使用其他紙箱包覆於商品原廠包裝之外,切勿直接於原廠包裝上黏貼紙張或書寫文字。若原廠包裝損毀將可能被認定為已逾越檢查商品之必要程度,本公司得依毀損程度扣除回復原狀必要費用(整新費)後退費;請您先確認商品正確、外觀可接受,再行拆封,以免影響您的權利;若為產品瑕疵,本公司接受退貨。

依「通訊交易解除權合理例外情事適用準則」,下列商品不適用七日猶豫期,除產品本身有瑕疵外,不接受退貨:

  1. 易於腐敗、保存期限較短或解約時即將逾期。(如:生鮮蔬果、乳製品、冷凍冷藏食材、蛋糕)
  2. 依消費者要求所為之客製化給付。(如:客製印章、鋼筆刻字)
  3. 報紙、期刊或雜誌。
  4. 經消費者拆封之影音商品或電腦軟體。
  5. 非以有形媒介提供之數位內容或一經提供即為完成之線上服務,經消費者事先同意始提供。(如:電子書)
  6. 已拆封之個人衛生用品。(如:內衣褲、襪類、褲襪、刮鬍刀、除毛刀等貼身用品)
  7. 國際航空客運服務。

若您退貨時有下列情形,可能被認定已逾越檢查商品之必要程度而須負擔為回復原狀必要費用(整新費),或影響您的退貨權利,請您在拆封前決定是否要退貨:

  1. 以數位或電磁紀錄形式儲存或著作權相關之商品(包含但不限於CD、VCD、DVD、電腦軟體等) 包裝已拆封者(除運送用之包裝以外)。
  2. 耗材(包含但不限於墨水匣、碳粉匣、紙張、筆類墨水、清潔劑補充包等)之商品包裝已拆封者(除運送用之包裝以外)。
  3. 衣飾鞋類/寢具/織品(包含但不限於衣褲、鞋子、襪子、泳裝、床單、被套、填充玩具)或之商品缺件(含購買商品、附件、內外包裝、贈品等)或經剪標或下水或商品有不可回復之髒污或磨損痕跡。
  4. 食品、美容/保養用品、內衣褲等消耗性或個人衛生用品、商品銷售頁面上特別載明之商品已拆封者(除運送用之包裝外一切包裝、包括但不限於瓶蓋、封口、封膜等接觸商品內容之包裝部分)或已非全新狀態(外觀有刮傷、破損、受潮等)與包裝不完整(缺少商品、附件、原廠外盒、保護袋、配件紙箱、保麗龍、隨貨文件、贈品等)。
  5. 家電、3C、畫作、電子閱讀器等商品,除商品本身有瑕疵外,退回之商品已拆封(除運送用之包裝外一切包裝、包括但不限於封膜等接觸商品內容之包裝部分、移除封條、拆除吊牌、拆除貼膠或標籤等情形)或已非全新狀態(外觀有刮傷、破損、受潮等)與包裝不完整(缺少商品、附件、原廠外盒、保護袋、配件紙箱、保麗龍、隨貨文件、贈品等)。
  6. 退貨程序請參閱【客服專區→常見問題→誠品線上退貨退款】之說明。
付款/配送