打開人工智慧黑箱：權力、政治、人類的代價，科技產業和國家機器如何聯手打造AI神話？

出版社： 臉譜(城邦)
作者： 凱特．克勞馥 Kate Crawford
譯者： null
規格： 14.8x21
裝訂： 平裝
頁數： 352
出版日： 20220505
ISBN : 9786263150997
內容簡介： 「失靈時危險，運作時有害」――
沒有單一的黑盒子要打開，沒有單純的祕密要揭露，而是有錯綜複雜的權力系統

人工智慧既非人工的，也不是智慧的，
那些看似萬能的智慧是如何「製造」出來的？

當代AI研究先驅、微軟研究院資深首席研究員第一手揭露人工智慧豐功偉業背後的陰暗面，讓人工智慧的幽靈現形！

․從內華達沙漠到內蒙古巨大的人工湖、從亞馬遜倉庫到太空殖民，直擊人工智慧帝國全景地圖！
․人工智慧充滿隱藏成本，從自然資源和勞力到隱私和自由都是代價，深入了解我們為人工智慧付出了什麼？
․人類為人工智慧制定的倫理架構非常失敗，程式碼和演算法並非致命毒藥，那麼到底哪裡出了錯？
․收錄作者研究菁華《AI系統解剖學》（Anatomy of an AI System），2019年倫敦設計博物館（Design Museum）比斯利年度設計大獎（Beazley Designs of the Year）獲獎作品！

當我們跟Siri聊天、開著特斯拉電動車上路、用Google搜尋、上傳IG自拍、觀看抖音影片，以為自己生活在人工智慧的美好新世界，但事實上許多看似有價值的自動化系統能運作，背後都隱藏著幽靈。精心打造的魔鬼細節，讓我們相信智慧機器在做那些神奇的工作。
「人工智慧」不只是演算法、資料與硬體的混合物，它關乎自然界、政治、歷史，有時甚至也和美有關。當人工智慧滲入政治生活、耗盡地球之時，會發生什麼事？人工智慧如何形塑我們對自己及對社會的理解？
本書作者凱特•克勞馥是當代對人工智慧的影響最深思熟慮的研究者之一，以人文主義者的眼光、藝術家的感知、科學家的嚴謹，揭露人工智慧真實的樣貌。她憑藉十多年的研究，揭示了人工智慧神話背後隱藏了什麼，從打造與支持人工智慧基礎建設所需的能源和礦物、剝削「自動化」服務背後的勞工，到人工智慧從我們身上取得的資料，破除人工智慧的迷思。
計算機科學界不喜歡「人工智慧」一詞，本書也沒有狹隘地關注程式碼和演算法，雖然技術系統會披上客觀性的虛假外衣，但這些系統一定代表著權力體系。在科技公司利用人工智慧重塑這個世界時，本書大聲疾呼，人人都該注意人工智慧帶來的風險。

【章節概要】

? 序言：把人工智慧視為一部地圖集
二十世紀中葉以來，人們始終相信可以透過機器來將人類的智慧形式化並進行複製，人工智慧系統被認為是簡單且類似人類智慧的形式。但人工智慧其實是由自然資源、燃料、人類勞動、基礎建設、物流、歷史和分類構成，最終旨在服務現有的主要利益。
本書以地圖集的概念來看待人工智慧，提供我們重新閱讀世界的可能性。在人工智慧的地景中，我們會造訪礦場、耗能資料中心裡長長的走廊、顱骨檔案庫、影像資料庫，以及日光燈照亮的物流倉庫，了解人工智慧是如何概念化和建構的。

? 地球：運行一個自然語言處理模型產生的CO2排放量，相當於從紐約搭機往返北京125次
從內華達州的鋰礦開始，科技業對稀土礦物、石油和煤炭需求巨大，但真正的採掘成本從來不是由產業本身負擔。在軟體面，要建構自然語言處理和電腦視覺模型需要消耗大量能源，而爭相推出更快更高效的模型，也促成了貪婪的運算方法，擴大人工智慧的碳足跡
十七種稀土元素經過處理後嵌入筆記型電腦和智慧型手機中，使這些裝置更小更輕。從馬來西亞為製作第一批跨大西洋海底電纜生產乳膠的樹木被使用殆盡，到內蒙古殘留著有毒物的巨大人工湖，從沙漠到海洋，從岩石到城市，從樹木到超大型企業，從跨洋航線到原子彈，拉近距離檢視。

? 勞工：模擬人類微笑的彎曲箭頭背後，誰受益、誰為此犧牲？
業主花小錢辦大事，數位零工只拿微薄薪資，不斷敲擊按鍵處理微任務，讓資料系統似乎變得比實際上更聰明。在亞馬遜這個龐大的物流帝國中，員工必須與演算法的節奏保持同步。他們來到那裡完成機器人無法做到的特定、高精度的任務：在最短的時間內揀起並目視確認人們想送到家中的所有奇形怪狀物件。人工智慧負擔得起且有效率的迷思是靠著層層剝削而來，包括榨取大量無償勞工以微調世界上最富有公司的人工智慧系統。
勞動也是關於時間的故事。從碼表發明到Google的TrueTime，人工智慧科技益發強調細膩和精準的時間管理機制，甚至有公司要求員工假扮成人工智慧系統，勞工、資本和時間在人工智慧系統中交織在一起。

? 資料：所有文字收集都訴說著時間、地點、文化和政治
如何理解、擷取、分類和命名資料，基本上是一種創造和控制世界的行為。人工智慧產業培養出一種不講情面的實用主義，盡量不去思考脈絡，不保持謹慎，而在收集資料時鮮少經過同意。這些資料全都用來改善臉部辨識、語言預測和偵測物件功能的演算法表現。除了隱私和持續性的監視資本主義等嚴重問題，人工智慧運用資料的實際作法也引發深刻的倫理、方法學和知識論的疑慮。
資料如何成為驅動力，促成人工智慧的成功和神話？所有形式的圖像、文本、聲音和視訊都只是人工智慧系統的原始資料，為什麼這些資料的霸權敘述會持續存在？

? 分類：每一種分類都有自己的後果
分類的政治是人工智慧領域的核心實務。從大學實驗室到科技產業，分類實務影響如何辨識和產生機器智慧。世界上的人造物經由提取、測量、標記和排序變成了數據，有意或無意地成為不明確的基準真相。當代系統如何運用標記來預測人的身分，包括二元化性別、同質化種族分類，以及漏洞百出的性格評估和信用價值評估？
一個符號將代表一個系統，一個代理將代表真正的實體，一個玩具模型將被用來替代複雜無比的人類主體性。藉由探索二十一世紀的幾個訓練資料集，觀察其社會排序的模式如何讓等級制自然化，放大不平等。生物性就是命運，我們的臉孔成了我們的宿命。

? 情感：這不是用更好的演算法就能解決的工程難題
前往巴布亞紐幾內亞的山區小鎮，探索情感辨識的歷史。心理學家艾克曼（Paul Ekman）提出有六種普遍的情緒狀態，可以從臉上識別出來：憤怒、厭惡、恐懼、快樂、悲傷、驚訝。科技公司正將這個概念有效運用於情感辨識系統，作為預計價值可能超過一百七十億美元的產業的一部分。
數十億張IG自拍、Pinterest肖像、抖音視頻和Flickr照片，這些大量圖像使許多事情成為可能。從最大的科技公司到小型新創公司，渴望將複雜難解的問題簡化，讓它容易運算，再予以包裝，送到市場。這些系統已經在形塑人們的行為方式和社會體制的運作方式上發揮作用，儘管缺乏大量的科學證據來證明它們是行得通的。

? 國家：「要以所有代價，避免提到或暗示人工智慧」
2015年，一張敘利亞三歲男孩艾蘭・庫迪（Alan Kurdi）的小小身軀趴在土耳其西部海灘上的照片躍上國際頭條，成為說明人道主義面臨多大危機的有力象徵：一張照片成為集體恐慌的代表。此時，有人找IBM推出新計畫：他們能否利用機器學習平台，偵測可能與聖戰有關的難民數位簽章？簡言之，IBM能自動將恐怖分子與難民區分開來嗎？
人工智慧過去和現在的軍事運用，塑造了我們今日看到的監視、資料提取和風險評估的作法。我們正朝著「演算法叫我這樣做，我就照做，但我不知道自己在做什麼」的狀態移動。人工智慧系統如何成為國家發揮權力的工具？

? 權力：這是人類思考能力的商品化，也是放棄批判性思考，獨鍾程式設計
人工智慧並非客觀、普遍或中立的運算技巧，在沒有人類指示的情況下做決定。人工智慧的系統根植於社會、政治、文化和經濟世界，由人類、機構和命令形塑，這些要素會決定系統該做些什麼，以及如何做。人工智慧系統的建造，就是在觀看和介入世界。
如果人工智慧目前服務的是現有的權力結構，可能出現一個明顯的問題：我們不該設法將人工智慧民主化嗎？難道沒有為人民服務的人工智慧，將目標重新導向公平正義？人工智慧圖譜已經超越「人工」和「智慧」的抽象概念，我們需要從最大的角度呈現人工智慧的本質，了解其服膺的權力結構。

? 太空：一個兩字的短語「AI」，映射了一組複雜的期望、意識形態、欲望和恐懼
從科技產業產生的極高財富和權力，如今讓一小群人得以進行私人太空競賽。太空已成為貝佐斯、馬斯克、賴瑞•佩吉等科技億萬富翁終極的帝國抱負，象徵擺脫地球、身體和資本的限制。眾多矽谷技術菁英投身於這樣的願景或許不足為奇。太空殖民與長壽飲食、把大腦上傳到雲端、維持永生的維他命等其他幻想完美契合。
人工智慧是一種概念、基礎建設、產業、行使權力的一種形式和一種觀察的方式。它也是高度組織化的資本的體現，供應鏈遍布整個地球。所有這些都是人工智慧的一部分。

目錄：
作者簡介：