在AI化世界中
我們是活得自由開放、還是淪為數位監獄的囚犯?
電影《關鍵報告》中「預測式治安」的人工智慧系統,翻版!
奧威爾筆下描述陰暗恐怖的極權主義寓言《1984》,成真!
21世紀科技發展主軸:大數據、人臉辨識、DNA跟蹤、人工智慧,並沒有為人類迎來自由,即使活在看似自由開放的世界,也仍舊是數位監獄的囚犯。我們曾經期待的美好未來,根本從未到來。
作者傑弗瑞・凱恩(Geoffrey Cain)是名調查記者,也是科技作家。本書揭示了中國的新疆地區,如何成為一個令人如噩夢般的奧威爾式社會實驗場所—終極警察國度,以及使之成為可能的全球科技巨頭們。
在這裡,被阻隔於事實和真理之外,受到持續的監視,被一支敵對的外來警察部隊所包圍:新疆維吾爾族人民已淪為受詛咒、受壓迫、被放逐的群體。大多數公民無法分辨敵人和朋友,社會信任被系統性地摧毀:朋友背叛彼此、老闆告發員工、老師揭發學生、孩子背叛父母。所有人都依賴於一個卻對他們懷有猜疑和蔑視的政府。
本書透過講述一位年輕女性—梅森,逃離殘酷科技反烏託邦的驚心動魄故事,以及作者凱恩親身經歷,以及大量來自流亡者的第一手證詞,揭露科技監控巨頭們的驚人侵略性和力量,以及這對我們未來的可怕意涵。
本書特色
1.內容揭露中國新疆境內的言論審查、網路防火牆、密集監視器及信用評級系統等對人民監控的嚴重程度,宛如電影《關鍵報告》的翻版。
2.本書為作者在新疆的親身經歷及第一手觀察採訪的資料,文字敘述中立,幫助讀者從不同面向思考書中大數據、人臉辨識、DNA跟蹤與人工智慧所建構出的生態體系,所引發的社會與人權議題,發人省思。
名人推薦
李文成|故事方成式
侍建宇|台灣國防安全研究院國安所副研究員
沈旭暉博士|國際關係學者
林泰和|國立中正大學戰略暨國際事務研究所專任教授
阿潑|文字工作者
各界好評
「從批判視角深入剖析中國戕害人民的監控體制……探討科技與國家權力的過度擴張,為讀者帶來警訊,是極具前瞻性的佳作。」—《克科斯書評雜誌》(Kirkus)給予頂級星評
「《終極警察帝國》應該附上一條警告:『中國的國家監控,比你所能想像的更深、更廣,而且更陰險、可怕。』傑弗瑞・凱恩用嫻熟的敘事,說明中國如何在國內實施名目張膽的審查機制,與其他專制政權結盟,並利用全球企業與國際援助,打造出不斷擴張的警察帝國。凱恩關注被體制困住的人民,其中最令人難忘的是一位名叫梅森的女子,她歷經的試煉,讓我們看見中國人民付出的真實代價。《終極警察帝國》實在是一本精彩好書!」—伊莉莎白・貝克(Elizabeth Becker),《當戰爭結束時》(When the War Was Over)作者
「這本書揭露中國的真面目,寫得很即時,也很令人痛心。傑弗瑞・凱恩說明中國如何利用人工智慧和極權壓迫,將國土最西部變成人權煉獄。讀完《終極警察帝國》後,想到中國領導階層,大概只有兩種感覺:輕蔑,還有恐懼。」—布蘭・哈登(Blaine Harden),《逃離第14號集中營》(Escape from Camp 14)作者
「未來已經到來,已超越喬治・歐威爾(George Orwell)的想像。在這本極度重要的新作中,凱恩詳細描述中國共產黨如何運用21世紀的科技—人臉辨識、DNA追蹤、人工智慧—將數百萬人民囚禁於可怕的反烏托邦。」—芭芭拉・德米克(Barbara Demick)《我們最幸福:北韓人民的真實生活》,(Nothing to Envy: Ordinary Lives in North Korea)作者
| 目錄 |
本書研究及維吾爾人/漢人姓名相關說明
前言 現況
第一章 新的疆土
第二章 圓形監獄
第三章 天網已鎖定你
第四章 中國崛起
第五章 深度神經網絡
第六章 你覺得我是機器人嗎?
第七章 偉大復興
第八章 中國的反恐戰爭
第九章 三毒勢力:恐怖主義、極端主義和分裂主義
第十章 人民就是資料
第十一章 信用分數怎麼打
第十二章 無所不見的天眼
第十三章 落入集中營
第十四章 大規模監禁
第十五章 AI神腦
第十六章 官僚體系一再擴張,滿足官僚體系擴張後的需求
第十七章 心靈的牢籠
第十八章 新冷戰?
第十九章 大決裂
第二十章 無處安身
結語 終結圓形監獄
致謝
備註
| 內容節錄 |
前言
現況
在中國西部的新疆地區,當地人把他們面臨的反烏托邦稱為「現況」(the Situation)。
自2017年來,估計約有180萬的維吾爾人、哈薩克族人和其他主要是穆斯林的少數民族,被政府指控有「意識形態病毒」和「恐怖主義思想」,因而被關進數百處集中營。許多營區是由高中校園和其他場所改建而成,成了用來對囚犯嚴刑拷打、洗腦、灌輸教條的拘禁所。這是猶太大屠殺以後,規模最大的少數民族拘禁行動。
就算沒被送進集中營,日常生活也猶如地獄。女性早上醒來時,旁邊可能躺著一個陌生人,是由政府派來代替她們被警方「消失」、送去集中營的另一半。每天上班前,這位監護人會替全家上課,宣揚國家提倡的各項美德,包括忠誠、意識形態純潔、與共產黨和諧共處,還會出題目確認學習進度,避免你被政府稱為「三大邪惡勢力」的「思想病毒」給「感染」。這三股勢力分別是恐怖主義、分裂主義和極端主義。
早上的洗腦課程結束後,你可能會聽到敲門聲,是地方社區監察官來確認你家有沒有「異狀」—譬如孩子超過三人、家裡有宗教書籍等等—可能還會問你昨天上班為何遲到。監察官是由政府指派,負責監控街區內的十戶人家。
她可能會說:「你被鄰居通報了」。
為什麼?因為你忘了設鬧鐘,所以必須到當地警局報到,接受偵訊,解釋你為何會有這種異狀。
社區監察官每日巡邏結束後,會拿出一張卡,靠近掛在你家門上的設備掃描,代表她已視察完成。
如果你在上班前,開車到加油站或雜貨店買晚餐材料,每到一處,都必須在入口的武裝警衛面前掃描身分證,如果掃描器旁的螢幕顯示「誠信」,代表政府認可你是好公民,允許你入內。
如果螢幕顯示「不誠信」,你就不能進去,相關人員很快就會查閱統計資料,然後你可能就有麻煩了:也許是人臉辨識攝影機拍到你在清真寺膜拜,也或者是被拍到買了一手啤酒,人工智慧(AI)技術懷疑你酗酒。你可能永遠都不會得知原因,但大家都知道,任何微不足道的小脫序,都可能導致政府降低你的信用排名。
警察會走上前來質問你,透過智慧型手機,用一體化聯合作戰平台(Integrated Joint Operations Platform)再次確認你的身分。這個程式化平台內含大量資料,是政府針對每一位公民,利用數以百萬計的攝影機、法院記錄和平民間諜蒐集而成,而且全都經過AI處理。
「預測性執法專案」的AI可能預測你未來會犯罪,建議送入集中營。警察一致同意,用警車把你載走。經過一段時間的「再教育」後,你可能會回來,也或者永遠不會有人再見到你。
你在專為少數民族設置的隊伍排隊結帳,付了買東西的錢,買了什麼全部都被政府攝影機和你的通訊App「微信」監控。離開雜貨店後,你開車去上班,途中經過十幾個名為「便民警務站」的警察檢查站,但這是對誰便利呢?其中兩個檢查站的警察把你攔下,要求出示身分證明,還問你要去哪裡。你的資料必須顯示「誠信」,他們才會滿意地讓你通過。
在辦公室,同事隨時都在彼此監控。每天開始上班前,你們都要起立唱國歌,然後看一段關於如何辨識恐怖分子的政治宣傳短片。影片說恐怖分子「很可能突然戒菸戒酒。」你想笑,但同事可能會舉報這種沒禮貌的行為,希望獲得政府獎勵或提高信用排名,所以影片播放時,你全程保持沉默。
如果你是女性,每天中午都必須服用政府規定的避孕藥,不過只吃藥還算幸運,因為政府常會強制召集女同事到當地診所接受結紮手術,聲稱降低少數民族的生育率可以帶來繁榮。
下班後,你開車回家,又經過十幾個警察檢查站。你在社區入口刷身分證,回到被柵欄和水泥牆包圍的貧民窟。任何人都必須刷卡才能進出。在家中,孩子說他們當天在學校學到愛國與和諧是黨的美德。你絲毫不爭辯,因為老師說,父母如果不同意課程內容,學生必須舉報。
吃完晚餐、看完晚間新聞後,你躺在床上,前方是政府裝在客廳角落的攝影機,身旁則是政府派來的監護人。要是能睡得著就好了。你想起他是政府派來的人,在床上想做什麼都可以。如果他有動作時你反抗,他會用不實指控檢舉你,到時你就等著進集中營。
不過你很幸運,今晚沒事,只是好運可能不會永遠延續。你睡著了。隔天早上醒來,一切又再重複。在新疆,這就是維吾爾族、哈薩克族和其他少數民族的日常。
在本書中,我們將探討新疆為何落入全球最嚴密的極權監控,變成反烏托邦,也將瞭解「現況」背後的故事,還有在人工智慧、人臉辨識及監控等技術紛紛推陳出新之際,新疆的處境預示著怎樣的未來。
紐約世貿中心雙塔在2001年9月倒塌時,全世界見識到有史以來最名目張膽的恐怖攻擊;這時,遠在紐約11,000公里外的中國北京政府,卻把這視為強化威權統治的大好機會,並在一個月後展開了自家的反恐戰爭,主要目標就是新疆維吾爾族穆斯林組成的極端團體。
其實在2001到2009年,由於石油帶來的財富和繁榮建設,新疆相對平靜富足,但中國並未把經濟果實公平地分配給當地的少數民族—歷史上而言,新疆的土地為他們所有,但反倒是為了尋求財富和機會,從東部移居至此的漢族開發者(中國的強勢民族),比較受政府嘉惠。
積怨將近十年後, 2009年7月,維吾爾族示威者在新疆自治區首府烏魯木齊走上街頭,政府的回應方式則是封鎖網路與通訊,還把無數的年輕維吾爾男性無端消失。其中有些人被指控謀劃暴力反叛、企圖使國家分裂,因而遭到處決。
2009到2014年,數以千計的維吾爾族穆斯林男性因爲受到迫害,前往阿富汗和敘利亞,和伊斯蘭國(ISIS)相關組織一同訓練、作戰,希望有朝一日能回到故鄉,對中國發動聖戰。這些新恐怖分子發動一連串的槍戰、暗殺、持刀攻擊,還曾試圖在中國劫機。
2014到2016年,中國全面升級反恐策略,比以往都來得更殘酷,不僅採取傳統的高壓監管手段,還有所謂的「社區警務」—說穿了,其實就是在家庭、學校和工作場所募集告密者。不過,政府覺得這還不足以完全壓制恐怖主義的威脅。
2016年8月,鐵腕領袖陳全國接下新疆中共黨委書記一職,成為當地最高領導人。他利用新式科技監控人口,也借助大數據實施預測性執法,只要AI預測某個人會犯罪,嫌疑人就可能被拘禁。他開設數百處集中營,官方稱為「看守所」、「職業技能教育培訓中心」和「再教育營」。到了2017年,監禁在這些集中營的人數已快速增加至150萬人,維吾爾族全部的人口,只有1,100萬人。
中國的目標是抹滅整個族群的身分、文化與歷史,將數百萬人完全同化。
「想清除藏在農作物間的野草,不能一株一株地拔,得直接噴農藥全部消滅才行,」某位官員曾在2018年1月這麼說,「再教育這些人,就像對作物噴藥一樣。」
就這樣,中共創造了一個終極警察帝國。
| 作者簡介 |
傑弗瑞・凱恩(Geoffrey Cain),調查記者,也是科技作家,曾在亞洲和中東報導12年,作品可見於《經濟學人》、《時代雜誌》、《華爾街日報》和其他數十份報章雜誌。他的第一本書籍著作是《三星崛起:南韓科技巨人計畫打敗蘋果、征服科技界的內幕》(Samsung Rising: The Inside Story of the South Korean Giant That Set Out to Beat Apple and Conquer Tech),曾入圍《金融時報》及麥肯錫年度最佳商業圖書獎。凱恩是傅爾布萊特(Fulbright)學者,曾就讀於倫敦大學亞非學院(London’s School of Oriental and African Studies)及喬治華盛頓大學,也是美國外交關係協會(Council on Foreign Relations)的成員。
| 譯者簡介 |
林芯偉,擁有超過十年的翻譯經驗,已累積百本以上精彩的譯作。常沉浸於閱讀世界各地的文學作品中,並樂於嘗試不同的料理創意。
終極警察國度:擺脫人臉辨識、DNA跟蹤、人工智慧,揭開中國反烏托邦的駭人真相
作者 | AUTHOR
傑弗瑞・凱恩 Geoffrey Cain
出版社 | PUBLISHER
寶鼎出版
書號 | ISBN
9786267516164
出版日期 | PUBLICATION DATE
2024/09/12
出貨地 | PLACE OF DEPARTURE
台灣