人工智慧獨裁者 - 禁聞網

轉自：新世紀，文章內容並不代表本網立場和觀點。 2026-10-3 Jinhuasan的博客這是《外交事務》雜誌日前刊發多倫多大學兩位教授的評論。塞瓦·古尼茨基（Seva Gunitsky）是多倫多大學政治學副教授、喬治·伊格納季耶夫和平與衝突研究講席教授。布魯斯·施奈爾（Bruce Schneier）布魯斯·施奈爾是多倫多大學蒙克全球事務與公共政策學院教授。他們的評論旨在探討－－“技術如何賦予獨裁者權力——又如何使他們陷入危險”：2022年3月，莫斯科全面入侵烏克蘭兩周后，俄羅斯第一頻道的編輯瑪麗娜·奧夫相尼科娃（Marina Ovsyannikova）突然闖入晚間新聞播報現場。她在新聞主播身後舉起一塊手寫標語牌，上面寫著：“停止戰爭。不要相信宣傳。他們在欺騙你們！”她不斷高喊“不要戰爭！”，直到被人拖離現場。此後，再也沒有人在俄羅斯電視節目中抗議這場戰爭，部分原因是安全措施更加嚴格，以及普遍存在的恐懼氣氛。但是，2024年10月，俄羅斯主要宣傳人物之一瑪格麗塔·西蒙尼揚（Margarita Simonyan）提出了另一種解釋。她在接受採訪時解釋說，今日俄羅斯電視網越來越多的新聞主播並不是真人。“那張臉根本不存在。我們生成了聲音和其他一切。”她的意思是，這些主播都是由人工智慧製作出來的。在隨後接受《新聞報》採訪時，她進一步闡明了其中的邏輯：“這些主播不需要薪水，也不需要保險，”她說。“他們不會被逮捕，警察也不會搜查他們的住所。這一切既美妙又可怕。”這正是人工智慧向每一位威權統治者許下的承諾：無需將任務委託給不可靠的人類，就能夠維持控制。這是一個極具吸引力的前景。無論獨裁者擁有多大的權力，他們始終需要下屬——審查人員、宣傳人員、保安、警察、情報分析人員和地方官僚——來執行自己的命令。但是，下屬始終構成潛在威脅。他們可能怠工、盜竊、撒謊、泄密，或者密謀反對自己的上司。因此，威權統治者面臨的最古老困境之一，就是如何在賦予代理人執行命令所需權力的同時，又不使他們獲得反對領導人的能力。威權統治者通常通過任用平庸之輩擔任關鍵職位，來處理這種權衡取捨。正如政治理論家漢娜·阿倫特（Hannah Arendt）所說，這些人的無能是“他們忠誠的最佳保證”。但這不可避免地使獨裁政權更難有效治理國家和度過危機。人工智慧似乎為威權統治者提供了兩種解決這一長期困境的方法。首先，這意味著他們現在可以輕而易舉地實時監控和約束下屬。地方官員消費習慣或會議日程的變化，可以由人工智慧系統自動標記出來，完全不需要依賴那些懷有私利的告密者。其次，人工智慧可以徹底消除下屬的必要性。通過將過去需要人類自行判斷的任務自動化，統治者可以用無法被賄賂或操縱的忠實演算法，取代不可靠的中間人。威權政權的官員也曾明確表達過這一觀點。2025年4月，俄羅斯數字發展部長馬克蘇特·沙達耶夫（Maksut Shadaev）在莫斯科舉行的一場數據論壇上表示，人工智慧“絕對可以取代一半的官員”，並補充說，“也許還會略多一些”。然而，這些關於國家能夠自行運轉的承諾只是一種幻象，因為人工智慧從來不是真正自主的。系統必須由一批工程師和數據科學家負責建設和維護，而政治領導人根本無法評估他們的專業能力。一個試圖通過人工智慧減少對不可靠人類依賴的統治者，最終可能發現，自己反而比過去更加盲目地依賴少數維持系統運轉的人工智慧專家。而這支新的數字禁衛軍可能具有與舊式禁衛軍相同的弱點，從而對統治者構成威脅。耳目在開發能夠監控或取代下屬的人工智慧系統方面，中國處於領先地位。北京、上海和其他城市中心的智慧城市計劃利用人工智慧追蹤地方官員的工作表現，並將對這些過去能夠在不受關注的舒適環境中行事的官員的監督集中起來，使他們接受演算法績效評估。中國還開發了一套“零信任人工智慧系統”，並在過去十年間將其部署到大約30個縣市。該系統交叉比對150多個政府資料庫，以查處地方官員的貪污和裙帶關係。它的效果甚至有些過於出色，在標記出8,700名官員之後，地方政府迫於受到該系統監控的官僚們的壓力，開始逐步撤回這一系統。但是，北京並未廢除其新建立的電子政務門戶。這些門戶利用自動化系統簽發文件和許可證，減少了容易滋生小規模腐敗或徇私行為的面對面接觸。與此同時，中國共產黨繼續大力推進其所謂的“思想管理”研究，即如何利用人工智慧製作針對特定微觀群體的宣傳內容。中國的網路評論員大軍過去由領取報酬的真人組成，如今已經開始被機器人取代。俄羅斯也正以同樣的熱情追求相同的目標。莫斯科覆蓋全市20萬個攝像頭的人臉識別系統，曾在2021年的反政府示威期間被用於識別和逮捕抗議者。中央政府已經開始利用自動化數據收集和匯總，繞過那些可能篡改數據或利用數據謀取自身利益的地區官員。2023年，俄羅斯互聯網監管機構推出了名為“奧庫盧斯”的人工智慧系統，每天掃描數十萬張圖像，尋找包括政治內容在內的違禁內容，其處理能力比人類審查員高出數個數量級。俄羅斯安全部門的“改良者”工具已被用於創建一千多個虛構美國人的個人檔案，主要活躍於前身為推特的X平台，以遠低於僱用真人網路水軍的成本傳播克里姆林宮的敘事。其他威權國家也正在追隨北京和莫斯科的腳步。2025年4月，阿拉伯聯合大公國成立了一個監管情報辦公室，利用人工智慧起草和修訂聯邦法律，而這些工作過去由立法工作人員完成。一年後，阿聯酋總理謝赫·穆罕默德·本·拉希德·阿勒馬克圖姆（Mohammed bin Rashid al-Maktoum）宣布，自主人工智慧代理將在兩年內接管聯邦政府一半的業務，而且“部長、總幹事和各機構的績效，將根據他們採用這一轉型的能力進行評估”。一個政權越是依賴人工智慧，就越是依賴那些維持人工智慧運轉的人。這些創新可能減少威權統治者所需要的官僚人數。但是，它們實際上無法創造出獨裁者最渴望的東西：一個能夠自行運轉的國家。即使是人工智慧生成的電視新聞主播，也需要有人負責建造和維護；而隨著異議人士使用的詞彙不斷變化，審查系統也需要有人對其進行重新訓練。每一個人工智慧模型背後，都有一小群工程師和數據科學家在從事必不可少的維護工作，而他們的工作具有如此高度的技術性，以至於統治者根本無法理解。因此，這種依賴本身就變成了另一種形式的權力。例如，維護威權統治者監控設備的工程師，可以決定統治者看到什麼。他們決定哪些信息重要到值得向上呈報，以及以何種形式呈現這些信息。他們決定哪些威脅會被標記出來，還可以調整那些決定哪些內容受到壓制、哪些人遭到逮捕的演算法。而且，他們可以在宮廷內任何人都沒有察覺的情況下完成這一切。那些試圖通過人工智慧擺脫對不可靠下屬依賴的威權統治者，只不過是將自身的脆弱性轉移到了一群新的官員身上。事實上，這支新的禁衛軍可能比以往的精英階層更加危險。這部分是由於人工智慧技術的不透明性，但也因為這個小集團的規模要小得多。羅馬皇帝通常擁有數萬名禁衛軍成員；現代威權統治者則依賴常備軍。但是，有了人工智慧，威權統治者只需要一小群工程師，就能夠建立和維護大規模人工智慧系統。這可能有利於統治者，因為他們需要監視的人更少了；然而，這也使潛在的故障點更加集中，因為只需要少數幾名工程師就能造成毀滅性的系統中斷，而且也使這些成員更容易密謀反對領導人。這支新禁衛軍的成員還可能變得不可或缺。獨裁者可以更換將軍，而不必摧毀軍隊。但是，運行複雜的機器學習系統需要一套高度專業化的技能，以至於在不造成系統運行中斷的情況下，很難替換工程師，從而賦予這些人巨大的制衡籌碼。不可或缺的人技術工作者對威權政權的重要性已經顯現出來。例如，2022年2月俄羅斯全面入侵烏克蘭之後，當信息技術專家開始逃離俄羅斯時，克里姆林宮的回應不是威脅，而是提供誘因，允許技術工作者延緩應徵入伍。政府還免除了他們所在企業的稅收，併為他們的住房抵押貸款提供補貼。七個月後，當俄羅斯總統弗拉基米爾·普京（Vladimir Putin）下令動員30萬名男子時，信息技術工作者獲得了全面徵兵豁免。考慮到一套人工智慧系統只需要少數幾名工程師就能維持運轉，這種做法似乎有些過度。但是，一個政權無法預先知道自己將需要哪些工程師，也無法迅速培訓替代人員，因此，它必須留住能夠從中選拔這些少數人才的整個專業人才庫。這些措施並未阻止2022年全年約10萬名專業人員外流——這一數字約佔俄羅斯技術勞動力的十分之一。但是，莫斯科仍然堅持採用利益收買的方式，因為專業知識極難通過槍口強制徵召獲得，而且被強制徵召的專家也可能不太願意按照指示行事。即便如此，金錢和特權也無法保證這些精英始終保持忠誠。威權統治者應當牢記最初那支禁衛軍留下的教訓：在一段時期內，它為羅馬皇帝提供了保護和安全。但是，後來禁衛軍發現了自己不可替代的地位，到了公元二世紀，他們已經開始將帝國拍賣給出價最高的人。這批新的精英也能夠做同樣的事情。2023年6月，當葉夫根尼·普里戈任（Yevgeny Prigozhin）領導的瓦格納准軍事公司的車隊沿著公路向莫斯科挺進時，普京必須依賴自己的安全部門向他報告正在發生的事情。未來處於普京這種境地的統治者，將通過機器接收此類警報：由軟體分類的截獲通信、經過識別系統過濾的攝像頭畫面，以及被匯總到信息儀錶板上的地區報告。負責運行這些系統的工程師可能與一名新崛起的挑戰者達成交易，然後故意拖延。他們可以延遲數據傳輸，讓警報晚幾個小時才送達，在關鍵時刻降低信息傳輸質量，或者使識別系統停止運作。在這種情況下，統治者將如同盲人一般行事。禁衛軍當年並不需要親手殺死尼祿皇帝（Nero）就能將他取代。他們只需要拋棄尼祿，轉而支持他的競爭對手即可。這些程序員不太可能親自奪取政權，因為他們不太可能掌握政變領導人最終必不可少的東西：槍支。但是，工程師利用自身權力影響領導權爭奪，已經有過先例。1991年，當蘇聯軍隊試圖從米哈伊爾·戈爾巴喬夫（Mikhail Gorbachev）手中奪取控制權時，俄羅斯電信網路的少數幾名程序員維持了向國外的信息流通，並將俄羅斯總統鮑里斯·葉利欽（Boris Yeltsin）的命令傳遞給國內外受眾。政變策劃者無法阻止葉利欽反抗的消息傳播，政變在三天內宣告失敗。精簡規模人工智慧不會讓威權統治者能夠解僱所有執行其命令的人員。仍然需要有人實施逮捕和管理監獄，而且威權統治者可以通過向支持者提供政府職位來換取忠誠。但是，人工智慧將使威權統治者能夠縮減人員規模，而官員的數量最終不如統治者如何監督他們來得重要。追蹤那些密謀不軌或能力不足的下屬，始終是威權統治者最主要的負擔。人工智慧可以減輕這一負擔，使統治者無須投入同樣多的主動關注，就能夠更加密切地監視自己的官員。因此，從短期來看，人工智慧可能為威權政權帶來巨大利益。儘管在部署方面存在諸多障礙，這項技術已經開始為威權政權帶來成本更低的監控、更智能的審查，以及更少需要恐懼和猜疑的人類下屬等好處。但是，對威權統治者而言，人工智慧的誘惑可能重新製造出他們正試圖擺脫的同一個陷阱。一個政權越是依賴人工智慧，就越是依賴那些維持人工智慧運轉的人。而這些人，就像歷史上所有其他禁衛軍階層一樣，將很快發現自己不可或缺的地位究竟價值幾何。