AI 可能造成 10 億人死亡　是杯弓蛇影嗎

比爾蓋茲近日接受美國 NBC《會晤新聞界》（Meet the Press）專訪時表示，人工智慧（AI）已經強大到足以引發 10 億人死亡的事件。他認為，如果最新的 AI 工具落入惡意人士手中，可能形成前所未有的強大武器；因此，AI 安全不能只依靠科技公司自我監管，政府與執法部門也必須介入。

10 億人死亡。這個數字大到難以想像。但它究竟是根據現實的風險判斷，還是面對新技術時，對未來情境的投射？

面對 AI 風險的不確定性，恐懼與事實之間至少存在三種不同狀態。

當然，比爾蓋茲所提出的 10 億人死亡尚未發生。但尚未發生的危險，並非只能是想像。

近年，AI 安全研究者持續評估惡意使用者運用 AI 造成危害的能力。《2026 年國際人工智慧安全報告》指出，通用 AI 已能協助攻擊者自動執行技術工作、尋找軟體漏洞、產生惡意程式；在生物與化學領域，模型也已能提供實驗程序與技術問題排除等協助。真正仍待確認的，是 AI 究竟會把惡意使用者造成危害的能力提高多少。

而 Anthropic 9 月公布的資料，已經不只是能力測試。過去八個月偵測到的 AI 濫用案例，已涉及網路攻擊、監控、詐騙與武器研發。其中與比爾蓋茲的警告直接相關的，是 AI 已經進入具有生物安全風險的研究。

有研究人員利用 Claude 協助規劃高致病性禽流感適應哺乳類動物的研究；有人利用模型協助涉及基孔肯雅病毒傳播能力與免疫逃脫的研究；另有人利用模型協助毒素與病毒蛋白相關工作。Anthropic 特別強調這些案例不是生物武器威脅迫在眉睫的證據，卻顯示前沿模型確實已被用於具有雙重用途的生物研究。

這些案例不能證明極端災難會發生，卻說明事情尚未發生，不等於現實中沒有值得警覺的跡象。

AI 已經能協助病毒研究，也能尋找軟體漏洞。但這些能力是否足以造成一場重大災難，是另一個問題。

2026 年，人工智慧治理中心（GovAI）研究了一個極端情境：如果 AI 要協助攻擊者造成美國電網 1000 億美元損失，需要做到什麼？

研究估計，這大約相當於讓一億人停電一星期。要造成並維持這種規模的停電，攻擊者必須具備多種能力，同時協調攻擊數十至數百個不同目標。因此研究者認為，「1000 億美元電網攻擊」並不適合拿來當作啟動昂貴、特定安全措施的能力門檻；100 億美元等較低層級的攻擊，可能是更實際的觀察指標。

GovAI 另一項針對 AI 電腦蠕蟲的研究，則把風險拆成攻擊者能力、行動意願與最後造成的損害。研究發現，即使 AI 提供了某項關鍵能力，攻擊者是否使用、攻擊環境如何，以及防禦者如何反應，仍然會改變最後結果。

AI 具備某種能力，並不能直接證明極端風險會發生。AI 能協助病毒研究，不等於全球疫情就會發生；AI 能尋找軟體漏洞，也不等於全國電網就會崩潰。要從這些已經出現的能力推論到 10 億人死亡，還需要其他證據支持。

既然現有證據還不足以建立從 AI 能力到極端災難的完整因果鏈，那麼就等更多證據出現再說。但這是個問號，因為有些原本只在測試中評估的風險，已經進入真實世界。

2026 年 7 月，OpenAI 在內部測試一個尚未公開的模型，評估它尋找與利用軟體漏洞的能力。模型原本被限制在無法直接連上網際網路的環境中，卻利用一個先前未知的零日漏洞繞過限制，取得網際網路存取權，之後進入人工智慧開源平台 Hugging Face 的實際系統。

這並不是一次偶然的錯誤操作。Hugging Face 後來從紀錄中重建出約 17,600 次行動，包括建立對外通訊管道、取得憑證與進行橫向移動。事件最後進入其內部基礎設施，但受到存取的客戶內容僅限於看來與相關資安測試有關的資料，沒有證據顯示其他面向使用者的模型、資料集或軟體套件受到影響。

這起事件沒有造成大規模災難，也不能證明未來一定會發生更嚴重的事故。過去研究者在測試環境裡評估 AI 能不能找到漏洞、發動攻擊；這一次，接受測試的模型自己越過了測試環境的邊界，實際存取第三方系統。

等更多證據就變成一個更困難的要求。如果只有等到模型造成大規模停電、重大生物事故或其他極端災難，才認為證據足以支持風險判斷，那麼最有決定性的證據，也可能正是治理原本希望避免的結果。並非一定要等最壞結果成真，才算有證據。

這三種狀態，使比爾蓋茲的「10 億人死亡」不能簡單歸入事實或想像的任何一邊。10 億人死亡沒有發生，但 AI 已經具備被用來造成破壞的能力，而且這些能力已經在現實世界中被使用；另一方面，這些跡象本身也不能證明全球疫情、全國電網崩潰等最壞結果會發生。

這正是《風俗通義》記載的「杯弓蛇影」最耐人尋味的地方。故事中的飲酒者看見杯中確實有一道像蛇的影子，所以他的恐懼並非毫無來由。他從杯中蛇影推論杯中真的有蛇，有跡之懼成為了無實之懼。但如果杯中真的有蛇，情況又完全不同。那時需要面對的，就不再是對不確定性的想像，而是坐實之懼。

面對 AI 的風險，困難之處也正在這裡。有些危險已經在現實中出現；有些最壞結果尚未發生，卻已經出現引起警覺的跡象；有的恐懼則可能已經超越了現有證據。

而風險治理最棘手的地方，是我們不得因為看見杯中的蛇影，就斷定杯中有蛇；也不得因為尚未證明有蛇，就認為所有的警戒都只是杯弓蛇影。

2024 年 5 月首爾 AI 高峰會時，16 家前沿 AI 公司承諾設定風險門檻：當模型或系統造成的嚴重風險達到不可容忍的程度，就應啟動額外防護，極端情況甚至不開發或不部署。2025 年，新模型已觸發預先設定的早期警訊；有些公司甚至因為無法排除模型已跨越能力門檻，而預防性提高防護。如今，正是必須面對這些觸發警訊的模型之時。OpenAI 因 GPT-6.1 Astra 在內部測試中未達安全標準，取消原訂 10 月的公開發布，就是眼前的案例。

綜合目前不同的風險框架，這些門檻至少涉及四個方面：AI 是否已具備可能造成重大危害的能力？它是否實質提高了行為者造成傷害的能力？從能力到災難是否已有可信路徑？一旦低估風險，後果又多難逆轉？

如果主要由開發公司判斷，它們最了解模型的能力，也最可能及早發現異常；但開發、部署與判斷是否安全的責任，也可能集中在同一家公司。如果主要交給政府，公共權力可以要求企業遵守共同規則，卻又面臨技術能力快速變化、監管判斷可能落後的問題。因此，前沿模型的安全治理已把企業內部控制、外部獨立評估與組織層級監督納入治理流程：不只設定模型的風險門檻，也建立如何判斷模型是否跨過門檻，以及如何監督風險處置的機制。

眼前的是影子，還是真的蛇？比爾蓋茲的警告究竟是不是杯弓蛇影，取決於恐懼究竟來自事實，還是來自對不確定性的想像。在災難尚未成為事實以前，隨著 AI 能力的演變，判斷風險的門檻也必須持續修訂；而如何判斷模型是否跨過門檻、由誰監督，也將決定這些門檻究竟只是企業的承諾，還是能在災難發生前發揮作用的防線。

※作者從事半導體業二十餘年，現為自由撰稿人