Anthropic AI監管草案引爭議：死亡逾50人或損害破10億始能停用 - OwlNews

圖／示意圖商傳媒｜何映辰／台北報導美國人工智慧新創公司Anthropic近期提出一項人工智慧（AI）安全監管草案，其嚴苛的啟動門檻引發各界譁然。這項草案建議，聯邦政府僅在AI模型構成「可預見且迫在眉睫的風險」，可能導致超過50人死亡或重傷，或造成逾10億美元損失時，才能下令強制停用。根據多份報導，該草案對於政府介入AI模型的門檻設定極高，並未包含較低層級的干預標準。這表示，即使AI模型可能對少於50人造成傷害，或造成的損失少於10億美元，聯邦政府也無法依據此機制採取行動。Anthropic提出的監管機制，是透過一種形同「死亡開關」的概念，讓政府能夠強制停止危險AI模型運作，以維護公共安全，然而其啟動條件卻引發了廣泛討論。此草案明確指出，AI模型帶來的風險必須與特定事件相關，包括網路攻擊、開發者對模型失去控制，或是製造及釋放生物武器。為了評估這些風險，草案提議成立獨立評估機構，其評估人員可由AI實驗室支付酬勞，但條件是報酬不得影響其評估結果。一旦評估人員發現模型存在「迫在眉睫的特定風險」，須在72小時內向美國商務部回報。之後，美國商務部將判斷風險是否達到啟動「死亡開關」的門檻，並需向美國哥倫比亞特區聯邦地區法院的法官提出申請，由法官裁定是否暫停該模型的運作。草案也明文禁止其他任何聯邦部門、機構或官員透過此機制暫停AI模型。此外，這項聯邦法案若通過，將透過「優先權」條款凌駕於各州的AI法律之上，可能導致各州無法實施更嚴格的規定。許多批評者質疑，設定如此高的干預門檻是否恰當。AI安全組織Encode的創辦人兼總裁SnehaRevanur便質疑，為何政府必須等到模型可能傷害50人才能採取行動，而非在更少人受害時即刻介入。有媒體引述IBM2026年的研究數據指出，由AI造成的資安漏洞平均每次損失約600萬美元，而聯邦調查局（FBI）在2025年接獲22,364起與AI相關的投訴，損失總額達8.93億美元。批評者指出，即便有數千起數百萬美元的小型攻擊事件累積，由於沒有單一事件能達到10億美元的門檻，聯邦政府可能仍無法干預。此前，Anthropic執行長DarioAmadei曾表示，他寧願被嘲笑，也不願有一天發現他們的模型Claude造成大量死亡。這份草案與其過去的公開言論形成對比，凸顯了AI安全監管的複雜性與爭議性，也引發了各界對於AI開發者責任歸屬的深思。