美開第一槍 調查失控AI代理…劍指Anthropic、OpenAI產品

美國聯邦貿易委員會（FTC）正在調查、等AI業者，了解對消費者可能造成的危害，與此同時，籌備上市的Anthropic也在公開說明書中警告，AI能力愈強，風險也隨之升高。

FTC調查涵蓋整個產業，是當局首度對失控的AI代理採取法律行動。自7月陸續傳出相關事件以來，外界愈來愈擔心，不受控制的AI可能傷害人類。官員表示，FTC計劃要求相關機構提供資料，並強制Anthropic、OpenAI及研究機構METR等單位的主管作證。FTC也將調查AI安全研究機構「模型評估與威脅研究」，白宮顧問指控METR與Anthropic投資人與高層關聯密切。

官員說，FTC主席佛格森在OpenAI的AI代理，入侵開源平台Hugging Face之前，就對這些公司存疑。AI代理先探查平台漏洞、再發動大規模攻擊，更使當局認為有必要加緊處理。

FTC主席佛格森上周受訪時表示，若開發商指示AI代理進行網路安全測試，釀成攻擊，應對相關損害負責。

FTC有權能控告涉及不公平或欺騙行徑的業者，過去也曾動用職權，對未採取適當措施，保護消費者個資的公司，祭出行動。

Anthropic準備上市的文件，呈現出這場安全爭論的另一層矛盾。路透看到該公司首次公開發行股票（IPO）說明書，長約300頁，近三分之一用來揭露風險，篇幅是介紹公司業務的兩倍。

Anthropic希望上市時估值達約2兆美元，但也警告，先進AI若運用不當，可能對人類造成災難，甚至威脅人類存續。文件警告，先進模型可能出現自我保護行為，包括抗拒關閉、隱瞞或操弄資訊，以及產生可能被視為脅迫或欺騙的內容。

Anthropic一方面認為，AI必須變得更強大，才能因應AI帶來的威脅；另一方面也承認，能力提升可能增加濫用、偏離人類意圖或失去控制的風險。

公司治理同樣面臨矛盾。Anthropic要求投資人信任七位創辦人，由他們掌握經營方向，卻也承認這種安排可能限制公開市場股東的影響力，並導致與公司財務利益或營運表現衝突的決策。