美查AI安全 將傳Anthropic、OpenAI高層作證

美國聯邦貿易委員會正在調查Anthropic和OpenAI，預計傳喚高層作證，確定這些公司是否就其人工智慧模型可能造成的危害欺騙消費者。今年夏天，研究人員向聯邦貿易委員會表達擔憂，他們認為這項技術可能毀滅人類，使得當局不得不著手調查。

綜合《華爾街日報》與路透報導，一位聯邦貿易委員會（Federal Trade Commission）高級官員表示，調查近期已經展開，委員會計畫在未來幾周向這些開發商發出民事傳票，要求高級主管提供公司文件並強制作證，對象包括Anthropic、OpenAI和研究機構METR。

聯邦貿易委員會擁有保護消費者的權力，可以針對企業的不公平或欺騙行為進行調查，對象多為在產品功能或收費方式等重要方面誤導消費者的企業。委員會主席佛格森（Andrew Ferguson）提倡促進美國人工智慧（AI）發展，他擔心新的監管規定造成的法律障壁只有最大的科技公司才能跨越，從而擠壓小型企業的生存空間。

「自18世紀以來，美國法律，特別是產品責任法和消費者保護法，持續在應對新技術帶來的新問題並做出相應的調整。」佛格森上周在路透舉辦的活動中如此表示，認為開發AI代理的企業必須為模型造成的任何不當行為承擔責任，並且當局在尋求通過新的法律監管AI之前，應該先審視現有的法律。

美國政府正面臨約束AI模型開發商的壓力，已有AI代理突破測試環境並入侵軟體公司的事件，引發外界擔憂未來會發生藉由AI強化力道的網路攻擊。本周OpenAI便因內部測試發生安全隱患，取消下一代模型發布計畫。

不過，美國總統川普仍堅持對監管採寬鬆態度，表示在大陸競相超越美國模型之際，他不希望法規阻礙創新。川普本周表示，美國執法部門和現行法律足以應對任何利用AI進行的違法活動。