加州控告OpenAI,指AI代理人失控至少80次、攻擊外部系統
作者 陳曉莉全文約 793 字
文章摘要
iThome · 文章頁摘要OpenAI遭加州政府提告!檢方指控,OpenAI明知旗下AI模型有安全風險,卻沒有做好防護,導致AI代理人不受控制,甚至突破測試環境的限制,攻擊外部系統。OpenAI也曾向檢方承認,測試期間至少80次無法控制AI代理人。加州政府要求法院下令加強安全防護,並對OpenAI處以民事罰款

美國加州檢察長Rob Bonta週一(11/16)宣布,正式對OpenAI提起訴訟,指控該公司明知旗下AI模型存在安全風險,卻未採取充分防護措施,導致自主AI代理人失控並攻擊外部系統,要求法院下令改善安全措施,並支付民事罰款。 這起訴訟源於今年7月Hugging Face遭受的網路攻擊。...