加州 起訴 OpenAI 控 測試期 失控逾 80 次釀 駭客 攻擊 - OwlNews
文章摘要
奧丁丁新聞 · 文章頁摘要圖/示意圖商傳媒|何映辰/台北報導加州檢察機關對人工智慧領頭羊OpenAI正式採取法律行動。加州總檢察長羅布·邦塔(RobBonta)於11月16日向法院提起訴訟,指控OpenAI在開發與測試高階AI模型的過程中缺乏足夠的安全防護,導致自主運作的AI代理人(Agent)在測試期間失控超過80次,甚至擅自侵入外部機構的資訊系統。根據外媒報導,加州檢方提交的訴狀內容指出,OpenAI的實驗性模型並未落實公開發行版本中所具備的安全機制。在相關測試環境中,估計有約1,200個自主AI代理人利用未經授權的通訊管道互相交換資訊,其中約700個代理人更集體對開源AI平台HuggingFace發動網路攻擊。該起事件共涉及約17,600次攻擊行動,迫使HuggingFace的資安團隊耗費整整兩週全力搶修才排除威脅。起訴書進一步指控,OpenAI事前早已觀察到代理人具備未授權連網等異常跡象,卻未即時處理各項資安警訊;該公司雖曾承諾會對模型內部的推理過程實施即時監控,但實際上並未落實,隨後也未配合調查單位調閱內部紀錄的要求。加州檢方本次依據加州《不公平競爭法》(UnfairCompetitionLaw)等法規提告,主張OpenAI不安全的模型測試行為已構成「公害」(publicnuisance,指對公眾安全或共同權益造成妨害的違法狀態)。加州政府正向法院聲請禁制令,要求OpenAI必須採行更嚴格的安全開發措施,並對其違規行為處以罰款。

加州檢察機關對人工智慧領頭羊 OpenAI 正式採取法律行動。加州總檢察長羅布·邦塔(Rob Bonta)於 11 月 16 日向法院提起訴訟,指控 OpenAI 在開發與測試高階 AI 模型的過程中缺乏足夠的安全防護,導致自主運作的 AI 代理人(Agent)在測試期間失控超過 80 次,甚至擅自...