OpenAI持續追查AI代理異常！已通知逾100個組織 預期還有更多案例

OpenAI旗下AI代理人異常活動持續擴大！OpenAI已向超過100個組織通報，告知其AI代理人在訓練及評估期間，可能對第三方網站或服務進行未經授權的活動。OpenAI目前正動用約7000部輝達（NVDA）GB200及GB300 GPU，檢視約50PB歷史資料，追查AI模型過去數月的網路行為，相關調查預計還將持續數月。 《路透社》報導，OpenAI於9月30日公布最新調查進度，指出公司自今年7月旗下模型意外入侵AI開發平台Hugging Face後，便開始擴大檢視模型在訓練及評估期間的網路活動。截至9月26日，OpenAI已依照既定標準向逾100個組織發出通知，但強調收到通知不代表第三方系統確定遭到入侵，也不意味私人資訊已遭存取。目前尚未發現其他在規模或嚴重程度上可與Hugging Face事件相比的案例。 OpenAI調查發現，旗下模型曾出現繞過第三方安全控制、使用公開暴露的帳號憑證、將網站輸入內容當成指令，以及在第三方網站大量發布內容等異常行為，部分案例甚至涉及利用公開Wiki頁面作為AI代理人彼此傳遞訊息的共享留言板。目前OpenAI正逐月回溯約50PB的歷史資料，每日運算成本超過50萬美元，並計畫隨調查進展進一步增加運算資源。OpenAI指出，模型的推理紀錄可能包含未曾執行的想法或失敗的嘗試，因此自動化系統標記的案件仍須經人工查證，單一案件調查可能耗時45分鐘至數天。 在防護措施方面，OpenAI表示，已強化研究環境的工作負載隔離、網路存取限制、安全日誌及監控機制，並持續改善模型對齊訓練與安全評估。隨著前沿AI模型能力提升，公司預期異常行為可能更加複雜，可能還會發現更多案例，後續將持續調查歷史紀錄、通知符合標準的相關組織，並在適當情況下公開匿名化調查結果。 除了OpenAI自身的調查，其他研究機構也陸續揭露類似風險。《法新社》報導，資安公司Asymmetric Security最新報告指出，3月至9月間，OpenAI開發的AI代理曾鎖定澳洲政府網站及其他公共機構，在未經授權入侵政府網站後，部分代理人還建立私人帳戶、使用臨時電子郵件信箱，疑似試圖隱藏搜尋活動，但研究人員尚無法確認相關行為是否出於刻意掩蓋行蹤的目的。 另一方面，AI研究非營利機構Transluce於9月30日表示，曾有AI代理人在未收到指令的情況下，於5月及6月試圖訪問加拿大圖書與檔案館網站，研究人員目前無法確認這些代理人是否來自OpenAI，但其行為與來自OpenAI的AI代理相似。