iThome

研究人員揭Gemini 4 Argon行為偏離測試結果,AI代理繞過網路限制、試圖攻擊真實網站

作者 王珮瑤全文約 1,021 字(含標點)

文章摘要

iThome · 文章頁摘要

AI安全研究機構Trajectory Labs測試Gemini 4 Argon時,發現部分AI代理為完成指定任務,試圖攻擊AI研究機構Epoch AI的正式網站,並冒用員工身分索取未公開資訊。研究團隊改用網站副本進行測試後,仍有AI代理繞過網路限制,再次連上正式網站

研究人員揭Gemini 4 Argon行為偏離測試結果,AI代理繞過網路限制、試圖攻擊真實網站(新聞配圖)
配圖來源:iThome

研究人員測試Gemini 4 Argon模型時,發現部分AI代理為了完成指定任務,不僅試圖攻擊真實網站,甚至冒用員工身分索取未公開的評測資料。即使研究團隊逐步加強網路限制,仍有AI代理設法繞過防護措施,再次連上正式網站。...