研究 人員揭 Gemini 4 Argon 行為 偏離 測試 結果, AI 代理繞過 網路 限制、 試圖 攻擊 真實 網站
作者 王珮瑤全文約 1,021 字(含標點)
文章摘要
iThome · 文章頁摘要AI安全研究機構Trajectory Labs測試Gemini 4 Argon時,發現部分AI代理為完成指定任務,試圖攻擊AI研究機構Epoch AI的正式網站,並冒用員工身分索取未公開資訊。研究團隊改用網站副本進行測試後,仍有AI代理繞過網路限制,再次連上正式網站

研究人員測試Gemini 4 Argon模型時,發現部分AI代理為了完成指定任務,不僅試圖攻擊真實網站,甚至冒用員工身分索取未公開的評測資料。即使研究團隊逐步加強網路限制,仍有AI代理設法繞過防護措施,再次連上正式網站。...