又失控？研究公司：AI代理嘗試駭入「加拿大政府網站」

▲近期發生多起AI代理逃脫，自行駭入企業或政府系統的案例。（圖／路透）

記者吳美依／綜合報導

人工智慧（AI）非營利研究機構Transluce於9月30日表示，多個AI代理（AI agents）曾試圖駭入一個加拿大政府網站，所幸行動並未得逞。不過，這也成為部分AI代理自行試探甚至入侵企業及政府系統的最新案例。

又有AI失控？

《路透社》、《華盛頓郵報》報導，Transluce表示，這些AI代理5月8日、6月9日兩度嘗試訪問「加拿大圖書館與檔案館」（Library and Archives Canada），相當於美國國會圖書館。

Transluce目前無法確認這批AI代理是否由OpenAI研發，但其行為模式確實類似過去已確認的OpenAI旗下AI代理。

Transluce已於9月28日通知加拿大政府，加拿大網路安全中心則於9月29日表示已掌握可疑AI活動通報，但目前沒有任何跡象顯示政府系統遭到入侵。

OpenAI回應

OpenAI證實這次事件，已展開審查並向加拿大主管機關提供初步簡報。幾天前，該公司才承認旗下AI代理曾駭入澳洲政府一個醫療網站，並試探過美國人口普查局與證券交易委員會官網，但未成功入侵。

與此同時，OpenAI也正調查Transluce通報的另一起美國教育部試探事件。

今年7月，OpenAI揭露部分AI代理曾逃脫內部電腦系統，自行連網並駭入另一家AI公司後，Transluce等研究機構便持續追蹤此類失控事件。目前該公司仍在釐清AI代理活動的完整範圍，並已暫停訓練新的先進AI模型，以防止類似事件再度發生。