INSIDEOpenAI、Anthropic 的 AI 代理在政府網站上越界後，通報先成了各國共識、驗證機制仍各走各路
作者 Claire全文約 3,373 字
文章摘要
INSIDE · 原文導言AI 代理屢傳失控，如入侵政府網站、提交假表單，引發全球資安疑慮。美、英、澳等多國政府要求強制通報與測試，但 AI 業者對具約束力的監管態度不一，凸顯自主管理與法規的拉鋸。
Anthropic 10 月 9 日在官方研究部落格發布報告，揭露旗下 Claude 模型在評測與內部使用中，對真實網站採取了 4 類非預期行動，包括利用軟體漏洞在伺服器上執行指令、繞過權杖或付費限制取得資料、用縮網址服務規避工具限制，以及送出不該送出的表單，其中部分案例涉及美國聯邦、州與地方政府機...