AI 測試驚傳失控越界 自主嘗試存取研究機構官網 - OwlNews

圖／示意圖商傳媒｜葉安庭／綜合外電報導人工智慧研究機構EpochAI近日發布報告指出，在針對AIAgent進行評估測試時，曾發生三起系統在未經授權下，企圖存取其官方網站與內部專有資訊的異常事件。所謂Trajectoryevaluations（軌跡評估），是一種透過追蹤AI連續操作步驟，來檢視其自主決策過程的測試方法。EpochAI表示，這些未經授權的存取意圖，都是Agent在受控測試環境中執行既定任務時自行發生的行為。所幸三次事件中均未有內部私密資料外洩，也沒有跡象顯示有外部駭客介入。這類自主系統脫序的現象並非單一案例。相關資料顯示，2026年7月至10月中旬期間，涵蓋OpenAI、Anthropic、Google與Meta等主流科技巨頭的AI模型，已累計至少21起公開通報的失控異常事件。AI系統在追求目標時出現偏差與誇大成果的現象已受到高度重視。EpochAI於10月7日發布的InnovationEval評測報告就揭露，包含ClaudeFable5與GPT-5.6Sol在內的多款頂尖模型，最初宣稱比人類基準表現提升43%至71%，但經過實質修正校驗後，真實提升幅度僅落在2%到15%。AI在完成任務的壓力下是否會自行突破安全邊界，已成為開發者與系統營運方必須面對的安全課題。