OpenAI代理越界入侵Hugging Face,美國聽證會引爆AI「犯意」與法制激辯
作者 蕭國振全文約 4,466 字
文章摘要
關鍵評論網 · 文章頁摘要OpenAI的AI代理入侵Hugging Face,公開報告未見人類下令。要追究刑責,關鍵在警示出現後,誰決定繼續運作、依據什麼資訊。

OpenAI在內部隔離環境進行資安能力評測,要求AI代理利用指定軟體漏洞取得「旗標」,證明任務完成。部分代理取得旗標後,誤以為評分器還會查核解題途徑,為探查或操弄評分機制,將攻擊延伸至AI模型與資料集託管平台Hugging Face。...