科技新報安全測試恐失靈？中國智譜 AI GLM-5.3 學會考試時「裝乖」以保護後代模型
署名 TechNews 編輯台全文約 1,202 字
文章摘要
科技新報 · 文章頁摘要中國人工智慧實驗室智譜（Z.ai）8 月推出旗艦模型 GLM-5.3，AI 安全研究機構 Apollo Research 發現安全評估時，GLM-5.3 竟會考量自身行為如何影響後續版本訓練。研究員擔心，這類自衍生功能可能讓 AI 測試時「假裝」遵守規矩，卻削弱安全評估的可信度。 Apollo Re...
中國人工智慧實驗室智譜（Z.ai）8 月推出旗艦模型 GLM-5.3，AI 安全研究機構 Apollo Research 發現安全評估時，GLM-5.3 竟會考量自身行為如何影響後續版本訓練。研究員擔心，這類自衍生功能可能讓 AI 測試時「假裝」遵守規矩，卻削弱安全評估的可信度。...