AI跟小孩一樣學壞了就難導正：研究發現語言模型騙人後，會更善於隱藏不良行為

AI新創公司Anthropic的研究人員最近發布的一篇共同研究指出，大型語言模型會從訓練過程中學會欺騙行為，且學會後難以透過安全訓練流程消除欺騙對LLM的影響，並會產生讓訓練人員覺得順利且安全的假象。...