TechOrange 科技報橘

AI 不必重新訓練也能修補?MIT 讓 GPT-6 Astra 直接修改 Qwen 權重,數學測試成績提升近 6 倍

作者 廖紹伶全文約 2,591 字

文章摘要

TechOrange 科技報橘 · 文章頁摘要

當 AI 模型出現問題,除了重新訓練或微調,能不能直接修改內部權重來修復?美國麻省理工學院電腦科學與人工智慧實驗室(MIT CSAIL)研究團隊公布一項實驗,利用 OpenAI 的 GPT-6 Astra,僅修改阿里巴巴 Qwen3.5-0.8B 約 0.016% 的神經網路權重,就讓模型在 MATH-500 數學測試中的正確率從 7.9% 提升至 48.1%,達到原先約 6 倍。 這項研究於 11/2 公布後,迅速引起 AI 技術社群關注。研究作者武日力也(Rikiya Takehi)在 X 分享實驗成果的貼文,發布後數小時便累積超過 2.9 萬個喜歡、逾 3,000 次轉發;該研究消息截至 11/3 也在《Hacker News》獲得超過 2,400 分、逾 770 則留言。研究團隊將這種讓大型語言模型(LLM)直接理解、修改神經網路權重的方法,稱為「權重空間程式設計」(Weight-Space Programming)。

AI 不必重新訓練也能修補?MIT 讓 GPT-6 Astra 直接修改 Qwen 權重,數學測試成績提升近 6 倍(新聞配圖)
配圖來源:TechOrange 科技報橘

當 AI 模型出現問題,除了重新訓練或微調,能不能直接修改內部權重來修復?美國麻省理工學院電腦科學與人工智慧實驗室(MIT CSAIL)研究團隊公布一項實驗,利用 OpenAI 的 GPT-6 Astra,僅修改阿里巴巴 Qwen3.5-0.8B 約 0.016% 的神經網路權重,就讓模型在 MAT...