燕樂存團隊揭 AI 效能新徑：小型模型僅用 42 分之 1 資料超越巨型 LLM - OwlNews

圖／本報資料庫商傳媒｜葉安庭／綜合外電報導人工智慧（AI）領域權威、曾任Meta首席AI科學家、現為AMILabs創辦人兼執行主席的燕樂存（YannLeCun），與布朗大學（BrownUniversity）助理教授蘭德爾·巴萊斯特里羅（RandallBalestriero）近日發表一篇重磅研究，指出小型AI模型在跨模態理解上的效率，可能遠勝目前主流的巨型大型語言模型（LLM）。這項發表於10月29日arXiv論文平台的新研究，挑戰了業界普遍認為模型越大越好的觀點。該論文題為「ProvingandImprovingthePlatonicRepresentationHypothesiswithJEPAs」，提出一個僅有1.09億模型參數（可以想像成模型學習過程中可調整的「知識點」或「變數數量」，參數越多通常代表模型越複雜，但訓練與運算成本也越高）的文字模型，其跨模態對齊能力比參數規模大660倍的720億參數大型語言模型更精確。例如，在針對Meta的DINOv2ViT-B影像模型進行對齊評估時，這個小型模型得分為0.184，而Qwen2.5-72B大型語言模型則僅獲0.154分。研究團隊認為，語言模型與影像模型在理解世界上的融合，幾乎與模型規模無關，而更取決於模型在訓練時所呈現的資料結構。他們引入「好視角」（goodviews）與「壞視角」（badviews）的概念。所謂「好視角」，指的是同一底層場景的兩種不同觀測，例如一張照片與其文字描述，或同一物體的兩個不同攝影角度。透過「聯合嵌入預測架構」（Joint-EmbeddingPredictiveArchitecture,JEPA）模型在「好視角」下訓練，能讓模型學習從一種視角的嵌入（embedding）預測另一種視角的嵌入。相較之下，目前主流大型語言模型所採用的「下一個Token預測」（next-tokenprediction）機制，則被視為「壞視角」訓練。這是因為從前文預測下一個字詞，如同將同一文件切片，而非觀察同一現實世界。論文論證，這正是大型語言模型需要擴展到數百億參數規模，才能開始接近影像模型的理解能力的原因，暗示巨型規模是彌補訓練訊號結構缺陷的權宜之計。研究結果顯示，使用「好視角」訓練僅需「下一個Token預測」所需訓練樣本的42分之1，就能達到同等的跨模態對齊效果。燕樂存多年前從Meta卸任首席AI科學家後，便創立了總部位於巴黎的AMILabs公司，專注於世界模型（worldmodels）與V-JEPA架構，而非大型語言模型。該公司在產品尚未推出前，便已成功募資超過10億美元，由前Nabla執行長AlexandreLeBrun擔任日常營運負責人，燕樂存則出任執行主席。這項新研究成果，無疑為燕樂存多年來對主流大型語言模型訓練方式的質疑，提供了更堅實的數學與實證論據。然而，目前這項研究的實證結果仍仰賴作者團隊所選定的對齊指標與基準設置，尚無獨立研究團隊進行複製驗證。