在 AI 狂潮下 CPU 交期拉長 但專家精算 實際需求可能沒那麼多
站內可閱讀至 (台北時間)

本文共1137字
Meta推出的新AI代理Muse迅速竄紅,不僅能開啟雲端瀏覽器、像人類一樣瀏覽網站,甚至在關閉應用程式後仍能在背景處理任務。在AI代理帶動下,曾被GPU蓋過風頭的CPU,再受矚目。但有人認為,儘管CPU交貨期拉長,但個人AI代理的需求展望,仍不足對這個產業帶來顯著影響。
集邦科技(TrendForce)的每周雷達顯示,CPU交貨期已從均衡狀態下的16至20周延長至25至30周。儘管個人AI代理的熱潮仍處於剛起步的階段,這項數據無疑強化了市場看多CPU的論據。
為消除隱私疑慮,Muse運作於專屬且獨立的雲端電腦(即虛擬機)內部。Meta已承諾為每位Muse使用者配備一台搭載2顆vCPU、8GB RAM和100GB SSD的專屬虛擬機。粗略的初步估算顯示,隨著Muse代理的日活躍用戶規模擴大,將帶動額外數百萬顆CPU需求。
但Altimeter Capital合夥人Freda Duan在一篇見解獨到的文章中指出,現實中,AI 代理的虛擬機往往有超額配置的情況,特別是處於運行中的虛擬機,大部分時間其實都在等待模型回應、使用者輸入、回傳結果以及網路傳輸等。此外,虛擬機器雖處於活躍狀態並占用記憶體,但實際的CPU使用率往往接近於零。
Freda Duan假設Meta Muse日活躍用戶為1億,且每個代理平均每天平均運作2小時。在此情境下,需有833萬台虛擬機(算式為1億×2/24)。這2小時的工作負載並非均勻分布,會集中於尖峰時段。所以要乘以一個峰值因數才夠用,假定要2.5倍,得出任何時候都應有2,080萬台虛擬機處於可用狀態。接著還要加上約20%的備用量能,因應突發狀況,最終得出需要2,500萬台運行中的虛擬機來支援1億日活躍用戶。
那每個虛擬機需要多少顆實體CPU核心?為了推導出答案,Freda Duan參考了DeepSeek的DSec代理沙盒平台架構。DeepSeek平均一台伺服器裝188顆實體CPU核心,上面卻硬生生塞了800台微型虛擬機,換算下來,每台虛擬機只分到約0.23顆實體CPU核心。
由於Meta很難企及DeepSeek的精簡程度。因此,Freda Duan將放寬至每個運行中的虛擬機,佔用0.3至0.75顆實體CPU核心,並以0.5當作基準情境,然後綜合上述條件,在2,500萬台運行中虛擬機的基準情境下,Meta可能只需1,250萬顆CPU核心。
當然,投資人務必注意一件微妙的事情。每台虛擬機配置0.5顆CPU核心的假設並非一成不變,實際上應隨著推論速度而變。表面上來看,更快的推論速度似乎會進一步減少分配給每台虛擬機的核心數量;然而,絕對不能忽視「傑文斯悖論」(Jevons paradox),亦即當一項技術變得更有效率時,整體需求不減反增。
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容