AMD Ryzen AI Max+ 395憑藉96GB VRAM可在單晶片執行gpt-oss-120b專家混合模型
<div class="deputation"><img src="https://bucket-image.inkmaginecms.com/version/hd/9dde7c0f-a597-445c-80dd-9a93db8a4006/image/2025/08/fa0ed158-2b68-4d0d-a241-d96edf7fcb2c.jpg"></div><p>AMD繼宣布Ryzen AI Max+ 395的128GB版本可執行Llama 4 Scoyt 109B後,於OpenAI公布開源的gpt-oss專家混合模型後,再次強調其Ryzen AI Max+ 395 128GB版本足以執行多數單晶片都無法執行的gpt-oss-120b,關鍵在於Ryzen AI Max+ 395可分配到高達96GB的VRAM,足以載入MXFP4後的模型。</p><figure class="image"><img src="https://bucket-image.inkmaginecms.com/version/hd/9dde7c0f-a597-445c-80dd-9a93db8a4006/image/2025/08/927c6113-35af-4073-85d1-2363cca736ed.jpg"><figcaption>▲由於AMD新驅動能為Ryzen AI Max + 395的128GB版分配96GB記憶體,足以存放MXFP4格式化後的61GB模型</figcaption></figure><p>根據AMD的敘述,gpt-oss-120b經過MXFP4格式轉換後約需要61GB的系統記憶體,意味著仍遠高於多數單一GPU所具備的記憶體,然而AMD於 AMD Software: Adrenalin Edition 25.8.1版驅動程式可為配有128GB記憶體的Ryzen AI Max+ 395分配高達96GB的記憶體,對於61GB規模的gpt-oss-120b已相當充足。</p><figure class="media"><iframe width="560" height="315" src="https://www.youtube.com/embed/RFBrw40K7_4" title="YouTube video player" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share" allowfullscreen></iframe></figure><figure class="media"><oembed url="https://youtu.be/XUE0_R8416A?si=uyWM3zr3WxWw_Iqo"></oembed></figure><p>不過可以執行與執行速度快仍是兩回事,AMD也在新聞稿中聲稱雖然多數配有16GB以上記憶體的Ryzen AI處理器皆可執行規模較小的gpt-oss-20b,但仍推薦搭配AMD Radeon 9070 XT 16GB可獲得更快速的Token產生速度。</p><figure class="image"><img src="https://bucket-image.inkmaginecms.com/9dde7c0f-a597-445c-80dd-9a93db8a4006/image/2025/08/05bec400-466c-4796-bb88-6bad80d1c31c.jpg"></figure><p class="ck-section">對於在執行時僅動用部分參數的專家混合模型開啟裝置端AI模型與個人助理的可能性,不過畢竟參數越多的專家混合模型仍有更好的準確性與應用範圍(如gpt-oss-120b為128個專家模組構成、gpt-oss-20b僅由32個專家模組構成),以至於透過充裕記憶體可執行gpt-oss-120b的AMD Ryzen AI Max+ 395仍較多數GPU可執行更豐富的AI模型,至於NVIDIA則須待到DGX Spark上市才有能執行gpt-oss-120b的單晶片產品了。</p>