支援3D協作與數位雙生,輝達添新款專業繪圖資料中心GPU
<div class="field field-name-field-image field-type-image field-label-hidden"><div class="field-items"><div class="field-item even"><img src="https://s4.itho.me/sites/default/files/nvidia_l40s_main.jpg" width="960" height="420" alt="" /></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>關於導入Ada Lovelace架構的資料中心GPU產品,Nvidia去年上半陸續推出<a href="https://www.ithome.com.tw/review/155388">L40</a>、<a href="https://www.ithome.com.tw/review/156053">L4</a>,8月初舉行的年度電腦繪圖技術大會SIGGRAPH,他們發表另一個款式的資料中心GPU產品L40S,目的是標榜2022年開始主推的OVX伺服器,搭配該公司持續發展的3D協同工作流程Omniverse平臺,支援數位雙生(Digital twins)的圖像呈現,以及其他用到大量AI與圖形運算的工作負載加速需求,預計秋季將由多家伺服器廠商供應L40S,隨後將提供搭配L40S的OVX系統。</p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/Nvidia%20L40S-OVX-2023-08-SIGGRAPH%20Keynote.jpg" style="width: 600px;" /></p> <p><a href="https://s4.itho.me/sites/default/files/images/Nvidia L40S-OVX-2023-08-08_113219.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Nvidia%20L40S-OVX-2023-08-08_113219.jpg" style="width: 298px;" /></a> <a href="https://s4.itho.me/sites/default/files/images/Nvidia L40S-OVX-2023-08-08_113353.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Nvidia%20L40S-OVX-2023-08-08_113353.jpg" style="width: 298px;" /></a></p> <p>而在幾週之後登場的VMware Explore年度用戶大會,兩家公司宣布將推出支援VMware Private AI Foundation的AI就緒伺服器,預告年底開始供應搭配L40S與BlueField資料處理器的系統,而在後續幾個月內,也將由多家雲端服務業者提供這類型執行個體。果然,9月底召開的甲骨文年度用戶大會Oracle CloudWorld期間,<a href="https://blogs.oracle.com/cloud-infrastructure/post/announcing-oci-compute-nvidia-l40s-gpus">Oracle Cloud Infrastructure(OCI)預告將推出GPU執行個體BM.GPU.L40S.4</a>;11月底AWS年度用戶大會,<a href="https://www.google.com/url?sa=t&rct=j&q=&esrc=s&source=web&cd=&cad=rja&uact=8&ved=2ahUKEwjl0L6v88CEAxUJslYBHdbYCbMQFnoECBAQAQ&url=https%3A%2F%2Faws.amazon.com%2Fblogs%2Fmachine-learning%2Fintroducing-three-new-nvidia-gpu-based-amazon-ec2-instances%2F&usg=AOvVaw3Mp_AenNWcTLenXzYxX97b&opi=89978449">AWS揭露將推出GPU執行個體EC2 G6e</a>。</p> <p><a href="https://s4.itho.me/sites/default/files/images/2023-11-28-AWS GPU instances.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-11-28-AWS%20GPU%20instances.jpg" style="width: 600px;" /></a></p> <p>到了今年2月底,Nvidia在L40S的網站產品英文介紹頁面當中,終於將「此產品上市時請通知我」的字樣拿下(正體中文版網站仍保有這些敘述),</p> <p><a href="https://s4.itho.me/sites/default/files/images/L40S-notify-2024-02-SG.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/L40S-notify-2024-02-SG.jpg" style="width: 298px;" /></a> <a href="https://s4.itho.me/sites/default/files/images/Nvidia L40S-2024-02-23.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Nvidia%20L40S-2024-02-23.jpg" style="width: 298px;" /></a></p> <p>而在臺灣的線上購物網站PC,我們也看到裡面居然陳列L40S,並標示預計出貨日為4月23至25日。</p> <p><a href="https://s4.itho.me/sites/default/files/images/Nvidia L40S-2024-02-23_013456-PChome.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Nvidia%20L40S-2024-02-23_013456-PChome.jpg" style="width: 600px;" /></a></p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/L40s-2024-02-AMAZON.jpg" style="width: 298px;" /> <img alt="" src="https://s4.itho.me/sites/default/files/images/L40s-2024-02-EBAY.jpg" style="width: 298px;" /></p> <p>在L40S發表之初,Nvidia先公布產品技術規格,與L40所差無幾,例如,均配備48 GB的GDDR6記憶體,同樣內建18,176顆CUDA核心、568顆第三代Tensor核心,以及142顆第四代RT核心。</p> <p>效能方面,L40S的FP32浮點運算為91.6 TFLOPS(L40為90.5 TFLOPS),Nvidia上一代頂級資料中心GPU產品A100,若同樣用於這類運算,僅提供19.5 TFLOPS;而在RT核心浮點運算效能的部分,L40S與L40皆為209 TFLOPS。</p> <p>而在Tensor核心的運算效能上,這兩款GPU之間就有很顯著的差異,例如,TF32、BF16、FP16、FP8、Peak INT8、Peak INT4,都領先了1倍,部分類型的運算甚至最高可達到1.45 PFLOPS,可加速複雜的運算與資料密集型分析作業。</p> <p>既然L40s具有更高超的效能,因此,L40S的熱設計功耗較高,可達到350瓦,L40則是300瓦。</p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/Supermicro%20L40S%20Card-Comparison-2023-08.jpg" style="width: 600px;" /></p> <p><a href="https://s4.itho.me/sites/default/files/images/Supermicro L40S vs A100 Card-Comparison-2023-08-.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Supermicro%20L40S%20vs%20A100%20Card-Comparison-2023-08-.jpg" style="width: 298px;" /></a> <a href="https://s4.itho.me/sites/default/files/images/Supermicro L40 vs A100 System-Comparison-2023-08-.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Supermicro%20L40%20vs%20A100%20System-Comparison-2023-08-.jpg" style="width: 298px;" /></a></p> <p>若就AI應用效能而言,比起A100,L40S也有顯著改善,例如,推論能力提升20%,訓練能力增強70%。</p> <p>而從2023年8月發表至今,L40S已陸續有多款伺服器採用。根據<a href="https://www.nvidia.com/en-us/data-center/data-center-gpus/qualified-system-catalog/">Nvidia認證系統型錄</a>來看,有67款Nvidia認可(Qualified)的機型搭配L40S,提供最多機型的前三大廠牌,依序是Supermicro(18款)、技嘉(15款)、華碩(13款),我們先前介紹的<a href="https://www.ithome.com.tw/review/161012">雲達QuantaGrid D54U-3U</a>,就是其中之一而通過Nvidia-Certied認證的,有3款機型,分別是:技嘉的G293-S42-A、G293-Z42-A,以及聯想的SR675 V3。</p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/Nvidia%20Qualified%20System%20Catalog-L40S.jpg" style="width: 600px;" /></p> <p><a href="https://s4.itho.me/sites/default/files/images/2023-05-Nvidia Qualified-Certified Gigabyte.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-05-Nvidia%20Qualified-Certified%20Gigabyte.jpg" style="width: 500px;" /></a></p> <p>若以Nvidia這幾年圖形運算整合伺服器平臺OVX來看,也可以發現他們搭配的GPU與網路介面組態變化,這當中也突顯L40S成為最新搭配的主力產品</p> <p>例如,Nvidia先在2022年3月發表第一代系統的參考設計,搭配8張GPU產品<a href="https://www.ithome.com.tw/review/140860">Nvidia A40</a>,以及3張網路卡<a href="https://www.ithome.com.tw/review/137969">Nvidia ConnectX-6 Dx</a>;同年9月發表的第二代OVX伺服器,預告2023年上半將搭配8張GPU產品<a href="https://www.ithome.com.tw/review/155388">Nvidia L40</a>,以及3張網路卡<a href="https://www.ithome.com.tw/review/149714">Nvidia ConnectX-7</a>;2023年3月揭露第三代OVX運算系統,搭配4張GPU產品Nvidia L40、2張網路卡Nvidia ConnectX-7,以及資料中心處理器<a href="https://www.ithome.com.tw/review/156209">BlueField-3</a>,Nvidia當時表示,預計稍晚推出此項設計。</p> <p>目前他們已公布最新一代OVX伺服器配置,就GPU而言,他們提供搭配4張L40S GPU與8張L40S的選擇,前者採用32核心的英特爾第四代Xeon Scalable處理器(Xeon Gold 6448Y),或32核心的AMD第四代EPYC處理器(AMD EPYC 9354),後者採用56核心的英特爾第四代Xeon Scalable處理器(Xeon Gold 8480),或AMD第四代EPYC處理器(AMD EPYC 9554);記憶體容量分別是384 GB以上、768 GB以上;網路介面的部分,就南北向傳輸而言,分別搭配2張、4張ConnectX-7(200Gb),就東西向傳輸而言,均搭配1張BlueField-3(B3220)。</p> <h3><span style="color:#008080;"><strong>產品資訊</strong></span></h3> <p><strong>Nvidia L40S</strong><br /> ●原廠:Nvidia<br /> ●建議售價:廠商未提供<br /> ●CUDA處理核心數量:18,176顆<br /> ●Tensor核心數量:568顆<br /> ●RT核心數量:142顆<br /> ●內建記憶體容量:48 GB GDDR6<br /> ●記憶體頻寬:864 GB/s<br /> ●連接介面:PCIe 4.0 x16<br /> ●支援NVLink:否<br /> ●單精度浮點運算效能:91.6 TFLOPS<br /> ●外觀尺寸:雙槽全高<br /> ●DisplayPort埠:1.4a版規格,4個<br /> ●耗電量:350瓦</p> <p>【註:規格與價格由廠商提供,因時有異動,正確資訊請洽廠商】</p> </div></div></div>