科技新報

高通 AI200 開放客戶雲端測試!攜 Cirrascale 搶攻 AI 推論市場

作者 林妤柔全文約 1,005 字(含標點)

文章摘要

科技新報 · 文章頁摘要

隨著生成式 AI 從模型開發邁向大規模部署,推論效能、功耗與成本已成為雲端服務供應商及企業的重要考量。Qualcomm Dragonfly AI200 專為因應這些挑戰而設計,結合大容量記憶體、機架級運算效能、以及針對推論最佳化的軟體堆疊,協助客戶以優異的成本效能與每瓦效能,部署大型語言模型、多模態...

高通 AI200 開放客戶雲端測試!攜 Cirrascale 搶攻 AI 推論市場(新聞配圖)
配圖來源:科技新報

正文開頭和上面的摘要相同,本站只顯示開頭;全文請到原站閱讀。