「inference」的搜尋結果
11/13（五）
高通執行長稱免於AI股災 點出資料中心建置瓶頸
圖／本報資料庫商傳媒｜吳承岳／台北報導美國晶片設計公司高通（Qualcomm）執行長克里斯蒂亞諾·艾蒙（Cristiano Amon）日前表示，儘管近期科技股因市場對人工智慧（AI）領域的疑慮而普遍下跌，但高通並未面臨「AI概念股修正潮」，因為該公司在資料中心市場仍屬新進者。艾蒙指出，市場對於資料中心建置速度的預期與實際進度之間存在落差，這主要受限於能源供給和供應鏈的瓶頸。 根據《Yahoo Finance》報導，11月5日，美國科技股經歷了一波大幅下滑，標普500指數市值蒸發3兆美元，下跌4.4%；道瓊工業平均指數大跌1,280點，創下2020年以來單日最大跌幅；那斯達克指數也重挫4.8%。艾蒙對此表示：「我們在資料中心領域才剛起步，所以這些修正對我們來說並不適用，高通沒有所謂的AI概念股修正。」 艾蒙進一步說明，當前半導體產業正處於極度短缺狀態，晶圓、基板及組裝等各環節都供應吃緊，主因是需求非常高。他認為，市場正逐漸意識到產業供應限制對資料中心建置速度造成的約束，這導致了市場的高度波動。 高通正積極將自身定位為輝達（Nvidia）在資料中心AI推論運算（AI Inference，指將訓練好的AI模型實際應用於生成內容或分析資料的過程）工作負載上的節能替代方案。透過其最新的Dragonfly架構和高頻寬運算平台，高通瞄準大規模的AI推論應用。亞馬遜（Amazon）在9月初曾宣布，在長期合作夥伴關係下，有望採購高達600億美元的高通AI資料中心晶片及相關產品。艾蒙強調，高通在新興市場中，不論是供應或需求都已到位。
商傳媒11/12（四）
亞馬遜微軟雲端AI競逐戰 自研晶片成勝負關鍵
圖／本報資料庫商傳媒｜方承業／綜合外電報導雲端運算市場兩大巨頭亞馬遜（Amazon）與微軟（Microsoft）正積極利用人工智慧（AI）浪潮，強化各自的競爭優勢。外媒分析指出，兩家公司的策略各有側重，尤其在AI夥伴關係與自研晶片布局上展現不同方向。 根據《Yahoo Finance》報導，在市場規模方面，亞馬遜旗下的AWS（Amazon Web Services）上季營收達到460億美元，成長率為39%，創下近五年來最快的增速。微軟的Azure則錄得332億美元的營收，成長率高達48%，這已是Azure連續第13個季度保持至少30%的成長，顯示AI熱潮正持續推動企業對雲端服務的需求。 在AI模型夥伴關係上，微軟透過持有OpenAI 27%的股權，並擁有至2032年優先使用其模型與產品的權利。這項合作為微軟帶來龐大的訂單積壓，總額高達6770億美元，其中部分歸因於OpenAI的承諾。相對地，亞馬遜則投資AI新創公司Anthropic，而Anthropic已承諾將在AWS雲端服務上花費超過1000億美元。此外，亞馬遜也透過其Amazon Bedrock平台，為客戶提供多種第三方AI模型的存取服務。 亞馬遜在自研晶片領域的投入尤其引人注目，此舉被視為其在AI時代的關鍵戰略。其包含Trainium AI加速器和Graviton CPU的晶片業務，今年初的年化營收已達200億美元；若計入內部使用，總規模更達約500億美元。上季，亞馬遜的晶片業務營收成長逾一倍，晶片相關承諾訂單更飆升20倍。亞馬遜計劃於明年底開始向外部資料中心銷售這些自研晶片，此舉目標在於降低AI推理（inference，指AI模型根據新資料生成預測或答案的過程）成本，並提供比使用通用繪圖處理器（GPU）更好的投資回報。 參考來源 Amazon and Microsoft Lead the Cloud Market. One of Them Has…（Yahoo Finance） Bayesian Recurrent Neural Networks Improve Autonomous Stock…（Bioengineer.org）
