「TorchNeuron」的搜尋結果
#TorchNeuron也是一個關鍵字標籤
過去 31 天有 2 篇標成這個標籤 · 目前不在排行榜上
10/23（五）
輝達CUDA生態系遇挑戰！Google、亞馬遜從軟體下手 98%模型免大幅改寫
Google TPU已進入Meta資料中心推論服務，開發TorchTPU，降低PyTorch模型移植成本。 亞馬遜推TorchNeuron，支援Trainium2、3，挑戰輝達CUDA生態系。 Google稱98%既有PyTorch模型僅需調整裝置設定即可運行TPU，有望降低轉換時間與工程成本。
鉅亨網10/20（二）
亞馬遜 AI 晶片軟體支援主流語言 搶攻輝達市佔
圖／示意圖商傳媒｜責任編輯／綜合外電報導亞馬遜（Amazon）宣布推出新軟體，旨在讓其自研的 AI 晶片能順暢運行主流程式語言，直接挑戰晶片大廠輝達（NVIDIA）在人工智慧硬體市場的長期主導地位。 這款由亞馬遜旗下半導體部門 Annapurna Labs 開發，名為 TorchNeuron 的新軟體，能讓開發者在亞馬遜的 Trainium AI 晶片上，直接運行由 Meta 維護、廣受 AI 開發者使用的熱門程式語言 PyTorch，且只需變更一次設定，無須修改程式碼。這項軟體將以免費且開源（open-source）的形式提供，預計於昨日在矽谷（Silicon Valley）的一場開發者大會上正式發表。 長期以來，輝達透過其專有的 CUDA 軟體工具，確保 PyTorch 程式碼能在自家晶片上高效運行，這也成為其在 AI 晶片市場上的一大競爭優勢。亞馬遜此舉的目的是簡化 AI 開發者採用其內部晶片的流程，降低轉換門檻，進而擴大市場佔有率。亞馬遜 Annapurna Labs 軟體副總裁 Colin Brace 表示，這項策略旨在「滿足客戶的需求」。 Colin Brace 指出，目前已有超過 30 家來自機器人、世界模型與語音 AI 等領域的早期客戶，透過這款新軟體將其工作負載轉移到亞馬遜的晶片上，並實現了顯著的成本節省。除了亞馬遜，谷歌（Google）等其他雲端運算服務提供者也正積極開發自家的 AI 晶片，並改進 PyTorch 工具，以吸引更多開發者投入其生態系，使得 AI 硬體市場的競爭日趨激烈。 亞馬遜此舉將促使 AI 晶片市場的軟硬體整合競爭進一步升溫，迫使晶片製造商不僅要在硬體效能上較勁，更需在軟體相容性與開發者體驗上投入更多資源。
AWS推出PyTorch擴充套件TorchNeuron，降低AI模型轉用Trainium晶片門檻
PyTorch擴充套件TorchNeuron讓開發者能在Trainium晶片上繼續使用PyTorch既有的測試、除錯及多晶片訓練工具，並支援逐項執行與編譯執行兩種模式
AI 模型換晶片免重寫程式碼？亞馬遜推 TorchNeuron，挑戰 NVIDIA CUDA 優勢
<p>從 Google、微軟到亞馬遜，科技巨頭紛紛投入自研 AI 晶片，試圖提供 NVIDIA GPU 以外的算力選擇。然而，NVIDIA 的競爭優勢不只有硬體效能，還包括難以複製的 CUDA 軟體生態系。開發者長期累積的程式碼、運算工具與最佳化技術，讓企業即使想改用其他晶片，也面臨不小的轉換成本。如今，亞馬遜宣稱推出「無須重寫程式碼」的新工具，準備從軟體切入，挑戰這道護城河。 亞馬遜旗下雲端服務事業 AWS 在美國時間 10/19 宣布，將開發工具 TorchNeuron 從私人測試擴大至公開測試，讓開發者只需調整少量設定，就能在自家 Trainium 晶片上執行既有 PyTorch 模型。PyTorch 是廣泛用於 AI 模型開發的開源框架，長期獲 Meta 支持。《TechCrunch》將這項進展形容為亞馬遜迄今對 NVIDIA 最大的一次挑戰。 從 PyTorch 下手，亞馬遜如何降低 Trainium 採用門檻？ TorchNeuron 並非亞馬遜首次讓 Trainium 支援 PyTorch。過去 AWS 已透過 Neuron SDK、PyTorch/XLA 提供相關功能，但開發者仍須配合不同的編譯與執行方式。根據《Startup Fortune》報導，過去的 XLA 整合方式，必須先將運算轉換成計算圖再執行，增加程式偵錯難度，也影響部分既有 PyTorch 工具的相容性。 TorchNeuron 的主要改變，在於提供 PyTorch 原生硬體後端，讓開發者能沿用更熟悉的工作流程。新工具支援即時執行模式（eager mode），可逐步執行程式、檢查運算結果，也支援 torch.compile 編譯及 […]</p>
AI 模型換晶片免重寫程式碼？亞馬遜推 TorchNeuron，挑戰 NVIDIA CUDA 優勢
從 Google、Microsoft 到 Amazon，科技巨頭紛紛投入自研 AI 晶片，試圖提供 NVIDIA GPU 以外的算力選擇。然而，NVIDIA 的競爭優勢不只有硬體效能，還包括難以複製的 CUDA 軟體生態系。開發者長期累積的程式碼、運算工具與最佳化技術，讓企業即使想改用其他晶片，也面臨不小的轉換成本。如今，Amazon 宣稱推出「無須重寫程式碼」的新工具，準備從軟體切入，挑戰這道護城河。
亞馬遜推出 TorchNeuron，PyTorch 程式免改寫就能搬上 Trainium 晶片
亞馬遜（Amazon）19 日推出名為 TorchNeuron 的新工具，主打讓開發者幾乎無需重寫程式，即可將以 PyTorch 編寫的 AI 工作負載直接遷移至自家的 Trainium 晶片上執行，藉此削弱輝達（NVIDIA）在人工智慧運算市場中長期建立的軟體優勢。 根據亞馬遜 Annapurna...
亞馬遜劍指輝達CUDA護城河 推出開源工具TorchNeuron
亞馬遜推出開源工具TorchNeuron，降低開發者從輝達晶片轉向自研AI晶片的門檻。 亞馬遜讓開發者用PyTorch編寫的AI代碼無需重寫，即可在亞馬遜自研AI晶片上運行。 目前輝達在AI晶片市場佔據主導地位，大量PyTorch代碼運行在其晶片上。
Amazon is taking its biggest shot at Nvidia yet with new To…
Amazon wants to break Nvidia’s hold on PyTorch, the free toolkit used to build most AI apps, so that more developers run their apps on alternative chips like its own.
商傳媒
奧丁丁新聞
iThome
TechOrange 科技報橘
科技新報
騰訊新聞
TechCrunch