「pytorch」的搜尋結果
#pytorch也是一個關鍵字標籤
過去 31 天有 7 篇標成這個標籤 · 目前不在排行榜上
11/10（二）
谷歌推兩款AI晶片主打隱私、大記憶體 瞄準輝達市場
圖／本報資料庫商傳媒｜葉安庭／綜合外電報導谷歌（Google）昨日發表兩款全新人工智慧（AI）運算系統——TPU 8tx與TPU 8i Max，這兩款第八代張量處理單元（TPU）旨在為企業客戶提供更高效能的AI模型訓練與部署方案，同時也明確將矛頭指向AI晶片市場龍頭輝達（Nvidia）。 根據《Decrypt》報導，谷歌的TPU不同於輝達的繪圖處理器（GPU），是專為AI加速而設計的晶片。此次推出的TPU 8tx特別強化資料隱私保護，採用硬體層級的機密運算（confidential computing）技術，能在AI模型運作時將客戶的敏感資料與專有模型參數獨立隔離，有效降低資料外洩風險。TPU 8tx的配置結合了TPU 8t晶片、第五代AMD Epyc處理器，以及谷歌的低延遲Boardfly網路，谷歌宣稱其延遲可比TPU 8t降低達一半，且幾乎不影響效能。 另一款新品TPU 8i Max則主要解決大型AI模型面臨的「記憶體牆」（memory wall）問題，這指的是AI模型在處理龐大資料時，因記憶體頻寬或容量不足而造成的效能瓶頸。TPU 8i Max透過將兩顆TPU 8i晶片整合在一個封裝中，使其運算能力、晶片內SRAM及高頻寬記憶體吞吐量都較TPU 8i提升一倍。谷歌人工智慧與基礎設施技術長暨資深副總裁阿明·瓦哈達特（Amin Vahdat）表示，企業正尋求能處理AI模型巨大Context Window的加速器，以及解決記憶體牆問題的方案。 此外，谷歌也宣布開源TPU Sync軟體，該軟體能加速AI工作記憶體在晶片、伺服器和儲存裝置間的移動，宣稱可將某些資料傳輸延遲與回應啟動時間減少超過90%。谷歌的開源專案TorchTPU也將允許開發者不需修改應用程式，即可直接在TPU上運行PyTorch和Hugging Face模型，藉此擴大TPU的生態系。目前谷歌已服務近百家TPU客戶，包含AI實驗室與大學。
獨家報導
商傳媒11/9（一）
Google 攜手 Meta、AMD 推機密 TPU、打通 PyTorch 挑戰輝達 AI 地位
Google Cloud 9日宣布新晶片、新軟體，搶進輝達（NVIDIA）AI晶片市場。包括攜手超微（AMD）擴充第8代TPU陣容，推出「TPU 8tx」與「TPU 8i Max」兩款專用晶片；軟體則結盟Meta打造原生支援PyTorch的「TorchTPU」平台，主打修改兩行代碼即可無縫自輝達GPU環境遷徙至Google TPU算力。Google以底層硬體安全到開源軟體框架，直攻輝達長年藉由硬體壟斷與CUDA護城河築起的高牆。
聯合新聞網偏藍Google攜手Meta、AMD推機密TPU 打通PyTorch挑戰輝達AI地位
Google Cloud 9日宣布新晶片、新軟體，搶進輝達（NVIDIA）AI晶片市場。包括攜手超微（AMD）擴充第8代TPU陣容，推出「TPU 8tx」與「TPU 8i Max」兩款專用晶片；軟體則結盟Meta打造原生支援PyTorch的「TorchTPU」平台，主打修改兩行代碼即可無縫自輝達GPU環境遷徙至Google TPU算力。Google以底層硬體安全到開源軟體框架，直攻輝達長年藉由硬體壟斷與CUDA護城河築起的高牆。
搶攻企業AI規模化的需求，Google新推兩款TPU新系統，TPU首度支援機密運算
新聞為了搶攻企業AI規模化的需求，Google再次加快TPU產品的發布速度，首度一年推出四款TPU產品。 Google今天發表了兩款第八代TPU新系統，分別是支援機密運算的TPU 8tx，以及因應百萬級Token上下文需求的TPU 8i Max。 Google今年4月才在Next大會發表兩款針對AI生命週期不同用途設計的第八代TPU晶片 ，瞄準大規模模型訓練最佳化的TPU 8t，以及針對低延遲推論最佳化的TPU 8i。不到半年，Google在這兩款TPU晶片的基礎上，推出了兩款新的TPU系統。 Google Cloud AI與運算基礎架構副總裁暨總經理Mark Lohmeyer在線上媒體說明會中表示， TPU迭代速度從過去每兩年發表一款新系統，加快至每年一款、兩款，今年更進入一年推出四款新系統的階段。 Mark Lohmeyer觀察，AI代理時代出現了三個根本性的轉變，第一個改變是從人類規模（Human scale）轉向代理規模（Agent Scale），單一使用者就可能帶來百倍甚至千倍的平行處理需求。 第二個改變是系統用途從「記錄性的系統」（Systems of record)，轉變為「行動性的系統」（Systems of action），AI不只是檢索和摘要資料，還要與業務系統、資料系統互動，甚至要代表使用者執行任務，這也帶來了新的安全性和合規性挑戰。 第三項重大改變是從簡單請求，轉向高度複雜的代理工作流程，AI系統經常需要存取龐大上下文資料，在長時間的多步驟流程中維持這些資訊和上下文。 Mark Lohmeyer表示，這三大轉變讓基礎設施面臨的挑戰，不再只取決於擁有多少GPU或TPU，還包括資料移動速度、記憶體使用效率、降低延遲與成本，以及兼顧高度安全性和合規要求。 這是為何Google不到半年又要發布新系統產品的緣故。 Google更強調，晶片產品是指一款全新設計的晶片，但新系統則是指將運算、網路和儲存等最佳化設計與晶片整合的新解決方案。 Mark Lohmeyer這一席話，代表了AI供應商的競爭，從單純AI算力的競爭，跨入同時考量運算、網路、儲存與安全的系統級效能競爭。 Google今天發表的第一款新系統產品是TPU 8tx，這是以第八代TPU 8t晶片為基礎，在硬體層增加了安全機制，搭配客製化AMD CPU的主機，來提供機密運算的能力，確保資料傳輸和處理的每一個環節都經過加密。 資料從CPU經由PCIe傳輸至TPU 8tx晶片的整條路徑都可受到加密保護，避免模型權重、提示詞和企業資料外洩，避免遭到系統操作人員的窺探。不只用於模型訓練，用於推論過程，也同樣能加密敏感資料和模型權重。 TPU 8tx的機密運算能力不只能部署在Google公雲，Google也開放特定企業將系統部署於自有地端資料中心，降低實體環境操作人員接觸敏感資料的風險。 Google指出，8tx不只是提供硬體層安全性，還有另一個特色是，將TPU 8i的低延遲網路拓樸架構Boradfly引進到8tx系統中，來縮短晶片之間的通訊路徑，讓8tx在提供硬體層級的機密推論保護時，還能進一步降低推論延遲。 第二款新發表的TPU系統是TPU 8i Max， 這款系統將兩顆8i晶片整合封裝於單一模組，在系統層級提供384GB的高頻寬記憶體，比8i多了33%，來支援更多的上下文資料和KV快取。 8i Max的記憶體存取頻寬也翻倍，達到每秒17.2TB，加快資料傳輸速度。8i Max晶片上的SRAM快取記憶體也翻倍增加為768MB。 Mark Lohmeyer比喻，8i Max系統的做法像是在高速公路增加了更多的車道，不是讓每一輛車開得更快，而是讓更多車輛通過高速公路，達到2倍的吞吐率。「當有大量代理同時檢索和生成輸出的需求時，整體吞吐量的提升，對於維持回應速度極為重要。」他強調。這正是TPU 8i Max瞄準大規模AI代理需求的設計。 Google的目標是讓TPU變得像通用硬體一樣容易使用，並持續降低使用門檻。上個月在PyTorch大會上發表了與Meta合作發展的TorchTPU開源專案，這是專為TPU打造的原生PyTorch後端，可以讓PyTorch開發者，保留模型、程式碼、函式庫、工具和所有工作流程。 Mark Lohmeyer表示，只要修改幾行設定程式碼，就能從GPU轉換至TPU執行。 Mark Lohmeyer表示， PyTorch是企業最愛用的AI框架，推出TorchTPU專案是Google擴大TPU採用率和吸引力的整體策略之一。 Google同時也針對開源推論引擎vLLM和SGLang推出了搭配的TPU後端，可以讓這兩大開源推論引擎不只支援GPU，現在也開始能支援TPU。TPU過去主要透過JAX工具和TensorFlow框架搭配使用，Torc
經濟日報
iThome10/27（二）
英特爾、AMD將擴大合作？陳立武透露已與蘇姿丰洽談
陳立武透露已與AMD蘇姿丰討論潛在合作領域，但未公布具體方向，雙方也尚未宣布新協議。 英特爾與AMD已在x86生態系、AI軟體合作；AMD正將ZenDNN整合進英特爾oneDNN，支援PyTorch AI推論CPU最佳化。 陳立武稱英特爾將以CPU為核心重振，盼客製化晶片與代工業務成長。
鉅亨網10/23（五）
輝達CUDA生態系遇挑戰！Google、亞馬遜從軟體下手 98%模型免大幅改寫
Google TPU已進入Meta資料中心推論服務，開發TorchTPU，降低PyTorch模型移植成本。 亞馬遜推TorchNeuron，支援Trainium2、3，挑戰輝達CUDA生態系。 Google稱98%既有PyTorch模型僅需調整裝置設定即可運行TPU，有望降低轉換時間與工程成本。
10/21（三）
英特爾攜手 AMD，簡化 x86 CPU AI 開發英特爾與 AMD 宣布合作，將雙方針對 - 禁聞網
英特爾攜手 AMD，簡化 x86 CPU AI 開發 英特爾與 AMD 宣布合作，將雙方針對 PyTorch […]
Google TorchTPU 開源釋出，AI 應用程式可移植至 TPU 執行
Google 21 日藉 PyTorch Conference 2026 宣布，開發者期待已久的 PyTorch 版本 TorchTPU，現已作為開源專案正式推出。Google 進而加入亞馬遜的行列，試圖打破 NVIDIA 對 AI 產業的宰制。 PyTorch 是一套熱門的開源機器學習與深度學習框...
Google、Meta合作提供開源TorchTPU，以打破Nvidia獨霸地位
TorchTPU技術讓開發者只需少量修改程式碼，就能讓既有PyTorch工作負載在Google TPU上執行，支援AI模型訓練、部署與推論
Google has joined Amazon in attacking Nvidia's stronghold w…
Google has joined Amazon in releasing a developer tool that makes it easy for PyTorch users to move their apps off Nvidia GPUs.
禁聞網
科技新報
TechCrunch10/20（二）
輝達RTX PRO 6000 Blackwell工作站問世，必恩威助攻專業AI創作
商傳媒｜葉安庭／綜合外電報導輝達（NVIDIA）推出新一代 NVIDIA RTX PRO™ 6000 Blackwell 工作站系列，這款高效能解決方案鎖定專業圖像、影音創作者、3D 設計師及 AI 開發者。該系列配備的繪圖處理器（GPU）主要由必恩威科技（PNY Technologies）供應，旨在加速 AI 工作流程、數據科學運算及各種創意應用。 NVIDIA RTX PRO™ 6000 Blackwell Workstation Edition 與 RTX PRO 6000 Blackwell Max-Q Workstation Edition 為桌上型解決方案，專為 AI 訓練、推論（inference）和數據科學而優化。其核心採用輝達最新的 Blackwell 架構，這是一種先進的 GPU 設計，能顯著提升運算效能與效率。單一系統最多可搭載四個 NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition GPU，提供高達 14.2 petaflops 的 AI 運算能力與 384 GB 的 GPU 記憶體。 對於數據科學工作，這些工作站能利用 NVIDIA CUDA®-X 和 RAPIDS 等 GPU 優化函式庫，大幅縮短延遲並減少對雲端資源的依賴。使用者可在本地端進行小型生成式模型和推理模型的測試、訓練與微調，並透過 NVIDIA® NGC™ 和 NVIDIA AI Workbench 進行整合。此外，運用 NVIDIA AI Blueprints 參考工作流程，開發者可客製化 Agentic AI 模型。 這款工作站在實體 AI 應用方面也表現突出，能支援機器人與自動化系統所需的即時決策，特別是在物理模擬和多模態感測器數據處理上。開發者可透過 NVIDIA NeMo 和 PyTorch 等框架，在本地端微調模型。NVIDIA RTX PRO™ AI Workstations 整合現有 IT 基礎架構，並具備可擴展的 GPU 架構，能將工作負載從桌面端無縫轉移至資料中心和雲端環境，為企業級部署提供強大支援。 針對創意專業工具，NVIDIA RTX PRO 6000 Blackwell Workstation Edition 也能顯著提升效能，例如 Adobe® Photoshop® Neural Filters、DaVinci Resolve 的人臉追蹤功能，以及 NVIDIA Broadcast 的降噪技術。其強大的 GPU 和大容量記憶體確保高解析度內容處理和多重 AI 增強應用流暢運行。
亞馬遜 AI 晶片軟體支援主流語言 搶攻輝達市佔
圖／示意圖商傳媒｜責任編輯／綜合外電報導亞馬遜（Amazon）宣布推出新軟體，旨在讓其自研的 AI 晶片能順暢運行主流程式語言，直接挑戰晶片大廠輝達（NVIDIA）在人工智慧硬體市場的長期主導地位。 這款由亞馬遜旗下半導體部門 Annapurna Labs 開發，名為 TorchNeuron 的新軟體，能讓開發者在亞馬遜的 Trainium AI 晶片上，直接運行由 Meta 維護、廣受 AI 開發者使用的熱門程式語言 PyTorch，且只需變更一次設定，無須修改程式碼。這項軟體將以免費且開源（open-source）的形式提供，預計於昨日在矽谷（Silicon Valley）的一場開發者大會上正式發表。 長期以來，輝達透過其專有的 CUDA 軟體工具，確保 PyTorch 程式碼能在自家晶片上高效運行，這也成為其在 AI 晶片市場上的一大競爭優勢。亞馬遜此舉的目的是簡化 AI 開發者採用其內部晶片的流程，降低轉換門檻，進而擴大市場佔有率。亞馬遜 Annapurna Labs 軟體副總裁 Colin Brace 表示，這項策略旨在「滿足客戶的需求」。 Colin Brace 指出，目前已有超過 30 家來自機器人、世界模型與語音 AI 等領域的早期客戶，透過這款新軟體將其工作負載轉移到亞馬遜的晶片上，並實現了顯著的成本節省。除了亞馬遜，谷歌（Google）等其他雲端運算服務提供者也正積極開發自家的 AI 晶片，並改進 PyTorch 工具，以吸引更多開發者投入其生態系，使得 AI 硬體市場的競爭日趨激烈。 亞馬遜此舉將促使 AI 晶片市場的軟硬體整合競爭進一步升溫，迫使晶片製造商不僅要在硬體效能上較勁，更需在軟體相容性與開發者體驗上投入更多資源。
AWS推出PyTorch擴充套件TorchNeuron，降低AI模型轉用Trainium晶片門檻
PyTorch擴充套件TorchNeuron讓開發者能在Trainium晶片上繼續使用PyTorch既有的測試、除錯及多晶片訓練工具，並支援逐項執行與編譯執行兩種模式
AI 模型換晶片免重寫程式碼？亞馬遜推 TorchNeuron，挑戰 NVIDIA CUDA 優勢
<p>從 Google、微軟到亞馬遜，科技巨頭紛紛投入自研 AI 晶片，試圖提供 NVIDIA GPU 以外的算力選擇。然而，NVIDIA 的競爭優勢不只有硬體效能，還包括難以複製的 CUDA 軟體生態系。開發者長期累積的程式碼、運算工具與最佳化技術，讓企業即使想改用其他晶片，也面臨不小的轉換成本。如今，亞馬遜宣稱推出「無須重寫程式碼」的新工具，準備從軟體切入，挑戰這道護城河。 亞馬遜旗下雲端服務事業 AWS 在美國時間 10/19 宣布，將開發工具 TorchNeuron 從私人測試擴大至公開測試，讓開發者只需調整少量設定，就能在自家 Trainium 晶片上執行既有 PyTorch 模型。PyTorch 是廣泛用於 AI 模型開發的開源框架，長期獲 Meta 支持。《TechCrunch》將這項進展形容為亞馬遜迄今對 NVIDIA 最大的一次挑戰。 從 PyTorch 下手，亞馬遜如何降低 Trainium 採用門檻？ TorchNeuron 並非亞馬遜首次讓 Trainium 支援 PyTorch。過去 AWS 已透過 Neuron SDK、PyTorch/XLA 提供相關功能，但開發者仍須配合不同的編譯與執行方式。根據《Startup Fortune》報導，過去的 XLA 整合方式，必須先將運算轉換成計算圖再執行，增加程式偵錯難度，也影響部分既有 PyTorch 工具的相容性。 TorchNeuron 的主要改變，在於提供 PyTorch 原生硬體後端，讓開發者能沿用更熟悉的工作流程。新工具支援即時執行模式（eager mode），可逐步執行程式、檢查運算結果，也支援 torch.compile 編譯及 […]</p>
亞馬遜推出 TorchNeuron，PyTorch 程式免改寫就能搬上 Trainium 晶片
亞馬遜（Amazon）19 日推出名為 TorchNeuron 的新工具，主打讓開發者幾乎無需重寫程式，即可將以 PyTorch 編寫的 AI 工作負載直接遷移至自家的 Trainium 晶片上執行，藉此削弱輝達（NVIDIA）在人工智慧運算市場中長期建立的軟體優勢。 根據亞馬遜 Annapurna...
亞馬遜劍指輝達CUDA護城河 推出開源工具TorchNeuron
亞馬遜推出開源工具TorchNeuron，降低開發者從輝達晶片轉向自研AI晶片的門檻。 亞馬遜讓開發者用PyTorch編寫的AI代碼無需重寫，即可在亞馬遜自研AI晶片上運行。 目前輝達在AI晶片市場佔據主導地位，大量PyTorch代碼運行在其晶片上。
Amazon is taking its biggest shot at Nvidia yet with new To…
Amazon wants to break Nvidia’s hold on PyTorch, the free toolkit used to build most AI apps, so that more developers run their apps on alternative chips like its own.
奧丁丁新聞
TechOrange 科技報橘
騰訊新聞