電腦王阿達

Google 一年推四套 TPU 系統 8i Max 塞兩顆 8i、8tx 打機密推理,但有個前提

署名 達小編全文約 2,443 字

文章摘要

電腦王阿達 · 文章頁摘要

TPU 8i Max 解決的是記憶體牆。當數十個 AI 代理同時處理整個程式碼庫或數小時的影片時,記憶體頻寬很快就會變成瓶頸。做法很直接:把兩顆低延遲的 TPU 8i 封進同一個封裝。運算、SRAM 與 HBM

Google 一年推四套 TPU 系統 8i Max 塞兩顆 8i、8tx 打機密推理,但有個前提(新聞配圖)
配圖來源:電腦王阿達

Google 一年之內推出四套 TPU 系統,這是 TPU 十年歷史上頭一遭。今日 Google AI 與基礎設施部門負責人 Amin Vahdat 在 X 上宣布,第八代 TPU 產品線再加兩款:TPU 8i Max 標榜最大的上下文視窗與單機櫃最高運算密度,TPU 8tx 則鎖定安全與機密推理。...