OpenAI 首款自研 AI 推論晶片 Jalapeño 核心細節曝光，以 AI 輔助設計重塑產業基準

OpenAI 近期進一步公開了旗下首款自研推論晶片「Jalapeño」的設計理念與未來藍圖。OpenAI 硬體副總裁 Richard Ho 強調，研發 Jalapeño 的初衷並非一味追求極致的峰值效能，而是為了解決資料中心在算力與供電受限的瓶頸。透過提升推論效率，不僅能有效壓低每次運算的成本，更能顯著改善 ChatGPT、Codex 及各類 AI 代理服務（Agent services）的反應速度與延遲。

Ho 說明，Jalapeño 的誕生歸功於 OpenAI 內部的「全端協同設計」（Full-stack co-design）。這讓研究人員與硬體團隊能密切合作，直接在模型、軟體與硬體架構之間做出最合適的取捨，這是傳統第三方晶片商難以企及的優勢。他進一步澄清，走向自研之路並非出於對市售晶片的不滿，而是希望能完美結合內部最前瞻的研究與硬體設計，打造出專為推論工作負載（Inference workloads）量身訂做的最佳解方。

對於外界猜測 Jalapeño 是一顆「只為 OpenAI 模型服務」的專用晶片，Ho 也做出反駁。他指出，團隊特地選用 SemiAnalysis 的 InferenceX 基準測試，就是要證明 Jalapeño 在運行各類開源模型與 Transformer 架構時，依然能維持頂尖效能。此外，該晶片具備極高的可程式化彈性，團隊在取得實體晶片後，僅花了約兩個月就順利完成各項測試與公開展示。

在技術規格方面，Ho 透露 Jalapeño 的硬體其實已經內建了投機解碼（Speculative decoding）功能。先前在測試數據中未見披露，純粹是因為準備時間過於倉促，來不及為基準測試訓練專用的草稿模型（Draft models）。他更預告，未來將逐步導入多 Token 預測技術，預計能為 OpenAI 內部模型帶來高達 3 到 5 倍的效能飛躍。

針對量產與上線時程，Ho 表示 Jalapeño 會先以小規模投入實際生產環境進行驗證，真正的大規模部署則鎖定在 2027 年。他也坦承，由於 OpenAI 自身的算力需求正處於爆發性成長，短期內這款晶片將全數用於支援內部生態，暫時沒有餘裕提供給外部客戶。

談及供應鏈與合作夥伴，Ho 透露 OpenAI 早就提前與晶圓代工廠及零組件供應商展開布局，儘管當前整體供應鏈產能吃緊，但一切準備仍掌握在預期之中。最後他強調，OpenAI 的最終目標是「降低整體基礎設施成本」，因此未來仍會持續評估市面上所有優質的晶片方案；只要能用更低的成本換取更好的效能，OpenAI 依然會採取多元硬體平台並行的策略，靈活採用外部供應商的產品。

（首圖來源：OpenAI）

您的咖啡贊助將是讓我們持續走下去的動力

從這裡可透過《Google 新聞》追蹤 TechNews