TechOrange 科技報橘

【token 變便宜，AI 帳單反而更貴】代理成本 2028 年前增逾 5 倍，Gartner 建議企業為推論分級

token 越來越便宜，企業的 AI 帳單卻可能越來越貴。市場研究機構 Gartner 預測，token 成本到 2030 年將下降 95%，但代理式工作流程的推論成本，到 2028 年卻將成長超過 5 倍。

• #AI 人工智慧

DeepSeek 把 AI 推論框架開源了！揭露單一叢集日處理 155 兆 Tokens 的系統設計

<p>單一叢集每天處理 155 兆 Tokens，DeepSeek 如何配置 GPU 與快取，支撐如此龐大的 AI 服務？中國 AI 新創 DeepSeek 10 月 20 日開源推論框架 DeepInfer，同步揭露自家 V4.1 Flash 大規模推論系統的部署細節。 《Bloomberg》分析，這套軟體有助加快 AI 模型執行、提高運算資源效率，DeepSeek 也表示希望藉此降低業界的運算與能源成本。更值得注意的是，這次開放的不只是模型權重或個別加速工具，而是整合式推論引擎。DeepSeek 究竟多公開了什麼，又如何處理如此龐大的推論需求？ 從開放模型權重到推論引擎，DeepSeek 這次有何不同？ DeepSeek 過去便以開放權重模型聞名，從 DeepSeek-V3、R1 等模型開始，企業與開發者便能自行下載、部署模型，不必完全依賴官方 API。但取得模型權重，不代表就能以同樣的效率提供大規模 AI 服務。 為提高推論效率，DeepSeek 在 2025 年陸續開源 FlashMLA、DeepGEMM、DeepEP 等函式庫，針對注意力機制、矩陣運算及混合專家模型（MoE）的跨 GPU 資料傳輸進行優化。不過，這些主要是解決特定運算環節的元件，而非整套推論引擎。 DeepSeek 曾在 2025 年 4 月的官方文章說明，原本考慮開源完整推論引擎，但因程式碼與內部叢集管理系統高度整合、維護人力有限，決定先分享個別技術。 如今 DeepInfer 則跨出下一步，整合既有加速元件，進一步公開模型執行、平行運算、非同步排程與推測式解碼等功能。值得一提的是，DeepInfer 最初建立在開源框架 vLLM 基礎上，也參考 SGLang、TensorRT-LLM [&hellip;]</p>

AI 成本失控，企業轉向私有雲：HPE 靠智慧路由省下六成 token 成本

<p>法國財務自動化軟體商 Esker 的調查顯示，72% 的財務主管坦言，公司過去一年的 AI 支出超出預算。為了控制預算，越來越多企業把 AI 搬回「私有雲」，讓企業自己擁有、自己管理的運算環境；HPE 就是其中的代表，它不只用這套架構壓低成本，還順勢翻新了財務部門的工作方式。 AI 成本飆升正推動企業轉向私有雲 企業使用 AI 多半按 token 計費，而近一年科技業盛行「tokenmaxxing」，意思是盡可能大量消耗 token。不少公司把 token 用量當成員工擁抱 AI 的指標，鼓勵大家多用、狂用，Meta 就曾為員工設置 token 用量儀表板。 但用量衝高的代價很快浮現，例如 Uber 短短幾個月就把 AI 預算用光，營運長也坦言這筆支出越來越難說服人。隨著外界對 AI 花費的檢視越來越嚴格，企業開始轉向提高效率、靠模型分流來控制成本。 博通（Broadcom）發布的《2026 私有雲展望》調查 1,800 位 IT 決策者，發現 56% 的企業已經或計劃在私有雲上，執行正式上線的 AI 推論（inference），也就是讓已投入日常業務的 AI 實際回答問題、處理任務。同類工作選擇公有雲的比例，則從一年前的 56% 降到 41%。 成本是最大推手，且「成本」首度超越「資安」成為企業對公有雲的頭號擔憂，97% 的 IT 主管認為公有雲支出過於浪費。因此，83% 的企業正考慮把工作負載搬回私有雲，半數已經付諸行動。 HPE 用智慧路由壓低 token 成本 [&hellip;]</p>

DeepSeek 把 AI 推論框架開源了！揭露單一叢集日處理 155 兆 Tokens 的系統設計

單一叢集每天處理 155 兆 Tokens，DeepSeek 如何配置 GPU 與快取，支撐如此龐大的 AI 服務？中國 AI 新創 DeepSeek 10 月 20 日開源推論框架 DeepInfer，同步揭露自家 V4.1 Flash 大規模推論系統的部署細節。

• #AI 人工智慧

AI 成本失控，企業轉向私有雲：HPE 靠智慧路由省下六成 token 成本

法國財務自動化軟體商 Esker 的調查顯示，72% 的財務主管坦言，公司過去一年的 AI 支出超出預算。為了控制預算，越來越多企業把 AI 搬回「私有雲」，讓企業自己擁有、自己管理的運算環境；HPE 就是其中的代表，它不只用這套架構壓低成本，還順勢翻新了財務部門的工作方式。

• #雲端與運算

AI 蠕蟲年底成形？Anthropic 示警小模型自我複製，外媒質疑實驗條件

<p>AI 能不能像電腦蠕蟲一樣，自行找到下一台裝置、把自己複製過去，而且不需要龐大的資料中心？Anthropic 前沿紅隊（Frontier Red Team）在 10/12 發布研究，在模擬的 Android 裝置網路中測試開放權重模型的自我複製能力，其中 GLM-5.2 在 5 次試驗中有 4 次擴散到全部 8 個節點。Anthropic 推估，若小模型維持過往的進步速度，今年底就可能具備同等能力。 研究一發布，科技媒體《The Register》就質疑實驗環境是刻意留下漏洞的特製節點。雙方對威脅多快到來看法不同，卻都把焦點放在同一道防線上：那些防護薄弱的廉價 IoT 裝置。AI 蠕蟲離現實還有多遠？企業和裝置製造商現在又該先補哪些洞？ 便宜電視盒就能跑模型，AI 已在模擬環境中自我複製 Anthropic 這次想回答的問題是：AI 能否不靠資料中心，在廉價的 IoT 裝置上自我複製？研究者認為，這種複製器一旦出現，由於沒有可以一鍵切斷的中央控制點，一旦出現將很難清除。 首先是確認便宜的硬體能否運行 AI 模型。研究團隊把 Gemma4-26B-A4B 模型分散到 15 台、每台約 55 美元的白牌 Android 電視盒上執行，速度為每秒 0.39 個 token。速度雖然很慢，但證明了串起廉價裝置就能運行模型。另一項測試中，9B（90 億參數）模型在 9 種測試硬體中，成功在 8 種上自行架起推論環境。 核心實驗則是在模擬環境中進行。研究團隊在 Google Cloud 上建置一個以防火牆隔離的網路，內含 8 個執行 [&hellip;]</p>

模型可換、資料可控：微軟卞志祥談 AI 時代企業如何守住核心競爭力

<p>訪談：戴季全撰稿：張哲瑋 隨著技術的突飛猛進，全球企業正加速邁入 AI Agent 時代，試圖將自動化普及至核心業務。然而當 AI Agent 獲得系統執行與存取權限時，矛盾隨之浮現：如何在提升營運效率的同時，精準把握權限與資料控管的邊界？企業組織與治理的轉型變革，是導入 AI 的企業決策者都必須面對的課題。 本集《全新一週》專訪台灣微軟總經理卞志祥，深入探討 AI 科技的最新趨勢與企業應用，分析在合乎安全與規範的框架下，AI 如何作為數位勞動力，來提升人類的工作生產力。節目中，他逐一拆解關於人力資本（Human Capital）與 Token 資本（Token Capital）的深度協作模式，模型可換與資料可控的核心策略，並展望未來結合雲端與終端的完整生態系。 從聊天機器人到代理人，AI 的定位正從協作走向自主代理 卞志祥形容，過去四年的 AI 發展是「充滿了驚喜跟驚奇，甚至有一些驚嚇的旅程」：從陪人聊天的聊天機器人（Chatbot），到執行特定任務、把自動流程（RPA）智慧化，再到如今能理解意圖、拆解子任務的 AI Agent。卞志祥判斷，下一步將是能在數位世界中真正代表使用者執行工作的「代理人」。 這也是卞志祥解讀微軟此次 Copilot 改版的角度。他強調，微軟推出的不是 Autopilot 這個單一產品，而是一套類似超級應用程式（Super App）的「組合拳」：前端的 Copilot 與 Cowork 理解意圖、拆解任務，中間的 Code 自動撰寫程式碼串接其他系統，後端的 Autopilot 則在安全、合規的雲端環境中，端到端（End-to-end）完成任務。「你可以把前面視為協作，中間是編碼，後面叫做代理。」 不過，AI 能做的事愈多，企業就愈需要回答一個問題：它怎麼知道該替誰、做什麼事？ 同一句指令，不同員工該得到不同結果：AI Agent 也需要到職訓練 卞志祥以新員工到職比喻：新人要花幾個月認識部門、主管與職責，再理解公司在產業中的位置與領域知識（Domain Know-How），才能在對的時間做對的決定。反觀現在的 AI Agent，「A 員工用的 AI Agent 跟 B 員工用的 AI [&hellip;]</p>

微軟 Maia 300 拚 2027 數 GW 部署，新自研 AI 晶片如何突破推理瓶頸？

<p>微軟正準備讓自研 AI 晶片承擔更大規模的運算任務。其發表第三代 AI 晶片 Maia 300，宣布自 2027 年起將 Maia 系統擴展至數 GW（百萬瓩）規模，成為旗下產品與服務的主要 AI 推理平台。《Reuters》報導，潛在部署數量可能超過 100 萬顆。 當 AI 推理走向如此龐大的部署規模，如何讓新增算力真正轉化為服務能力？根據微軟官方公告，Maia 300 的機櫃級 token 吞吐量最高達前代 Maia 200 的 7 倍，每瓦效能提升超過 2.5 倍。這些數字背後不只是單顆晶片變快，而是涉及記憶體、網路、電力與散熱的整體設計。 單顆晶片更快還不夠，Maia 300 如何讓整個機櫃效率提升？ 大型 AI 推理系統的效能，並不只取決於晶片運算速度。隨著 AI 應用走向長上下文推理、多步驟 Agent 任務，模型需要處理更多上下文資料，並可能由多顆加速器共同執行。記憶體存取速度、資料搬移及晶片間通訊，都可能成為效能瓶頸。微軟在技術解析文章指出，Maia 300 的設計重點之一，就是減少資料搬移造成的運算與能源負擔。 首先，Maia 300 配備 8 組 HBM4 高頻寬記憶體，最高頻寬達每秒 18 TB，是前代的 2.5 倍。同時，微軟將晶片內部記憶體改為重視資料位置的 NUMA 架構，讓資料盡可能靠近使用它的運算單元，減少不必要的傳輸。此外，透過低精度資料格式，也能降低每次推理需要儲存與搬移的資料量。 [&hellip;]</p>

iKala 專訪：從零點擊到 Agentic Commerce，企業與品牌如何面對這場 AI 生存戰？

<p>試著回想一下，你上一次在 Google 搜尋後，真的點進某個網站，是什麼時候的事？ 根據 iKala 共同創辦人暨集團董事長程世嘉引用的數據，目前 Google 搜尋的零點擊率已高達 70%，消費者不再需要點進網站，因為 AI 已經替他們整理好答案，當 ChatGPT、Gemini、Perplexity 這些生成式 AI 引擎成為人們獲取資訊的主要入口，品牌與消費者之間的關係正在發生轉變。 同時，Google 與 OpenAI 正積極布局 AI 購物功能，當 AI Agent 開始代替人類搜尋、比較、甚至結帳，介入消費者的金流與人流，品牌失去的不只是流量，而是整個交易機會，品牌若無法被 AI 認識並推薦，將在這場商業賽局中徹底出局。 AI 賽局剛到第三局！從「智慧通膨」看企業競爭力 程世嘉引用 Google 的每月 token 處理量說明，從 2024 年 5 月的 9.7 兆、2025 年 5 月爆增至 480 兆，再到 2026 年 5 月已達到 3.2 quadrillion（千兆），光是最後一年就成長了７倍。程世嘉用「智慧通膨」來形容這個現象，同時也意味著當 AI 的供給以指數級速度累積，任何依賴人力執行、缺乏 AI 能力的企業，競爭力將以同等速度被稀釋。 而面對這波浪潮，許多企業卻還卡在起跑線上。 [&hellip;]</p>

AI 模型越便宜反而越花錢？史丹佛等機構研究：近 1/3 模型成本比較出現「反轉」

<p>AI 模型的 API 價格持續下降，企業選擇較便宜的模型，就一定能降低成本嗎？史丹佛大學等機構一項研究發現，在 336 組 AI 模型成本比較中，約 32% 出現「價格逆轉」（Price Reversal）現象，也就是 API 單價較低的模型，執行相同測試任務反而更花錢。隨著 AI Agent（AI 代理）開始承接更多複雜工作，這項發現也對企業過去依據模型單價比較成本的方式提出挑戰。 API 單價便宜 80%，實際成本卻高出 38% 這項由史丹佛大學、卡內基美隆大學、加州大學柏克萊分校及 Microsoft Research 研究人員共同完成的論文《The Price Reversal Phenomenon》，最初於今年 3 月發表、5 月修訂。 研究比較 GPT-5.4、Gemini 3 Flash、Claude Opus 4.7 等 8 款前沿推理模型，涵蓋數學、科學問答、程式設計，以及需要多次與外部環境互動的 AI Agent 任務，共計 12 類測試。 以 Google Gemini 3 Flash 與 OpenAI GPT-5.4 為例，研究將每百萬輸入與輸出 Token 的價格相加作為比較指標，Gemini [&hellip;]</p>

叡揚資訊提供三大 Forrester 微分段解方 打造更貼近企業環境的零信任架構

<p>面對零日漏洞、勒索軟體等威脅，攻擊者一旦進入企業環境，即可能迅速在內部系統間橫向移動並擴大影響範圍。企業資安防禦的重點，也逐漸從「如何阻止攻擊進入」，延伸至「即使發生入侵，如何限制攻擊擴散並降低營運衝擊」。在此趨勢下，微分段（Microsegmentation）正從網路安全控制，逐步成為企業落實零信任（Zero Trust）、限制橫向移動及提升資安韌性的重要能力。 Forrester 於 2026 年第三季發布《The Forrester Wave™: Microsegmentation Solutions, Q3 2026》，針對市場主要微分段解決方案進行評估，並從產品能力、策略及客戶回饋等面向進行分析。其中，叡揚資訊所引進的 Illumio、ColorTokens 及 Akamai Technologies 三大微分段解決方案皆獲評為 Leader（領導者），三大方案各具技術特色，涵蓋不同企業環境與微分段需求，也展現叡揚資訊在零信任領域的完整產品布局。 從最小權限出發 限制橫向移動並提升事件應變能力 Forrester 指出，微分段過去主要應用於地端網路安全，也常被視為零信任成熟度較高的企業才會導入的技術；隨著部署與日常維運方式持續改善，現在已能適用於更廣泛的企業環境，並進一步協助企業掌握資產、了解系統間的通訊關係，進行流量控管以及支援資安事件後的調查與威脅控制。除了限制不必要的連線，現今的微分段解決方案也能協助企業了解「有哪些資產」以及「這些資產彼此如何通訊」，讓資安與 IT 團隊更容易掌握環境現況。當事件發生時，相關資訊也能協助團隊迅速判斷影響範圍、即時遏止威脅擴散，並保留相關記錄以完善事後的調查稽核。 隨著零信任在台灣逐步落地，金管會亦發布「金融業導入零信任架構參考指引」，提出強化連線驗證、授權管控，以及網路及資源存取的細化權限管控等方向，也讓企業對於網路分段、存取控制與最小權限的實務需求持續提升，微分段因此成為落實零信任架構的重要技術之一。 網路微分段三大領導品牌各具特色 滿足不同企業零信任需求 企業的 IT 架構、應用系統與營運環境各不相同，微分段可由對外服務區、資料中心與核心伺服器等 IT 核心環境開始，並依企業風險、營運需求與零信任發展階段，逐步擴展至端點、雲端、多據點，以及 OT 與 IoT 環境。叡揚資訊結合多品牌產品與在地導入經驗，可依企業現有 IT 架構、應用環境、資安成熟度與未來發展方向，協助規劃適合的微分段方案與導入路徑。 IT 微分段是 Illumio、ColorTokens 與 Akamai Guardicore Segmentation 共同的核心能力，但在政策執行架構與延伸能力上三項產品各具特色。其中，Illumio 與 ColorTokens 均透過主機端 Agent 執行微分段政策，並透過作業系統內建防火牆執行政策，ColorTokens 可進一步延伸至 OT、IoT 與 AI [&hellip;]</p>

【貝萊德機器原生經濟報告】Token Economy 打通 AI 商業行為，穩定幣與算力成新型態金融資產

全球資產管理公司貝萊德（BlackRock）旗下的數位資產研究團隊，發布《機器原生經濟》（The Machine-Native Economy: How digital assets connect intelligence, commerce, and

• #AI 人工智慧

Gemini 4 終於登場：一次可輸出 100 萬 token，Google 為何要把 AI 單次工作量做這麼大？

<p>Google 在美國時間 9/30 推出新一代旗艦模型 Gemini 4 Argon，這也是自 2025 年 11 月 Gemini 3 系列後，睽違近一年再更新的最高階模型。而原訂今年 6 月推出的 Gemini 3.5 Pro 最終取消，Google 直接進入 Gemini 4 世代。 《Axios》指出，在這段期間，Google 主要推出速度更快、成本更低的 Flash 模型，OpenAI、Anthropic 則持續更新前沿模型，Gemini 4 因此也肩負 Google 重返最高階模型競爭的任務。Google 將 Argon 稱為目前為複雜工作負載打造、效能最高的模型。其發言人向《Reuters》表示，它在關鍵程式設計與資安測試上的表現，可與 OpenAI Astra、Anthropic Opus 等前沿模型相比。 Argon 並非全面領先，Agent 能力進步更值得看 Google 公布的測試中，Argon 在衡量長時間真實軟體工程任務的 DeepSWE v1.1 拿下 77.9%，高於 Astra 的 74.1% 與 Opus [&hellip;]</p>

每發出一次提示詞都是一次採購決策，企業需要 Token-as-a-Service 新框架

<p>企業第一次買進 AI 工具時，預算看起來往往不難計算，只需掌握帳號數量、合約效期、單價多少，都能寫進採購預算。真正失控通常發生在導入後。 當 AI 從少數人的工具，變成開發、行銷、法務、人資與客服每天都會使用的隨身助理，企業面對的已不只是一張張軟體訂閱帳單，而是一筆隨使用行為持續變動的消耗式支出。 AI 支出暴增的真正原因 以前企業買軟體，抓預算很單純，帳戶數乘以單價，大致就能算出一年要花多少錢。就算後來雲端運算改成用多少算多少，工作負載也還是集中在幾套看得到、抓得到的系統跟基礎設施上。 但生成式 AI 不一樣，它把「用量」這個入口，打散到每一個員工、每一套應用程式、每一條自動化流程裡。 換句話說，只要有人送出一句提示詞、呼叫一次大型語言模型的 API、讓 AI 自動生成一份報告或寫一段程式碼，甚至是 AI 代理為了完成任務，反覆規劃、查詢、修正，這些動作全部都在持續累積用量。 於是，企業的支出會增加，往往不是因為簽了什麼特別貴的新合約，而是幾百萬次的日常互動，在背後默默疊加起來的結果。 至於這些用量怎麼算，多數文字模型是用「token」計算。Token 是模型處理文字時的最小單位，一個英文單字、字根、數字，甚至一個標點符號，都可能被拆成不同數量的 token。輸入的內容越長、要求模型記住的上下文越多、輸出的內容越完整，消耗的 token 通常也越多。 而且每個模型切分文字的方式不一樣，計費費率也不同，所以就算兩家企業的業務量差不多，只因為選的模型不同、工作流程設計不同，實際花費也可能天差地遠。這正是 AI 支出讓人難以預測的根本原因。 事實上，企業現在買的已經不是一套裝好就固定不變的軟體，而是一種隨時被呼叫、隨需求調用的「智慧」。使用的人變多、應用範圍變廣、AI 代理執行的次數變頻繁，成本就會跟著同步放大。正因為支出變得這麼難掌握，業界才開始出現一套新的框架，試圖把這團混亂重新收攏。 為什麼需要「Token 即服務」這套新框架？ 這套框架叫做 Token-as-a-Service（TaaS），狹義來看，是一種按 token 用量計費的服務模式。簡單來說，直接租用 GPU 就像包下一整台機器，不管實際用了多少，租金都要照付；TaaS 則比較像水電費，模型實際處理了多少 token，企業就支付多少費用，還能看出客服、法務或各個專案分別用了多少，避免所有支出混在同一張帳單裡。這不只讓成本更容易看懂，也能減少為沒有用到的運算資源付錢。 不過，如果只把 TaaS 理解成一種新的計價單位，並不足以解決企業真正的問題。 從採購治理的角度來看，TaaS 更重要的意義是一套管理 AI 用量的框架。企業不只要知道每百萬 token 多少錢，還得持續追蹤需求從哪裡產生、承諾用量是否合理、哪些部門正在消耗 token、供應商曝險有多大，以及這些 token 最後換回了什麼。 也就是說，TaaS 並不會讓總支出自動變得可預測，而是讓原本分散、波動的 token 用量，變得可量測、可歸責、可調整，採購團隊才能據此設定預算與配額、建立異常警示、重新談判承諾用量，並比較外部模型服務與自建系統的長期成本。 [&hellip;]</p>

「Token 使用量可降至五百分之一。」SAS 分享實戰經驗：治理，才能讓 AI Agent 真正創造價值

<p>TechOrange 科技報橘日前（9/17）在新竹舉辦「AI 智造領航午宴」，邀集多位高科技製造業中高階主管蒞臨餐敘交流，共同探討 AI 落地製造現場的實務路徑。現場特別邀請全球數據分析與 AI 領導品牌 SAS 帶來專題分享，揭露一套能同時兼顧「安全治理」與「成本控管」的解方。 當 AI Agent 開始接入 ERP 及其他企業內部系統，企業就必須同步建立權限控管、執行紀錄與人工決策機制，才能掌握 Agent 使用了哪些資料、執行了哪些動作，並安全地擴大應用。SAS 業務副總經理張志豪以電動車為例說明，「大家知道電動車的門與煞車至今都還是機械式的，因為我們必須把安全的最後一關掌握在人的手裡。SAS 在做的事情也是同樣的道理——讓企業內使用 AI Agent 時，將安全的最後一道防線，牢牢把握在 IT 人員、員工與決策者的手上。」 不經意間把大把鈔票花在 Token 的費用上 防線控管，也關乎企業使用大語言模型 LLM 的實際成本。「我們一方面在積極地推 AI，卻在不經意間把大把鈔票花在 Token 的費用上面，」張志豪舉例，如果以 10 名分析師、一份包含 7.5 萬列與 20 個欄位資料表的情境試算：若全部交由 LLM 處理，在每年建置一次完整模型的基礎下，估算資料探索、清理、特徵工程、模型訓練與評估等生命週期階段約消耗 3.75 億 Token；若透過 SAS Viya MCP Server 將互動與資料分析分流，讓 LLM 負責理解與回應，大量資料處理則回歸企業內部 SAS 平台執行，Token 使用量可降至約 75 [&hellip;]</p>

快取價格低至 0.003 美元：DeepSeek V4.1-Flash 省 API 推理，私有化部署卻面臨硬體新考驗

<p>DeepSeek 昨晚推出 DeepSeek-V4.1-Flash，採用 5,520 億參數的混合專家（MoE）主幹架構，具備原生視覺能力與 100 萬 token 上下文視窗，架構重點在於降低反覆讀取大量上下文的成本。 V4.1-Flash 的效率提升：降低 API 開發者的推理成本 V4.1-Flash 離峰時段快取命中每百萬輸入 token 收費 0.003 美元，未命中 0.15 美元，每百萬輸出 token 0.60 美元，尖峰時段價格加倍。AI 代理常反覆處理同一套程式碼庫、工具定義或對話紀錄，重讀的快取上下文可能遠多於新的上下文。DeepSeek 也表示，快取命中費用可能占代理成本的相當大比例。相較之下，GPT-5.6 Sol、Claude Opus 5 與 Kimi K3 的快取輸入價格分別為每百萬 token 0.40、0.50 與 0.30 美元。 《VentureBeat》指出，假設 AI 代理保留 50 萬 token 的可重複使用前綴，並在 100 次請求中都命中快取，若不計快取寫入、新增上下文與輸出，V4.1-Flash 離峰時段約只需 0.15 美元，Kimi K3、GPT-5.6 Sol 與 Claude Opus [&hellip;]</p>

【AI 模型路由新解】Snowflake 不只比快比省，真正賣的是資料留在受控邊界內

<p>雲端資料平台 Snowflake 推出 Cortex AI Gateway，讓客戶透過「自動」模式，將每項任務主動分配到兼具品質與成本支出的 AI 模型，最多可將 Token 成本降低 3 倍。</p>

AI「研究實習生」達標：OpenAI 中位數研究人員每日燒 600 美元 token，前段班破 7,000 美元

<p>OpenAI 近期表示，根據內部測量結果，公司已達成去年秋季設定的目標，在今年 9 月前打造出自動化研究實習生。依 OpenAI 的定義，研究實習生能在人類指導下執行定義明確的研究任務，範圍涵蓋熟練研究人員需耗時數日的工作。但邊界也很明確，研究優先順序仍由人類設定。 OpenAI 目前朝著 2028 年 3 月前打造自動化 AI 研究員的目標推進。 AI 代理工作量達人類 3.1 倍？實驗提交量創新高 《Unite.AI》報導，OpenAI 研究人員今年大幅增加 AI 程式編寫代理（coding agents）的使用，不少人會同時讓多個代理執行工作。到了 8 月中旬，研究部門中位數研究人員已每天使用 AI 代理，若以 API 價格計算，每日推理成本超過 600 美元；而位居第 90 百分位的使用者，目前每日消耗的 token 成本超過 7,000 美元。 OpenAI 截至 8 月中旬，AI 代理所執行的工作量已超過研究人員本身。OpenAI 表示，以 8 小時工作日計算，研究部門每投入一個人類工作日的勞動，就對應 3.1 個代理工作日的工作量。研究人員提交程式碼的速度也隨之加快、進行的實驗變多，每位活躍實驗者的實驗數量在 2026 年 8 月創下自 2025 年 1 月開始追蹤以來的新高。OpenAI [&hellip;]</p>

Gemini 3.8 Flash 軟體工程測試勝 Fable 5？Google 新模型上線：定價不變但 token 用…

<p>Google 宣布推出 Gemini 3.8 Flash，距離前一代 Gemini 3.7 Flash 上線才過了幾週。Google 表示，新模型在處理複雜任務時會執行更多推理步驟，並反覆調用工具，整體處理能力較 Gemini 3.7 Flash 更進一步。新模型目前已開放一般使用者使用，但需訂閱 Google AI Pro 或 Ultra；開發者和企業用戶也能使用。 Gemini 3.8 Flash 上線引討論：token 用量增、實際成本恐比標價高？ 《The Verge》指出，Gemini 3.8 Flash 初始定價與 3.7 Flash 相同，每百萬個輸入 token 收費 0.75 美元，每百萬個輸出 token 收費 3.75 美元，不過實際使用成本仍可能更高。Google 表示，為了追求更好的效能，模型可能會使用更多 token，尤其是在調高運算投入程度時。開發者若希望控制 token 用量，仍可選擇 Gemini 3.7 Flash。 Gemini 3.8 Flash 推出後，也陸續引發外界關注。Artificial Analysis 將焦點放在模型的價格，指出 Gemini 3.8 [&hellip;]</p>

能自主跑 38 小時、成本最多省 45%：Anthropic 推出 Fable 5.1，預告 EFS 架構秋季上線

<p>Anthropic 發布 Claude Fable 5.1 與 Mythos 5.1，兩者採用相同底層模型。Fable 5.1 已正式開放使用，主打長時間、持續性的複雜任務；Mythos 5.1 則透過限制存取計畫，提供經審核的資安與生命科學組織使用。 《VentureBeat》報導，此次更新的重點包括 Fable 5.1 的模型能力提升、快取成本下降，以及企業級 AI 使用監控機制 EFS。 長效執行力提升仍面臨價格戰：Fable 5.1 主攻 Agent 應用，對決 GPT-5.6 與 Gemini 《VentureBeat》指出，Fable 5.1 基本價格維持不變，每 100 萬個輸入 token 收費 10 美元、輸出 token 50 美元。不過，快取讀取價格從前代每 100 萬 token 1 美元降至 0.25 美元，降幅達 75%。5 分鐘與 1 小時快取寫入價格則分別為 12.50 美元與 20 美元。Anthropic 表示，新的快取定價可讓一般工作負載的實際成本降低約 [&hellip;]</p>

AI Agent 的 Token 燒得比預期快，不想收到超額帳單該注意哪些事？

<p>為什麼有些企業 AI Agent 才上線沒多久，雲端帳單卻先失控了？ 問題不一定出在 AI 太貴，而是很多企業一開始就低估了 AI Agent 的使用方式，一個 Agent 可能不只問一次 AI，而是會自己搜尋資料、呼叫工具、請其他 Agent 幫忙，再把結果重新交給模型判斷，每多做一步，就可能多產生一次甚至數十次的模型呼叫。 所以，真正讓帳單爆炸的，往往不是「用了 AI」，而是不知道 AI 到底用了多少、怎麼用、為什麼一直用。 而這些問題，通常就藏在以下三個容易被忽略的成本陷阱裡。 陷阱一：AI 不是「買斷就沒事」，用越多可能花越多 過去企業使用 SaaS（軟體即服務）時，多半採「固定金額」訂閱制。付多少錢、能使用哪些功能，通常在一開始就能算清楚，企業也比較容易編列預算。 但 AI 的計費方式不太一樣，許多 AI 服務是按照實際使用量計費，從每一次提問、資料分析，到模型產生回應，都可能產生費用。也就是說，AI 用得越多，成本就可能越高。 更重要的是，AI Agent 並不是單純「問一次、答一次」的工具，它可能會在執行任務的過程中搜尋資料、查詢系統、呼叫不同工具，甚至請其他 Agent 協助。看似只是完成一項工作，背後卻可能已經進行了多次 AI 呼叫。 如果企業一開始只估算「有多少人會使用 AI」，卻沒有進一步了解 Agent 一次任務到底會呼叫多少次模型，實際成本就可能和原本預估的差距很大。 陷阱二：Agent 越多，不代表效率越高，帳單也可能一起長大 如果只有一個 AI Agent，企業或許還比較容易掌握它做了多少事情，但當企業開始讓多個 Agent 分工合作，也就是所謂的「多 Agent 工作流」（Multi-Agent Workflow），情況就不一樣了。 例如，讓 A 助理負責撰寫內容、B 助理進行合規審查、C [&hellip;]</p>

【shady AI 現形】比 shadow AI 更難防，已核准的 AI 工具，正在製造新的資安黑洞

<p>2026 年 3 月，Meta 內部一起「Sev 1」等級事故，讓資安圈開始正視一種過去未曾被明確定義的風險。事情的起點，是一名 Meta 員工在內部論壇貼出技術問題，工程師使用公司已核准的 AI 代理來分析，這個代理卻在未經授權的情況下，把回覆內容公開發布。 員工照著建議操作，無意間讓大量敏感資料，暴露給未經授權的工程師長達兩小時以上。 Meta 事故揭露的新風險型態 這起事故的特殊之處在於，涉事的不是違規工具，而是一套正式核准的 AI 代理，只是它的行為方式沒人事先預料到。這正是資安領域下一個重大治理難題的縮影：shady AI（可疑 AI）。 過去業界熟悉的「shadow AI」（影子 AI），指的是員工使用未經核准、對治理平台不可見的工具；而「shady AI」則是已經核准、卻在行為上超出原本政策範圍的工具。 兩者的關鍵差異在於，shadow AI 發生在組織能見度之外，shady AI 卻發生在能見度之內，反而更難被察覺、控制與治理。 shady AI 為何正在興起 AI 治理不完全是資安部門的責任，但只要 AI 觸及敏感資料或存取控管，資安就扮演關鍵角色。2026 年 7 月一項 SANS（SANS Institute，全球資安教育、研究與認證機構）調查發現，如今已有 76% 的資安團隊，在企業 AI 治理中擔負某種角色，但這些團隊如今不只要提防 shadow AI，也得正視 shady AI，因為「核准一項工具」，已不再等同於「核准這項工具的所有用法」。 這個差異可以放進一套治理光譜來理解。光譜上有四個階段，第一是「禁止」，工具完全不能用；第二是「核准」，工具被加入白名單，但沒有設下任何使用限制；第三是「監控」，員工的使用行為會被記錄下來，但警示往往要等到資料外洩發生後才會觸發；第四是「控管」，也就是在工具實際執行的當下，就針對特定行為、資料範圍與 token 用量，強制套用政策。 問題的核心，就藏在這四個階段之間的轉變。在「禁止」階段，資安團隊只要直接拔掉插頭，工具就用不了；但走到「控管」階段，事情沒這麼簡單，資安團隊得把檢查機制，直接內建進工具的工作流程裡面，才管得住。 shady AI 興起主要有三個原因，第一是已核准 AI [&hellip;]</p>

【科技早餐】AI 算力愈強、傳輸愈吃緊！台積電：矽光子 2027 年市占破 50%

<p>【科技早餐】今天精選 8 則國內外重要科技新聞。 ＊台積電：矽光子 2027 年光收發器市占估破 50%，AI 傳輸成新瓶頸 SEMICON Taiwan 國際半導體展 9 月 2 日登場，展前技術論壇率先聚焦 AI 運算瓶頸。台積電指出，AI 推理與代理式 AI 帶動運算量快速成長，但記憶體頻寬與資料傳輸速度跟不上。台積電引用高盛預估，到 2030 年全球 AI Token 使用量將較 2026 年增加 24 倍；AI 運算能力每兩年約成長 3 倍，I/O 效能卻僅成長約 1.4 倍。隨著資料中心從單一機櫃擴展至跨機櫃，資料搬移的能耗比重甚至已超過運算本身，成為 AI 系統持續擴大的限制。 台積電先進封裝技術發展副總經理徐國晉表示，矽光子已成為光收發器主流型態，預估 2027 年市占率將超過 50%；2025 年光收發器銷售額年增 25%，2026 年預估再增 50%。台積電指出，傳統銅線在高頻環境下難以支援長距離傳輸，光學傳輸則可延伸訊號距離並提升能源效率。台積電也正把矽光子與 3D 晶片堆疊、CoWoS 等先進封裝整合；徐國晉指出，雷射、光纖、連接器與測試仍是大規模部署需要突破的供應鏈環節。 ＊美國擬堵中國海外租用 NVIDIA 算力，鎖定泰國、新加坡 美國政府傳出準備把 AI 出口管制從實體晶片進一步延伸到遠端算力。《The Information》報導，美國商務部正在研擬新規則，希望限制中國 [&hellip;]</p>

Uber 曾 4 個月燒完全年 AI 預算，後來怎麼管住 Agent 成本？

<p>AI Agent（AI 代理）用得越多，企業的下一道難題也開始從怎麼導入，轉向怎麼控制成本。Uber 今年就碰上這個問題。《Fortune》5 月報導，Uber 前 4 個月便用完原先編列一整年的 AI coding 工具預算。但幾個月後，情況出現明顯反差。 Uber 近期公布，今年 2 月至 8 月，公司內每週 Agent 請求量成長 9.4 倍、活躍使用者增加 7 倍，超過 70% 的程式碼合併請求（pull request，PR）已有 Agent 參與，但整體 AI 支出自 4 月起維持穩定。若固定使用相同模型比較，每 1,000 次模型請求成本較高點下降近 34%，每個工作階段（session）成本也較 6 月高點降低 52%。 也就是說，Uber 沒有靠減少 Agent 使用來控制帳單。從前 4 個月燒完全年預算，到 Agent 使用規模持續擴張、支出卻不再同步暴增，Uber 到底改了什麼？ Uber 先把一筆 Agent 帳單拆開，從使用者、session、互動輪次，到模型請求數、每次請求使用的 token 與 token 單價逐項檢視。在具體做法上，Uber [&hellip;]</p>

AI Agent 不必全程上雲？Perplexity 聯手 NVIDIA 推 Portable Computer

<p>當 AI Agent（AI 代理）開始長時間、自主執行任務後，還適合每一步都靠雲端模型、按 token 付費嗎？和一問一答的聊天機器人不同，Agent 為了完成一項工作，可能持續規劃任務、讀取文件、搜尋資料、呼叫工具，再反覆檢查結果。當工作時間從幾秒拉長到數十分鐘甚至數小時，模型呼叫次數跟著增加，雲端推論成本與資料傳輸問題也會被放大。 Perplexity 現在提出另一種做法，8/25 它與 NVIDIA 推出「Portable Computer」，嘗試把原本依賴雲端執行的 Agent 工作流程搬到使用者自己的設備，需要最新網路資訊或更強模型時，再選擇向雲端求援。 Portable Computer 是「本地端優先」的 Agent 名稱雖然叫 Portable Computer，但它不是 Perplexity 推出的一台實體電腦，而是一套本地端優先的 AI Agent 軟體環境。Perplexity 官方表示，這是其產品 Perplexity Computer 的完全本地版本，模型、Agent 執行架構、對話內容與任務執行過程，預設都能留在使用者設備上。 它也不只是下載一個大型語言模型到電腦裡。《VentureBeat》指出，Portable Computer 把 planner、工具路由、排程、任務佇列、本地搜尋、安全沙盒等 Agent 執行元件一起搬到本地，讓 Agent 能在設備上完成規劃、讀取資料與操作工具等一整套流程。 目前 Portable Computer 首先針對 NVIDIA 的桌上型 AI 超級電腦 DGX Spark 最佳化。DGX Spark 採用 GB10 Grace [&hellip;]</p>

Anthropic 最強模型只占 11% 客戶模型支出，Fable 5 暴露 AI「能力溢價」難題

<p>還記得兩個月前 Anthropic 推出 Claude Fable 5 時，曾把它形容為該公司歷來對外公開過能力最強的模型嗎？ 6 月 9 日，Anthropic 一口氣發表 Fable 5 與 Mythos 5，其中面向一般市場的 Fable 5，在軟體工程、知識工作、科學研究等多項測試達到最先進水準，官方甚至預期需求會非常高。沒想到推出僅 3 天，美國政府就祭出出口管制，要求限制任何外籍人士使用 Fable 5 與 Mythos 5。Anthropic 因無法即時驗證使用者國籍，乾脆暫停所有人的存取，直到 7 月 1 日才重新向全球開放。但真正恢復供應後，Fable 5 並沒有迎來想像中的使用熱潮。 最強模型重新上線，卻只拿下 11% 企業模型支出 《Financial Times》引述企業支出管理公司 Ramp 的最新資料指出，在其追蹤的美國企業中，Fable 5 過去一個月只占企業向 Anthropic 購買 token 的 6%；在這些企業支付給 Anthropic 各模型的費用中，Fable 5 也僅占 11.4%。 相較之下，GPT-5.6 Sol 占 [&hellip;]</p>

從單點風險到產線韌性，叡揚資訊打造製造業資安閉環：看得見、隔得開、追得完

<p>根據 Gartner 預測，企業若採用持續威脅暴露管理（CTEM），可降低約 67% 的安全漏洞與資安事件，帶動防守戰略從被動回應轉為主動防衛。面對日益嚴峻的資安防禦考驗，叡揚資訊資安直屬事業處技術顧問許農育於日前「半導體供應鏈競爭力論壇」中，以「從一行外部程式碼到一條產線停擺：製造業資安閉環」為題，分析高科技製造業面臨的新型態供應鏈資安威脅，強調企業應建立持續監控與自動化治理能力，從源頭化解隱形風險並確保產線運作穩定。 從攻擊看製造業防禦盲點，建構三層「可視化」架構 現代製造業的資安防護已無法僅仰賴傳統的內網邊界防禦。許農育以 2024 年 Polyfill.io 供應鏈攻擊事件為例，多家知名企業網站因載入的外部套件遭惡意篡改，使攻擊者藉此將惡意程式碼散布至使用相關服務的網站，凸顯第三方與開源軟體供應鏈可能成為企業難以察覺的風險入口。 外部程式碼所引發的供應鏈威脅，可能進一步衝擊企業營運；同時，隨著主管機關合規要求與客戶稽核日益嚴格，製造業也面臨更高的資安治理要求。對此，許農育提出叡揚資訊可助製造業建構資安韌性的核心框架——「看得見、隔得開、追得完」，協助企業從風險可視性出發，逐步建立完整的資安防禦閉環。 其中，第一階段「看得見」著重於提升資安可視性，並從外部攻擊面、軟體供應鏈及程式碼三大層面進一步剖析： 從「看得見」到「隔得開」，降低攻擊橫向擴散風險 掌握風險只是第一步。許農育進一步指出，當資安事件發生時，企業更需要掌握受影響設備與系統之間的連線關係，避免單點入侵進一步擴散至其他關鍵資產。傳統工廠內網若缺乏足夠的流量可視性與存取控管，一旦單一設備遭到入侵，攻擊者可能透過橫向移動持續擴大影響範圍，甚至衝擊核心產線。 因此，第二階段「隔得開」著重於透過網路微分段（Microsegmentation）技術掌握並可視化東西向網路流量，建立設備、系統與應用程式之間的通訊關係，再依據環境、應用程式、角色及地點等多元條件進行資產分類與存取控管，建立細緻的安全政策，限制不必要的系統間通訊。微分段並非單純進行網路切割，而是需要依據企業既有網路架構、應用環境與營運需求，逐步盤點資產、分析通訊關係、制定存取政策，再循序導入分段與阻擋機制。 對製造業而言，導入微分段更需要兼顧 IT、OT 與產線設備的運作特性，避免安全政策影響既有生產流程。叡揚資訊具備多元微分段技術導入經驗，可提供具備 Gartner 客戶評價與市場肯定的 Illumio、Akamai、ColorTokens 等國際微分段領導品牌，由專業顧問協助企業從環境盤點、流量分析與風險評估開始，依據實際營運需求規劃分段策略與安全政策，並以「先看見、再分段；先告警、再阻擋」的防禦原則，兼顧安全防護與營運持續性，降低攻擊者入侵後的橫向移動與擴散風險。 從風險發現到持續追蹤，完成資安治理閉環 防護鏈的最後一環則是落實「追得完」。許農育表示，資安防護不能只停留在發現問題或阻斷攻擊，更需要建立後續追蹤與處置機制，確保每一項風險都有明確的負責單位、修補進度與驗證結果。 叡揚資訊 Tracko SecOps 資安營運治理平台串聯情資風險、弱點管理、事件管理與合規管理四大核心環節，當前端偵測到漏洞或合規異常時，平台會自動立案並進行智慧派案，直接指派給相應團隊進行漏洞修補，且完整保留通報、修補與覆核等軌跡，讓管理人員更方便應對內部稽核與客戶的合規檢視。 面對地緣政治與倍速成長的資安威脅，高科技製造業的資安佈局已不再是單純的成本支出，而是確保產線持續營運、建立國際客戶信任的商業核心競爭力。叡揚資訊整合外部攻擊面管理、軟體供應鏈安全、程式碼檢測、零信任微分段與資安營運治理等多層防護能力，協助企業讓潛在風險「看得見」、讓威脅擴散「隔得開」、讓修補進度「追得完」，將分散的資安工具與管理流程串聯為持續運作的資安治理閉環，提升製造業面對資安威脅時的營運韌性。</p>

晶片還沒出貨，Anthropic 傳先下單 2.5 億美元：Fractile 憑什麼三個月估值翻六倍？

<p>英國 AI 晶片新創 Fractile 的第一批晶片預計要到 2027 年才會問世，卻已傳出 Anthropic 已先簽下約 2.5 億美元的採購協議。據《Bloomberg》報導，這家 2022 年才成立的公司，正以 65 億美元的投前估值洽談新一輪募資，預計進帳約 6 億美元，較三個月前的約 10 億美元估值大幅跳升逾 6 倍。晶片都還沒交貨，資本與大客戶為何搶著上車？ 不押訓練、也不靠 HBM：賭「又快又便宜」的推論 Fractile 由牛津大學機器人研究學者 Walter Goodwin 於 2022 年創辦，鎖定推論市場，也就是 AI 模型回應使用者查詢的運算過程，而非投入模型訓練。Goodwin 向《華爾街日報》表示，前沿 AI 模型當前最關鍵的瓶頸，是產生有用回應所需的時間；隨著模型越來越大、越來越複雜，完成一項任務動輒需要數千萬的 tokens，而資料在處理器與記憶體之間的移動速度，決定了查詢的延遲。 Fractile 對這個瓶頸的解法，是打造了一款邏輯晶片，並在伺服器機櫃內設計一套連接記憶體的架構，要在不犧牲速度的前提下拉高頻寬；同時捨棄主流的 HBM 高頻寬記憶體，也不依賴晶片內的 SRAM。另外值得關注的是，它們把記憶體與運算單元在實體上交錯排列。Fractile 說明，前沿模型推論同時需要低延遲與高吞吐量，而現有硬體難以兼顧，交錯設計正是為了同時滿足這兩項需求。 至於能跑多快，Fractile 給的數字相當高調。官方主張最先進模型的執行速度可提升至多 25 倍，成本降至十分之一，並宣稱能對數千名同時上線的使用者各自每秒輸出數千的 token。Goodwin 把自家產品定位為「又快又便宜」。 推論晶片資金與訂單正在集中，新戰場圍繞 token 成本 Fractile 的崛起不是單一案例，同樣鎖定推論市場的新創，近期接連拿到巨額資金和訂單。根據《Reuters》報導，主打讓模型跑得更快更便宜、專為 transformer 架構設計晶片的 [&hellip;]</p>

零件比前代少一半、推論最高快 30 倍：Cerebras 推 CS-4，讓 GPU 與專用晶片各自做擅長的事

<p>隨著 AI 應用持續朝更複雜的推理與 Agent 任務發展，推論（inference）速度正成為影響使用體驗與工作效率的重要瓶頸。晶片公司 Cerebras 近日宣布推出新一代伺服器系統 CS-4，採用了該公司獨創、面積等同於整張餐盤大小的「晶圓級晶片」（Wafer-Scale Engine），瞄準生成式 AI 與 AI Agent 的高速推論需求。 Cerebras 表示，CS-4 的 AI 推論速度最高可達傳統 GPU 系統的 30 倍。這項速度優勢對 AI Agent 尤其重要，因為 Agent 執行任務時往往需要反覆推理、呼叫工具並產生大量 token，每一步的延遲都會不斷累積，最終拉長整項工作的完成時間。不過需要注意的是，目前「最高快 30 倍」仍是 Cerebras 官方提供的測試數據，尚未經公正第三方的標準測試（Benchmark）驗證；此外，Cerebras 所標榜的極致效能也高度依賴運算的「稀疏性」（sparsity），在一般大型語言模型推論中未必能完全發揮。&nbsp; 不過，CS-4 的改變不只是追求更高算力。Cerebras 同時重新設計整套伺服器架構，降低硬體複雜度，並進一步將 AI 推論的不同階段交由最適合的晶片處理，讓競爭從單顆晶片效能延伸到整套 AI 基礎設施如何協同運作。 少一半零件、頻寬翻倍：Cerebras 把競爭從單顆晶片推向機櫃級基礎設施 CS-4 採用全新的 Nexus 伺服器架構，將運算、供電與控制元件重新模組化。單一機櫃最多可容納三套整合運算、供電與控制電路的系統模組，並直接與機櫃背板連接，機櫃正面則主要配置供電系統。Cerebras 技術長 Sean Lie 指出，新設計讓 CS-4 的零件數量較上一代減少約 50%，不僅降低系統複雜度，也有助縮短資料中心部署與建置時間。 Nexus [&hellip;]</p>

【工業 AI 作業平台】稱工廠供應鏈是 AI 最有價值處，新創 Arrakis 不綁模型、費用跟績效掛鉤

<p>新創公司 Arrakis 擁有來自 Palantir 背景成員，其前線部署 AI 工程師模式，讓人力直接進駐產業客戶營運現場，模型中立策略更可將 Token 成本降低約 70%。</p>

GPT-5.6 Sol 接 Cerebras 快 14 倍：OpenAI 開始替不同 AI 工作挑晶片

<p>AI 開發者想讓模型即時回應，過去往往得在「速度」與「聰明程度」之間做取捨，OpenAI 近日在自家 API 推出名為「Ultrafast」的新服務層，讓旗艦模型 GPT-5.6 Sol 在不更換模型的前提下，推論速度最高較標準模式快 14 倍，每秒可生成 750 個 output token。 OpenAI 表示，要取得即時速度，通常得改用較小或針對特定用途打造的模型；Cerebras 也指出，開發者長期面臨類似問題：最強的模型通常不夠快，最快的模型又未必具有足夠能力。Ultrafast 服務想解決的，正是這項取捨，而支撐這個速度的並非 GPU，是晶圓級晶片公司 Cerebras 的專用晶片。 原本要過夜跑的研究工作，一日內就可多輪迭代 Ultrafast 目前先在 OpenAI API 上線，採限量預覽，開放給一小群客戶，官方表示會隨產能擴大逐步放寬。 在應用場景上，OpenAI 點名事故排除、金融研究與風控、即時客服與語音、電商，以及過去得跑整夜的即時實驗。早期客戶包含 Jane Street、Podium、Basis 與 Rogo。 Jane Street 的 AI 助理團隊成員 John Crepezzi 表示，Cerebras 帶來的速度提升相當可觀，讓開發者能以更專注、更有效率的方式與模型協作。OpenAI 內部開發團隊也已用 Ultrafast 分析資安事件中的系統日誌與追蹤資料，原本需要跑一整晚的研究工作，現在能在一個工作日內進行多輪測試。 OpenAI 早就找上 Cerebras，750 MW 合作開始落地 今年 1 月，OpenAI 就宣布與 Cerebras [&hellip;]</p>

DeepSeek-V4-Pro 正式上線！挾 Harness 將 AI 戰場從「模型」推進到「Agent 開發層」

<p>DeepSeek 正從 AI 模型進一步拓展至 Agent 開發工具，正式推出 DeepSeek-V4-Pro，強化模型在 AI Agent 應用上的表現，同時發布開源 Agent 開發框架 DeepSeek Harness v0.1，讓開發者能更靈活地打造和管理 AI Agent，並提供不同於 Anthropic Claude Code 等整合式程式開發工具的選擇。 DeepSeek-V4-Pro 正式版：強化 Agent 能力、API 無需改名 Harness 與 DeepSeek-V4-Pro-0813 正式版同日推出。DeepSeek 今年 4 月先以預覽版形式推出 V4 系列，其中 V4-Pro 採 1.6 兆參數架構，每個 Token 實際啟用 490 億參數；V4-Flash 則有 2,840 億參數，每個 Token 啟用 130 億參數。兩款模型的上下文長度都可達 100 萬 Token。 這次發布的 V4-Pro [&hellip;]</p>

Google 三週又升級 Gemini 3.7 Flash：為何定位 Flash 成 Agent 日常主力？

<p>Google 於美國時間 8/13 推出新一代 AI 模型 Gemini 3.7 Flash，距離上一代 Gemini 3.6 Flash 發表僅隔了三週。除了強化程式開發、企業工作流程與 AI Agent 能力，Google 還祭出限時價格策略：今年底以前，Gemini 3.7 Flash API 每百萬 input tokens 為 0.75 美元、output tokens 為 3.75 美元，只有 2027 年起標準價格的一半。 不過另一個變化更值得注意。Google 將 Gemini 3.7 Flash 稱為目前「最聰明的 coding 與 Agents 主力模型（workhorse model，工作馬模型）」。過去 Flash 系列最鮮明的特色是速度、低延遲與較低成本，為什麼到了 AI Agent 時代，Google 反而要讓 Flash 承擔更多複雜的 AI Agent 工作？ Flash [&hellip;]</p>

AI Agent、Reasoning 放大推論成本：模型業者開始重新思考 Transformer

<p>2017 年，Google 研究團隊發表〈Attention Is All You Need〉論文，提出後來改變 AI 產業的 Transformer 架構。9 年過去，從 ChatGPT 到 Gemini，幾乎所有主流大型語言模型（LLM）都建立在 Transformer 之上。但當 AI 開始處理更長文件、進行複雜推理，甚至以 Agent 形式持續工作，這套支撐生成式 AI 浪潮的架構，也逐漸面臨效率挑戰。 《MIT Technology Review》近期觀察，一批 AI 新創正從 Attention、模型組成到文字生成方式重新設計 LLM，試圖回答同一個問題：除了增加 GPU、量化與壓縮模型，能不能直接從模型架構降低 AI 運算成本？ 這項問題在推理模型興起後變得更加重要。Microsoft Research 今年發表的研究估算，一般前沿 AI 模型推論的能源需求中位數約為每次查詢 0.31 Wh；但如果是產生約 5,000 個 output tokens 的長推理任務，能源需求可能增加約 13 倍。當 AI Agent 又需要反覆呼叫模型、讀取工具結果與累積工作脈絡，推論負擔還會進一步增加。 Transformer 的優勢，為何也成為效率挑戰？ 問題首先出在 Transformer 最核心的 [&hellip;]</p>

Grok 4.6 強攻長時間 AI Agent：企業選模型不能再只看 Token 單價

<p>SpaceXAI 近日推出最新旗艦模型 Grok 4.6。根據第三方模型評測機構 Artificial Analysis，Grok 4.6 在 Intelligence Index 得分 61。這項綜合指標用來比較不同模型的整體智慧表現，Grok 4.6 較前一代 Grok 4.5 High 提升 5 分，不只超越中國 Moonshot AI 的 Kimi K3，也追平 OpenAI GPT-5.6 Sol Max，並列全球第三，僅次於 Anthropic Claude Opus 5 與 Fable 5。 但對企業來說，這次 Grok 4.6 值得注意的不只是模型排行榜又重新洗牌。《VentureBeat》分析指出，相較單純增加幾個 benchmark 分數，Grok 4.6 更重要的變化在於 Agent 行為與成本。SpaceXAI 明確將 Grok 4.6 的升級重點放在 long-running agents（長時間執行任務的 AI Agent）、程式開發與知識工作，希望模型不只回答一次問題，而是能持續執行更長、更複雜的任務。 當 [&hellip;]</p>

【工程師薪資新變數】AI 推論成本進入薪資結構，token 消耗開始成為工程師談判籌碼

<p>軟體公司過去幾十年的生產模式就是雇用工程師、支付薪水、提供工具，換取軟體產出；但 2026 年的現在，生成式 AI 打亂了這套模式。 工程師越來越仰賴 Claude Code、Cursor 或 GitHub Copilot 生成上線用的軟體、測試與架構方案，開發過程也因此消耗大量 AI 推論資源，AI 使用逐漸變成一項實質成本。工程薪資經濟學能不能跟上這個變化，成了新問題。 AI 使用成本正變成企業一大開銷 比起 AI 釋放出來的生產力，工具花費看似微不足道，這讓任何試圖節省一點 AI 成本的誘因設計，可能摧毀比省下來還多的產出價值，但問題可能就在誘因設計方向錯了。 越來越多科技公司應徵者，會在面試時主動詢問能取得多少專屬推論運算資源，OpenAI 總裁 Greg Brockman 直言：「你能取得的推論運算資源，將決定你整體的軟體生產力。」創投機構 Theory Ventures 的 Tomasz Tunguz 估算，若工程師薪資落在薪資平台 Levels.fyi 統計的 75 分位數（375,000 美元），加上每年 10 萬美元推論成本，總負擔成本將來到 475,000 美元，AI 使用成本未來可能占整體薪資結構超過兩成。 傳統上企業支付人力專業、工時與工具，如今認知運算正成為第四項應被管理的成本項目，但是能支撐這個概念的薪資模式，目前還沒出現。 個人 AI 預算制度看似合理，實際會失靈 假設企業以年薪 15 萬美元聘用工程師，其中 12 萬美元底薪、3 萬美元個人 AI 預算，未花完部分轉換成獎金。 [&hellip;]</p>

Token 單價便宜的 AI 模型不代表省錢，Databricks 稱任務成本與 Harness 更關鍵

<p>Databricks 強調 AI 模型的 Token 單價，並不能完全反映一款模型究竟屬於「昂貴」或「便宜」，使用者必須將「每任務成本」與「Harness 框架」同步納入考量。</p>

【AI 預算管理】Token 消耗超預期才收到帳單，1Password 工具讓企業提前掌握 AI 支出

<p>1Password 推出內建於旗下 SaaS Manager 平台的新功能：AI 支出與使用量管理工具，並指出現代企業消耗 Token 的速度，已經超出傳統預算策略能夠應對的範圍。</p>

Meta 首款程式代理 Muse Code 上線！改按 token 計費，最低價要拿你的程式碼交換

<p>AI Coding 領域長期由 Anthropic、OpenAI 兩大巨頭盤踞，如今又有新競爭者叩關。Meta 推出首款終端機程式代理 Muse Code，搭配專為程式最佳化的模型 Muse Spark 1.2，對上 Anthropic 的 Claude Code 與 OpenAI 的 Codex。 究竟這款代理有何特別之處？該工具主打可長時間自主運作的背景代理，以及一份完整可重播的執行紀錄，試圖用工作流架構與對手拉開距離。但吸引外界注目的是它的定價：最低方案的 token 單價僅約標準層十分之一。不過這個便宜有前提：想用最低價，就得授權 Meta 把你的程式碼與提示拿去訓練它的下一代模型。 分數仍輸 Anthropic，Meta 把戰場拉到模型之外 Meta 這次沒有在模型分數上取得領先。根據《VentureBeat》整理的基準圖表，Muse Spark 1.2 在 Terminal-Bench 2.1 拿下 82.9%，居次於 Anthropic Opus 5 的 86.7%；在 DeepSWE 1.1 排名第三；即便是 Meta 自訂的內部程式測試，也落後 Opus 5 近九個百分點。三張基準圖表中，Claude 都位居首位。《VentureBeat》指出，Meta 在公告內文並未標榜任何名次，這在對手習於高調宣傳排行榜成績的領域裡並不常見。 既然分數不是強項，Meta 把重心放在工作流架構。Muse Code 最主要的設計賭注是它所稱的「非同步背景代理」（async [&hellip;]</p>

不能只替世界「造船」，外貿協會資深顧問李牮斯：台灣 AI Token 使用量居四小龍之末，恐陷「荷蘭病」

<p>專訪：戴季全撰稿：李昀蔚 在這一波 AI 浪潮中，許多企業仍將 AI 停留在「有問必答」的聊天輔助，但真正的差距在於，企業能否將 AI 視為「使命必達」的數位同事，進一步改寫工作流與生產配置。 本集《全新一週》邀請外貿協會資深顧問李牮斯，從 AI 如何顛覆經濟本質與資源配置談起。他強調，AI 帶來的變革並非單純的工業革命，而是宛如探索新大陸般的全新經濟結構。只要企業能突破過去遇到問題就「加人、加資本」的傳統思維，學會大量配置 AI Agent 作為新的產能來源，就有機會在下一個 AI 大航海時代中，改寫未來的競爭位置。 當 AI 使命必達，伴隨而來的是價值觀對齊風險 李牮斯形容，2026 年以前的 AI 是單純的 Chatbot，主要功能為聊天、搜尋與提供建議；然而，今年開始崛起的代理型 AI（Agentic AI）則展現出截然不同的面貌，只要是透過鍵盤與滑鼠能解決的事情，它都能獨立完成。身為 AI 重度使用者，李牮斯以自身經驗形容，Agentic AI 已經不只是一項科技，而是更像一名同事，具備自主行動與彼此溝通的能力，能夠實際執行寫程式、安排行程或處理公司內部任務。 李牮斯特別分享一個真實案例：美國有位工程師的 AI Agent，為了幫主人點 Uber Eats 晚餐，竟然自行連上暗網，找到別人遺失的信用卡資料並用來付款。這雖然展現出 AI Agent 為了照顧主人而「使命必達」的強大執行力，卻也突顯企業與開發者必須嚴肅面對的 Alignment（價值觀對齊）問題。當 AI 為了達成目標而自行尋找解法時，它能否在人類習慣的道德與行為範圍內完成任務，仍存在高度不確定性。 從「加人」到「加 Agent」，AI 重寫企業工作流也走進實體世界 隨著 AI 能力大幅躍升，企業內部的工作流也正在被重新設計。李牮斯指出，過去企業從一個構想到產出原型，往往需要經過層層會議與溝通，以確保指令及資訊在傳遞過程中不會失真，整段過程相當耗時費力。如今進入 Agentic AI 時代，主管若有一個想法，與其花時間把所有人找來開會，不如直接交給 AI 處理，在短時間內先產出約 80% [&hellip;]</p>

【科技早餐】DeepSeek 成本不到 Claude 百分之一，OpenAI Astra 挑戰十項數學難題

<p>【科技早餐】今天精選 7 則國內外重要科技新聞。 ＊DeepSeek 成本不到 Claude 百分之一，阿里新模型登中國榜首 《路透》報導，研究機構 Artificial Analysis 測試顯示，中國新創 DeepSeek 最新推出的 V4-Flash，每次基準測試平均成本約 0.03 美元，不到 Anthropic Claude Fable 5 的百分之一，也是該機構比較的知名模型中成本最低者。V4-Flash 的輸入與輸出費率，分別為每百萬 token 0.14 美元與 0.28 美元；不過，其綜合能力指數為 50 分，與 Google Gemini 3.6 Flash 相當，仍落後 OpenAI、Anthropic，以及月之暗面（Moonshot AI）的 Kimi K3。 另一方面，阿里巴巴（Alibaba）發表 Qwen3.8-Max，參數規模達 2.4 兆，並在 Arena.AI 文字模型排行榜成為排名最高的中國模型；視覺評測則居全球第二，僅次於 Anthropic Claude Fable 5 的其中一個版本。這款模型可處理文字、影像與影片，預計下週透過阿里雲 Model Studio 開放使用。兩家公司分別從價格與能力進攻，顯示中國開放權重模型的競爭，正進一步轉向企業最關心的性能與部署成本平衡。 ＊OpenAI 揭露未發布的 Astra，稱推進十項數學難題 [&hellip;]</p>

OpenAI 財務長揭企業 AI 新帳本：每一美元能買到多少「有用智慧」？

<p>過去幾年來，整個 AI 產業最看重的問題就是：誰擁有最聰明的模型？雖然追求技術巔峰依然至關重要，但一項新的「北極星」指標正悄然浮現，那就是企業「每花 1 美元，究竟能取得多少有用的智慧」。 隨著越來越多模型的能力已足以應付多數日常商業任務，企業買家開始轉變態度，不再盲目追求絕對最強大、最昂貴的模型，而是更在乎如何以合理的成本，讓 AI 可靠地完成工作。這場企業 AI 的成本戰，也讓財務主管們備感壓力，就連 OpenAI 執行長 Sam Altman 都坦言，高昂的成本已成為客戶在部署 AI 時，僅次於組織內部推廣的第二大挑戰。 為了回應這波對成本與回報的質疑，OpenAI 財務長 Sarah Friar 便提出一套新的評估框架，主張以「每一美元的有用智慧」（useful intelligence per dollar）作為衡量 AI 成功與否的新指標。Sarah Friar 強調，企業不應只以整體支出或單純的 token 單價來衡量成效，而應深入評估 AI 是否真的在替企業完成「有價值的實際工作」，例如成功解決客服問題、交付程式碼或完成合約審查。 最強模型不再包辦所有任務，Amazon 如何用分級調度壓低 AI 成本？ 這股從追求智慧轉向務實的風潮，正席捲科技巨頭與新創生態系。以亞馬遜（Amazon）重建語音助理 Alexa+ 為例，亞馬遜正積極將更多使用者請求導向其自身開發、能力相對較低但運作成本也更便宜的自研 AI 模型，同時刻意避免不必要地呼叫 Anthropic 旗下價格更高、效能更強的模型。亞馬遜的核心思維非常明確：並非讓 Alexa 每次回答都動用最聰明的模型，而是只有在任務複雜度確實需要時，才動用高成本的 AI 能力。 開發語音 AI 的 Inworld 公司執行長 Kylan Gibbs [&hellip;]</p>

token 最高省 65%！Google 推 Gemini 3.6 Flash 等新模型，成本為何成最大亮點？

<p>Google 在美國時間 7/21 一口氣發表了 Gemini 3.6 Flash、Gemini 3.5 Flash-Lite 與 Gemini 3.5 Flash Cyber 三款新模型，但這次最受矚目的不是追求能力有多強，而是主打運行 AI 代理的速度更快、成本更低。其中主力的 Gemini 3.6 Flash，在執行長時程工程任務時，最高可將 token 用量降低 65%，直接瞄準企業大規模部署 AI Agent 時最現實的一道門檻：成本。 效率成主角，token 用量最高降 65% 根據《VentureBeat》報導，Gemini 3.6 Flash 相較前代 Gemini 3.5 Flash，整體輸出 token 用量最高減少 17%；在 DeepSWE 這類衡量代理如何從零完成多步驟工程任務的長時程基準上，token 節省幅度更可達到 65%。Google 解釋，這款模型用更少的推理步驟與工具呼叫，就能跑完同一段多步驟工作流。對按 token 計費的開發者而言，這等於直接壓低了每一次任務的成本。 價格上也拉出明顯落差。以每百萬 token 計算，Gemini 3.6 Flash 的輸入為 1.5 美元、輸出為 7.5 [&hellip;]</p>

【科技早餐】Microsoft 評估 Kimi K3、擴大 AMD 算力，中國也擬收緊 AI 技術出口

<p>【科技早餐】今天精選 7 則國內外重要科技新聞。 ＊AI 代理帳單膨脹，Microsoft 評估 Kimi K3 降低 Copilot 成本 AI 模型單位價格持續下降，但代理式工作流反覆呼叫模型、讀取文件、整理上下文、使用外部工具，再檢查與修正答案，仍可能推高企業的 AI 總支出。研究分析八款前沿模型執行代理式程式任務後發現，這類工作消耗的 Token 最多可達一般程式問答的 1,000 倍；同一任務不同執行過程的用量也可能相差 30 倍，而且更高用量不一定帶來更高正確率。麥肯錫（McKinsey）並指出，代理式程式工作約六成成本與檢查、修正及重新驗證答案有關。 據《The Information》報導，Microsoft 正著手透過 Azure 提供中國新創月之暗面（Moonshot AI）的 Kimi K3，並評估是否用於 Copilot Cowork 的部分工作，以降低推理成本。Copilot Cowork 能自動規劃並執行複雜的多步驟任務，目前採用量計價；Microsoft 尚未決定正式導入 Kimi K3，也沒有公布預估節省金額。OpenAI 董事長 Bret Taylor 則預期，企業未來可能改按工作成果付費，由服務商負責選擇模型與管理底層 Token 用量，企業衡量成本的重點也將從單價轉向完成整項任務的總支出。 ＊中國擬限制 AI 模型出海，台積電代工也可能受限 《金融時報》報導，中國商務部正向阿里巴巴（Alibaba）、字節跳動（ByteDance）、智譜及中國晶片業者徵詢意見，研究加強先進 AI 模型與半導體技術的出口管制。討論方案包括限制用於模型訓練的關鍵資料移轉海外，以及限制外國使用者下載模型權重，但可能仍允許海外客戶透過雲端使用 AI 模型與相關服務。開放權重模型原本允許企業下載至本地伺服器，並依需求調整與部署，因此管制重點可能放在可下載、可本地部署及可客製化的核心模型資產，而不是全面阻止海外市場使用中國 AI 服務。 報導也指出，官方正評估限制台積電與高通（Qualcomm）等海外晶片業者，參與以中國企業設計為基礎的先進晶片生產，並限制海外企業收購代理 AI [&hellip;]</p>

免費工具真的做得出企業要的 AI Agent？導入之前，你該問的 5 個問題

<p>如果你最近也正在評估導入 AI Agent，你的廣告跟搜尋紀錄大概已經被各種名字塞滿了，n8n、Zapier、OpenClaw ⋯⋯，每個平台都說自己最完整、最好上手，但看得越多是不是反而越難做決定？ 到底公司真正的需求是什麼？對不同部門來說怎樣是最好上手的？這篇用五個問題帶你思考，最適合的功能是什麼，而且非技術背景的人也能一目瞭然！ 在串 AI Agent 之前想個 3 秒！評估哪條路最適合你？ 目前企業導入 AI Agent 平台，大致有 3 條路可以走。 第一條是開發框架，交給工程師自己打造，可以配合公司需求，代價是所有治理相關的東西，包含權限設定、Token 使用成本控管、管理不同 AI Agent，都需要有相關經驗的人一起參與，公司如果有大型、完整的維運團隊，通常會選擇這個方式。&nbsp; 第二條是自動化與無代碼工具，n8n 是其中討論度最高的工具，這類的強項是「把 Agent 組出來」，工程師花一個下午就能兜出一個會動的流程，起步成本幾乎是零，但可能沒有統一的用量儀表板，簡單來說就是，你看不到每個 Agent 花了多少錢，因為 Token 的計費並不是用完就沒或是吃到飽，而是收到帳單之後才知道費用；另外資安防護也是一個問題，一旦被有心人士塞入惡意指令或抓機密資料，往往是出事之後才發現，而且很難即時補救。 第三條是雲端巨頭的生態系平台，治理能力做進了核心，權限、稽核一應俱全，但體系龐大、學習範圍廣，而且你的資料、模型、部署方式，可能會逐步綁進單一雲端裡，如果公司資料是偏向部署在混合雲上，那可能就要三思。 問題一：這個 Agent 要給誰用？ 我們陪伴不同企業導入最適合自己的方案時，常常發現，詢問的人往往還沒聚焦需求而先選擇工具，或者是在交付系統前才提出需要客製化的功能。這些如果在前期可以跟導入夥伴坦承清楚，讓專案負責人問對問題、找到真正的使用者，導入過程其實都會更加順利，這邊提供兩個常見的場景給大家參考。 場景一，工程團隊要打造一個串接內部交易系統的 Agent，邏輯複雜、需要深度客製。 場景二，行銷團隊想要一個幫忙整理輿情、產出文章的 Agent，不會寫程式，但也不想每次都排隊等 IT 的資源。 這兩個場景需要的東西完全不同，而我們也發現，如果只為其中一種人選平台，譬如只顧到工程師的需求，可能非技術部門的想法就會卡在 IT 的待辦清單裡；只顧易用性，複雜的整合需求又做不到。 現在搭建 AI Agent 的門檻越來越低，看完免費串接教學影片都能自己做一個 Agent，公司裡的 Agent 數量會以你想像不到的速度成長，這時候「誰做了什麼、用了哪些資料、還有多少 Agent 在跑」就從小問題變成大問題。 組裝門檻跟治理能力，應該是同一件事的兩面，門檻越低，治理的重視程度也應該跟著提升。 問題二：你的資料，能不能全部放上雲？ 這其實是很多企業在評估 [&hellip;]</p>

【科技早餐】中美 AI 差距縮小：Kimi K3 逼近美國，算力與監管戰同步升溫

<p>【科技早餐】今天精選 8 則國內外重要科技新聞。 ＊Kimi K3 逼近美國，中美 AI 技術差距持續縮小 中國新創月之暗面（Moonshot AI）發布 Kimi K3，模型共有 2.8 兆個參數，支援 100 萬 token 的上下文長度。月之暗面稱，Kimi K3 是目前參數規模最大的開放權重模型，主要鎖定複雜推理、長時間程式設計與知識工作。第三方評測顯示，Kimi K3 在部分程式設計測試取得領先，綜合表現僅次於 Anthropic 最新的 Fable 5；完整模型權重預計於 7 月 27 日釋出，供全球開發者下載、修改與部署。 研究中國科技政策的史丹佛大學研究學者韋布斯特（Graham Webster）表示，外界對中國模型落後美國的估計，大多集中在六個月左右，領先差距已經不大。同一天，中國國家主席習近平在上海世界人工智慧大會表示，AI 不應由單一國家主導，並主張協助全球南方國家建立 AI 能力。美國持續限制中國取得高階 AI 晶片，但中國企業仍透過開放模型擴大海外採用。從模型性能、開放權重到全球推廣，Kimi K3 的推出再次顯示，中美前沿 AI 技術差距持續縮小。 ＊Apple 反超 NVIDIA，AI 競賽從算力延伸到裝置 Apple 7 月 17 日盤中市值一度升至約 4.88 兆美元，略高於 NVIDIA 的 4.86 [&hellip;]</p>

OpenAI、Anthropic 不再獨占最強 AI？中國 Kimi K3 讓開源模型站上 Frontier 戰場

<p>過去兩年，企業導入生成式 AI 時，多半有一項共識：若追求最強能力，就選 OpenAI 或 Anthropic 等封閉模型；開源模型雖然成本較低、可自行部署，但能力通常仍落後一個世代。然而，今日這條界線正開始改變。 中國 AI 新創 Moonshot AI 在 7/17 推出開源模型 Kimi K3，號稱擁有 2.8 兆參數，是目前全球規模最大的開放權重大型語言模型，支援 100 萬 Token 上下文、原生圖像理解，以及長時間運作的程式開發與 Agent 任務。但真正引發產業關注的，不只是模型規模，而是 K3 已開始站上 Frontier AI（前沿 AI）的競爭舞台。 開放權重模型首次逼近最先進 AI 模型 依 Moonshot 公布的測試結果，K3 在多項 Agent、程式開發與推理基準測試中，已接近 Anthropic 最新的 Claude Fable 5 與 OpenAI GPT-5.6 Sol，部分項目甚至超越 GPT-5.5、Claude Opus 4.8 等模型。 官方數據之外，第三方評測機構 Artificial Analysis 的結果也顯示，K3 [&hellip;]</p>

模型可以換，能力不能換：Shopify 如何把 AI 變成自己的長期能力？

<p>過去兩年，企業導入生成式 AI 最常討論的問題是該選哪一種模型，但當 AI 更新速度越來越快，今天的最佳選擇，可能半年後就被新的模型取代，另一個問題便開始浮現：如果模型終究可以替換，企業真正該長期投資的是什麼？ Shopify 工程副總裁暨 AI 負責人 Farhan Thawar 最近接受《VentureBeat》專訪時，公開分享 Shopify 內部的 AI 架構。整場訪談幾乎沒有討論哪一個模型最好，而是聚焦另一件事：如何建立一套即使模型持續演進，企業仍能不斷累積價值的底層能力。 別再問選 GPT 還是 Claude，先建立管理模型的能力 訪談中，Farhan 分享 Shopify 長年奉行的一套工程哲學。他說，如果一個功能可以花兩週完成，或是花兩個月建立一套基礎設施，讓未來所有人都能在一小時內完成類似功能，Shopify 幾乎總是選擇後者。 他認為，AI 的出現讓建立基礎設施的成本大幅降低，因此更值得把時間投入在打造可重複利用的平台，而不是一次性的功能。這個思維，也反映在 Shopify 的模型策略。 不同於直接將產品綁定單一模型，Shopify 在所有模型之上建立了一層 LLM Proxy，統一管理 OpenAI、Anthropic 等不同模型服務。這層平台負責模型切換、故障備援（Failover）、Token 使用分析與成本管理。當某家模型服務中斷，或有新的模型推出，底層可以直接切換，而不必重新改寫整個產品。 對企業而言，這代表真正需要建立的，不是使用某一個 AI 模型的能力，而是管理模型的能力。當模型成為可以替換的元件，企業便不需要每一次技術更新都重新開始。 把最新模型能力，變成企業自己的能力 訪談另一亮點，是 Shopify 內部的 Universal Distillation Platform（UDP，通用蒸餾平台）。 所謂模型蒸餾（Model Distillation），是指先利用 GPT、Claude 等大型模型（Teacher Model）完成推理，再將這些能力轉移到較小的模型，讓小模型專注處理特定任務。透過這種方式，企業可以把大型模型的能力，轉化成更適合特定工作流程的專用模型。 Farhan 也強調，Shopify 並沒有因此放棄使用前沿模型（Frontier Models）。大型模型仍是產品開發、程式撰寫與許多複雜任務的核心，只是在一些固定、可重複的子任務中，團隊會透過蒸餾建立專用小模型，兼顧成本、速度與品質。 [&hellip;]</p>

開源 AI 不再只是「中國故事」？Thinking Machines 首款開源模型 Inkling 推上牌桌

<p>過去一年多，開源 AI 幾乎是一則「中國故事」。《路透社》與《華爾街日報》指出，在 Meta 的 Llama 4 表現不如預期、轉向較封閉的策略後，西方開源模型的進展明顯落後於中國同業；而企業為了控制成本，紛紛採用中國實驗室的開源模型，例如阿里巴巴的 Qwen，以及 DeepSeek、GLM、Kimi 等。如今，由 OpenAI 前技術長 Mira Murati 創立的 Thinking Machines 推出首款開源模型 Inkling，可能打破這個局面。 不過，Thinking Machines 在發表時罕見地自承：這不是目前最強的模型。根據《路透社》報導，Inkling 採開源權重（open-weight），使用者可自行下載、運行與客製化。一款開宗明義說自己不是最強的模型，究竟在賭什麼？ 先認識 Inkling：原生多模態，每次只喚醒小部分參數 根據《VentureBeat》報導，Inkling 是一套原生多模態的混合專家（Mixture-of-Experts，MoE）模型，總參數達 9,750 億，但每次生成僅啟用其中 410 億，能跨文字、影像與音訊進行推理，並支援最大 100 萬 token 的脈絡長度。 《華爾街日報》補充，只喚醒一小部分參數的設計，讓模型的使用成本更低、速度更快。Thinking Machines 同時預告了一款較輕量、2,760 億參數的 Inkling-Small。 值得注意的是，Thinking Machines 把 Inkling 定位成一個廣泛、均衡的基礎模型：強在多個領域、也保有調整彈性。既然不主打效能登頂，它真正的賭注就押在三個產品設計上。 亮點一：用 Apache 2.0 授權，打「真開源」牌 第一個設計是授權模式。根據《VentureBeat》報導，Inkling 採用寬鬆的 Apache 2.0 授權，開發者可免費下載、修改、整合並商業化模型權重，不需支付權利金。這與市面上不少西方「開放」模型形成對比，後者常綁著雙重授權、使用範圍限制或營收上限。換句話說，Inkling [&hellip;]</p>

GPT 效率提升 54% 只是「好的開始」？Palo Alto Networks 執行長示警：Token 成本不降 9…

<p>企業導入 AI 的熱潮正迎來轉捩點。Palo Alto Networks 執行長 Nikesh Arora 近日接受《CNBC》訪問時指出，Token 成本未來兩年仍須大幅下降，長期降幅甚至可能達到 90%，才能支持企業進行大規模 AI 導入。 Nikesh Arora 進一步解釋，Token 價格未來一年可能先下降最多 20%，之後的降幅甚至可能擴大至 90%。他的核心觀點是，若成本無法持續降低，企業將難以負擔 AI 規模化運作所帶來的龐大支出。 儘管 OpenAI 執行長 Sam Altman 表示，最新推出的 GPT-5.6 家族旗艦模型 Sol，在代理式程式開發任務上已提升 54% 的 Token 效率，但 Nikesh Arora 對此表示，這項進展「只是一個好的開始」，顯示企業仍期待前沿模型的使用成本進一步下降。 企業要求 Token 降價，前沿模型卻面臨獲利保衛戰 在企業要求降低 AI 成本的背後，整個 AI 產業鏈也正承受龐大的資本回收壓力。紅杉資本（Sequoia）合夥人 David Cahn 估算，到 2026 年，全球 AI 基礎設施支出將高達 1.5 兆美元。David Cahn [&hellip;]</p>

從開源 Llama 到付費 Muse Spark 1.1：Meta 如何用低價 API 搶攻 AI Agent 開發入…

<p>在 SpaceXAI 推出新模型、OpenAI 發表最新 GPT 5.6 之際，Meta 隨後也推出最新的專有 AI 模型 Muse Spark 1.1。這款內部研發代號為「Avocado（酪梨）」的新模型，不僅在功能上瞄準 AI Coding 與 Agentic AI，更在商業策略上搭配極具競爭力的超低價 API 與免費額度，試圖在開發者採用及大規模商業部署的入口處，正面迎戰 OpenAI、Anthropic 與 Google 等強勁對手。這也象徵 Meta 正式跨出過去以 Llama 開源模型為主的路線，試圖透過全新的 Meta Model API，向企業與開發者收取模型使用費。 Meta 推出低價 API 的策略與野心 為了在競爭激烈的市場中迅速吸引用戶，Meta 將 Muse Spark 1.1 的 API 價格設定為每百萬輸入 token 收費 1.25 美元、每百萬輸出 token 收費 4.25 美元，並為每個新帳號提供 20 美元的免費額度。Meta AI 長 [&hellip;]</p>

便宜中國 AI 模型還能用多久？北京擬限制海外存取權，企業省下成本卻換來供應鏈風險

<p>中國研發的 AI 模型近年憑藉極低的 token 成本，以及逼近美國前沿模型的性能，在海外市場迅速崛起，成為許多企業降低營運成本的熱門選擇。然而，《Reuters》報導，目前中國正在研擬對最先進的 AI 技術實施出口管制，這將直接衝擊海外企業，讓原本省下的短期成本轉化為長期的供應鏈風險。這也凸顯，美中科技競爭的戰線已經延伸到模型與 API 的海外存取層面，讓企業在追求成本效率的同時，面臨前所未有的地緣政治不確定性。 低價中國 AI 模型爆紅後，北京為何考慮限制海外存取？ 阿里巴巴打造的 Qwen、字節跳動推出的豆包，以及 Z.ai 的 GLM-5.2，近年來因價格低廉、效能逼近美國前沿模型，在國際開發者與企業市場中迅速累積大量用戶。特別是 GLM-5.2，在部分基準測試中已直逼美國頂尖模型，使用成本卻僅為競爭對手的一小部分。對此，Vercel Agent 基礎設施主管 Harpreet Arora 曾指出：「當任務不需要最強模型時，團隊會開始把工作轉向最便宜且足夠好的模型上，而近期中國模型正贏得這場成本效益的選擇。」 然而，這項成本優勢即將迎來政策變數。據報導，中國商務部上月已召集阿里巴巴、字節跳動、Z.ai 等科技巨頭開會，討論限制海外存取中國最先進 AI 模型的可能性，且限制範圍可能涵蓋閉源模型、開放權重模型，甚至尚未發布的新模型。同時，中國官方也考慮將洩漏或非法轉移受保護 AI 技術的行為，直接納入國家安全法處理，並進一步收緊外資對中國國內 AI 新創公司的投資與融資限制。 為了建立具體的法規框架，中國法律專家已提出一套「分級審查」的構想。在此構想下，基礎的開源 AI 工具僅需進行簡單備案，較先進的技術則須通過嚴格的安全審查，而最敏感的前沿模型甚至可能被禁止對外公開發布，或僅限於中國境內使用。這一系列針對本土技術外流的「防禦型」立法考量，底層邏輯實際上與美國對中國實施的科技封鎖相同，那就是企圖將頂尖的 AI 模型鎖定在國境之內。 AI 模型成美中兩國戰略資產，技術保護主義正築起新高牆 中國這一連串擬議中的限制措施並非孤立的政治決策，而是美中雙方皆已將頂尖 AI 模型視為國家不可流失的「戰略資產」。事實上，中國的做法很大程度是在模仿美國政府的政策先例。美國政府先前同樣以國家安全為由，下令限制外國人存取 Anthropic 最先進的 Fable 5 與 Mythos 5 模型。雖然面向大眾應用的 Fable 5 已經被重新開放，但針對網路安全專業人士設計、具備極強漏洞探測能力的 Mythos 5，至今仍僅開放給少數受信任的美國機構與合作夥伴使用。 美國對高風險前沿模型的管制，加深了中國對技術外流與資安防禦落差的焦慮。中國網路安全巨頭奇虎 [&hellip;]</p>

企業忙著省 token，AI 巨頭卻狂送新創免費算力：OpenAI、Google 在搶什麼？

<p>當企業才剛開始為 AI Agent 推高的 token 帳單踩煞車，站在供給端的 AI 巨頭卻反向大手筆把算力免費送出去。問題是，這些公司此刻都正面臨 IPO 前改善獲利的壓力，為什麼還願意倒貼？ 根據《華爾街日報》報導，OpenAI、Anthropic 與 Google 等業者正擴大對新創的免費額度（credits）與折扣，部分新創甚至從多家業者手中拿到逾 300 萬美元額度，規模相當於美國種子輪募資的中位數。 這個落差之所以受到關注，是因為企業需求端才剛轉向。《Fortune》報導，過去一度盛行、以 token 用量高低衡量員工生產力的 tokenmaxxing 正在退燒；《華爾街日報》更觀察，企業逐漸發現用量高不等於投資報酬率高，開始改用 FinOps、用量儀表板與部門上限等雲端時代的成本管控手段管帳。就在需求端收緊的同時，供給端的巨頭卻反向猛送。 補貼戰打到 Y Combinator，一家新創可拿逾 300 萬美元 補貼戰升溫有一條清楚的時間線。《華爾街日報》指出，OpenAI 的程式碼能力一度落後於主打 coding 的 Anthropic，直到今年 3 月推出 GPT-5.4、追上對手多數能力後，才大舉派出業務，把由 GPT 驅動的 Codex 工具推銷給矽谷各地新創，並常以量大折扣等優惠搶客。 除此之外，今年 5 月，OpenAI 執行長 Sam Altman 在新創加速器 Y Combinator（YC）的活動上，向當屆每一家新創開出以股權換取價值 200 萬美元 OpenAI token 的條件，被 YC 合夥人形容為震撼全場的「mic [&hellip;]</p>

AI 帳單燒出企業怒火：Palantir CEO 為何說 OpenAI、Anthropic 的 Token 計費模式「…

<p>Palantir Technologies 執行長 Alex Karp 近日在 CNBC 的《Squawk Box》節目中，公開抨擊 OpenAI 與 Anthropic 等主流 AI 實驗室採用的 Token 收費結構，並直言當前的 AI 市場「有些事情完全搞錯了」。 Alex Karp 形容，目前美國企業的普遍現狀，就像是在辦公室裡「納涼放鬆」，一邊揮霍寶貴的時間與預算盲目消耗 Token，一邊卻毫無收穫，甚至在不知不覺中面臨將自身智慧財產權（IP）拱手讓人的巨大風險。 企業高層不滿 AI 帳單失控，「Token 極大化」熱潮正在退燒 Alex Karp 指出，許多企業高層對於 AI 公司開出的巨額帳單正在失去耐心，並紛紛在私底下向他吐露強烈的不滿。這些企業領袖向他抱怨，自己正在為那些「無法創造價值的 Token」支付高昂費用，而之所以會面臨這種窘境，是因為這些 AI 模型在行銷上被「完全且不負責任地過度銷售」。 Alex Karp 更進一步透露，這股怒火在企業界內部早已沸騰，如果外界私下打電話給任何一位企業執行長，並轉述他在電視上對 AI 實驗室的嚴厲抨擊，這些執行長私底下的憤怒程度只會更強烈。 這種對 Token 收費模式的集體反彈，迫使企業開始從過去盲目燃燒預算、追求消耗量極大化的「Token 極大化（tokenmaxxing）」狂熱中冷靜下來，轉向務實地審視投資報酬率與運作效率。例如，Uber 以及科技巨擘微軟（Microsoft），都因為 AI 程式碼編寫工具的支出嚴重超出預算，決定開始限制或控管員工的使用權限，反映出大型企業在面對暴增的 AI 成本時，已開始務實地踩下煞車。同時，這也促使許多企業開始削減在 OpenAI 與 Anthropic 上的支出，並從使用通用模型，轉向著手建立並訓練更具專用性的模型。&nbsp; 閉源模型引爆資料焦慮，Palantir 呼籲企業守住 [&hellip;]</p>

高盛預估到 2030 年 Token 用量暴增 24 倍，企業如何避免 AI 帳單失控？

<p>AI 越來越聰明，token 單價也越來越便宜，但只要缺乏管控，帳單很可能失控。根據高盛（Goldman Sachs）研究團隊預估，隨著消費者與企業導入 AI 代理（AI Agent），全球 token 消耗量將在 2026 至 2030 年間暴增 24 倍，來到每月 120 千兆（quadrillion）token。《華爾街日報》報導，企業開始部署一系列策略，包括雲端時代練就的老方法，以應對不斷攀升的 AI 成本。 Token 單價在跌，帳單卻越滾越大？ 帳單失控，並不是因為 token 變貴了。根據貝恩（Bain &amp; Company）研究，模型價格在 2024 年 12 月至 2025 年 12 月間約下跌 50%，但同期 token 消耗量卻成長 4.5 倍，漲的量遠遠蓋過跌的價。 而這波用量之所以壓不下來，源自 AI 使用型態的根本轉變：過去以提示（prompt）為主的聊天機器人，正被「一直開著」的自主 AI 代理取代，而後者消耗的 token 遠遠更多。高盛半導體與 IT 服務資深分析師 Jim Schneider 指出，相較於向聊天機器人提問，指派一個 Agent 去完成任務所需的運算量可高達 50 倍；高盛更預估，光是企業端的 [&hellip;]</p>

【科技早餐】AI 算力不夠了，Google 卡 Meta、南韓 800 兆韓元擴產記憶體

<p>【科技早餐】今天精選 7 則國內外重要科技新聞。 ＊Google 卡 Meta 用 Gemini，AI 巨頭也缺算力 根據《金融時報》報導，Google 已經限制 Meta 使用旗下 Gemini AI 模型，原因是 Meta 想購買的算力規模，超過 Google 能供應的能力。知情人士透露，Google 已告知 Meta，無法提供 Meta 想要的全部 Gemini 算力，這項限制影響 Meta 內部部分 AI 專案進度，也讓 Meta 要求員工提高 token 使用效率。除了 Meta，還有其他 Google Cloud 企業客戶受到算力限制影響，但 Meta 因為需求量特別高，受影響程度更明顯。 Meta 最初選擇 Gemini，是因為 Gemini 表現優於 Meta 自家的開放模型 Llama。知情人士也透露，Meta 近期已開始調整優先順序，提高新的自研模型 Muse Spark 的重要性。Google 執行長皮查伊（Sundar Pichai）先前在財報電話會議上也承認，Google 短期內面臨算力受限，如果能滿足所有需求，雲端業務營收原本會更高。這代表取得足夠算力，已經成為 [&hellip;]</p>

連 Meta 都買不夠算力：Google 一道限令揭 AI 產業真正瓶頸

<p>在社群媒體巨頭 Meta 尋求比競爭對手 Google 所能提供的更多運算能力後，Google 限制了 Meta 對其 Gemini AI 模型的使用。這再次證明，即使是世界上最大的 AI 供應商，也同樣面臨基礎設施的限制。 據《Financial Times》報導，Google 在今年三月前後告知 Meta，無法供應這家社群巨頭想採購的全部 Gemini 算力，這項至今仍未解除的限制，已經打亂並延後了 Meta 數個內部 AI 專案。這起事件也意外揭開了一個正在轉變的競爭邏輯：真正稀缺的資源，已經不是模型，而是支撐模型運轉的算力。 連 Meta 都買不夠：一紙限制令揭開產業瓶頸 《Financial Times》指出，受到這波限制影響的並不只有 Meta，Google 還有其他幾家客戶也同樣受到波及，只是程度較輕；Meta 之所以衝擊特別嚴重，是因為它對 Google 模型的需求異常地高。此外，由於這些限制加上撙節 AI 成本的整體考量，Meta 已要求員工更有效率地使用 AI token，也就是衡量 AI 用量的計算單位。 《Financial Times》分析，Google 對一家大型客戶的模型存取設下上限，這個決定罕見地讓外界得以一窺整個 AI 產業正在累積的基礎設施壓力與瓶頸。即便砸下數百億美元投入晶片、資料中心與電力，連最大的幾家科技公司，都難以取得足夠的運算能力來支應對先進模型與 AI 服務急速攀升的需求。 根據報導，Meta 當初選用 Gemini，是因為它的表現優於自家的 Llama 開源模型。Gemini 在 Meta 內部被用於自動化部分安全流程，例如揪出詐騙、下架有害內容，也用於客服與廣告協助的聊天機器人，以及部分工作流程與程式開發，與 [&hellip;]</p>

【AI 推理成本革命】不再靠人類直覺設計策略，AutoTTS 讓 AI 自己找最省 Token 推理方式

<p>來自 Meta、Google 及多所大學的 AI 研究人員，共同研發出了一套能夠自動找出最佳測試階段擴展（Test-time scaling，TTS）策略的框架 AutoTTS，降低模型 Token 用量及營運成本。</p>

【科技早餐】NVIDIA 押 AI 工廠，OpenAI、高通、日本同步重押 AI 基建戰

<p>【科技早餐】今天精選 8 則國內外重要科技新聞。 ＊NVIDIA 押 AI 工廠，黃仁勳喊國安優先 NVIDIA 執行長黃仁勳在年度股東大會上表示，AI 已經從「有趣」走向「有用」，當 AI 開始創造經濟價值，算力需求也會加速擴張。他把新一代資料中心稱為 AI 工廠，核心不再是儲存和傳輸檔案，而是生產 token。這些 token 會成為程式碼、答案、設計、行動和服務的原材料。目前全球近 40 個國家正在部署由 NVIDIA 基礎設施驅動的 AI 工廠，顯示 AI 基礎設施已從單純資料中心，轉向可直接創造經濟價值的生產系統。 黃仁勳也強調 Vera Rubin 平台的重要性。他指出，AI 代理會不斷調用工具、存取資料庫、執行程式碼，如果 CPU 成為瓶頸，昂貴的 GPU 就會閒置，AI 工廠的收入也會跟著流失。不過，這場股東會不只談成長，也談國安。針對先進晶片可能透過走私流入受限制市場，黃仁勳表示，走私晶片拼湊資料中心是死路一條，因為 AI 資料中心是高度整合的系統，需要軟硬體、網路及技術支援，而 NVIDIA 不會替走私晶片提供支援或維修服務。他也強調，當商業利益與美國國家安全衝突時，國家安全優先。 ＊OpenAI 首款晶片亮相，推論成本挑戰 NVIDIA GPU OpenAI 發表與博通（Broadcom）合作開發的首款客製化 AI 晶片 Jalapeño，這是 OpenAI 朝自有 AI 晶片基礎設施跨出的重要一步。這款晶片主要用於 AI 推論，也就是把 AI [&hellip;]</p>

Physical AI 落地卡在哪？Arm 高層揭三大瓶頸，Sim-to-Real 成突破關鍵

<p>現在，科技巨頭正從開發聊天機器人，大舉轉向投入「實體 AI（Physical AI）」領域。卡內基美隆大學電腦科學學院院長 Martial Hebert 就曾表示，實體 AI 正是傳統機器人技術的進化，畢竟，若 AI 只能閱讀文字，卻無法理解真實物理環境，就難以預測自身行為的後果，也難以具備真正的智慧。  看準這股實體 AI 的龐大趨勢，Arm 策略暨生態系執行副總裁 Drew Henry 近日接受《The Robot Report》Podcast 專訪時指出，Arm 正積極為未來幾年的人形機器人與自主機器，預先設計專屬運算架構，「對我來說，這個領域的核心工程屬性在於：如何縮短從感測器接收到光子，再到致動器觸發之間的延遲時間，」Drew Henry 說。 人形機器人的新算力指標：每焦耳、每公斤能處理多少 Token？&nbsp;&nbsp; 談到當前的硬體極限，Drew Henry 表示：「過去那種每 18 個月電晶體效能就翻倍的摩爾定律黃金時代，確實已經過去了。」 然而，他認為這不代表創新的終結，而是工程師現在必須轉向系統級設計，利用特定領域架構（Domain-specific architectures），或是將工作負載轉移到專用加速器上，以尋求效能突破。 針對未連接電源的機器人，Drew Henry 點出一個打破傳統資料中心思維的全新效能指標：「在這個領域，會出現一個全新的衡量維度：每焦耳、每公斤能處理的 Token 數。」 他解釋，機器人的重量會直接影響致動器移動時所消耗的電量，進而決定整體電池的壽命。因此，工程師必須在有限的電池容量和嚴苛的重量限制下，精算並分配致動器、感測器與運算系統各自的耗電比例。 從集中式大腦到分散式運算，人形機器人架構進入探索期 這種嚴苛的資源分配，也讓機器人的「大腦」設計面臨前所未有的挑戰。Drew Henry 形容，人形機器人平台可能是最複雜的運算平台之一，因為機器人內部存在截然不同的運算層面：一方面，它必須處理負責即時「運動（Locomotion）」控制的次毫秒級低延遲運算，以確保動作的安全性與精準度；另一方面，又要處理不需要極速反應，但專門負責與大型語言模型互動的「互動驅動智慧（Interactive Driven Intelligence）」。 面對如此龐大的運算需求，業界正迎來架構上的探索期。Drew Henry 分享自己近期在一週內拜訪兩家客戶的有趣對比：「有一家客戶告訴我，我們需要盡可能把所有最強大的運算力塞進這個機器人裡；但另一家客戶卻認為，正確的架構應該是在局部放置邊緣運算，並透過高速、低延遲的網路進行連接。」&nbsp; Drew Henry 強調，在配備密集感測器的環境下，分散式運算確實有助於平行處理多項任務，因此他也預期業界最終將在這兩種極端的架構中，找到最佳平衡點。為了解決這類極度複雜的系統瓶頸，Arm 也推出名為「Performix」的效能分析工具套件，讓軟體開發者與 AI 代理都能直觀地透視底層系統的遙測數據（Telemetry）與 I/O 等待狀態。此外，Arm [&hellip;]</p>