「token」的搜尋結果
#token也是一個關鍵字標籤
過去 3 天有 5 篇標成這個標籤 · 目前不在排行榜上
過去 3 天每小時篇數
11/11(三)
大陸「雙11」期間 電商平台首次售賣AI Token
又到了一年一度「雙11」購物節,除了日常消費品,各主流電商平台首次將人工智能(AI)所需的Token(詞元)作為獨立的商品品類上架銷售。 此前,AI模型的Token充值主要侷限在各大人工智能廠商自家的官網、App或開發者後台,屬於純粹的技術計費單元。但在2026年的「雙11」購物節促銷中,電商...

Gemini 4 Carbon 正式開放,評分緊追在 Fable 5.2 後面
Google 在 11 月 10 日宣布正式開放 Gemini 4 Carbon 給付費開發者、企業、科學家與一般用戶。API 價格與 Gemini 4 Argon 的導入價相同,每百萬輸入 token 2 美元、輸出 10 美元,並在 CursorBench 4.0、Perplexity 的 WANDR

11/10(二)
杜拜未來金融週閉幕,全球機構、監管機構及創新人士共訂未來金融發展議程
阿聯酋杜拜2026年11月10日 /美通社/ -- 首屆杜拜未來金融週於 11 月 6 日閉幕。活動在杜拜匯聚金融機構、監管機構、創新人士及 1,000 位講者,涵蓋 85 場配套活動、13 場重點論壇及 16 個舞台。本屆金融週由中東、非洲及南亞(MEASA)地區領先的全球金融中心——杜拜國際金融中心(DIFC)主導,促成逾 80 項合作,並發佈逾 100 項策略性公告,為全球金融業建立年度交流平台,同時推進《杜拜經濟議程 D33》提出的目標,讓杜拜躋身全球四大金融中心之列。 Dubai Future Finance Week 金融週以「重塑金融:創新、政策與使命的交匯點」為總主題,以 Dubai FinTech Summit 為核心活動,並涵蓋 Future Sustainability Forum、Future Islamic Finance Forum、Dubai Family Wealth Summit、Future Tokenisation Forum、IPEM Future Dubai、Capital Exchange GP-LP Programme、Investment

杜拜未來金融週閉幕,全球機構、監管機構及創新人士共訂未來金融發展議程 - 睿傳媒 Rightmedia
阿聯酋杜拜2026年11月10日 /美通社/ — 首屆杜拜未來金融週於 11 月 6 日閉幕。活動在杜拜匯聚金融機構、監管機構、創新人士及 1,000 位講者,涵蓋 85 場配套活動、13 場重點論壇及 16 個舞台。本屆金融週由中東、非洲及南亞(MEASA)地區領先的全球金融中心——杜拜國際金融中心(DIFC)主導,促成逾 80 項合作,並發佈逾 100 項策略性公告,為全球金融業建立年度交流平台,同時推進《杜拜經濟議程 D33》提出的目標,讓杜拜躋身全球四大金融中心之列。 Dubai Future Finance Week 金融週以「重塑金融:創新、政策與使命的交匯點」為總主題,以 Dubai FinTech Summit 為核心活動,並涵蓋 Future Sustainability Forum、Future Islamic Finance Forum、Dubai Family Wealth Summit、Future Tokenisation Forum、IPEM Future Dubai、Capital Exchange GP-LP Programme、Investment Leaders Exchange、GAIP InsureTek Middle East、MENA Banking Excellence Awards,以及 DealCatalyst Fixed Income Alternatives 系列活動。 DIFC 確認,現時已有逾 2,000 家人工智能、金融科技及創新企業進駐,並匯聚超過 600 家財富及資產管理公司。 DIFC 宣佈計劃推出 Dubai FinTech Stack,為創辦人提供創立、營運及擴展業務所需的關鍵能力,涵蓋客戶開戶、支付、風險管理、金融安全及人工智能整合。 此外,DIFC Academy 將於 DIFC Zabeel District 擴建,規模增至原有的 10 倍,面積達 370,000 平方呎,轉型為專為教學而建的校園,自 2030 年起每年可接收 50,000 名學員。 為培育下一代家族企業領袖,DIFC 公佈由 Dubai Family Wealth Centre 推行的 2027 年 NextGen 實習計劃,安排參加者到 DIFC 內的企業實習。 DIFC Innovation Hub 亦宣佈計劃成立伊斯蘭金融創新中心(Islamic Finance Innovation Centre),作為全球協作平台,連繫金融機構、監管機構、伊斯蘭教法學者、標準制定機構、金融科技公司及科技企業。 DIFC 旗下的杜拜官方初創企業生態平台 Ignyte 已簽訂多項合作協議,旨在開發可投入市場的解決方案、推動 Web3 創新,並協助相關初創企業及創辦人取得銀行服務。 第二屆杜拜未來金融週將於 2027 年 5 月舉行。 這篇文章 杜拜未來金融週閉幕,全球機構、監管機構及創新人士共訂未來金融發展議程 最早出現在 睿傳媒 Rightmedia.

鉅亨買幣速報 - USDC(USDC)24小時成交量超過13.97億美元,NFPrompt Token(NFP)24小…
指標幣種:比特幣(BTC)現報價格74,345.94美元,24小時漲跌幅-0.12%;以太幣(ETH)現報價格2,101.92美元,24小時漲跌幅-0.73%。亮點幣種:USDC(USDC)24小時成交量達13.97億美元;比特幣(BTC)24小時成交量達9.04億美元;以太幣(ETH)24小時成交

自由時報偏綠Claude Fable 5.2使用千個 AI 代理30小時完成費馬定理形式化證明
〔AI頻道/綜合報導〕Anthropic 本周一發表最新高階模型 Claude Fable 5.2,並同步推出限定專業機構使用的 Claude Mythos 5.2,主打大型程式開發、科學研究及長時間自主執行任務。Fable 5.2 在第三方評測機構 Artificial Analysis 最新 Intelligence Index 取得65分,登上綜合排行榜首位。Anthropic 也調降兩款模型的 API 價格,每百萬輸入及輸出 token 分別收費8美元、40美元,比前代便宜20%。這次發表最受關注的成果之一,是使用了約一千個 Fable 5.2 AI 代理在30小時內完成費馬最後定理的形式化證明。費馬最後定理早已由數學家證明,形式化工作則是將既有數學推導轉換成電腦可以逐步檢查的內容。Anthropic 今年9月曾利用內部研究模型完成相同工作,當時耗費11天,還需要專門設計的驗證工具及研究人員指導。這次改由大量代理分工處理,人工介入程度大幅降低,產生的證明也比前次精簡許多。


AI 浪潮下網路新趨勢:思科動態模型路由重新定義 SD-WAN
商傳媒|林昭衡/綜合外電報導隨著代理式人工智慧(agentic AI)的興起,企業網路流量正經歷轉型,傳統的路由策略已難以應對其複雜性。對此,美國網路設備龍頭思科(Cisco)於昨日指出,動態模型路由(Dynamic Model Routing, DMR)將成為 AI 時代軟體定義廣域網路(SD-WAN)的全新典範,協助企業有效管理 AI 工作負載。 動態模型路由是一項智慧化的策略與決策層,它能評估傳入的 AI 請求,並根據複雜度、成本、隱私與延遲等參數,將每個查詢導向最佳的執行路徑。這些路徑可能包括特定領域的小型語言模型(SLM)、企業內部部署模型、確定性應用程式介面(API),或是前沿大型語言模型(LLM)。 思科副總裁李·彼得森(Lee Peterson)表示:「正如 SD-WAN 利用即時遙測、策略與可觀察性來引導流量,模型路由也能將每個請求導向最符合其效能、成本、隱私和準確性要求的端點。」過去企業常為處理常規任務,而過度使用大型前沿模型,不僅耗費能源,也導致「令牌經濟學」(tokenomics,意指處理AI請求的成本效益)效益不彰;而這些任務其實可由更小、更專業的模型以更低的成本和更快的速度完成。報告指出,小型語言模型(SLM)在特定任務上,能比前沿模型降低高達 30 倍的營運成本。 動態模型路由的核心價值在於其即時評估能力,它能根據情境、複雜度、成本與延遲預算,以及資料隱私與治理等條件來處理請求。這項技術還可作為政策執行點(Policy Enforcement Point, PEP),檢查查詢中繼資料與資料分類,確保企業資料的隱私與治理。舉例來說,敏感、專有或受監管的資料負載可保留在安全的內部部署模型中,而非敏感的工作負載則能利用公有雲端 API。透過跨領域可視性,DMR 也能在請求處理前驗證端到端路徑,確保效能與可靠性。特別是在時間敏感的操作工作流程中,DMR 會優先選擇輕量化、本地化的模型以減少網路往返延遲,僅在必要時才轉向更深層次的雲端推理。 思科指出,DMR 將從小眾的最佳化技術發展為企業資訊科技架構的基石。透過思科 AgenticOps 等平台與 Cisco Deep Network Model 等專用引擎,企業領導者能從被動支出轉向主動管理,建立自動化防護措施,並平衡效能、隱私與價格,藉由將 AI 模型視為彈性端點來最佳化資源。

AI 移植《GTA 6》PC 版得燒掉上萬美元的 Token?前 Rockstar 技術總監:這仍無法阻止玩家嘗試
萬眾矚目的《俠盜獵車手6》終於將會在下週的 11 月 19 日正式推出,結束了粉絲們長達 13 年的漫長等待,但可惜的是,就如同《俠盜獵車手 5》和《碧血狂殺 2》等 Rockstar Games 過往的許多作品一樣,本作在最初上市時僅會登上家用主機平台,至於 PC 版本的消息目前則尚未公開。


Anthropic 發表 Fable 5.2 與 Mythos 5.2,模型「懷疑自己正在受測」的頻率高於近期 Cla…
Anthropic 發表 Fable 5.2 與 Mythos 5.2,這是 METR 估計其研發提速約 2 倍後的首次發表,輸入價從每百萬 token 10 美元降到 8 美元,官方也承認新模型比近期任何一款 Claude 更常懷疑自己正在受測。#人工智慧,Anthropic,Anthropic,AI 安全,Claude Fable 5.2,遞迴自我改進,模型欺瞞 (anthropic-fable-mythos-5-2-metr-evaluation-awareness)

Claude Fable 5.2 單價降 20%,企業就能省錢?推理設定讓每項程式任務成本差近 6 倍
Anthropic 在美國時間 11/9 發布 Claude Fable 5.2 與 Claude Mythos 5.2,宣稱新模型在幾乎所有評測過的能力上,都比自家的 Opus 5.5 略勝一籌;標準 API 價格也從前一代 5.1 版的每百萬輸入/輸出 token 10 美元、50 美元,降到 8 美元、40

AI代理人成駭客利器 資安平台ARTEX遭濫用竊取憑證 - 獨家報導
圖/示意圖 商傳媒|責任編輯/綜合外電報導 人工智慧(AI)技術的快速發展,使其不僅成為提升效率的工具,也成為 […]

Claude Fable 5.2 與 Mythos 5.2 發表:API 價格降到 8 美元、速度快 30%,Fron…
Anthropic 宣布推出 Claude Fable 5.2 與 Mythos 5.2 兩種旗艦模型:Fable 5.2 對所有人開放,Mythos 5.2 則只提供經過審核的資安與生命科學機構。根據 Anthropic 官方公告,Fable 5.2 的 API 價格為每百萬 Token 輸入 8

AI代理人成駭客利器 資安平台ARTEX遭濫用竊取憑證
圖/示意圖商傳媒|責任編輯/綜合外電報導人工智慧(AI)技術的快速發展,使其不僅成為提升效率的工具,也成為網路攻擊者的新利器。近期,一款名為 ARTEX 的開源 AI 驅動滲透測試平台,便被網路犯罪分子濫用,自動化竊取 Credentials(帳號憑證,即用於驗證使用者身份的資訊,如帳號密碼)與 Signing Certificates(簽章憑證,用於驗證軟體或文件來源合法性的數位證明),對企業資安構成嚴重威脅。 ARTEX 平台最初設計用於合法的資安測試,但自 2026 年 10 月 8 日其開發者將其下架以來,僅一週內就出現 102 個 ARTEX 的變體或複製版本,顯示這類工具的高度複製性與潛在風險。ARTEX 在惡意攻擊中,能以極少的人力介入,讓 AI 代理人自行規劃並執行攻擊行動。根據《eSecurity Planet》報導,資安研究機構 Check Point Research 記錄多起 ARTEX 被濫用的案例,包括針對 iOS 應用程式簽署服務、加密貨幣相關服務及遊戲帳號市集,成功竊取了大量憑證資訊與個人數據。 例如,在針對 iOS 應用程式簽署服務的攻擊中,ARTEX 代理人竊取了超過 300 組憑證與相關密碼,其中有 3 組成功通過驗證。在針對遊戲帳號市集的攻擊裡,ARTEX 代理人發現了外洩檔案及防護不佳的管理介面,可能獲取逾 19 萬組遊戲帳號,其中約 6,000 組仍可使用。此外,針對 292 個加密貨幣相關網域的攻擊,ARTEX 代理人透過查找外洩資料庫與有漏洞的 API,意圖竊取 USDT 並修改支付設定。值得注意的是,這些惡意 ARTEX 實例主要採用中國的 DeepSeek Flash 系列 AI 模型。 這些事件凸顯了 AI 代理人帶來的資安挑戰。《Security Boulevard》指出,隨著生成式 AI 工具與自主 AI 代理人的普及,企業風險格局已徹底改變。超過九成的員工 AI 互動發生在 IT 監管範圍之外,導致「影子 AI」問題日益嚴重。人工智慧不僅沒有取代現有風險,反而擴大了它們,例如 AI 編寫的網路釣魚郵件點擊率比傳統郵件高出 4.5 倍。 面對 AI 帶來的資安新挑戰,企業應採取多重策略。首先,資安團隊須全面了解組織內部所有 AI 工具的使用狀況,特別是未經批准的「影子 AI」。其次,應強化對非人類實體(NHIs)和程式化 Token 的治理。這包括持續追蹤機器身份、OAuth 整合以及授予自主代理人的程式化 Token。派拓網路、微軟、Cloudflare 及 Grip Security 等資安廠商都提供了相關平台來協助企業應對。其中,Grip Security 強調其身分優先的控制方案,能發現在員工認證時使用的所有 AI 工具,並管理非人類機器的 Token。 資安專家建議,企業應建立一個以風險評分框架為基礎的資安應對機制,而非僅依賴新增工具或全面禁止。這包含:識別所有使用者、應用程式、AI 代理人及其行為;量化風險,為每個人和每個代理人分配單一風險分數;設定權限並根據風險提升緊縮控制;在資料外洩發生前阻止威脅;以及優化修復流程,只處理真正關鍵的問題。透過這些措施,資安團隊才能有效保護企業資產,並在擁抱 AI 創新同時,降低潛在的資安風險。


鉅亨買幣速報 - USDC(USDC)24小時成交量超過13.66億美元,NFPrompt Token(NFP)24小…
指標幣種:比特幣(BTC)現報價格74,983.27美元,24小時漲跌幅-0.34%;以太幣(ETH)現報價格2,124.49美元,24小時漲跌幅-0.98%。亮點幣種:USDC(USDC)24小時成交量達13.66億美元;比特幣(BTC)24小時成交量達11.29億美元;以太幣(ETH)24小時成

Anthropic 推出 Claude Fable 5.2、Mythos 5.2!效能大幅提升,可打造作業系統、解決黑…
9 月底 Anthropic 推出的 Claude Opus 5.5 時,大部分工作上已經有 Fable 5.1 的水準,但價格便宜一大截,再加上 Fable 有每週限制,不少人也因此把主力模型換到 Opus 5.5(額度真的很省)。而經過兩個月左右的時間,Anthropic 正式將 Claude Fable 和 Claude Mythos 都升級到 5.2 版,這次 Fable 5.2 在多數官方測試中,都重新超越 Opus 5.5,而且是拉開差距。不是很接近的那種。更重要的是,Token 價格也降了 20%。

China’s Singles’ Day turns 18: bye coupon math, hello AI to…
For Sunny He, a 32-year-old Shanghai resident, this year’s Singles’ Day shopping season culminated in a single, high-value purchase: a 12,000-yuan (US$1,797) iPhone 18 Pro Max, sweetened by a 300-yuan voucher on Alibaba Group Holding’s Tmall marketplace. “For me, Double 11 definitely isn’t as lively as before because I have less spare cash than in previous years,” He said. “Even so, I’ll take advantage of this chance for products that I couldn’t bear to buy at full price, like a new...
#Alibaba#Singles' Day (11.11)#JD.com#Artificial intelligence (AI)#Shenzhen#China

Grok Bot 配額縮水、模型變笨引發用戶降級,馬斯克承諾改善
Grok Bot 近期更新引發網友們抱怨,不僅被指出 Token 用量增加至 4 倍,也有人稱 Grok 工作表現變差。伊隆·馬斯克(Elon Musk)9 日在 X 發文指,已與 Grok Bot 工程團隊開會檢討,修復將會在當天晚上推出,用戶隔天應會感到大幅改善。截至當天上午約 11 點半已有近...


紐約證交所攜手Avalanche 推進代幣化股票結算
商傳媒|方承業/綜合外電報導紐約證券交易所(NYSE)近日宣布,已選定 Avalanche 區塊鏈平台作為其代幣化股票結算系統的核心技術夥伴。此舉被視為華爾街傳統金融市場與區塊鏈技術深度融合的重要里程碑,旨在提升金融資產的交易與結算效率。 根據報導,Avalanche 將為紐約證交所的清算公司提供核心的數位分類帳技術,確保交易能快速記錄與結算,同時賦予紐約證交所管理參與者的能力,並維持成本的可預測性。這種「代幣化股票結算」(tokenized stock settlement)意指將傳統股票轉換為區塊鏈上的數位代幣,使其能直接在鏈上進行交易與結算,藉此精簡繁瑣的傳統流程,大幅提升效率並降低潛在成本。 紐約證交所早在今年一月便已揭露其發展基於區塊鏈的數位平台,用於交易代幣化股票的計畫。該平台若獲監管批准,將有望實現股票的全天候(24/7)交易、清算與結算。紐約證交所更規劃,這些代幣化股票將能與傳統發行的證券互換(fungible),並保障股東享有與傳統股票相同的股息與治理權益。 監管方面,美國證券交易委員會(U.S. Securities and Exchange Commission)已於去年九月發布新規定,允許代幣化股票的出現,並給予委員會五年時間考量區塊鏈交易的進一步措施。然而,市場人士也指出,監管問題仍有待克服,且部分企業目前仍不願將其股票代幣化。此消息發布後,紐約證交所(NYSE)的母公司洲際交易所(ICE)股價在週一盤中上揚了 1.6%。 紐約證交所數位發行主管 Dennis Lee 表示,Avalanche 將提供一個數位分類帳,不僅能快速記錄與結算交易,還能讓紐約證交所掌控參與者,並確保成本的可預測性。 參考來源 NYSE taps Avalanche for tokenized stock settlement; AVAX pri…(CoinDesk) NYSE Picks Tokenization Partner As 24/7 Stock Trading Gets C…(Investor's Business Daily)

思科推企業級AI安全方案 強調AI代理紅隊測試與可觀測性 - 獨家報導
圖/示意圖 商傳媒|責任編輯/綜合外電報導 隨著人工智慧(AI)代理在企業應用中日益普及,其帶來的安全與管理挑 […]

Meta發表小型AI模型Muse Ember 高效處理重複性任務成本更低
圖/示意圖商傳媒|何映辰/台北報導Meta Platforms 今日宣布推出旗下最小、效率最高的 AI 模型 Muse Ember,這款新模型專為人工智慧代理(AI Agent)設計,擅長處理大量重複性與 Token 密集型工作,並以更低的成本提供更高的效率。Meta 執行長祖克柏(Mark Zuckerberg)指出,Muse Ember 專為 AI 代理全天候重複的 Token 密集型工作而打造,例如工具呼叫、程式編寫子任務、路徑規劃、資料擷取以及長文件解析等。 Muse Ember 的設計重點在於高效處理小型、結構化的步驟。它能夠執行端到端的商業工作流程,包括從提取記錄、按順序呼叫工具,到跨應用程式更新系統。這款模型具備高達 1M-Token 的上下文視窗(context window),也就是人工智慧模型在處理單一查詢時能「記憶」或參考的資訊量,以及最高 512K 的輸出 Token(AI 處理資訊的基本單位,可以是一個單字、詞彙或字元片段),使其能單次處理完整的程式碼庫或文件集。此外,Muse Ember 也適用於 AI 代理頻繁執行的程式編寫子任務,像是讀取文件、執行測試和進行精準修復。 Muse Ember 最大的亮點在於其多模態理解能力,它能原生理解文字、圖像、音訊和視訊,讓 AI 代理無需額外模型即可處理視覺和聽覺資訊。這項能力使其能夠操作電腦的螢幕截圖,並辨識出細微的視覺細節,甚至處理長篇的實際文件。 在成本效益方面,Muse Ember 表現卓越。每百萬個輸入 Token(Token)僅需 0.10 美元,而每百萬個輸出 Token 則為 0.50 美元,這使其在執行人工分析(Artificial Analysis)任務時,每次任務成本約為 0.14 美元。根據《The Decoder》報導,Meta 表示 Muse Ember 在每個推理層級上,都能比 GPT-6 Luna 或 Claude Haiku 5.5 提供更優異的「每美元智慧」。與較大的 Muse Spark 1.3 模型相比,Muse Ember 的成本約低 12 倍,卻能在許多 Meta 自家的測試中取得領先,例如在 AutomationBench-AA 測試中獲得 37.8% 的分數,超越 GPT-6 Luna 的 20.2% 和 Claude Haiku 5.5 的 13.9%。儘管如此,在實際程式編寫任務的 FrontierCode 2.0-AA 測試中,Claude Haiku 5.5 以 34.9% 的分數略優於 Muse Ember 的 27.2%。 安全性也是 Meta 關注的焦點。Muse Ember 已通過 Meta 超級智慧擴展框架(Meta Superintelligence Scaling Framework)的評估,其中包括化學與生物、網路安全以及失控風險等,所有風險均保持在閾值以下。該模型也接受了與大型模型相同的核心安全訓練與測試。目前,Muse Ember 已透過 Muse Code 和 Meta Model API 平台以「muse-ember-1.0」版本提供,同時也在 Google Cloud 和 Oracle Cloud 上架。




Meta releases Muse Ember, a new lightweight model for agent…
At 10 cents per million input tokens, Ember is significantly cheaper than frontier competitors like Haiku and Luna.

11/9(一)
搶攻企業AI規模化的需求,Google新推兩款TPU新系統,TPU首度支援機密運算
新聞為了搶攻企業AI規模化的需求,Google再次加快TPU產品的發布速度,首度一年推出四款TPU產品。 Google今天發表了兩款第八代TPU新系統,分別是支援機密運算的TPU 8tx,以及因應百萬級Token上下文需求的TPU 8i Max。 Google今年4月才在Next大會發表兩款針對AI生命週期不同用途設計的第八代TPU晶片 ,瞄準大規模模型訓練最佳化的TPU 8t,以及針對低延遲推論最佳化的TPU 8i。不到半年,Google在這兩款TPU晶片的基礎上,推出了兩款新的TPU系統。 Google Cloud AI與運算基礎架構副總裁暨總經理Mark Lohmeyer在線上媒體說明會中表示, TPU迭代速度從過去每兩年發表一款新系統,加快至每年一款、兩款,今年更進入一年推出四款新系統的階段。 Mark Lohmeyer觀察,AI代理時代出現了三個根本性的轉變,第一個改變是從人類規模(Human scale)轉向代理規模(Agent Scale),單一使用者就可能帶來百倍甚至千倍的平行處理需求。 第二個改變是系統用途從「記錄性的系統」(Systems of record),轉變為「行動性的系統」(Systems of action),AI不只是檢索和摘要資料,還要與業務系統、資料系統互動,甚至要代表使用者執行任務,這也帶來了新的安全性和合規性挑戰。 第三項重大改變是從簡單請求,轉向高度複雜的代理工作流程,AI系統經常需要存取龐大上下文資料,在長時間的多步驟流程中維持這些資訊和上下文。 Mark Lohmeyer表示,這三大轉變讓基礎設施面臨的挑戰,不再只取決於擁有多少GPU或TPU,還包括資料移動速度、記憶體使用效率、降低延遲與成本,以及兼顧高度安全性和合規要求。 這是為何Google不到半年又要發布新系統產品的緣故。 Google更強調,晶片產品是指一款全新設計的晶片,但新系統則是指將運算、網路和儲存等最佳化設計與晶片整合的新解決方案。 Mark Lohmeyer這一席話,代表了AI供應商的競爭,從單純AI算力的競爭,跨入同時考量運算、網路、儲存與安全的系統級效能競爭。 Google今天發表的第一款新系統產品是TPU 8tx,這是以第八代TPU 8t晶片為基礎,在硬體層增加了安全機制,搭配客製化AMD CPU的主機,來提供機密運算的能力,確保資料傳輸和處理的每一個環節都經過加密。 資料從CPU經由PCIe傳輸至TPU 8tx晶片的整條路徑都可受到加密保護,避免模型權重、提示詞和企業資料外洩,避免遭到系統操作人員的窺探。不只用於模型訓練,用於推論過程,也同樣能加密敏感資料和模型權重。 TPU 8tx的機密運算能力不只能部署在Google公雲,Google也開放特定企業將系統部署於自有地端資料中心,降低實體環境操作人員接觸敏感資料的風險。 Google指出,8tx不只是提供硬體層安全性,還有另一個特色是,將TPU 8i的低延遲網路拓樸架構Boradfly引進到8tx系統中,來縮短晶片之間的通訊路徑,讓8tx在提供硬體層級的機密推論保護時,還能進一步降低推論延遲。 第二款新發表的TPU系統是TPU 8i Max, 這款系統將兩顆8i晶片整合封裝於單一模組,在系統層級提供384GB的高頻寬記憶體,比8i多了33%,來支援更多的上下文資料和KV快取。 8i Max的記憶體存取頻寬也翻倍,達到每秒17.2TB,加快資料傳輸速度。8i Max晶片上的SRAM快取記憶體也翻倍增加為768MB。 Mark Lohmeyer比喻,8i Max系統的做法像是在高速公路增加了更多的車道,不是讓每一輛車開得更快,而是讓更多車輛通過高速公路,達到2倍的吞吐率。「當有大量代理同時檢索和生成輸出的需求時,整體吞吐量的提升,對於維持回應速度極為重要。」他強調。這正是TPU 8i Max瞄準大規模AI代理需求的設計。 Google的目標是讓TPU變得像通用硬體一樣容易使用,並持續降低使用門檻。上個月在PyTorch大會上發表了與Meta合作發展的TorchTPU開源專案,這是專為TPU打造的原生PyTorch後端,可以讓PyTorch開發者,保留模型、程式碼、函式庫、工具和所有工作流程。 Mark Lohmeyer表示,只要修改幾行設定程式碼,就能從GPU轉換至TPU執行。 Mark Lohmeyer表示, PyTorch是企業最愛用的AI框架,推出TorchTPU專案是Google擴大TPU採用率和吸引力的整體策略之一。 Google同時也針對開源推論引擎vLLM和SGLang推出了搭配的TPU後端,可以讓這兩大開源推論引擎不只支援GPU,現在也開始能支援TPU。TPU過去主要透過JAX工具和TensorFlow框架搭配使用,Torc

鉅亨買幣速報 - 比特幣(BTC)24小時成交量超過11.13億美元,NFPrompt Token(NFP)24小時漲…
指標幣種:比特幣(BTC)現報價格74,439.99美元,24小時漲跌幅-1.92%;以太幣(ETH)現報價格2,116.5美元,24小時漲跌幅-5.36%。亮點幣種:比特幣(BTC)24小時成交量達11.13億美元;USDC(USDC)24小時成交量達8.66億美元;以太幣(ETH)24小時成交量
