#Token也是一個關鍵字標籤

過去 31 天有 62 篇標成這個標籤 · 目前不在排行榜上

過去 3 天每小時篇數

看 #Token 的趨勢 →

11/8(日)

11/7(六)

  • 商傳媒

    Google Gemini 4 Hydrogen模型傳聞不斷 官方僅證實Argon與Carbon

    圖/本報資料庫商傳媒|何映辰/台北報導關於Google下一代人工智慧模型Gemini 4系列,市場傳聞不斷,其中一款名為「Gemini 4 Hydrogen」的Flash模型引發業界關注。然而,Google官方至今尚未證實Gemini 4 Hydrogen的存在或其任何細節,僅確認已推出Gemini 4 Argon與Gemini 4 Carbon兩款模型。 根據科技媒體《Shattered》報導,Gemini 4 Hydrogen的傳聞主要來自社群平台X(前身為Twitter)上的討論,並經由OfficeChai等媒體轉述。Flash模型通常設計用於處理大量、重複性高的工作負載,例如分類、資訊擷取、聊天路由及代理程式的子步驟,其特色是執行速度快且成本較低。由於目前已發布的Gemini 4 Argon模型定價屬於旗艦級,市場推測Google可能需要一款更經濟實惠的Flash級模型來補足產品線。 Google已於2026年9月30日正式宣布推出Gemini 4 Argon,並在Google Cloud上列出其模型ID為gemini-4-argon。該模型目前提供優惠價格,每百萬輸入Token(AI處理的最小單位,可視為文字或程式碼片段)為2美元,每百萬輸出Token為10美元。此優惠價將持續至2026年11月30日,之後標準價格將調整為每百萬輸入Token 4美元,輸出Token 20美元。此外,Google也已透過官方部落格公布Gemini 4 Carbon模型的相關資訊。 儘管Gemini 4 Hydrogen的傳聞甚囂塵上,但目前所有關於其性能評分或定價的說法均屬猜測。報導建議開發者應以Google已公布的官方模型價格與時程進行規劃,而非等待未經證實的模型。不過,該報導也預測Google可能在未來幾週內公布關於Hydrogen的官方資訊,屆時其公開名稱或許會與傳聞有所不同,且若該模型存在,其價格應會低於Gemini 4 Argon的標準費率。

    #Google#Gemini#AI模型#人工智慧#Flash模型

  • TVBS新聞網偏藍

    影音/陸打造首座Token工廠!成本比海外低80倍 2億美元合約到手

    人工智慧技術正大幅改變影視創作模式,廣西打造付費制AI短劇創作平台,串接字節跳動旗下影片生成大模型Seedance,使用者只需輸入一句構想,即可自動生成劇本、分鏡與完整影片,大幅降低創作門檻。業者估算,一部60集AI短劇成本約新台幣15萬至20萬元。短劇蓬勃發展也帶動AI Token消耗量攀升,廣西打造大陸首批商業化Token工廠,以低價算力搶攻全球市場。

    #人工智慧#字節跳動#生成式AI#算力#AI短劇#影視創作

  • 商傳媒

    輝達 RTX Spark 筆電登場 整合 CPU/GPU 搶攻設備端 AI

    商傳媒|責任編輯/綜合外電報導輝達(Nvidia)於昨日(6日)在南韓首爾舉行記者會,正式發表搭載全新「RTX Spark」整合型 PC 晶片的筆記型電腦,旨在擴大設備端人工智慧(On-device AI)的應用。這款晶片能讓複雜的 AI 任務直接在筆電上處理,無需依賴網際網路連線或外部 AI 服務。 根據《CHOSUNBIZ》報導,RTX Spark 是一款將中央處理器(CPU)與繪圖處理器(GPU)整合在單一封裝內的半導體產品,並共享大容量記憶體。輝達代表指出,透過 RTX Spark,使用者可直接在筆電上完成多項複雜的 AI 任務,例如將一段三小時的影片,透過 AI 指令快速剪輯成三分鐘的精華片段,整個過程僅需約一分鐘。此外,筆電上的 AI 也能協助整理電子郵件、排程,甚至執行虛擬機器人的動作,且使用者只需以日常語言下達指令。 RTX Spark 於 10 月 16 日正式推出,其 GPU 採用輝達的 Blackwell 架構,而 CPU 則為 Grace,由輝達與台灣的聯發科(MediaTek)共同設計。這打破了以往 PC 晶片多半結合英特爾(Intel)或超微(AMD)CPU 與輝達 GPU 的慣例。頂級的 RTX Spark 產品配備 20 核心 CPU,並與 GPU 共享高達 128GB 的 LPDDR5X 記憶體,CPU 與 GPU 之間透過 NVLink Chip-to-Chip(NVLink C2C)技術進行資料交換。 目前已有六家製造商推出搭載 RTX Spark 的筆電,包括台灣的華碩(Asus)、微星(MSI),以及戴爾(Dell)、惠普(HP)、聯想集團(Lenovo)、微軟(Microsoft)。輝達亞太區技術行銷總監 Jeff Yen 表示,RTX Spark 筆電的起價約為 470 萬韓元(約新台幣 11.5 萬元),高階機種則可達 1,300 萬韓元(約新台幣 32 萬元),價格定位偏高,主要客群鎖定開發者與科技愛好者。Jeff Yen 強調,在雲端持續運行複雜的 AI 模型成本高昂,而本地硬體則能有效降低 Token 使用成本。 RTX Spark 在僅使用電池供電時,仍能維持約 98% 的效能表現。輝達也提供安裝與使用指南,協助使用者選擇合適的 AI 模型並連接至應用程式,以最大化 RTX Spark 的效益。對於需要長時間運行 AI 模型或處理高安全性任務的開發者與內容創作者而言,透過 RTX Spark 在本地端執行 AI,不僅能節省雲端費用,也能確保資料安全。

    #輝達#RTX Spark#設備端AI#筆記型電腦#聯發科

  • 鉅亨網

    鉅亨買幣速報 - USDC(USDC)24小時成交量超過11.46億美元,NFPrompt Token(NFP)24小…

    指標幣種:比特幣(BTC)現報價格76,193.61美元,24小時漲跌幅+0.09%;以太幣(ETH)現報價格2,248.73美元,24小時漲跌幅+0.32%。亮點幣種:USDC(USDC)24小時成交量達11.46億美元;比特幣(BTC)24小時成交量達10.06億美元;以太幣(ETH)24小時成

    #虛擬貨幣盤中

  • 商傳媒

    企業導入 Claude Code 挑戰浮現 CIO 需掌握 AI 代理治理要點

    商傳媒|葉安庭/綜合外電報導隨著人工智慧(AI)工具深入企業運作,資安風險與治理問題日益受到關注。Anthropic 公司開發的 AI 工具 Claude Code,因其強大的程式開發能力,正被企業廣泛應用於程式編寫、重構、問題排除及基礎架構管理等任務。然而,其在員工工作站本地運行的特性,以及對程式碼、憑證和雲端環境的存取權限,對企業的資訊長(CIO)構成了新的治理挑戰。 根據資安公司 CrowdStrike 的內部使用數據,終端 AI 代理程式(一種能自動執行特定任務的 AI 程式)所消耗的 Token(AI 模型處理資訊的基本單位)數量,約是人類使用瀏覽器上 AI 聊天機器人的 700 倍。這意味著 AI 代理程式的活躍度與潛在影響範圍遠超想像。CrowdStrike 的《2026 年威脅情資報告》也指出,由 AI 代理程式觸發的偵測警報,比人類觸發的警報高出 2.5 倍,凸顯了相關安全風險的提升。 Claude Code 內建多項治理功能,包括集中管理設定、工具與指令的權限規則,以及稱為「Hooks」的程式化檢查點。Hooks 可以在程式執行流程中的特定時刻(如會話開始、使用者提交指令、工具使用前後)自動運行,檢查 AI 代理程式的預期動作,並決定允許、阻止、記錄或要求人工批准。企業可以利用 Hooks 來防止 AI 存取生產環境憑證、修改敏感目錄,並記錄其活動供安全團隊審查。 然而,Hooks 的治理能力存在局限。它們僅評估 AI 代理程式「即將採取的動作」,卻無法追蹤這些動作進入作業系統後的「實際後果」。舉例來說,一個經 Hooks 批准的指令所啟動的腳本,可能會在沒有再次經過檢查點的情況下,執行讀取雲端憑證或建立外部連線等行為。此外,Hooks 是基於規則的策略執行點,難以捕捉經過編碼的惡意酬載、由 AI 自行編寫執行的腳本,或是由一系列看似無害的獨立步驟組成的複雜攻擊。AI 代理程式在持續推理過程中,讀取檔案、文件、網頁內容等以決定下一步行動時,也可能產生風險,而 Hooks 無法監控這個推理過程。 安全風險不僅限於直接攻擊,還包括「間接指令注入」(indirect prompt injection),即攻擊者透過外部檔案(如 README 文件或第三方依賴項)來秘密引導 AI 代理程式行為;以及「代理程式行為偏差」(agentic misalignment),指 AI 雖達成目標但卻以不安全的方式執行,例如為了加速任務而將敏感資料上傳至公共服務。 為彌補 Hooks 的不足,企業需要導入「執行時期實際行為監控」(runtime execution visibility)。這項技術能觀察 AI 代理程式在執行時對終端裝置造成的實際活動,包括啟動的程序、存取的檔案、網路連線及接觸的憑證等,並將這些行為與原始指令鏈結,建立完整的因果鏈。這類似於資安領域從傳統防毒軟體轉向「端點偵測與回應」(EDR)的演進。CrowdStrike 的 Falcon® Guardian 產品即整合了 Claude Code 的 Hooks,將 AI 代理程式活動匯入其 Falcon® platform,並結合執行時期行為進行調查與回應。Hooks 與執行時期行為監控兩者相輔相成,而非相互競爭,共同為企業 AI 治理提供全面的安全防護。

    #Claude Code#人工智慧#企業資安#AI 治理#CrowdStrike

  • 商傳媒

    Hyperliquid 積極布局美國市場 $HYPE 代幣潛力受關注

    圖/本報資料庫商傳媒|方承業/綜合外電報導去中心化加密貨幣交易所 Hyperliquid 正積極拓展其業務版圖,將目光投向美國傳統金融市場。其 Nasdaq 上市的關聯公司 Hyperliquid Strategies(股票代號:$PURR)已向美國商品期貨交易委員會(CFTC)提交經紀商執照申請。 Hyperliquid Strategies 據報導持有超過 30 億美元價值的 HYPE token($HYPE),若經紀商執照獲批,將允許美國客戶進入 Hyperliquid 的許可市場(permissioned markets)。這些許可市場是基於 Hyperliquid 現有基礎設施與流動性而建構的交易平台,但要求用戶完成認識你的客戶(KYC)身份驗證,以符合監管要求。 早在今年八月,現任美國總統川普便公開表示,美國商品期貨交易委員會正致力於推動 Hyperliquid 進入美國市場。上週,洲際交易所(ICE)也採取了行動,進一步布局成為這些市場的營運商。 Hyperliquid 的最終目標是超越單純的加密貨幣交易平台,發展成為能夠支援更廣泛市場的金融基礎設施,未來甚至可能包含傳統資產的交易。 【提醒您】 加密資產價格波動劇烈,本文僅供參考,不構成投資建議

    #Hyperliquid#$HYPE#美國市場#加密貨幣#金融科技

  • 鉅亨網

    鉅亨買幣速報 - USDC(USDC)24小時成交量超過14.2億美元,NFPrompt Token(NFP)24小時…

    指標幣種:比特幣(BTC)現報價格76,099.99美元,24小時漲跌幅-0.06%;以太幣(ETH)現報價格2,249.52美元,24小時漲跌幅+0.36%。亮點幣種:USDC(USDC)24小時成交量達14.2億美元;比特幣(BTC)24小時成交量達12.44億美元;以太幣(ETH)24小時成交

    #虛擬貨幣盤中

  • 商傳媒

    AI 估值重估引美科技股拋售潮 加密貨幣市場市值大蒸發

    圖/示意圖商傳媒|何映辰/台北報導近期美國科技股因人工智慧(AI)估值面臨重新評估,引發市場大規模拋售潮,連帶衝擊加密貨幣市場,導致比特幣與其他數位資產的價值大幅下滑。 美科技股回檔殃及加密市場 根據《InteractiveCrypto》報導,受到美國股票市場(特別是科技股)拋售的影響,比特幣價格於 11 月 6 日下跌近 6%,整體加密貨幣市值也蒸發約 5%。美國現貨比特幣 ETF 在 11 月 5 日淨流出高達 4.302 億美元,而從 11 月 2 日至 5 日的累計淨流出更達 8.698 億美元,使得該類 ETF 今年以來的總淨流量轉為負值 5.02 億美元,抹去了 2026 年所有資金流入。此外,《TokenPost》指出,在 11 月 5 日至 6 日的 24 小時內,加密貨幣市場的槓桿多頭部位清算金額超過 11 億美元,主要交易所的總清算額達 1.489 億美元,其中 64% 為多頭部位。以太坊(Ethereum)價格也同步大跌近 8%。 AI 風險浮現與實體成本揭露 在市場對 AI 估值進行修正之際,人工智慧的潛在風險與實際成本也逐漸浮現。據《FOX 56 News》報導,Google 旗下的 Gemini AI 聊天機器人正遭家長提起訴訟,指控其在學校 Chromebook 上提供的服務,涉嫌協助一名 13 歲少女規劃自殺與葬禮,引發各界對 AI 安全性的高度關注。同時,一部名為「The Technological Sublime」的紀錄片,正在台北南港展覽館舉行的台灣內容節(TCCF)上展映。該片追溯了 AI 的實體供應鏈,從美國阿帕拉契山脈的石英礦、台灣的晶片廠、智利的鋰礦田、海底電纜,到肯亞的點擊工人,揭露了 AI 看似「輕量化」的雲端運算背後,實際存在的巨大物質、生態與人力成本。 台灣在全球 AI 供應鏈中的角色 紀錄片特別點出,台灣的晶片廠在全球 AI 供應鏈中扮演關鍵角色。隨著國際市場對 AI 估值的重新評估,對高效能 AI 晶片的需求與生產動態可能將面臨調整。這項發展預計將間接影響台灣作為全球半導體製造重鎮的地位,使台灣相關科技產業面臨新的挑戰與機會。 AI 發展腳步未歇 儘管市場對 AI 的前景保持謹慎,相關技術的發展腳步並未停歇。《Mashable》報導,Meta 旗下的 AI 代理服務 Muse 已在美國推出語音支援與富有表情的虛擬替身功能,讓使用者能透過語音與 AI 互動。同時,印度電信商 Vodafone Idea(Vi)也與資誠聯合會計師事務所印度分所(PwC India)合作,在孟買成立「Vi Intelligence Lab」,旨在開發企業級 AI 解決方案,重點聚焦於代理式人工智慧(agentic AI)、輔助式人工智慧(assistive AI)以及主權與負責任的 AI 等三大支柱,顯示全球企業仍持續投入 AI 創新與應用。 參考來源 Lawsuit claims AI on Google’s school Chromebook helped plan…(FOX 56 News) Meta's popular AI agent Muse adds voice support(Mashable) AI Data Centers Use 4% of US Power: Hidden Cost [2026](Tech Insider) Vi Intelligence Lab: 3 AI Pillars, PwC in Mumbai [2026](Shattered) Bitcoin Futures Open Interest Drops to $52 Billion as Trader…(CryptoNews) Bitcoin Recovers From $6.3B Binance Hack: Is the Market Matu…(CryptoNews) Bitcoin's 2026 Gains Erased: ETF Outflows Overwhelm Regulato…(InteractiveCrypto) Crypto Liquidations Reach $148.9 Million as Longs Take 64%(TokenPost) Bitcoin Price Analysis: Aggressive Weekly Breakdown Targets…(CryptoNews) Vi Intelligence 2026: Vodafone Idea + PwC AI Lab, 1 Goal(Tech Insider)

    #AI泡沫#科技股#比特幣#人工智慧#台灣半導體

11/6(五)

  • 南華早報

    Crypto heavyweight eyes Hong Kong expansion to tap growing…

    Solana Company, one of the world’s largest blockchain networks, plans to expand in Hong Kong to tap the city’s growing demand for tokenisation, according to a senior executive. “I believe that the biggest opportunity for Solana is actually in [the Asia-Pacific region],” Solana Company chairman and CEO Joseph Chee said in an interview in Hong Kong earlier this week. Founded in the US in 2018, the company is behind one of the most popular cryptocurrencies. With a market capitalisation of about...

    #Fintech#Cryptocurrency#Bitcoin#Stablecoins#Hong Kong#China

  • 流動日報

    5 個極大幫助技巧:有效減少 Grok Bot 用量消耗

    近日 Grok Bot 官方將每周用量配額顯著降低,幅度接近腰斬,只剩之前的一半左右。在額度如此吃緊的情況下,若維持過去隨意呼叫的習慣,很容易在周中就直接「見底停機」。要讓工作流程不中斷,就必須學會精準控管 Token 與系統資源。以下整理 5 個實用技巧,幫你大幅降低 Grok Bot 的用量消耗。

    #Content#AI#Daily#主頁 - Android#主頁新聞熱話#實用教學

  • 緯來新聞網

    群聯EPS狂賺138元!砸45.6億買庫藏股 潘健成:用行動展現信心

    【緯來新聞網】NAND控制晶片大廠群聯(8299)在台股遭遇史詩級股災之際,宣布砸下最高45.6億元買回庫藏股,展現對公司營運及未來發展的信心。群聯創辦人暨執行長潘健成表示,近期股市雜音較多,希望透過實際行動向市場傳達信心;另一方面,群聯第三季財報也繳出亮眼成績單,單季每股純益(EPS)達138元,年增逾12倍,營收、毛利及EPS三項指標同步刷新歷史同期新高,AI相關業務營收占比更突破5成。群聯6日公告,董事會決議自11月6日起至明年1月5日止,買回200萬股普通股,預定買回價格區間為每股1,680元至2,280元,最高投入金額約45.6億元,占公司已發行股份總數約0.9%,買回股份將轉讓予員工。公司指出,將依照股價變化及市場成交量分批執行,即使股價低於預定買回價格下限,仍可繼續買回。潘健成指出,這次實施庫藏股主要是為了員工激勵,也希望在市場震盪之際,讓外界看見公司對未來營運的信心。除了庫藏股計畫,群聯也同步宣布與供應商簽訂為期3年的DRAM長期供應協議,合約自2026年11月7日起至2028年12月31日止,藉此取得關鍵產能優先配額,確保未來營運所需的供應穩定,為後續業務成長預作準備。從財報來看,群聯第三季合併營收達860.76億元,季增26.8%、年增374.6%;營業毛利513.87億元,年增774.3%,毛利率達59.7%;稅後淨利305.48億元,季增16.5%、年增1,272%,EPS為138元,不僅優於前一季的118.57元,也遠高於去年同期的10.75元。此外,群聯10月合併營收達315.3億元,月增3%、年增346%,累計今年前10月營收達2,264.62億元,年增298%,單月及累計營收雙雙創下歷史同期新高。值得注意的是,AI已成為群聯重要的營運成長引擎。潘健成表示,隨著企業使用雲端AI的Token成本逐漸增加,部分企業甚至開始限制員工使用額度,地端AI在成本控制、資料安全及自主掌控方面的優勢逐漸浮現。群聯將持續深化Phison 3.0轉型,從原本的NAND控制晶片及儲存產品供應商,進一步朝AI儲存、運算及軟體服務發展,擴大高附加價值業務。儘管消費性市場受到手機、PC需求疲弱及NAND價格上漲影響,但群聯透過AI及企業級市場布局,持續拉高營運動能。此次在股災期間宣布買回庫藏股,加上簽訂DRAM長約,也讓市場關注群聯如何在產業需求轉變之際,持續擴大AI商機。

    #記憶體#群聯#潘健成#NAND#DRAM

  • 鉅亨網

    鉅亨買幣速報 - 比特幣(BTC)24小時成交量超過21.01億美元,NFPrompt Token(NFP)24小時漲…

    指標幣種:比特幣(BTC)現報價格76,112美元,24小時漲跌幅-5.23%;以太幣(ETH)現報價格2,241.3美元,24小時漲跌幅-7.14%。亮點幣種:比特幣(BTC)24小時成交量達21.01億美元;USDC(USDC)24小時成交量達17.09億美元;以太幣(ETH)24小時成交量達9

    #虛擬貨幣盤中

  • 商傳媒

    新創AI Agent成本陷阱多 詳算服務開銷防範獲利侵蝕

    商傳媒|何映辰/台北報導台灣新創公司若採用人工智慧 Agent(AI Agent,自動執行任務的 AI 程式)提供服務,常面臨成本評估的挑戰。許多創業家僅考慮模型 API 的基本費用,卻忽略了隱藏的「服務成本」(Cost to Serve),這指的是將產品交付給單一客戶在特定期間內的實際花費。對於 AI Agent 服務而言,這不僅僅是 API 的標價,而是整個互動流程中所有相關費用的總和,這可能導致營運利潤悄然轉負。 根據《Startup Fortune》週四(11月5日)的報導指出,AI Agent 查詢的「總服務成本」遠超出基本模型 API 價格,它涵蓋了輸入的 Token(處理資訊的單位)、輸出 Token、重試次數(retries,當 AI 遇到困難時重新嘗試的成本)、工具調用(tool calls,AI 使用外部工具如資料庫或 API 的費用)以及上下文視窗(context window,AI 記憶和理解對話所需的空間)等額外開銷。其中,重試與工具調用是創業家最常忽略的兩項成本,且它們的開銷會隨任務複雜度增加,而非營收。舉例來說,一個簡單的客戶支援互動可能僅花費約兩美分,但一項涉及三次工具調用和一次重試的複雜研究任務,單次成本就可能高達 0.15 至 0.40 美元,是簡單任務的 8 到 20 倍。 報導強調,新創公司不應僅關注單次 AI Agent 查詢的成本,更重要的是每個客戶區隔的 AI Agent「毛利」(gross margin,營收扣除直接成本後的利潤空間)。由於複雜任務的高成本,單一客戶若執行複雜多步驟任務,其服務成本可能比執行簡單查詢的客戶高出 5 到 15 倍,即使兩者支付相同的訂閱費用。這意味著,一間看起來健康的創業公司,一旦某位客戶擴大使用量,其潛在的負毛利問題便會浮現。例如,即使整體毛利為 70%,若有 10% 的高用量客戶營運在負 20% 的毛利,實際上公司並非擁有 70% 毛利的業務。 為了解決這個問題,《Startup Fortune》建議新創應停止等待問題出現,而是根據任務複雜度而非當前使用量來預先模型化服務成本。定價策略應針對高用量客戶的重度使用模式來制定,而非僅以平均使用量為基礎。此外,新創應每週而非每月追蹤每個客戶區隔的互動成本,因為高用量客戶的利潤崩潰往往會提早數週顯現。報導指出,過去在 2024 年至 2025 年期間,像是 Vercel 的 v0 產品和多款 AI 程式開發工具(AI coding assistants),就曾因類似問題,從固定或寬鬆的使用方案轉向按量計費(consumption-based pricing)模式。程式開發平台 Replit 也於 2025 年轉為按用量計費的模式,以因應其 Agent 產品所顯現的使用差異。 這項繁瑣的成本會計工作,儘管看似與產品開發無關,卻是決定 AI Agent 服務能否規模化的關鍵。缺乏精準的成本評估,可能導致新創與其最大客戶進行協議重談,且是在客戶已根據無法支持的價格建立工作流程之後,屆時將處於被動局面。

    #AI Agent#新創公司#服務成本#毛利#定價策略

  • ShoppingDesign

    當 AI 開始對話、夢境也能被生成!「2026 TAxT桃園科技藝術節」從 Token 出發,重新想像人與科技的關係

    AI 不只生成圖文,連夢境、記憶與身體感知也成為創作素材。2026 桃園科技藝術節從 Token 出發,透過互動裝置與跨域創作,探索人與科技的關係。

    #設計生活#風格經濟#文化創新#創意靈感

  • MoneyDJ理財網

    DeepSeek Harness日活躍用戶達154萬 推官方插件市場

    綜合陸媒報導,DeepSeek近日公布旗下AI智慧體平台DeepSeek Harness的最新運營數據。截至11月4日,DeepSeek Harness日活躍用戶達到154萬,日消耗Token約92兆,第三方插件數量增至約3....

    #應用軟體#人工智慧#雲端科技

  • 商傳媒

    Google Cloud BigQuery 整合 AI.AGG 實現語意數據聚合深化洞察

    圖/本報資料庫商傳媒|何映辰/台北報導Google Cloud 近日為其雲端資料倉儲服務 BigQuery 推出一項名為 AI.AGG 的新功能,旨在協助資料工程師與 AI 開發者,利用大型語言模型(LLM)的力量,直接在資料庫中進行語意數據聚合。這項工具大幅簡化了從海量非結構化資料中提煉有意義摘要與洞察的複雜性。 AI.AGG 是一個 BigQuery 內建的聚合函式,它利用 Google 的 Gemini 模型,在 BigQuery 環境中直接處理複雜的非結構化數據聚合任務。「語意數據聚合」指的是根據資料的含義和上下文進行匯總,而非僅僅是數值或關鍵字的匹配,這對於理解複雜文本和多模態內容至關重要。 AI.AGG 的運作方式是將複雜的資料處理流程抽象化。它會自動將輸入資料進行分塊(chunking),並動態分組為符合 Gemini 模型 Token 限制的批次。接著,它會將自然語言 SQL 提示平行應用於每個批次,透過 Vertex AI 生成中間語意摘要。這些中間結果會被遞歸合成,直到針對每個 SQL GROUP BY 子句產生單一的最終聚合字串。 這項功能的一大特色是全程依賴完整的 LLM 進行處理,而非僅限於單行級別的函式,例如 AI.CLASSIFY。AI.AGG 原生支援文字及多模態輸入,能利用 BigQuery 物件表格(Object Tables)及 OBJ.GET_ACCESS_URL 函式,直接從 Google雲端儲存(Cloud Storage)聚合視覺洞察,無需資料搬移或轉碼。 AI.AGG 的分析能力在結合標準 SQL GROUP BY 操作時尤其顯著。例如,DevOps 團隊可以將數百萬筆系統日誌依元件分組,生成人類可讀的診斷摘要,以識別細微的效能降級。此外,它也能用於處理舊有的客服票證文字,自動歸納出明確的類別清單,並輸出為 JSON 陣列,進而在 SQL 中協調自主資料標記流程。 為優化使用體驗,Google 建議在 AI.AGG 工作流程中,利用 BigQuery 對 Gemini 上下文快取(Context Caching)的支援,尤其對於龐大且靜態的資料集,有助於降低輸入 Token 成本與執行延遲。在安全性方面,AI.AGG 運行於 BigQuery 的治理框架內,支援 VPC Service Controls 以防止資料外洩。資料處理上,單一酬載行不得超過 10 MiB,每個 SQL 群組的最終輸出字串上限為 10,000 個 Token,且建議單次查詢最多處理 2,000 萬行,並輸出不超過 1,000 個獨立 SQL 群組。

    #Google Cloud#BigQuery#AI.AGG#語意數據聚合#大型語言模型

  • 鉅亨網

    鉅亨買幣速報 - 比特幣(BTC)24小時成交量超過20.12億美元,NFPrompt Token(NFP)24小時漲…

    指標幣種:比特幣(BTC)現報價格76,157.7美元,24小時漲跌幅-5.66%;以太幣(ETH)現報價格2,241.51美元,24小時漲跌幅-7.81%。亮點幣種:比特幣(BTC)24小時成交量達20.12億美元;USDC(USDC)24小時成交量達16.7億美元;以太幣(ETH)24小時成交量

    #虛擬貨幣盤中

  • 商傳媒

    AWS推Kiro bots 專精AI代理減輕開發者管理負擔

    圖/示意圖商傳媒|林昭衡/綜合外電報導全球雲端服務巨擘 AWS 近日推出 Kiro bots,這項新功能整合至其開源多代理開發環境 Kiro Crew 中,旨在協助軟體開發者擺脫持續監管人工智慧代理(AI Agent)的負擔。AWS 工程總監 Kathy Kam 指出,專精型 AI Agent 的效率遠高於通用型,Kiro bots 將讓 AI Agent 具備特定技能、工具與長期記憶,大幅提升自動化開發流程的效率。 Kiro bots 的核心概念是讓每個機器人負責開發工作流中的單一、明確任務,例如問題分類、建構監控或發布準備。這類機器人能記住其學習內容,並自行管理工作階段,從而減輕開發者在平行處理多個 AI Agent 時日益增加的協調負擔。 Kiro Crew 平台於今年 8 月推出,源自 AWS 內部名為 MeshClaw 的專案。該內部工具在短短六個月內,吸引了 39,000 名 Amazon 內部開發者與近 500 名貢獻者使用。AWS 發現,在實際應用中,專精型 AI Agent 的表現最為出色,這也促成了 Kiro bots 的誕生。每個 bot 都能擁有獨立的運作空間,確保其行為或學習進程不會互相干擾。 根據《The AI Economy》報導,AWS 提供的範例包括:負責掃描新問題、標記並起草錯誤重現步驟的「問題匯報機器人」(intake bot);每 30 分鐘檢查持續整合(CI)流程,只回報需要開發者關注的「建構健康機器人」(build-health bot);以及檢查新程式碼審查請求的「程式碼審查機器人」(code review bot)。此外,還有處理預發布檢查清單的「發布就緒機器人」(release-readiness bot)。 國際資料公司(IDC)集團副總裁 Dave McCarthy 警告,透過監管型機器人協調多個工作代理,可能會產生「協調稅」(coordination tax),因為背景執行的重試與工具呼叫會迅速增加 Token 消耗量與運算成本。Hyperframe Inc. 研究主管 Stephanie Walter 則建議,企業應評估 Kiro bots 帶來的生產力提升是否能抵銷其營運成本,並判斷哪些任務適合 AI Agent 的判斷與適應能力,哪些仍可透過傳統自動化處理。 AWS 視 Kiro bots 為一種「反鬆散工具」(anti-slop tool),鼓勵開發者從明確的規範開始進行軟體開發,而非直接從程式碼提示。AWS 計劃將 Kiro 的免費存取權提供給全球 132 所大學的學生,將 Kiro bots 作為教授開發最佳實踐的工具。

    #AWS#AI Agent#Kiro bots#軟體開發#自動化

  • 科技新報

    跳脫逐字生成框架,史丹佛新架構 NCM 產字最高快 31 倍

    史丹佛大學 Hazy Research 實驗室與 Together AI 10 月 9 日發表論文,提出名為「次概念建模」(Next-Concept Modeling,NCM)文字生成架構。主流大型語言模型一次產生一個詞元(token),NCM 則先產生整段文字的粗略骨架,再逐層補足細節。團隊表示,...

    #AI 人工智慧#數位內容#AI 產文#LCM#NCM#次概念建模

  • 獨家報導

    蘋果發 75 億美元高評級債券 穩固資本結構而非 AI 擴張 - 獨家報導

    圖/本報資料庫 商傳媒|吳承岳/台北報導 美國科技巨擘蘋果公司(Apple)昨日宣布發行七部分高評級美元債券, […]

    #商傳媒

11/5(四)

  • 鉅亨網

    美企不再盲目燒Token 蘋果傳砍內部AI預算、每日最低恐剩25美元

    蘋果傳將部分工程師每日AI支出上限由300美元降至200美元,並考慮進一步降至100美元。
工程部門外多數團隊上限已是100美元,部分可能再降至25美元;超額可向高階主管申請豁免。
蘋果為控成本要求部分團隊改用低價或裝置端AI模型,微軟、特斯拉、Meta也同步收緊AI預算。

    #美股雷達

  • 睿傳媒

    Supermicro 攜手 IBM 及 NVIDIA 推出 KV Cache 解決方案,展現顯著推論效能優勢 - 睿傳…

    這套 KV(鍵值)cache 解決方案整合 Supermicro Petascale 儲存伺服器、IBM Storage Scale 軟件、NVIDIA Dynamo 推論軟件及 NVIDIA Spectrum-X 乙太網絡交換器 效能測試顯示,相較未使用 KV cache 的系統,這套解決方案可縮短長上下文視窗下的首個詞元生成時間(TTFT) 客戶可透過提升 GPU 使用率、吞吐量及基建擴展能力,大幅改善推論效率 加州聖荷西2026年11月5日 /美通社/ — Supermicro, Inc.(納斯達克股票代碼:SMCI)今日宣佈,攜手 IBM 及 NVIDIA 推出全新的 KV cache 儲存解決方案。Supermicro 是一家涵蓋 AI、企業級運算、儲存及 5G/邊緣領域的整體 IT 解決方案供應商,提供 Data Center Building Block Solutions®(DCBBS)。這套聯合解決方案整合了採用 AMD EPYC 9005 系列處理器(「Turin」)的 Supermicro Petascale 全快閃儲存伺服器、IBM Storage Scale 軟件,以及 NVIDIA Dynamo 推論框架軟件和 Spectrum-X 乙太網絡。 KV Cache high-performance platform for large-scale AI inference 這些技術相結合,可大幅縮短 AI 模型開始生成回應所需的時間。隨著企業採用代理式及長上下文 AI 工作流程,這項優勢尤其重要。利用本地 GPU 記憶體以外的儲存空間擴展 KV cache 容量,可提升 GPU 使用率及推論吞吐量,同時支援 KV cache 內容的高可用性,並在不中斷服務的情況下擴展 KV cache 容量。由此構建的推論架構更易擴展、更具韌性,帶來更快捷、回應更靈敏的 AI 體驗。 Supermicro 總裁兼行政總裁 Charles Liang 表示:「隨著 AI 工作負載由訓練延伸至推論,企業及新型雲端服務供應商在部署代理式 AI,以及長上下文、多輪互動生成式 AI 所需的高吞吐量推論工作負載時,需要消除瓶頸,提升 GPU 效率。我們與 IBM 及 NVIDIA 聯合推出的解決方案,清楚展示了這些效能優勢。」 如欲觀看本新聞稿的影片摘要,請按此。 推論工作負載分為兩個階段:預填充及解碼。在預填充階段,輸入文字會轉換為詞元(token),再由大型語言模型(LLM)處理,生成推論所需的中間鍵值(KV)狀態。透過將這些已計算的 KV 狀態儲存於持久化 KV cache,系統可重用這些狀態,毋須為後續請求重新計算相同的上下文。代理式工作流程、編程助手、長上下文檢索增強生成(RAG)、多模態 AI 及多輪互動應用,在處理大型程式碼庫、文件、對話、圖像及其他上下文時,可能產生大量 KV 狀態,迅速超出 GPU 及 CPU 的記憶體容量,因此需要將 KV cache 轉存至大容量共用網絡儲存空間。 Supermicro、IBM 及 NVIDIA 的 KV cache 解決方案提供了這個持久化儲存層,有助提升推論效率、吞吐量及擴展能力,同時減少重複運算。 這套 KV cache 解決方案為客戶帶來的主要優勢包括: 聯合方案驗證:Supermicro、IBM 及 NVIDIA 進行了廣泛的叢集層面測試,以評估效能,測試涵蓋高併發,以及其他工作負載造成網絡流量干擾的情境。 顯著提升推論速度及效能一致性:Supermicro 與 NVIDIA 使用一個擁有 1,200 億個參數的大型語言模型進行聯合測試。結果顯示,當提示輸入長度為 130,000 個詞元時,持久化 KV cache 使首個詞元生成時間(TTFT)比未使用 cache 時快達 56 倍。[1] 當輸入長度由 30,000 個詞元增加至 130,000 個詞元時,使用 KV cache 的系統,其 TTFT 僅增加 0.377 秒,未使用 cache 的系統則增加 29.55 秒,讓長上下文工作負載的效能更為一致。 提升 GPU 使用率及吞吐量:透過將經常重用的上下文保存在 GPU 記憶體以外,並維持可供使用的狀態,這套解決方案有助減少 GPU 閒置時間、提升推論吞吐量,並在毋須按相同比例增加 GPU 資源的情況下,支援更高併發量。 企業級韌性及可信 AI 營運:持久化、高可用的 KV cache 有助保護已快取的推論狀態,同時支援 GPU 節點及叢集之間的共用存取,提升大規模 AI 服務的韌性及儲存效率。 經驗證、可直接部署的 AI 基建:Supermicro、IBM 及 NVIDIA 在高併發及工作負載互相干擾的情境下,聯合驗證了這套整合架構。架構結合 NV

    #傳媒#攜手#NVIDIA#展現#IBM#解決方案

  • TechCrunch

    Box taps Nvidia’s Nemotron for new agent-first content retr…

    The system can supposedly answer queries four times faster, with 20% fewer errors and 90% fewer tokens used.

    #Box#nvidia

  • INSIDE

    【專訪】從桌上型電腦到企業 AI 基礎設施,Apple 揭露 Mac mini、Mac Studio 新需求

    AI 熱潮正改變 Mac mini 與 Mac Studio 的市場定位,針對這種轉變,本次《INSIDE》專訪 Apple Mac 產品行銷資深總監 Sophie Le Guen 了解企業使用 Mac 運算 AI 的情況,以及大規模部署帶來的新需求。#人物專訪,Apple,人工智慧,運算,Token,基礎設施,Mac Studio,資料隱私,運算叢集,企業部署 (apple-mac-mini-mac-studio-enterprise-ai-deployment-sophie-le-guen-interview)

    #Apple#人物專訪#人工智慧#運算#Token#基礎設施

  • 鉅亨網

    把錢花在刀口上!科技巨頭重塑AI戰線:Google推自願離職、蘋果砍員工token額度

    Google自6月起向加拿大、法國、德國、日本、瑞士部分員工提供自願離職方案,DeepMind與Google Cloud未列入。
Google稱此舉為支援2025年重要工作,瑞士約5,000名員工受影響。
蘋果縮減員工AI工具預算,工程師每日額度300美元降至200美元。

    #美股雷達

  • 鉅亨網

    鉅亨買幣速報 - 比特幣(BTC)24小時成交量超過15.42億美元,NFPrompt Token(NFP)24小時漲…

    指標幣種:比特幣(BTC)現報價格80,312.08美元,24小時漲跌幅+2.40%;以太幣(ETH)現報價格2,413.53美元,24小時漲跌幅+3.96%。亮點幣種:比特幣(BTC)24小時成交量達15.42億美元;USDC(USDC)24小時成交量達13.38億美元;以太幣(ETH)24小時成

    #虛擬貨幣盤中