Google 推 Gemini Decisions API 一次可判斷千道問題、每百萬 Token僅 0.1美元
署名 AI頻道/綜合報導全文約 1,665 字
文章摘要
自由時報 · 文章頁摘要〔AI頻道/綜合報導〕Google DeepMind 11月11日推出 Gemini Decisions API,搭配專門處理分類與選項判斷的新模型 Gemini Decision 1。與一般聊天機器人不同,這款模型不會逐字生成回答,而是直接分析使用者提供的資料,計算各個選項的機率及信心分數。Google 宣稱,完成一次判斷的端到端延遲約150至250毫秒,每百萬輸入 token 收費僅0.1美元,不另外計算輸出 token 費用,主要訴求對象是需要大量自動判斷的應用程式與 AI 代理系統。Gemini Decision 1 採用封閉式決策架構,開發者必須先設定問題與候選答案,模型再從中作出判斷。支援的題型包括是非判定、多選題及依照指定標準評分。例如客服系統收到一封客訴郵件,可以判斷是否涉及退款、應由哪個部門處理,以及事件的緊急程度。每項結果都會附上0至1的信心分數,程式可將判斷不明確的案件轉交其他模型或人工客服。這套 API 也支援文字、圖片、音訊、影片及 PDF 等多模態資料,單次請求的共享輸入上限為26.2萬 token,最多能同時提出1000道獨立問題。開發者可以將客服通話錄音與帳戶資料一起送入模型,或搭配商品照片和文字說明進行審核,不必為每個判斷重新傳送相同資料。多選題可設定2至255個候選項目,量表評分則能依事先定義的等級產生分數。

Google DeepMind 11月11日推出 Gemini Decisions API,搭配專門處理分類與選項判斷的新模型 Gemini Decision 1。與一般聊天機器人不同,這款模型不會逐字生成回答,而是直接分析使用者提供的資料,計算各個選項的機率及信心分數。...