自由時報

非中國開源模型另一選擇: Thinking Machines Inkling 2 Small 594B 支援百萬 Token

署名 AI頻道/綜合報導全文約 1,393 字

文章摘要

自由時報 · 文章頁摘要

〔AI頻道/綜合報導〕美國人工智慧新創 Thinking Machines Lab 11月12日正式開放 Inkling 2 Small 模型權重下載,採用 Apache 2.0 授權,允許開發者自行部署與微調。這款模型最早於11月5日發表,初期僅能透過官方 Tinker 平台使用,待外部安全測試完成後才開放權重。Inkling 2 Small 擁有5940億總參數(594B),每次推論約啟用170億參數(17B),支援最高100萬 token 上下文,主要支援 AI 代理、程式開發、資料分析及企業自動化應用。Inkling 2 Small 採用混合專家(MoE)架構,具有48層 Transformer,每次處理文字時會從384個專家中選出8個參與運算,藉此減少推論所需的計算量。模型可同時理解文字與圖片,並以文字輸出結果,也支援工具呼叫及不同程度的推理設定。開發者能依需求將它用於聊天機器人、編碼助理或檢索增強生成(RAG)系統,不過新版本並未提供音訊輸入功能。

非中國開源模型另一選擇: Thinking Machines Inkling 2 Small 594B 支援百萬 Token(新聞配圖)
配圖來源:自由時報

美國人工智慧新創 Thinking Machines Lab 11月12日正式開放 Inkling 2 Small 模型權重下載,採用 Apache 2.0 授權,允許開發者自行部署與微調。這款模型最早於11月5日發表,初期僅能透過官方 Tinker 平台使用,待外部安全測試完成後才開放權重。...