AI趨勢周報第231期:Docker也新添生成式AI工具了
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p><span style="color: rgb(0, 0, 255);">重點新聞(1013~1019)</span></p> <p><span style="color: rgb(255, 255, 255);"><strong><span style="background-color: rgb(51, 153, 255);">Docker </span></strong></span> <span style="color: rgb(255, 255, 255);"><strong><span style="background-color: rgb(51, 153, 255);"> 容器 </span></strong></span> <span style="color: rgb(255, 255, 255);"><strong><span style="background-color: rgb(51, 153, 255);"> 生成式AI </span></strong></span></p> <p><span style="font-size: 22px;"><strong>開源容器工具Docker也新添生成式AI工具,開發更快速</strong></span></p> <p>開源容器平臺Docker是目前許多AI應用的主流部署方法,其同名公司日前在年度技術大會Dockercon上,揭露一系列生成式AI新功能,首先是<a href="https://www.docker.com/press-release/neo4j-langchain-ollama-launches-new-genai-stack-for-developers/">GenAI Stack</a>,號稱只需幾分鐘,使用者就能開始開發生成式AI應用。</p> <p>進一步來說,GenAI Stack簡化開發流程,將Docker容器與圖數據庫Neo4j、語言模型開發框架LangChain和模型管理工具Ollama整合在一起。比如,使用者可用Ollama在本地端執行LLM,並用預設的Neo4j圖形和向量搜尋資料庫,來讓AI模型更快、更準確。此外,GenAI Stack還提供預配置的開源大型語言模型(如Llama 2、Code Llama、Mistral)和私有模型(如GPT-3.5、GPT-4),來縮短開發時間。</p> <p>除了GenAI Stack,Docker也推出首個AI產品<a href="https://www.docker.com/press-release/announces-ai-boosting-developer-productivity-through-automated-guidance/">Docker AI</a>,是個類似程式開發助理Copilot的服務。團隊以長年來累積的百萬個Dockerfile、Docker Compose檔案來訓練Docker AI,能針對特定情境提供自動化功能,比如可在使用者編輯Dockerfile或Docker Compose檔案、在地端除錯docker build或在執行測試時,提供自動化指示,加速開發流程。<a href="https://www.docker.com/press-release/neo4j-langchain-ollama-launches-new-genai-stack-for-developers/">(詳全文)</a></p> <p><img alt="" src="https://dist.neo4j.com/wp-content/uploads/20231005063020/genai-stack-support-agent-1024x576.png" /></p> <p><span style="color: rgb(255, 255, 255);"><strong><span style="background-color: rgb(51, 153, 255);"> 台新金控 </span></strong></span> <span style="color: rgb(255, 255, 255);"><strong><span style="background-color: rgb(51, 153, 255);"> 生成式AI </span></strong></span> <span style="color: rgb(255, 255, 255);"><strong><span style="background-color: rgb(51, 153, 255);"> Chatbot </span></strong></span></p> <p><span style="font-size: 22px;"><strong>台新金控揭露4大生成式AI實驗進展</strong></span></p> <p>台新金控揭露生成式AI進展,包括Teams Chatbot、知識管理平臺、程式助理Codex和虛擬智能客服等4大實驗案。其中,第一項導入的是微軟Azure OpenAI服務的ChatGPT,台新金控首選Chatbot的目的是讓集團各單位更了解生成式AI,於是在今年3月與廠商規畫、建置專屬Chatbot,租用微軟Azure OpenAI環境,5月正式將ChatGPT串接至Teams中,提供200個帳號供各單位使用。</p> <p>再來,台新金控進一步結合生成式AI,打造知識管理平臺。該平臺能讓使用者向生成式AI提問,平臺再根據問題搜尋內部資料,找出最相關的資訊,由生成式AI彙整、回覆給使用者。該平臺還未正式上線,但未來完善後,會擴大發展為智能客服或其他應用。此外,台新金控也針對Codex進行一系研究,發現該Codex可提高程式開發效率,可協助IT人員完成資料表的建立、增刪減與重新規畫,以及撰寫初階和進階程式碼、撰寫程式碼說明等。不只如此,台新金控也用生成式AI打造虛擬客服,也就是生成一個擬真的客服人員,再利用語音轉文字、文字轉語音、人臉辨識等技術,來推薦理財商品給客戶。<a href="https://www.ithome.com.tw/news/159417">(詳全文)</a></p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/KM.JPG" /></p> <p><span style="color:#FFFFFF;"><strong><span style="background-color:#3399ff;"> 可解釋性 </span></strong></span> <span style="color:#FFFFFF;"><strong><span style="background-color:#3399ff;"> 特徵 </span></strong></span> <span style="color: rgb(255, 255, 255);"><strong><span style="background-color: rgb(51, 153, 255);"> 神經網路 </span></strong></span></p> <p><span style="font-size:22px;"><strong>Anthropic用特徵解構神經網路,大幅提高可解釋性</strong></span></p> <p>OpenAI競爭者Anthropic在最新發表的AI研究論文〈Decomposing Language Models With Dictionary Learning〉中,提出一種字典學習方法,能提高對神經網路的解釋性。這項研究讓Anthropic更能監控模型,進而引導模型行為,提高企業使用AI的安全性和可靠性。</p> <p>進一步來說,有別於在單一神經元中尋找規律,團隊擴大運用特徵(Feature)概念,藉由特徵對應到一群神經元活動模式的特性,來將複雜的神經網路,解構成更容易理解的單位。他們也在Transformer模型中,成功將一個含512個神經元的層,分解成超過4,000個特徵。同時,團隊還發展自動解釋方法,來驗證特徵的可解釋性。他們用大型語言模型來生成小模型的特徵描述,並以另一個模型來對描述評分,實驗結果也證實,特徵的得分高於神經元,也間接證明特徵的活躍和模型下游行為具一致性。<a href="https://www.anthropic.com/index/decomposing-language-models-into-understandable-components">(詳全文)</a></p> <p><img alt="" src="https://efficient-manatee.transforms.svdcdn.com/production/images/Frame-120.png?w=1259&h=788&auto=compress%2Cformat&fit=crop&dm=1696466752&s=4cbd4980573d60dbf763428f42a53a27" /></p> <p><span style="color:#FFFFFF;"><strong><span style="background-color:#3399ff;"> 自動駕駛 </span></strong></span> <span style="color:#FFFFFF;"><strong><span style="background-color:#3399ff;"> 生成式AI </span></strong></span> <span style="color: rgb(255, 255, 255);"><strong><span style="background-color: rgb(51, 153, 255);"> GAIA-1 </span></strong></span></p> <p><span style="font-size:22px;"><strong>英新創擴大90億參數生成式AI模型,助自駕模型看見未來</strong></span></p> <p>今年6月,英國AI新創Wayve展開一項概念性驗證專案,要將生成式AI模型GAIA-1用於自動駕駛,這幾個月持續擴展,模型參數增加至90億個,能生成逼真的駕駛場景影片,呈現自動駕駛在各種情境的反應,並更好地預測未來事件。</p> <p>GAIA-1可用不同模態的資料(如影片、文字和動作)來建立逼真駕駛場景影片,也能學習環境和未來動態表示,向自動駕駛模型提供一個結構化的環境理解,協助駕駛模型做出明智決策。GAIA-1的核心是世界模型(World model),是一個自迴歸Transformer,能預測序列中下一組圖像token;世界模型不只考慮過去的圖像token,還參照文字和動作token的上下文資訊。如此生成的這不只在視覺上連貫,也能和預期的文字、動作指引保持一致。</p> <p>接著,影片解碼器開始運作,將這些圖像token轉換回像素空間,來生成語義一致的影片。GAIA-1的主要價值在於在自動駕駛中引入生成式世界模型概念,透過整合影片、文本和動作輸入,展示多模態學習在創建多樣化駕駛情境的潛力,並泛化至真實世界中,提高自駕車能力。<a href="https://wayve.ai/thinking/scaling-gaia-1/">(詳全文)</a></p> <p> </p> <div class="media_embed" height="315px" width="560px"> <iframe allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share" allowfullscreen="" frameborder="0" height="315px" src="https://www.youtube.com/embed/OVX-eTLyA9g?si=7jxGCTck3wH9RdYM" title="YouTube video player" width="560px"></iframe></div> <p> </p> <p><span style="color:#FFFFFF;"><strong><span style="background-color:#3399ff;"> PyTorch Edge </span></strong></span> <span style="color:#FFFFFF;"><strong><span style="background-color:#3399ff;"> 邊緣裝置 </span></strong></span> <span style="color: rgb(255, 255, 255);"><strong><span style="background-color: rgb(51, 153, 255);"> ExecuTorch </span></strong></span></p> <p><span style="font-size:22px;"><strong>PyTorch Edge新解決方案簡化邊緣裝置的AI推論</strong></span></p> <p>開源機器學習框架PyTorch Edge最近推出一款新解決方案ExecuTorch,獲蘋果、高通創新中心和Arm等科技巨頭支援,可實現跨行動裝置和邊緣裝置的模型推論工作。</p> <p>進一步來說,ExecuTorch的目的是要解決裝置AI生態系碎片化的問題,其關鍵元件包含一個執行環境和輕量級操作登錄檔(Operator registry),範圍涵蓋PyTorch生態系中所有模型,可簡化PyTorch在裝置上執行的過程。ExecuTorch還有一個SDK和工具鏈,提供ML開發者直覺式的使用者體驗,能用來編寫、訓練模型和裝置授權,並整合在單一個PyTorch工作流程中。<a href="https://pytorch.org/blog/pytorch-edge/">(詳全文)</a></p> <p><span style="color:#FFFFFF;"><strong><span style="background-color:#3399ff;"> Google </span></strong></span> <span style="color:#FFFFFF;"><strong><span style="background-color:#3399ff;"> 搜尋 </span></strong></span> <span style="color: rgb(255, 255, 255);"><strong><span style="background-color: rgb(51, 153, 255);"> 圖像生成 </span></strong></span></p> <p><span style="font-size:22px;"><strong>Google在搜尋實驗室中新添AI生成圖像功能</strong></span></p> <p>Google日前在搜尋實驗室(Search Labs)中,新添了2項搜尋生成式體驗(SGE)功能,一是直接在搜尋列上執行生成圖像功能,二是請AI幫忙撰寫各種草稿。比如,使用者可在搜尋列上,輸入「請畫一張戴著廚師帽並正在做早餐的水豚圖像」,系統就會出現4張符合該描述的圖畫,隨便點選任何一張就能看到各自的描述,使用者也能編輯文字描述來修改圖畫。這些AI生成的圖像具有元資料標籤,並鑲有浮水印,Google還會封鎖違反使用政策的AI生成圖像,例如含有有害或誤導性內容。</p> <p>另一個SGE功能則能用來協助撰寫各種草,比如撰寫邀請施工人員報價的草稿,還能要求SGE調整草稿的長度及語氣,再匯出至Google Docs或Gmail。搜尋實驗室是Google在今年5月發表的測試平臺,用來測試各種利用生成式AI並改善搜尋,不過,目前搜尋實驗室僅開放美國、印度與日本的少數用戶參與。<a href="https://blog.google/products/search/google-search-generative-ai-october-update/">(詳全文)</a></p> <p><img alt="" src="https://storage.googleapis.com/gweb-uniblog-publish-prod/original_images/OctoberSGE_Regis_05.gif" /></p> <p><span style="color:#FFFFFF;"><strong><span style="background-color:#3399ff;"> Google Cloud </span></strong></span> <span style="color:#FFFFFF;"><strong><span style="background-color:#3399ff;"> 智財 </span></strong></span> <span style="color: rgb(255, 255, 255);"><strong><span style="background-color: rgb(51, 153, 255);"> 生成式AI </span></strong></span></p> <p><span style="font-size:22px;"><strong>Google Cloud提供智財免責防護</strong></span></p> <p>為讓企業用戶安心使用AI服務,Google Cloud宣布提供AI免責防護,讓使用者不用擔心使用到版權內容而被告。今年8月,Google推出付費的Duet AI助理服務,並整合至生產力工具Workspace、雲端平臺Cloud Platform以及AI模型服務Vertex AI,企業可用Duet AI來生成所需內容,如行銷文案、廣告圖片或電子郵件等。</p> <p>而最近推出的服務,則是要防止使用者可能遭遇的版權法律責任。新服務包含2部分,第1個與Google使用的訓練資料有關,第2部分則著重基礎模型的生成結果。首先,訓練資料的免責涵括所有Google用來打造其生成模型的資料集,當第三方單位宣稱客戶侵害了其智財權,責任全由Google承擔。第二部分則是當戶使用Google AI服務的輸出結果,被第三方單位宣稱侵害其版權時,責任歸屬在Google。<a href="https://cloud.google.com/blog/products/ai-machine-learning/protecting-customers-with-generative-ai-indemnification">(詳全文)</a></p> <p>圖片來源/Docker、Anthropic、Wayve、Google</p> <p>攝影/王若樸</p> <p><span style="color:#FFFFFF;"><strong><span style="background-color:#3399ff;"> AI近期新聞 </span></strong></span></p> <p><strong>1. OpenAI正式開放ChatGPT Bing網頁搜尋,公測DALLE-3</strong></p> <p><strong>2. Adobe在旗下產品Photoshop和Preimere Elements新添20項AI功能</strong></p> <p>資料來源:iThome整理,2023年10月</p> </div></div></div>

