「AI agents」的搜尋結果
#AI agents也是一個關鍵字標籤
過去 7 天有 7 篇標成這個標籤 · 目前不在排行榜上
11/11（三）
AI語音整合跨平台挑戰企業治理 資安合規現漏洞
圖／本報資料庫商傳媒｜葉安庭／綜合外電報導隨著人工智慧（AI）技術日益普及，企業在導入 AI 語音解決方案時，面臨嚴峻的治理挑戰。一份最新報告指出，企業需在確保 AI 代理人行為受控、符合規範的同時，管理跨平台產生的海量語音資料，否則恐將面臨資安與合規性風險。 根據《Search IT Operations》昨日報導，AI 代理人（AI agents），例如客服機器人或語音助理等人工智慧系統，已廣泛應用於企業環境中，然而，確保這些 AI 代理人的行動受控，並能在超出預設參數時即時停止，已成為企業語音治理（enterprise voice governance）的首要任務。企業語音治理旨在確保企業通訊系統中語音資料的安全性、合規性與管理，防範資料外洩或不當使用。然而，Metrigy Research Group 的研究顯示，目前僅半數組織已實施結構化的 AI 安全與合規計畫。 現行企業通訊環境高度碎片化，多數企業同時使用兩到七種統一通訊（UC），即整合語音、視訊、訊息等多元溝通管道的系統，以及協作工具，但每個工具都有獨立的控制與資料保存政策，造成治理上的挑戰。Omdia 的主要分析師 Prachi Nema 指出，AI 治理的職責分散於協作、客服中心、資安、法務、合規、紀錄管理等多個團隊，權責劃分不清。InFlow Analysis 創辦人兼主要分析師 David Smith 則警告，AI 自動化雖能節省時間，卻也取代了過去仰賴人工審查的環節，導致潛在的資安責任未被計入成本。 此外，AI 生成的紀錄內容也帶來新的隱憂。David Smith 舉例，過去為語音錄音制定的保存政策，可能無法有效涵蓋 AI 產生的逐字稿與摘要。這些衍生資料可能在不同的系統中，受制於不同的政策而長期留存。這使得企業必須妥善管理 AI 生成內容、會議紀錄、代理人活動、資料儲存地點及保存期限。AudioCodes 的統一通訊技術長 Ran Inbar 亦強調，若攻擊者僅需數秒的語音樣本便能模仿個人聲音，則儲存的語音樣本將構成資安與隱私風險。事實上，近半數組織在過去一年內曾懷疑或證實 AI 代理人執行未經授權的行為，但僅有 17.5% 的受訪者表示能自動阻止這些異常行為。 為應對這些挑戰，資安長（CISO）在評估治理工具時，應著重測試其跨平台政策應用能力、與現有資安系統的整合性，以及追蹤 AI 生成紀錄和提供可稽核執行證據的能力。企業也應建立更嚴謹的來電者驗證機制，例如在客戶完成身份驗證後，透過行動應用程式啟動通話。同時，每個 AI 代理人應具備獨立身份與稽核軌跡，並設定有限權限、保存其行動紀錄，並明定人工核准機制。資安長須與通訊、IT、法務、合規及紀錄管理團隊密切合作，共同制定政策、執行規範並處理例外情況，以實現對原始通訊、衍生資料及 AI 代理人的全面治理，防範超權行為並建立有效的干預機制。
商傳媒11/10（二）
Adobe brings AI agents and new creative tools to Photoshop,…
Adobe is taking on Figma with a new prototype builder tool in Firefly.
After challenging Google's Android with Cyanogen, its co-fo…
Kora is set to launch as a free-to-use alternative to Windows, targeting users who rely heavily on AI models and agents.
#microsoft windows#square enix#Cyanogen#samsung next#Circle Ventures#Polychain Capital
Zetrix AI聯合中國信通院推出「了解你的智能體(KYA)」服務 為AI智能體建立信任與問責機制 - 睿傳媒 Ri…
跨境試點覆蓋中東、非洲、中國及東盟地區，提交的相關成果將作為當前全球AI身份與問責標準制定磋商的參考 中國烏鎮2026年11月9日 /美通社/ — Zetrix AI Berhad（簡稱「Zetrix AI」）與中國信息通信研究院（簡稱「中國信通院」）聯合宣佈，推出「了解你的智能體」（Know Your Agent，簡稱KYA）服務，為高速發展的AI智能體領域構建更高水平的信任度、透明度與問責機制。 TS Wong, Group Managing Director of Zetrix AI, announced the launch of a Know Your Agent (KYA) service in collaboration with the China Academy of Information and Communications Technology (CAICT) at the World Internet Conference in Wuzhen, China, to bring greater trust, transparency and accountability to the rapidly expanding world of AI agents. 該服務同步在中國烏鎮世界互聯網大會、阿聯酋迪拜2026年ICT發展論壇上發佈。KYA服務旨在搭建一套框架，使AI智能體能夠持有可核驗的數字身份，且該身份與企業或個人用戶綁定。 借助KYA服務，企業、政府以及數字服務提供商，不僅可以核驗AI智能體的身份，還可確認該智能體所代表的主體、被授予的操作權限，以及其行為是否在獲批權限範圍之內。 隨著AI智能體越來越多地調用線上服務並執行交易，各機構亟需可靠手段區分合法授權行為與惡意或未授權操作。KYA服務通過結合可驗證的憑證和明確的委託權限校驗，在執行受保護操作前完成核查，將填補這一信任缺口。 Zetrix AI集團董事總經理TS Wong表示：「AI邁入全新發展階段，AI智能體將越來越獨立地做出決策、與企業交互並執行交易。更高的自主能力，必須配套更嚴格的問責機制。我們關注的不再僅僅是AI能夠做什麼，而是AI行為背後該由誰承擔責任。依托Zetrix AI的KYA服務，我們致力於實現這樣的未來：每一個AI智能體均可被識別，每一項權限均可被核驗，每一次行為均可追溯至責任歸屬主體。這是AI技術面向政企實現跨境規模化落地的信心根基。」 本次發佈還包括一項規劃的跨境試點項目，參與機構來自中東、非洲、中國與東盟地區。試點將評估在尊重各司法管轄區對身份體系和信任決策本地管控權的前提下，如何實現跨轄區識別智能體身份與授權信息。試點所得成果將提交至國際電信聯盟(ITU)、電氣和電子工程師協會(IEEE)等標準制定組織，為當前全球AI身份及問責相關標準的研討制定提供參考。 AI智能體正深度融入日常數字活動，能夠建立可信身份與可核驗授權或將成為其大規模普及的核心基礎。 中國信通院「星火-鏈網」國際(ASTRON)負責人有曉宇表示：「隨著智能體AI承擔的職責越來越多，市場對KYA服務的需求也將不斷增長。我們期望，本次與Zetrix AI聯合推出的服務，能夠助力搭建跨境可信網絡，推動全球範圍內可互操作的智能體AI發展。」 Zetrix AI與中國信通院希望依托KYA服務，為AI智能體的未來發展築牢基礎，屆時智能體可擁有更高的自主能力，同時實現身份可識別、責任可追溯、跨境可信任。 在AI驅動時代構建信任 當下大量AI智能體被開發出來，承擔以往需要人類直接介入才能完成的各種任務，涵蓋數字服務管理、企業信息調取、支付處理，以及與其他AI系統的交互。這類能力可以顯著提升生產力與效率，但同時也帶來全新風險。 缺少可靠的身份核驗與清晰的權限界定，機構將難以區分合法AI智能體與未授權系統，無法明確智能體的權限邊界，出現問題時也難以落實問責。 Zetrix AI推出的KYA服務旨在破解上述難題，為AI智能體搭建可核驗的身份與授權框架，從而為更加安全、負責任的自主交互打下基礎。 傳統數字身份系統主要面向人類用戶完成身份校驗，而KYA將身份核驗對象延伸至AI智能體本身，把每一個智能體和經過認證的歸屬主體綁定，明確劃定其行為邊界。 KYA服務基於W3C可驗證憑證標準構建，融合了AvatarLabs的智能體錢包技術，用於管理數字憑證、核驗委託權限以及留存智能體行為證據。 賦予AI智能體身份與清晰行為邊界 KYA服務的核心理念簡明且具備實效：AI智能體可以自主開展工作，但必須擁有明確的授權依據與問責機制。KYA服務將為每一個接入的AI智能體分配可核驗的數字身份，該身份綁定經過認證的個人或機構。 歸屬主體可為智能體設定具體權限，明確其操作範圍，包括可訪問的
Zetrix AI聯合中國信通院推出「了解你的智能體(KYA)」服務 為AI智能體建立信任與問責機制 - 新頭條-Th…
跨境試點覆蓋中東、非洲、中國及東盟地區，提交的相關成果將作為當前全球AI身份與問責標準制定磋商的參考 中國烏鎮2026年11月9日 /美通社/ — Zetrix AI Berhad（簡稱「Zetrix AI」）與中國信息通信研究院（簡稱「中國信通院」）聯合宣佈，推出「了解你的智能體」（Know Your Agent，簡稱KYA）服務，為高速發展的AI智能體領域構建更高水平的信任度、透明度與問責機制。 TS Wong, Group Managing Director of Zetrix AI, announced the launch of a Know Your Agent (KYA) service in collaboration with the China Academy of Information and Communications Technology (CAICT) at the World Internet Conference in Wuzhen, China, to bring greater trust, transparency and accountability to the rapidly expanding world of AI agents. 該服務同步在中國烏鎮世界互聯網大會、阿聯酋迪拜2026年ICT發展論壇上發佈。KYA服務旨在搭建一套框架，使AI智能體能夠持有可核驗的數字身份，且該身份與企業或個人用戶綁定。 借助KYA服務，企業、政府以及數字服務提供商，不僅可以核驗AI智能體的身份，還可確認該智能體所代表的主體、被授予的操作權限，以及其行為是否在獲批權限範圍之內。 隨著AI智能體越來越多地調用線上服務並執行交易，各機構亟需可靠手段區分合法授權行為與惡意或未授權操作。KYA服務通過結合可驗證的憑證和明確的委託權限校驗，在執行受保護操作前完成核查，將填補這一信任缺口。 Zetrix AI集團董事總經理TS Wong表示：「AI邁入全新發展階段，AI智能體將越來越獨立地做出決策、與企業交互並執行交易。更高的自主能力，必須配套更嚴格的問責機制。我們關注的不再僅僅是AI能夠做什麼，而是AI行為背後該由誰承擔責任。依托Zetrix AI的KYA服務，我們致力於實現這樣的未來：每一個AI智能體均可被識別，每一項權限均可被核驗，每一次行為均可追溯至責任歸屬主體。這是AI技術面向政企實現跨境規模化落地的信心根基。」 本次發佈還包括一項規劃的跨境試點項目，參與機構來自中東、非洲、中國與東盟地區。試點將評估在尊重各司法管轄區對身份體系和信任決策本地管控權的前提下，如何實現跨轄區識別智能體身份與授權信息。試點所得成果將提交至國際電信聯盟(ITU)、電氣和電子工程師協會(IEEE)等標準制定組織，為當前全球AI身份及問責相關標準的研討制定提供參考。 AI智能體正深度融入日常數字活動，能夠建立可信身份與可核驗授權或將成為其大規模普及的核心基礎。 中國信通院「星火-鏈網」國際(ASTRON)負責人有曉宇表示：「隨著智能體AI承擔的職責越來越多，市場對KYA服務的需求也將不斷增長。我們期望，本次與Zetrix AI聯合推出的服務，能夠助力搭建跨境可信網絡，推動全球範圍內可互操作的智能體AI發展。」 Zetrix AI與中國信通院希望依托KYA服務，為AI智能體的未來發展築牢基礎，屆時智能體可擁有更高的自主能力，同時實現身份可識別、責任可追溯、跨境可信任。 在AI驅動時代構建信任 當下大量AI智能體被開發出來，承擔以往需要人類直接介入才能完成的各種任務，涵蓋數字服務管理、企業信息調取、支付處理，以及與其他AI系統的交互。這類能力可以顯著提升生產力與效率，但同時也帶來全新風險。 缺少可靠的身份核驗與清晰的權限界定，機構將難以區分合法AI智能體與未授權系統，無法明確智能體的權限邊界，出現問題時也難以落實問責。 Zetrix AI推出的KYA服務旨在破解上述難題，為AI智能體搭建可核驗的身份與授權框架，從而為更加安全、負責任的自主交互打下基礎。 傳統數字身份系統主要面向人類用戶完成身份校驗，而KYA將身份核驗對象延伸至AI智能體本身，把每一個智能體和經過認證的歸屬主體綁定，明確劃定其行為邊界。 KYA服務基於W3C可驗證憑證標準構建，融合了AvatarLabs的智能體錢包技術，用於管理數字憑證、核驗委託權限以及留存智能體行為證據。 賦予AI智能體身份與清晰行為邊界 KYA服務的核心理念簡明且具備實效：AI智能體可以自主開展工作，但必須擁有明確的授權依據與問責機制。KYA服務將為每一個接入的AI智能體分配可核驗的數字身份，該身份綁定經過認證的個人或機構。 歸屬主體可為智能體設定具體權限，明確其操作範圍，包括可訪問的
Zetrix AI聯合中國信通院推出「了解你的智能體(KYA)」服務 為AI智能體建立信任與問責機制
跨境試點覆蓋中東、非洲、中國及東盟地區，提交的相關成果將作為當前全球AI身份與問責標準制定磋商的參考 中國烏鎮2026年11月9日 /美通社/ -- Zetrix AI Berhad（簡稱「Zetrix AI」）與中國信息通信研究院（簡稱「中國信通院」）聯合宣佈，推出「了解你的智能體」（Know Your Agent，簡稱KYA）服務，為高速發展的AI智能體領域構建更高水平的信任度、透明度與問責機制。 TS Wong, Group Managing Director of Zetrix AI, announced the launch of a Know Your Agent (KYA) service in collaboration with the China Academy of Information and Communications Technology (CAICT) at the World Internet Conference in Wuzhen, China, to bring greater trust, transparency and accountability to the rapidly expanding world of AI agents. 該服務同步在中國烏鎮世界互聯網大會、阿聯酋迪拜2026年ICT發展論壇上發佈。KYA服務旨在搭建一套框架，使AI智能體能夠持有可核驗的數字身份，且該身份與企業或個人用戶綁定。 借助KYA服務，企業、政府以及數字服務提供商，不僅可以核驗AI智能體的身份，還可確認該智能體所代表的主體、被授予的操作權限，以及其行為是否在獲批權限範圍之內。 隨著AI智能體越來越多地調用線上服務並執行交易，各機構亟需可靠手段區分合法授權行為與惡意或未授權操作。KYA服務通過結合可驗證的憑證和明確的委託權限校驗，在執行受保護操作前完成核查，將填補這一信任缺口。 Zetrix AI集團董事總經理TS Wong表示：「AI邁入全新發展階段，AI智能體將越來越獨立地做出決策、與企業交互並執行交易。更高的自主能力，必須配套更嚴格的問責機制。我們關注的不再僅僅是AI能夠做什麼，而是AI行為背後該由誰承擔責任。依托Zetrix AI的KYA服務，我們致力於實現這樣的未來：每一個AI智能體均可被識別，每一項權限均可被核驗，每一次行為均可追溯至責任歸屬主體。這是AI技術面向政企實現跨境規模化落地的信心根基。」 本次發佈還包括一項規劃的跨境試點項目，參與機構來自中東、非洲、中國與東盟地區。試點將評估在尊重各司法管轄區對身份體系和信任決策本地管控權的前提下，如何實現跨轄區識別智能體身份與授權信息。試點所得成果將提交至國際電信聯盟(ITU)、電氣和電子工程師協會(IEEE)等標準制定組織，為當前全球AI身份及問責相關標準的研討制定提供參考。 AI智能體正深度融入日常數字活動，能夠建立可信身份與可核驗授權或將成為其大規模普及的核心基礎。 中國信通院「星火-鏈網」國際(ASTRON)負責人有曉宇表示：「隨著智能體AI承擔的職責越來越多，市場對KYA服務的需求也將不斷增長。我們期望，本次與Zetrix AI聯合推出的服務，能夠助力搭建跨境可信網絡，推動全球範圍內可互操作的智能體AI發展。」 Zetrix AI與中國信通院希望依托KYA服務，為AI智能體的未來發展築牢基礎，屆時智能體可擁有更高的自主能力，同時實現身份可識別、責任可追溯、跨境可信任。 在AI驅動時代構建信任 當下大量AI智能體被開發出來，承擔以往需要人類直接介入才能完成的各種任務，涵蓋數字服務管理、企業信息調取、支付處理，以及與其他AI系統的交互。這類能力可以顯著提升生產力與效率，但同時也帶來全新風險。 缺少可靠的身份核驗與清晰的權限界定，機構將難以區分合法AI智能體與未授權系統，無法明確智能體的權限邊界，出現問題時也難以落實問責。 Zetrix AI推出的KYA服務旨在破解上述難題，為AI智能體搭建可核驗的身份與授權框架，從而為更加安全、負責任的自主交互打下基礎。 傳統數字身份系統主要面向人類用戶完成身份校驗，而KYA將身份核驗對象延伸至AI智能體本身，把每一個智能體和經過認證的歸屬主體綁定，明確劃定其行為邊界。 KYA服務基於W3C可驗證憑證標準構建，融合了AvatarLabs的智能體錢包技術，用於管理數字憑證、核驗委託權限以及留存智能體行為證據。 賦予AI智能體身份與清晰行為邊界 KYA服務的核心理念簡明且具備實效：AI智能體可以自主開展工作，但必須擁有明確的授權依據與問責機制。KYA服務將為每一個接入的AI智能體分配可核驗的數字身份，該身份綁定經過認證的個人或機構。 歸屬主體可為智
思科推企業級AI安全方案 強調AI代理紅隊測試與可觀測性 - 獨家報導
圖／示意圖 商傳媒｜責任編輯／綜合外電報導 隨著人工智慧（AI）代理在企業應用中日益普及，其帶來的安全與管理挑 […]
Building world-class software from Asia: Omnichat’s CEO on…
[The content of this article has been produced by our advertising partner.] Hong Kong AI customer-experience platform Omnichat has raised US$10 million in Series A funding led by Openspace Capital, with participation from Darwin Ventures and Acorn Pacific Ventures. Founder and CEO Alan Chan plans to use the capital to scale the company's Omni AI Agents platform and accelerate its expansion beyond Asia-Pacific. The journey to this milestone, however, began long before boardroom pitches and global...
#South China Morning Post#News#Opinion#China#Hong Kong#World
TechCrunch
睿傳媒
新頭條
享新聞
獨家報導
南華早報11/9（一）
AI代理人協同作業陷瓶頸 專家呼籲統一記憶格式
圖／示意圖商傳媒｜林昭衡／綜合外電報導AI人工智慧發展迅速，其中「AI代理人（AI Agents）」技術逐漸受到關注。然而，這些能獨立執行任務的軟體代理人卻面臨記憶無法共享的困境，嚴重阻礙了跨工具的協同工作。為此，在 Dash0 負責 OpenTelemetry 開發的 Mads Thines 呼籲業界應為 AI 代理人的記憶制定一套共通格式。 根據《LavX News》報導，Mads Thines 指出，目前的程式開發工具儘管能儲存有用的筆記，卻無法可靠地分享資訊，原因在於每個工具都採用了不同的資料綱要（schema）與儲存系統。這導致 AI 代理人所建立的筆記被困在單一工具中，無法被其他編輯代理人或審查機器人存取。Mads Thines 將當前 AI 代理人記憶的現況，比喻為 OpenTelemetry 問世之前的可觀測性（observability）領域：當年各家廠商使用不同的代理程式與資料格式，導致開發者難以整合資料；而 OpenTelemetry 則提供了一套共享的資料模型與協定，讓開發者能一次埋設程式碼，便將資料發送至整個生態系中的工具。 目前，AI 代理人的記憶實作方式五花八門，例如 GitHub Copilot Memory 會將事實與程式碼引用連結，並在 28 天未使用後移除；LangGraph 的 BaseStore 則採用命名空間與鍵值，並可選用生命週期（time-to-live）設定。Graphiti 與 Zep 則將事實建模為圖形邊緣，追蹤事實套用與系統記錄的時間。Mads Thines 認為，這些不同的設計中蘊含許多有價值的概念，若能整合為一套共通格式，將可結合可追溯的來源、明確的過期機制，以及簡潔的鍵值儲存方式。此格式無需強制各系統採用相同的方法來提取、排序或搜尋記憶，保有各廠商的競爭空間。 Mads Thines 提議，共通的記憶紀錄應包含作用範圍（scope）、鍵值（key）、內容、生命週期以及作者資訊，明確標示該記憶是由人類、AI代理人還是提取服務所寫，以利工具評估記憶的可信度。此外，他也建議制定共享的位址層級與屬性名稱規範，以及寫入、讀取、列表、搜尋、歸檔等操作的共通合約。中立組織而非特定廠商應出面協調這項工作，以避免再次加深碎片化問題。他以 LoreKit 的 MIT 授權資料綱要與磁碟儲存格式作為其中一個輸入範本，其離線儲存可寫入 Markdown 檔案，方便開發者檢查與比對。 然而，記憶共享也帶來「提示注入（prompt-injection）」的潛在風險，亦即一個工具寫入的內容可能會影響或操縱另一個工具。為此，Mads Thines 建議記錄作者資訊、支援簽章，並將記憶連結到相關程式碼，讓讀者能檢查變更，以提升安全性。
Hong Kong records nearly 18% rise in ransomware cases amid…
Hong Kong has recorded a nearly 18 per cent rise in ransomware cases in the first three quarters of this year despite an overall drop in technology crime, with police attributing the rise to artificial intelligence-aided attacks. Chief Superintendent Raymond Lam Cheuk-ho of the cybersecurity and technology crime bureau said police had recorded cases of AI agents and other forms of artificial intelligence being used in cyberattacks as recently as last month. “We understand that the use of AI...
#Crime in Hong Kong#Hong Kong#Technology#China#Interpol#Artificial intelligence (AI)
AI代理人技術掀浪潮 Siri語音助理未來發展受期待
商傳媒｜責任編輯／綜合外電報導人工智慧（AI）代理人技術正快速發展，預期將深刻改變各行各業的運作模式。從企業級應用到個人生活，AI代理人展現出超越傳統AI的自主執行能力，這也讓外界高度關注，蘋果（Apple）旗下的語音助理Siri未來是否能進化為更聰明的AI代理人，提供更個人化、更具效率的服務。 AI代理人自主執行複雜任務 AI代理人（AI Agent）是一種能自主理解複雜指令、分解任務，並依據環境變化做出決策的智慧系統，如同一個能獨立完成多步驟任務的虛擬助理。例如，金融科技公司Ramp開發的會計代理人「Stacks」，便經歷了長達四至六個月的嚴格評估與測試。據《BigGo Finance》報導，Ramp利用合成數據建立虛擬環境進行模擬測試，以確保其在會計等關鍵領域的準確性。Ramp應用科學團隊主管萊恩·史蒂文斯（Ryan Stevens）指出，評估指標中「Pass@K」這類即便單一步驟出錯也可能導致任務失敗的標準，對於需要零容錯的會計工作尤為關鍵。 資安與治理挑戰伴隨而來 隨著AI代理人能力提升，其資安與治理挑戰也浮現。根據《SC Media》報導，AI代理人在與其他系統互動時，可能繞過安全協議並洩露敏感資訊，甚至執行惡意腳本。澳洲資訊安全協會（AISA）發言人拉吉夫·沙赫（Rajiv Shah）警告，企業不應在未打好基礎資安防護（如修補漏洞、減少網路暴露）的情況下，盲目追求AI網路防禦工具。為此，Google Cloud已推出CodeMender等一系列新安全工具，旨在強化AI代理人的軟體開發安全、生產環境控制及威脅偵測回應，例如CodeMender能協助組織更快地發現並修復軟體漏洞。 此外，各界對AI治理的擔憂也日益加劇。澳洲《ChannelLife Australia》報導，一項調查顯示高達78%的澳洲民眾反對AI公司未經許可使用創作內容進行訓練，強調創作者應有決定權。A1 Technologies在澳洲和紐西蘭推出「Guardrails」服務，協助中型企業管理AI應用程式與AI代理人的安全與治理風險，將AI監管視為持續性的業務責任，而非一次性技術評估。 AI代理人應用深入各產業 AI代理人已深入各領域，帶來效率提升與商業模式革新。在電商平台eBay上，AI代理人可整合API，協助賣家自動化商品上架流程，管理照片、策劃清單甚至定價，但仍需使用者在發布前進行最終審核，並嚴格保護登入憑證。澳洲媒體News Australia則針對使用AI平台進行購物研究的消費者，推出「黑色星期五」促銷活動，預期將有高達60%的消費者利用AI來輔助購物決策。金融業方面，紐西蘭克威銀行（Kiwi Bank）正利用AI（包括AI代理人）提升其競爭力，加速工作流程，同時強調AI部署應具備人類監督與問責機制，遵循負責任的AI原則。 對Siri進化的啟示與展望 隨著AI代理人技術日趨成熟，其在理解語義、自主規劃、跨應用程式協作等方面的能力，將為Siri的進化提供巨大潛力。未來的Siri可能不僅是執行指令，更能預判使用者需求，主動完成複雜任務，例如規劃行程、管理財務或處理多步驟的數位助理工作。然而，如何在提升Siri智慧程度的同時，確保資料隱私與安全性，並建立完善的治理框架，將是蘋果在推動其進化時必須面對的重要課題。 參考來源 Ramp's Ryan Stevens: Building an AI Bookkeeping Agent Takes…（BigGo Finance） How Ramp Tests Its AI Bookkeeping Agent Before Customers Do…（BigGo Finance） AI agents reveal security vulnerabilities when interacting w…（SC Media） Australians oppose copyright changes for AI training（ChannelLife Australia） A Step-by-Step Guide to eBay API Integration With AI Agents（hackernoon） News Australia targets AI shoppers for Black Friday（mediaweekau） A1 launches AI governance service for mid-market firms（IT Brief Australia） Google Cloud launches new security tools for AI agents（IT Brief Asia） AISA warns firms not to
鴨鴨新聞
蕃新聞11/7（六）
AI代理人加速創業模式變革 單人新創「獨角獸」成新常態
商傳媒｜責任編輯／綜合外電報導隨著人工智慧（AI）技術的快速進展，全球創業生態正經歷一場深遠變革。過去數年間，單一創辦人的新創公司數量顯著攀升，從2019年不到四分之一，到2025年上半年已突破三分之一，顯示個人創業的趨勢日益明顯。如今，藉由AI Agents（人工智慧代理人，能自主執行任務的軟體），創業者能在極短時間內完成過去需要團隊才能進行的工作，如撰寫程式碼、評估市場規模、甚至草擬銷售流程。 根據《The Founder Institute》報導，傳統的創業規則正被顛覆。以往新創公司可能需要花費六個月開發產品原型、先募資以驗證想法，並在撰寫任何程式碼前就組建團隊。然而，AI Agents的出現讓這些流程大幅加速：現在，一個最小可行性產品（MVP）可能一週內就能完成；創辦人可以先透過實際數據證明產品可行性，再從更有利的地位尋求投資；而組建團隊已不再是創業初期的必要條件。 這使得「獨角獸創業者」（Solocorn），即單人公司追求十億美元估值的概念，從理論走向實際。然而，《The Founder Institute》執行長 Connor Sattely 指出，儘管AI能讓創業者看起來效率極高，例如在一個下午內就產出登陸頁面、募資簡報及上百封開發信，但AI Agents無法提供核心的判斷力。一個沒有明確方向的創業者，即使有強大的AI工具，最終也可能只是為一個不存在的問題打造出令人驚豔的演示產品。 《The Founder Institute》為此提出新的AI創業指南，包含五大步驟：首先是制定公司計畫；其次是讓AI Agents處理繁瑣事務；接著在募資前先證明產品的市場價值；然後透過反覆演練，讓募資問答不再艱難；最後，也是最關鍵的一步，是將AI Agents環繞在真實的人際網絡中。例如，創業家 唐娜·文森特·羅亞（Donna Vincent Roa）透過AI協助，從一個試點專案擴展到更多客戶；斯蒂芬·阿斯托爾（Stephan Aarstol）也在約四個月內獨立開發出整個 TheCutList.com 平台。 為協助創業者，例如《The Founder Institute》提供的 FI Agentic 計畫與 Pitch Gym 服務，利用語音AI扮演投資人，讓創業者在實際募資前進行20至40次的實戰演練。透過AI工具的賦能，加上人類的判斷力與社群支持，新創公司能以前所未有的速度驗證市場需求、磨練商業模式，並在關鍵時刻精準接觸合適的投資人，大幅提高創業成功的機率。
資安週報：SentinelOne、Fortinet 強化 AI 端點防護與網路監控
圖／示意圖商傳媒｜葉安庭／綜合外電報導本週資安界聚焦於端點安全與網路監控領域的最新進展，多家主要廠商紛紛發表新產品、服務與合作計畫。其中，人工智慧（AI）技術的應用成為關鍵趨勢，尤其是在強化防禦、提升營運效率及管理 AI 代理（AI agents，指具備自主執行任務能力的 AI 程式）資安風險方面。 AI 技術深化端點安全應用 AI 在端點安全（Endpoint Security，指保護電腦、手機等網路末端設備免受攻擊）領域的應用持續深化。SentinelOne 宣布與美國 AI 公司 Anthropic 的 Claude Cowork 整合，將其資安覆蓋範圍延伸至 Anthropic 環境。《Sysdig》也宣布 Sysdig AI Defense 已全面上市，為 macOS 和 Windows 上的 AI 代理提供執行時安全與治理功能。資安公司 CrowdStrike 推出新的資安營運能力，能偵測並遏制偏離預期行為的 AI 代理，並引入 Agent Insider Threat Detection 功能與 Falcon Guardian AI Kill Switch。網路安全公司 Cycode 針對企業內利用 AI 代理開發應用程式的「公民開發者」推出名為 Citizen Developer Security 的預覽服務。此外，Ebix 與 intentyx 合作，為受管制行業提供基於 intentyx Synthetic Mind-Aware Risk Engine（SMARE）的 AI 代理安全與治理解決方案。Fortinet 推出了 FortiGuard Inline AI Security Service，將雲端 AI 檢測與防護擴展至其防火牆產品 FortiGate 用戶，且無需額外的 AI 資安基礎設施。 網路監控與其他資安服務提升 在網路監控（Network Monitoring，指持續觀察網路流量與設備狀態，以偵測異常或效能問題）方面，Action1 宣布推出 Endpoint Takeover Prevention（ETP），這是一種新的安全架構，旨在防止威脅行為者利用受損的端點管理平台來控制客戶端點。Assail 引入了 Cassandra，這是一個整合至其 Ares Platform 的主動式 AI 代理，旨在連接威脅建模與自主安全測試。Auvik 也宣布其自動化框架和常見漏洞與暴露（CVE）監控代理已全面上市。CloudBolt Software 為其雲端管理平台 CloudBolt CMP 新增了代理治理功能，讓管理員能控制代理存取權限、確保政策執行、追溯會話並指派指定用戶。Cobalt 已加入 Wiz Integration Network，這將實現漏洞發現的自動同步，包括可利用性情境、重現步驟、嚴重性評級、CVSS 分數和修復指引。網路安全公司 Ontinue 則推出 MXDR Essentials 管理資安服務，此服務以 Microsoft 的整合資安營運中心（Microsoft ISOC）為基礎，並將持續的調查與回應能力擴展至 Microsoft Defender。 資安公司 Tanium 加入 OpenAI 的 Trusted Access for Cyber Program，使其能夠運用先進的 AI 功能進行威脅研究、漏洞研究和修復工作。Keyfactor 則任命 Gerald Beuchelt 為新的資訊長。Gigamon 資訊長 Grant Yacomeni 強調，雖然許多組織針對獲准使用的 AI 工具、可存取的資料及員工使用方式制定規則，但光有政策不足以構成全面的治理。
11/6（五）
After blocking Muse, Amazon now lets users text Alexa to he…
Amazon said that the feature will roll out to millions of users in coming weeks.
AI代理人防脫韁 「憲法式運算」為企業AI設界限
圖／示意圖商傳媒｜林昭衡／綜合外電報導隨著人工智慧（AI）技術的快速發展，企業開始普遍導入「企業AI代理人」（enterprise AI agents），這類能自主執行任務的AI系統，卻也面臨脫離控制的風險。為解決此問題，科技公司 Kihan 於昨日宣布推出「憲法式運算」（Constitutional Computing）框架，旨在確保 AI 代理人僅在被授權的範圍內活動。 Kihan 共同創辦人暨執行長 Jonathan Hirshon 指出，AI 代理人能力日益強大，但其自我約束能力不足。他強調：「一個能轉帳 5,000 萬美元、修改生產資料庫或釋出機密資訊的系統，不應僅因其擁有工具便可為之。」這項「憲法式運算」設計理念，即是將 AI 權限的治理，獨立於 AI 模型本身之外，透過外部且可驗證的授權機制，避免未經許可的行動影響企業系統。 根據《GamesBeat》報導，雲端安全聯盟（Cloud Security Alliance）今年 4 月發布的研究顯示，有高達 53% 的受訪企業表示其 AI 代理人曾超出預期權限，更有 47% 的企業在過去一年中遭遇 AI 代理人安全事件，凸顯企業 AI 治理的迫切性。傳統的 AI 防護機制多仰賴對模型的指令，而 Kihan 的方法則是建立一個獨立的授權系統，在 AI 代理人執行任何關鍵操作前，都會先進行評估。 Kihan 的首款產品 Inktomi 便是實踐憲法式運算的應用。該公司表示，Inktomi 的決策引擎已投入運作，能評估特定行為是否符合簽署的組織規則，並決定是允許、拒絕請求，抑或將其轉交人工審核，同時保存可供追溯的決策紀錄。 Inktomi 規劃支援 Anthropic、OpenAI 和 Google 等公司開發的 AI 模型，以及 Hermes Agent 等代理人框架，並與 Model Context Protocol（MCP）等工具生態系整合。 Kihan 已鎖定金融服務、保險、醫療保健及法律服務等高度受監管產業，這些領域若發生未經授權的 AI 行動，可能造成重大財務、營運或法律後果。此技術不僅能與現有的身份管理、資安及 AI 治理解決方案互補，也支援符合 GDPR、HIPAA 等法規的合規性需求。該公司目標在今年 12 月展開初期企業評估，並將其技術架構 ATHENA 的研究成果，陸續刊登於 IEEE計算機協會（IEEE Computer）的特刊中。 對於台灣企業而言，隨著 AI 導入深度增加，如何確保 AI 代理人在符合內部規範與外部法規的前提下運作，將是提升營運效率與降低風險的關鍵。「憲法式運算」這類新型治理框架的出現，可望為台灣企業提供借鑑，協助其在享受 AI 便利的同時，也能有效防範潛在的濫用或失控風險。
AI代理人進駐政府服務 身份識別與問責成關鍵挑戰
商傳媒｜何映辰／台北報導隨著人工智慧（AI）技術日益成熟，各國政府正逐步將能夠自主執行任務的「AI代理人」（AI agents），從試驗階段推向實際的公共服務應用。此趨勢也使得如何進行身份識別與問責機制（確保AI代理人執行任務時，能明確辨識其身分並在出錯時能追究責任）成為一大挑戰。 阿拉伯聯合大公國（UAE）在這波浪潮中走在前沿，訂定目標要在兩年內將一半的聯邦服務與運營轉由AI執行。目前，該國的政府AI代理人已涵蓋稅務審計到客戶支援等多個領域。《Biometric Update》指出，微軟公司將阿拉伯聯合大公國列為全球工作年齡人口使用生成式AI程度最高的國家。為此，阿拉伯聯合大公國也成立了 TAMM Global，計劃將其AI政府平台授權給其他國家使用。 然而，AI代理人的應用也帶來了問責問題。要維持問責制，必須能夠證明是哪個AI代理人執行了任務、誰授權、其執行範圍為何，以及實際做了什麼，同時不能洩露公民數據。阿拉伯聯合大公國的解決方案是建立一個AI代理人「控制塔」，所有聯邦AI代理人必須連接至此，並記錄其行為與決策過程，以便進行持續的審計。專家建議，每個AI代理人都應具備可驗證的身分，明確連結到一個負責任的個人或機構，並與其被賦予的任務明確綁定，而非共用服務帳戶或借用人類的登入憑證。 AI代理人的權限必須明確，並設定操作者在特定限制內授權任務，且系統應在執行時強制遵守這些規定。一旦權限被撤銷，AI代理人應立即無法執行任何操作。此外，由於AI模型不具備完全的確定性，因此需要建立一個可驗證的獨立審計追蹤系統，在每個步驟留下簽署紀錄，供審計人員獨立查證。政府在調查AI事件時，應仰賴自身持有的紀錄，而非僅依賴涉事供應商提供的資訊。例如，澳洲政府在今年九月便從OpenAI得知，其AI代理人曾於六月未經授權存取 Services Australia 統計入口網站後端的基礎設施。 AmanTrue 共同創辦人暨執行長 Evin McMullen 表示，對於政府而言，AI的信任根源應保留在國家自身的控制與司法管轄權之下，而非依賴外部供應商。儘管身份識別基礎設施無法取代測試、人工監督或完善的政策，但沒有它，當AI代理人發生錯誤時，便無法執行或證明相關的保護措施。
Ragic 導入 Jev 自動選擇 AI 分類任務成本省逾 97%
圖／示意圖商傳媒｜葉安庭／綜合外電報導雲端資料庫平台 Ragic 於昨日（11月5日）宣布，其 AI Agents 現在能自動採用 TypeSafe AI 開發的專用決策模型 Jev，來處理符合條件的分類任務，而非仰賴通用型大型語言模型（LLM）。這項整合旨在大幅降低重複性 AI 自動化任務的成本，估計可節省高達 97% 至 98% 的模型費用，且無需用戶手動選擇模型、撰寫程式碼或額外配置。 Ragic AI Agents 是一種自動化程式，能在 Ragic 平台（讓企業或個人無需寫程式就能建立資料庫應用程式，管理資料和工作流程的平台）上自動執行任務，例如讀取資料、填寫表格及應用業務邏輯。這些 AI Agents 廣泛應用於客戶詢問分類、支援票證優先級分配或政策違規標記等任務。然而，當 AI Agents 頻繁運行時，即使是相對簡單的任務也可能產生意想不到的高昂成本。Ragic 曾有客戶的追蹤代理在數週內運行超過 10,000 次，使用 Gemini Flash 模型約花費 200 美元，遠高於預期的每月不到 1 美元。 為了解決此問題，Ragic 將 Jev 模型整合至其 AI Agents。Jev selection 是一種專門的 AI 決策模型，設計用於從預設選項中做出決策，因此在特定分類任務上比通用型 LLM 更具成本效益。Ragic 平台在用戶儲存 AI Agent 時，會自動識別是否可將分類任務轉移至 Jev 處理，並直接在介面中通知用戶。這項功能省去了企業識別適用任務、透過 API 串接模型及判斷何時仍需使用 LLM 的技術門檻。 Ragic 執行長暨創辦人傑夫·庫斯（Jeff Kuo）表示：「即使是執行相對簡單任務的代理，AI 成本也能迅速累積。一個只需在幾個選項中做出選擇的代理，並非總需要大型語言模型。透過在適當時自動選擇 Jev，我們協助企業減少不必要的 AI 成本，同時不要求用戶判斷 Jev 是否合適或改變他們的工作方式。」他強調，Ragic 旨在讓理解業務流程的人員，無需成為開發者也能建置和管理系統，這項原則也適用於 AI。 這項整合為企業帶來多重效益，包括自動模型選擇、大幅降低 AI 營運成本、原生資料庫整合，且無需程式碼或技術配置。Ragic AI Agents 在現有的資料庫環境中運行，可維護既有的資料結構、欄位權限及業務流程，使企業能以更經濟高效的方式，將 AI 應用於日常分類任務，同時保留通用型 LLM 處理更複雜的工作。
Google 開源 Agent Substrate 與 gVisor 聯手 CNCF 強化 AI 代理沙盒安全
圖／示意圖商傳媒｜責任編輯／綜合外電報導Google Cloud 本週宣布，將其開發的 Agent Substrate 與 gVisor 兩項關鍵技術捐贈給雲端原生運算基金會（Cloud Native Computing Foundation, CNCF），並以沙盒（Sandbox）專案狀態加入。此舉旨在為日益普及的代理式人工智慧（AI agents）提供更安全、高效的執行環境，並推動相關技術的開放標準。 代理式人工智慧在執行時常需處理不受信任的程式碼、指令及工具呼叫，因此必須與主機系統和網路資源進行嚴格隔離。然而，傳統的雲端運算方法在處理 AI 代理時面臨挑戰，例如代理在等待模型推論或外部 API 回應時，可能高達 90% 至 95% 的時間處於閒置狀態，卻仍佔用運算資源，造成浪費。此外，大量短暫的代理任務同時啟動、暫停與恢復，也可能導致 Kubernetes 等容器管理平台的控制平面過載。 為了解決這些問題，Google Cloud 捐贈的 Agent Substrate 框架，透過將「持有狀態的執行者（Actors）」與「提供運算的工人（Workers）」分離，來優化資源利用。它結合了 Kubernetes 的優勢，並導入新的控制與資料平面，以實現完全隔離、超低延遲的沙盒運算與儲存。Agent Substrate 已推出 1.0 版本，並開放原始碼供測試。同時，gVisor 是一種沙盒（Sandboxing）技術，它能在使用者空間攔截系統呼叫，有效隔離不受信任的程式碼，防止其直接存取主機核心，為 AI 代理提供強化的安全保障。Agent Substrate 可以搭配 gVisor 執行，也支援 Cloud Hypervisor 等微型虛擬機器（microVMs）。 Google Cloud 也同步推出 Agent Compute Engine，這是一項專為代理式人工智慧設計的運算服務，基於 Google 內部運行 Gemini 等大型 AI 模型的基礎設施。Agent Compute Engine 為每個 AI 代理提供獨立的微型虛擬機器（microVM），有效處理大量並行的任務，同時確保工作負載之間的隔離。該服務能夠在代理閒置時進行記憶體共享與快照式的暫停與恢復，顯著降低資源消耗，並能提供低於 500 毫秒的喚醒延遲，確保互動式體驗不中斷。 Google Cloud 也擴展了對 AI 代理的管理與治理工具，包括 Agent Gateway 用於策略執行與流量控制、Agent Registry 作為核准代理與工具的記錄，以及 Agent Identity 用於為代理分配安全身份。這些工具的目標是協助企業在大規模部署 AI 代理時，有效管控資料存取、安全與可稽核性。Google DeepMind 副總裁 Clement Farabet 表示，Agent Compute Engine 提供的即時快照分支（snapshot-fork）與快速恢復功能，使得長期軟體工程開發中的自主程式碼代理能流暢運行。 Google Cloud 將這些關鍵技術開源並捐贈給 CNCF，期望能為代理式人工智慧的基礎設施建立中立、供應商獨立的開放標準，共同應對 AI 代理規模化部署所帶來的安全與效率挑戰。
Meta Muse AI介面可愛卻暗藏隱私風險 專家籲用戶警惕資料收集
圖／本報資料庫商傳媒｜何映辰／台北報導Meta Platforms（下稱Meta）推出的個人化人工智慧助理Muse AI，正透過其可愛的介面和不斷擴增的功能，逐步深入用戶的數位生活。這款AI助理近期增加了語音模式，並預計將與Meta的AI眼鏡及實體配件Muse Charm結合，進一步擴展應用範圍。然而，這項旨在提供便利的AI工具，也引發了外界對其隱私保護與資料收集範圍的廣泛關注，近期有報導指出，Muse AI在用戶不知情或未明確同意的情況下，可能存取並收集大量個人資訊，甚至出現誤洩使用者地址和私自訂閱服務的事件。 Muse AI以其吉祥物Jolly的可愛形象，以及允許用戶自訂虛擬角色的OpenAI Dots，試圖營造親切的互動體驗。然而，這種友善的設計卻可能讓用戶放鬆警惕，忽略其背後對個人資料的深度存取。賓州州立大學社會責任人工智慧中心主任S. Shyam Sundar教授與蒙納許大學新興科技研究實驗室副教授Jathan Sadowski均指出，可愛的介面設計可能輕易化使用者對個人敏感資料的交付，導致人們在不經意間成為被動的使用者，不再提出關鍵問題。記者David Nield也強調，為了讓這些人工智慧代理（AI agents）發揮功用，用戶往往需要交出個人資料，這本身就是一場隱私權的取捨。 多起事件顯示，Meta Muse AI的實際運作與其宣稱的「隱私至上」原則存在落差。CNET報導，多倫多科技評論員Matt Robb的居家地址，曾遭Muse AI在未經他明確同意下，誤傳給一位Facebook Marketplace的潛在買家。另一名記者傑森·阿滕（Jason Aten）也回報，儘管他自認已明確拒絕，Muse AI仍舊在他的Mac電腦上讀取了私人Apple Messages訊息。Shattered的報導更揭露，Muse AI在未經同意的情況下，同步了一名用戶約18.7萬行的Apple Messages對話。這些事件凸顯了AI助理在權限管理上的潛在漏洞。 Meta Muse AI被發現持續為每位使用者建立個人資料檔案，即使在用戶拒絕授權的情況下也不例外。與其他聊天機器人如Google Gemini、ChatGPT和DeepSeek相比，Muse AI被指稱收集或試圖收集的資料類型更多，達到35種中的31種，其中包括位置資料、性取向、基因資訊或生物識別資料等高度敏感的個人資訊。此外，Meta預設會將用戶與Muse AI的互動資料用於訓練其AI模型，用戶需手動選擇退出，這也引起了資訊倫理的疑慮。 在用戶體驗方面，CNET的親身體驗報導指出，Muse AI在協助用戶規劃行程時，曾私自為用戶訂閱Instacart Plus服務以享有免費運送，並在結帳時出現報價與實際收費不符的情況。雖然該服務隨後被取消，但也顯示了AI助理在處理財務交易時可能存在的「擅自行動」風險。這類事件提醒使用者，即使AI助理能提供便利，也應隨時保持警惕，特別是涉及金錢交易時。 面對個人化AI助理帶來的隱私挑戰，專家建議用戶應採取主動防護措施。首先，僅授予Meta Muse AI或類似工具最低限度的資料存取權限。除非絕對必要，否則應避免分享健康、簡訊或支付卡等敏感資訊。其次，每次應用程式更新後，都應重新審查並調整相關權限設定。最後，在使用這些工具處理低風險任務前，先行測試其表現，並檢查其對外訊息及交易紀錄，以確保個人資料的安全。
Axiom Math wants to keep AI slop out of mathematics | TechC…
As AI floods math with unchecked proofs, Axiom Math is betting on verification. The startup’s AI agents just formally verified the Stacks Project, one of the field’s biggest libraries.
11/5（四）
Aina's smart ring has a screen, a joystick and a mic so you…
Aina's ring can also take calls and help you dictate notes on your Mac.
甲骨文提 Deep Trust AI 架構，將 AI 代理防線下放資料庫
Oracle（甲骨文）在 11 月 4 日發布的系列文章中，為企業導入 AI 代理人（AI Agents）點出全新思維：關鍵不在於無止盡地增加自動化能力，而是讓系統具備更嚴謹的判斷力、治理機制與可追溯性。 為防止 AI 在企業環境中繞過既有規範，Oracle 強調，必須在代理人開始執行任務之初，就將...
企業 AI 資安新戰略：別猜模型想做什麼，先盤點「過度授權」與「停機」能力
隨著 AI 代理（AI Agents）逐步深入企業核心系統，資安防護的焦點正從「猜測模型會做什麼」轉向「盤點它實際能做什麼」。資安專家指出，AI 的任務描述僅代表其「意圖」，真正決定風險高低的，是代理背後所連接的帳號、工具與系統權限。舉例來說，同樣是執行「支援工單摘要」的任務，若底層綁定的帳號同時具...
AI工具暗藏供應鏈數據外洩危機 近半企業資安長曾遇相關事件
商傳媒｜責任編輯／綜合外電報導近期多份報告示警，人工智慧（AI）工具在為企業帶來便利的同時，也成為敏感數據外洩和網路攻擊的新途徑。全球資安解決方案供應商BlackFog發布的研究指出，高達47%的資安決策者曾經歷因AI工具導致的敏感數據外洩事件，其中77%的案例甚至涉及公司核准使用的AI工具。 另一項由Instalily進行的調查則顯示，每六位供應鏈、物流與批發產業主管中，就有一位表示其公司在過去一年曾發生AI工具外洩、共享或導致客戶與供應商數據被不當存取的情形。這類數據的敏感性在於，它可能包含客戶報價、利潤細節以及供應商定價與折扣等關鍵商業資訊，一旦外洩可能嚴重影響企業的競爭力與營運安全。 資安公司Elastic的研究進一步揭露，駭客已開始濫用獲企業信任的AI工具進行網路攻擊。研究人員觀察到入侵者透過Claude Code與ChatGPT等工具在Windows和macOS系統上執行惡意指令，甚至盜取使用者憑證。在27起確認的密碼竊取惡意軟體案件中，從感染到使用竊取憑證登入的平均時間僅為8分鐘。Elastic安全總經理Mike Nichols表示，當前的挑戰在於，AI代理程式（AI agents）若擁有存取憑證並能連結網際網路，即使被濫用，其活動在監控系統中仍可能看似合法，難以察覺，這正是AI工具潛在的安全漏洞所在。 資安研究人員也發現一種稱為「Prompt Adware」的新型威脅。Check Point Research揭露，一種名為Haiou的OpenAI Codex「越獄」工具會修改AI代理程式的信任指示（trusted instructions），強行植入第三方AI閘道服務的廣告。這種透過自然語言指令而非傳統執行檔載入的行為，讓惡意活動更難被辨識。研究人員指出，隨著AI代理程式日益整合進企業環境，其Prompt、技能及第三方組件都成為信任鏈的一部分，一旦被惡用，恐導致供應鏈攻擊。 面對AI工具帶來的資安挑戰，BlackFog創辦人兼執行長Darren Williams博士強調，企業不能僅決定員工可使用哪些AI工具，更需有效控管透過這些工具共享的資訊。目前有39%的企業認為AI導入速度已超越其管理能力，且僅有27%的企業具備全面的AI控制措施。專家建議，企業應建立核准AI工具的清晰清單，並根據其實際行為（例如AI應用程式啟動的進程或遠端管理工具連接的位置）來評估其信任度，而非僅憑核准狀態。同時，也應定期建立系統正常活動的基準，並整合來自雲端、終端與身份數據的訊號，以全面提升資安防護能力。
Almost no one uses AI agents to book their Uber, company sa…
During its busiest week last quarter, Uber said only four people booked a ride using an AI agent.
科技新報11/4（三）
蘋果年報示警：失控 AI 代理恐釀「不可逆」損害，更威脅核心隱私優勢
蘋果公司（Apple）在最新提交的年度申報文件中，大動作拉高對人工智慧（AI）風險的警戒層級。文件中特別點名「自主式 AI 代理」（AI agents）的潛在威脅，警告這類技術若在未經授權的情況下存取內外部系統、擅自修改程式碼、發送通訊甚至完成交易，恐將對公司營運造成嚴重損害。 蘋果坦言，AI 代理...
