AI代理人恐擅作主張 金融業與專家揭資安隱私危機 - OwlNews

圖／示意圖商傳媒｜葉安庭／綜合外電報導隨著人工智慧（AI）應用日益深化，能自主執行多步驟任務的「AI代理人」正逐漸普及，然而其帶來的潛在資安、隱私與倫理風險也浮上檯面。今日，AI偵測模型公司ResembleAI宣布推出ResembleAgentDetection(RAD-S1)產品，可識別網站及產品中的AI代理人行為，以應對日益嚴峻的挑戰。在此之前，數家美國金融巨頭，包括摩根大通（JPMorganChase）、摩根士丹利（MorganStanley）、花旗集團（Citigroup）、美國銀行（BankofAmerica）和嘉信理財（CharlesSchwab），已於上週起陸續封鎖Meta的Muse和OpenAI的Dots等AI代理人，禁止其存取客戶帳戶。這些金融機構擔憂，在AI代理人代表客戶行事時，責任歸屬仍有未解的疑問。AI代理人與傳統機器人程式不同，它們不僅能執行預設指令，更具備機率性（probabilistic），能自主分析、判斷並完成複雜的連續性任務，有時甚至能繞過障礙。然而，這種自主性也成為資安漏洞。例如，今年九月GambitSecurity報告指出，單一操作者利用AI代理人攻擊至少27家公司，竊取逾60萬筆信用卡紀錄。隨後，南韓七家金融機構也揭露與AI代理人相關的資安事件。在澳洲，OpenAI的AI代理人甚至在內部評估時，成功繞過政府醫療保險統計網站的存取控制，且未立即通報。企業內部管理AI代理人也面臨挑戰。根據Foundry和Rubrik的一項調查，近半數受訪者曾遭遇AI代理人或聊天機器人傳播不實資訊，另有38%確認AI代理人曾導致資料外洩或敏感資訊洩漏。Rubrik的AI行銷總監MichaelOrtega指出，傳統的資安、監控和治理解決方案是為管理人類設計，而非AI代理人。AI代理人能以機器速度評估並執行數千個決策點，惡意AI代理人造成的損害可能遠超人類，且時間更短。為此，Rubrik也推出RubrikAgentCloud平台，協助企業即時監管AI代理人行為。在個人隱私方面，Meta推出的AI模型MuseWonder，強調能記憶用戶資訊，例如朋友的飲食限制，但傳播學助理教授AlexisShoreIngber示警，當一人同意使用AI代理人時，其所有互動都可能受其影響。AI代理人的推理能力會收集數據並對用戶及其他相關人士進行推斷，進而影響其數位體驗和日常生活。當他人的選擇暴露個人資訊時，被暴露者往往束手無策，而平台方卻未承擔相應的資料保護責任。除了商業應用，AI代理人也深入科學研究領域。OpenAI曾動用約1萬個AI代理人平行運作88小時，耗資數百萬美元，試圖解決數學界的「千禧年七大難題」之一Navier-Stokes存在性與光滑性問題，並聲稱取得進展。雖然OpenAI表示無意領取克雷數學研究所（ClayMathematicsInstitute）提供的百萬美元獎金，但學術界憂心AI論文大量產出，而人類的驗證能力無法跟上。數學家MelanieMatchettWood便指出，AI要說服數學家接受其證明，可能比提出正確論證更容易，學界對此準備不足。Anthropic公司的一項實驗更顯示，即使是因果推論領域的專家，也容易採納AI代理人隨機給出的意見，並誤認為是自己的判斷。在沒有明確答案的任務中，高達86%的專家會追隨AI代理人的偏好，且事後逾八成參與者認為最終建議是出於自身判斷，僅15%提及AI的影響。這項研究指出，若眾多研究團隊使用相同且帶有預設偏好的AI模型，可能導致學術界形成「虛假共識」。歸根究底，AI代理人名稱雖帶有「代理」一詞，暗示其為用戶服務，但在法律上卻不具備人類代理人的受託責任。法規分析指出，AI代理人並非「法律實體」，而僅是軟體。Meta的服務條款便明確限制其責任，將用戶因交易造成的財務損失風險轉嫁給用戶，且將Meta的賠償責任上限設定為250美元。這意味著AI代理人可能優先考慮開發商利益，而非用戶福祉，使得用戶權益缺乏保障。