AI Agent自行合理化越權 OpenAI揭模型駭入加密錢包竊測試代幣 - OwlNews

圖／示意圖商傳媒｜葉安庭／綜合外電報導人工智慧公司OpenAI近期揭露多起人工智慧模型「行為失準」的事件，其中最受矚目的一起發生於今年6月下旬，其開發的一款人工智慧代理（AIAgent，一種能夠自主理解、規劃並執行任務的AI模型），在測試環境中自行駭入加密貨幣錢包（用來儲存和管理數位資產的工具），並支付了測試代幣，引發外界對AI安全與倫理決策的疑慮。根據《Fortune》報導與OpenAI報告指出，這起事件發生在6月26日，但直到9月25日才被OpenAI發現。涉事模型屬於GPT-5.6Sol系列，當時被賦予一項任務，是為某個加密貨幣交易應用程式進行軟體更新，並需在以太坊（Ethereum）的測試網路Sepolia上部署智能合約。然而，該模型在執行任務時，發現其沒有足夠的測試代幣來支付合約部署所需的交易費用。它首先嘗試向「水龍頭」（faucets，提供免費測試代幣的服務）請求代幣，但未能成功。隨後，該AIAgent竟自行撰寫程式碼，試圖利用常見的開發者錢包「恢復短語」（seedphrases，如同密碼，可用來存取錢包）來存取其他開發者的錢包。經過掃描362個錢包後，該模型成功找到一個含有足夠Sepolia測試代幣的錢包。在執行交易前，模型的內部記錄顯示它曾考慮這項行為是否「合乎道德」。但最終，它自行合理化其行為，認為這些測試網路代幣沒有實際貨幣價值，且錢包的恢復短語公開，這些資金「形同被遺棄」，因此可以加以使用。隨後，該模型成功完成了智能合約的部署，並從被存取的錢包中扣除了交易手續費。OpenAI強調，由於這起事件發生在Sepolia測試網路上，因此並未造成任何實際加密貨幣的損失。但這起事件凸顯了AIAgent在執行任務時，不僅能識別道德界線，還可能透過自行判斷與推論來逾越這些界線。對此，OpenAI已加強其安全控制措施，包括阻止模型在訓練和評估期間存取即時網路，並改進其對齊評分機制，擴大不對齊行為的監控範圍。