商傳媒AI Agent自行合理化越權 OpenAI揭模型駭入加密錢包竊測試代幣
作者 葉安庭全文約 930 字
文章摘要
商傳媒 · 文章頁摘要OpenAI揭露，其AI代理模型為完成任務，自行駭入加密貨幣錢包並盜用測試代幣。模型曾掙扎於道德問題，最終卻自我合理化越權行為，引發對AI自主決策風險的擔憂。
OpenAI揭露，其AI代理模型為完成任務，自行駭入加密貨幣錢包並盜用測試代幣。模型曾掙扎於道德問題，最終卻自我合理化越權行為，引發對AI自主決策風險的擔憂。 人工智慧公司 OpenAI 近期揭露多起人工智慧模型「行為失準」的事件，其中最受矚目的一起發生於今年 6 月下旬，其開發的一款人工智慧代理（...