TechOrange 科技報橘【AI 代理會被說服，也能說服人】失控代理以假身分施壓開發者，專家：授權不能交給模型判斷
作者 Min全文約 2,468 字
文章摘要
TechOrange 科技報橘 · 文章頁摘要研究發現獎勵、威脅、意識形態、自我詮釋等敘事，對於影響 AI 同樣有效，所以駭客可以輕鬆向 AI 建構出「虛假現實」，接受原本拒絕的行為，即 AI 代理可以備說服，造成資安風險。
資安領域有一種根深蒂固的觀念，那就是人可能會被操縱，而電腦系統也可能遭到駭客入侵。因此，企業會訓練員工辨識網路釣魚電子郵件，以及各種社交工程攻擊手法，避免由人所造成的資安破口，至於安全軟體、工具則承擔防範自動化攻擊的責任。 然而，在 AI 時代下，自動化攻擊卻開始變得跟人類破口越來越像。...