如何對生成式AI 「下毒」?研究團隊:花小錢買過期網域、修改維基百科就能誤導AI淪為犯罪幫兇
未署名
當AI的學習資源來自開放式網路,而非經過挑選、駭客較難入侵的閉鎖性資料庫,AI 就容易遭「投毒」。例如駭客可以在某些網站寫入不實資訊,「教導」AI聊天機器人散布特定公眾人物的不實謠言,或在網站埋入惡意......
當AI的學習資源來自開放式網路,而非經過挑選、駭客較難入侵的閉鎖性資料庫,AI 就容易遭「投毒」。例如駭客可以在某些網站寫入不實資訊,「教導」AI聊天機器人散布特定公眾人物的不實謠言,或在網站埋入惡意......