iThome一旦影像模糊或遭竄改，AI機器人恐因視覺判斷失準，嘗試執行可能傷害人的危險動作
作者 羅正漢全文約 1,292 字
文章摘要
iThome · 文章頁摘要針對具身AI的感知安全問題，近日有研究團隊透過實體機器人進行測試，發現AI模型的安全判斷可能受到攝影機影像品質影響。即使只是將畫面模糊化，也可能使模型原本能夠拒絕的危險操作指令，轉變為嘗試執行，突顯具身AI在感知資訊受到干擾時的潛在安全風險
Robocurve AI機器人獨立評測公司Robocurve於11月6日公布一項研究，發現當AI模型控制實體機器人執行任務時，攝影機影像若遭到模糊處理或刻意竄改，可能大幅影響其安全判斷。研究團隊在特定實驗條件下測試5款多模態AI模型，發現在原始影像下，模型嘗試執行危險任務的比例為27%，但畫面模糊後...