殺人決定不能交給AI

▲AI武器真正令人不安之處，是人類把決定權交出去。AI可以比人快，可以同時分析衛星、無人機、雷達與情報資料，也不會疲倦。在戰場分秒必爭時，這些都是極大的軍事優勢，也正因如此，各國越來越難停手。（圖／達志影像／美聯社）

●張瑞雄／台北商業大學前校長、叡揚資訊顧問

9月底，一場在日內瓦進行的聯合國談判，把AI軍備競賽推到一個很現實的十字路口。各國原本希望替致命自主武器建立國際規範，美國與俄羅斯卻在最後階段要求刪除多項限制，包括武器必須具備可預測性與可靠性、使用時應考量倫理，以及AI產生攻擊目標後應由人類重新審查等，讓「殺人AI」變得更加可能和可怕。

這不是科幻小說裡機器人突然產生邪念的故事，AI武器真正令人不安之處，是人類把決定權交出去。AI可以比人快，可以同時分析衛星、無人機、雷達與情報資料，也不會疲倦。在戰場分秒必爭時，這些都是極大的軍事優勢，也正因如此，各國越來越難停手。誰多花10秒確認目標，可能就先被敵人打掉。

國際紅十字會8月再度與聯合國祕書長共同呼籲各國建立新的國際規範，特別警告世界正逐漸接近讓機器自主選擇人類作為攻擊目標的界線。11月《特定常規武器公約》審議會議還將繼續討論是否正式展開新規範的談判。換句話說，今年很可能成為自主武器治理的重要年份。

有人會問，AI真的不能比人類更可靠嗎？人會害怕、憤怒、疲倦，也可能誤判。AI如果辨識精確，也許反而可以減少濫殺。這個觀點不能完全否定，防空系統面對高速飛彈時，本來就不可能每一步都等待人類按鈕，AI協助辨識與追蹤目標，也可能降低士兵暴露於危險的機會。

但「AI協助人殺人」與「AI自己決定殺誰」仍有一道不能輕易跨過的線，國際人道法要求攻擊者判斷軍事目標、平民傷害與軍事利益之間是否符合比例原則，也要求採取可行措施降低平民傷亡。這些責任最後仍落在人身上，不能因為演算法算出一個答案，就把法律責任一起交給電腦。

美國與俄羅斯不願接受太強的約束，也有軍事上的現實考量。假如自己接受嚴格限制，對手卻偷偷發展更自主、更快速的武器，戰場上可能吃虧。尤其AI技術大量來自民間，演算法、晶片、無人機甚至開源軟體都能快速擴散，傳統軍備管制那種數飛彈、查核工廠的方法，到了軟體時代變得困難許多。

這也形成危險的循環，美國擔心俄羅斯與中國，俄羅斯擔心美國與北約，中國同樣不可能忽視美國的軍事AI。每個國家都有理由告訴自己「不能讓別人先走」，最後大家都走得更快。最可怕的未必是哪個國家故意讓AI亂殺人，而是每個國家都怕反應慢半拍，於是逐漸把更多判斷交給機器。

戰爭因此可能出現以前沒有的速度，兩群無人機互相偵測，AI判斷敵方正在攻擊，立刻反擊，對方系統又把反擊視為新的攻擊訊號，幾分鐘內就可能完成過去需要指揮官逐級確認的決策。速度成為武器之後，留給外交、確認與喊停的時間反而越來越少。

國際條約當然不可能讓所有國家立刻放棄自主武器，化學武器、地雷與集束彈藥的歷史也說明軍備規範常常不是所有大國同時接受才開始產生作用。規則先建立，久了會形成國際壓力、軍事準則與責任標準。國際紅十字會也主張，無法充分理解、預測及控制效果的自主武器應受到禁止，其餘系統則應限制目標種類、使用範圍、時間與環境，並保留人類監督及中止能力。

因此，比要求全面禁止AI武器更務實的做法，是先守住幾條不能退的底線。AI可以找目標，人要確認。AI可以追蹤威脅，人要決定是否攻擊。系統一旦出現無法解釋的行為，人必須能夠立即停止。更重要的是，每一次致命攻擊都必須找得到負責的人，不能讓軍方說是AI判斷，工程師說是模型自己學的，最後死了人卻沒有人負責。

今天我們擔心AI寫錯報告、做錯投資判斷，還有機會修改。戰場不同。飛彈射出去不能按復原鍵，無人機認錯人也沒有第二次機會。技術可以先進到讓機器看得比人遠、算得比人快，但文明至少應守住最後一道界線。決定敵人該不該死，不能只是AI。

▼技術可以先進到讓機器看得比人遠、算得比人快，但文明至少應守住最後一道界線。決定敵人該不該死，不能只是AI。（圖／記者任以芳攝）

●以上言論不代表本網立場。歡迎投書《雲論》讓優質好文被更多人看見，請寄[email protected]或點此投稿，本網保有文字刪修權。