現在,AI 武器已經被美國、俄羅斯、英國、法國、以色列和韓國等國家<a href="https://qz.com/1616580/lethal-autonomous-weapons-could-become-a-reality-of-war/">部署和開發</a>,包括 381 種部分自治武器和軍事機器人系統。這些基於人工智慧的槍支、飛機、船隻、坦克、機器人,將<a href="https://www.theguardian.com/technology/2018/apr/09/killer-robots-pressure-builds-for-ban-as-governments-meet">有可能</a>在演算法的控制下,掀開未來的世界大戰。<article>
<p>它也被視為一種致命自主武器系統(<a href="https://www.lawfareblog.com/lethal-autonomous-weapons-systems-first-and-second-un-gge-meetings">LAWS</a>)——不僅「會思考」,能辨別自然語言,還能「有意識」地尋找和辨別攻擊目標,以傳統武器和士兵無法比擬的速度和效率消滅對手。</p>
<p><img style="display: block; margin-left: auto; margin-right: auto;" src="https://s3.ifanr.com/wp-content/uploads/2019/05/111-6.png!720" sizes="(max-width: 1005px) 100vw, 1005px" srcset="https://s3.ifanr.com/wp-content/uploads/2019/05/111-6.png!720 1005w, https://s3.ifanr.com/wp-content/uploads/2019/05/111-6-360x216.png 360w, https://s3.ifanr.com/wp-content/uploads/2019/05/111-6-768x462.png 768w" alt="Google 與美國國防部合作,能用先進的電腦視覺,自動辨識無人機拍攝的 38 個類別的物體 " width="600" height="361"><label class="caption" style="width: 600px; display: block; text-align: left; color: #555; line-height: 22px; padding: 0 3px 22px 3px; border-bottom: 2px solid #f0f0f0; margin: 5px auto 1rem auto;"><span style="color: #2382c5; padding-right: 5px;"> ▲ </span> Google 與美國國防部合作,能用先進的電腦視覺,自動辨識無人機拍攝的 38 個類別的物體<span style="color: #000000;"> </span></label></p>
<p><img style="display: block; margin-left: auto; margin-right: auto;" src="https://s3.ifanr.com/wp-content/uploads/2019/05/9-15.jpg!720" sizes="(max-width: 1280px) 100vw, 1280px" srcset="https://s3.ifanr.com/wp-content/uploads/2019/05/9-15.jpg!720 1280w, https://s3.ifanr.com/wp-content/uploads/2019/05/9-15-360x217.jpg 360w, https://s3.ifanr.com/wp-content/uploads/2019/05/9-15-768x462.jpg 768w, https://s3.ifanr.com/wp-content/uploads/2019/05/9-15-1024x616.jpg 1024w" alt=" 在演算法殺人之前,或許我們該先殺死它們" width="600" height="361"></p>
<p>因為它們攜帶著目前一切武器都難以預測的殺傷力,AI 專家在美國科學促進會 (AAAS) 華盛頓年度會議上<a href="https://qz.com/1616580/lethal-autonomous-weapons-could-become-a-reality-of-war/">表示</a>:</p>
<blockquote>
<p><strong>AI 武器將會帶來「戰爭中的第三次武器革命」,成為人類生存最大的威脅。</strong></p>
</blockquote>
<h3><img style="display: block; margin-left: auto; margin-right: auto;" src="https://s3.ifanr.com/wp-content/uploads/2019/05/3-36.jpg!720" sizes="(max-width: 1280px) 100vw, 1280px" srcset="https://s3.ifanr.com/wp-content/uploads/2019/05/3-36.jpg!720 1280w, https://s3.ifanr.com/wp-content/uploads/2019/05/3-36-360x240.jpg 360w, https://s3.ifanr.com/wp-content/uploads/2019/05/3-36-768x512.jpg 768w, https://s3.ifanr.com/wp-content/uploads/2019/05/3-36-1024x682.jpg 1024w" width="600" height="400"></h3>
<h2>再見,火藥和炸彈</h2>
<p>眾所周知,前兩次武器革命,每一次都讓社會飽受重創,小到秒殺一個人的生命,大到讓一個國家瞬間湮滅。</p>
<h3><strong>第一次武器革命是火藥。</strong></h3>
<p>這個始於 1000 多年前中國煉丹術的武器,在北宋末年可一炮燒燬城門,《金史》對稱為「震天雷」的武器有這樣的描述:「火藥發作,聲如雷震,熱力達半畝之上,人與牛皮皆碎並無跡,甲鐵皆透」。</p>
<p>13 世紀傳入西歐後,靠冷兵器耀武揚威的騎士階層從此衰落,隨著無煙火藥、雙基發射藥、雷管等的出現,才產生了真正意義上的軍事革命,現代意義上的火箭、炸彈、導彈隨之而來,戰場上開始炮火連天。</p>
<p><img style="display: block; margin-left: auto; margin-right: auto;" src="https://s3.ifanr.com/wp-content/uploads/2019/05/6-9.png!720" sizes="(max-width: 1190px) 100vw, 1190px" srcset="https://s3.ifanr.com/wp-content/uploads/2019/05/6-9.png!720 1190w, https://s3.ifanr.com/wp-content/uploads/2019/05/6-9-360x165.png 360w, https://s3.ifanr.com/wp-content/uploads/2019/05/6-9-768x352.png 768w, https://s3.ifanr.com/wp-content/uploads/2019/05/6-9-1024x470.png 1024w" alt=" 在演算法殺人之前,或許我們該先殺死它們" width="600" height="275"></p>
<h3><strong>第二次武器革命是核彈。</strong></h3>
<p>人類只在一次戰爭中使用過核武器,第二次世界大戰期間,美國在日本的廣島市和長崎市投下兩枚原子彈。</p>
<p>1945 年,日本廣島在一聲震耳欲聾的蘑菇雲爆炸下,瞬間淪為火海,71379 位無辜平民受難,建築和人類都如原子一般分崩離析。核爆炸產生的巨大破壞力,還產生了幾萬年都無法消失的放射性危害。</p>
<p>而對於 AI 武器的破壞力,特斯拉創始人馬斯克曾在聯名 2000 多位 AI 專家請願禁止「殺人機器人」時說道:</p>
<blockquote>
<p>請一定記住我的話,AI 要比核武器還危險得多。</p>
</blockquote>
<p><img style="display: block; margin-left: auto; margin-right: auto;" src="https://s3.ifanr.com/wp-content/uploads/2019/05/5-13.png!720" sizes="(max-width: 955px) 100vw, 955px" srcset="https://s3.ifanr.com/wp-content/uploads/2019/05/5-13.png!720 955w, https://s3.ifanr.com/wp-content/uploads/2019/05/5-13-360x164.png 360w, https://s3.ifanr.com/wp-content/uploads/2019/05/5-13-768x349.png 768w" alt="1945,廣島原子彈轟出的廢墟" width="600" height="273"><label class="caption" style="width: 600px; display: block; text-align: left; color: #555; line-height: 22px; padding: 0 3px 22px 3px; border-bottom: 2px solid #f0f0f0; margin: 5px auto 1rem auto;"><span style="color: #2382c5; padding-right: 5px;"> ▲ </span> 1945,廣島原子彈轟出的廢墟</label></p>
<h3>
<strong>這就是將來的第三次武器革命:AI</strong>。它也是一場無形的武器革命。</h3>
<p>其實我們日常生活中對 AI 已經並不陌生,從 Siri 透過語音辨識我們的需求,到網路透過使用者畫像實現對廣告的精準投放,2017 年,進化版 AlphaGo 的 Master 機器人甚至團滅圍棋頂尖高手,AI 技術以肉眼可見的速度在進步。</p>
<p>但當它用到武器之中,雖然並不會像《魔鬼終結者》裡那樣科幻,但依然足以令人畏懼。</p>
<p><img style="display: block; margin-left: auto; margin-right: auto;" src="https://s3.ifanr.com/wp-content/uploads/2019/05/10-9.jpg!720" sizes="(max-width: 902px) 100vw, 902px" srcset="https://s3.ifanr.com/wp-content/uploads/2019/05/10-9.jpg!720 640w, https://s3.ifanr.com/wp-content/uploads/2019/05/10-9-360x235.jpg 360w" alt=" 在演算法殺人之前,或許我們該先殺死它們" width="600" height="391"></p>
<p>AI 武器將成為一個自主性的殺傷性武器,不僅將能在任何環境下被任何人採用,還能讓戰爭變得工業化、超越人類道德規範,從而變得無法掌控。這也是為什麼它在火藥和核彈之後,被稱為武器的第三次革命。</p>
<p>只要人們在武器內設定了演算法,再加上豐富的感測器、不同功能的監視器等,一個武器就能精準辨識、跟蹤、定位某個戰鬥人員,還能中途重新編輯程式和篡改演算法,跟蹤更多戰場變量。</p>
<p>在密集的戰鬥空間裡,決策、部署和速度就是關鍵資產。AI 能夠精確制導武器,不用士兵操縱,就能讓飛機、戰艦、裝甲車大規模絞殺敵人,獲得更顯著的勝利機會。</p>
<p>以往的戰鬥速度和持續時間都會被改變。因為 AI 武器的殺戮速度,無論是在行動還是思維上,都完全可以超過人類保護自己的速度。</p>
<p><img style="display: block; margin-left: auto; margin-right: auto;" src="https://s3.ifanr.com/wp-content/uploads/2019/05/7.jpeg!720" sizes="(max-width: 1049px) 100vw, 1049px" srcset="https://s3.ifanr.com/wp-content/uploads/2019/05/7.jpeg!720 1049w, https://s3.ifanr.com/wp-content/uploads/2019/05/7-360x210.jpeg 360w, https://s3.ifanr.com/wp-content/uploads/2019/05/7-768x448.jpeg 768w, https://s3.ifanr.com/wp-content/uploads/2019/05/7-1024x597.jpeg 1024w" alt="2000 年,德國漢諾威舉辦的世界博覽會上展示的機器人。圖片來源:美聯社" width="600" height="350"><label class="caption" style="width: 600px; display: block; text-align: left; color: #555; line-height: 22px; padding: 0 3px 22px 3px; border-bottom: 2px solid #f0f0f0; margin: 5px auto 1rem auto;"><span style="color: #2382c5; padding-right: 5px;"> ▲ </span> 2000 年,德國漢諾威舉辦的世界博覽會上展示的機器人。圖片來源:美聯社</label></p>
<p>它可怕的地方還在於:每個人,都能利用 AI 的技術讓武器變成「殺手」。</p>
<p>植入武器的演算法,不需要以往高價或稀少的原料,一個程式設計師和一個3D列表機,就能做出一群武器製造商才能做出的東西;資金充裕的人,就能實現一個超級大國用一支軍隊才能辦到的事情。</p>
<p>這將使武器廉價大量生產,使戰爭產業化。</p>
<p>另外,AI 在軟體系統中,也能成為一種武器,同樣會造成可怕的後果。可以預見的是,恐怖主義的恐慌必將升級,人們將整日覆蓋在訊息恐慌的無形陰影之下。</p>
<p><img style="display: block; margin-left: auto; margin-right: auto;" src="https://s3.ifanr.com/wp-content/uploads/2019/05/0PVncckANqy.jpeg!720" sizes="(max-width: 904px) 100vw, 904px" srcset="https://s3.ifanr.com/wp-content/uploads/2019/05/0PVncckANqy.jpeg!720 630w, https://s3.ifanr.com/wp-content/uploads/2019/05/0PVncckANqy-360x240.jpeg 360w" alt="圖片來源:Anandabazar Patrika" width="600" height="400"><label class="caption" style="width: 600px; display: block; text-align: left; color: #555; line-height: 22px; padding: 0 3px 22px 3px; border-bottom: 2px solid #f0f0f0; margin: 5px auto 1rem auto;"><span style="color: #2382c5; padding-right: 5px;"> ▲ </span> 圖片來源:<span dir="ltr">Anandabazar Patrika</span></label></p>
<p>因為你不知道哪天,就有人操作著精密演算法向幽暗處迸發,利用 AI 讓全國停電或系統癱瘓,或利用惡意軟體或駭客程式,精準定位弱勢使用者和系統,利用數據和隱私脅迫群眾。</p>
<p>當越來越多國家開始重視起 AI 武器的未來,預防行動的機會之窗也在迅速關閉。</p>
<h2>AI 大戰一觸即發?</h2>
<p>我們已經聽過 N 種機器人崛起並毀滅人類的陰謀論,但實際發生的可能性或許是 0。</p>
<p><img style="display: block; margin-left: auto; margin-right: auto;" src="https://s3.ifanr.com/wp-content/uploads/2019/05/19-1.jpeg!720" sizes="(max-width: 918px) 100vw, 918px" srcset="https://s3.ifanr.com/wp-content/uploads/2019/05/19-1.jpeg!720 840w, https://s3.ifanr.com/wp-content/uploads/2019/05/19-1-360x199.jpeg 360w, https://s3.ifanr.com/wp-content/uploads/2019/05/19-1-768x424.jpeg 768w" alt="圖片來源:pluggedin" width="600" height="331"><label class="caption" style="width: 600px; display: block; text-align: left; color: #555; line-height: 22px; padding: 0 3px 22px 3px; border-bottom: 2px solid #f0f0f0; margin: 5px auto 1rem auto;"><span style="color: #2382c5; padding-right: 5px;"> ▲ </span> 圖片來源:pluggedin</label></p>
<p>目前 AI 機器的程式也還依賴於固定資料,模型取決於環境條件,訊號可能受到干擾,技術背後的科學和大腦都不成熟……</p>
<p>AI 擺脫人類、替代人類、控制人類、成為新物種都很遙遠也並不現實,且完全自主的 AI 武器現在還沒出現。</p>
<p>雖然表面看起來風平浪靜,各個國家還在用傳統武器來縮小與世界軍事力量的差距,但 AI 帶來的無人戰鬥實力正在逐步顯現,由技術驅動的「輕型戰爭」一直在暗流湧動,等待爆發。</p>
<p>各國正在研究的 AI 武器一般包括七大類:遠端自動射擊機器人、智慧型無人機系統、無人艦船與潛艇、自主射擊陸戰武器、智慧型導彈體系、網路攻擊與衛星攻擊武器等等。</p>
<p><img style="display: block; margin-left: auto; margin-right: auto;" src="https://s3.ifanr.com/wp-content/uploads/2019/05/8-13.jpg!720" sizes="(max-width: 937px) 100vw, 937px" srcset="https://s3.ifanr.com/wp-content/uploads/2019/05/8-13.jpg!720 700w, https://s3.ifanr.com/wp-content/uploads/2019/05/8-13-360x216.jpg 360w" alt="一名男子在武器交易會上走過武裝機器人系統。圖片來源:Brendan Smialowski / Bloomberg / Getty Images" width="600" height="360"><label class="caption" style="width: 600px; display: block; text-align: left; color: #555; line-height: 22px; padding: 0 3px 22px 3px; border-bottom: 2px solid #f0f0f0; margin: 5px auto 1rem auto;"><span style="color: #2382c5; padding-right: 5px;"> ▲ </span> 一名男子在武器交易會上走過武裝機器人系統。圖片來源:Brendan Smialowski / Bloomberg / Getty Images</label></p>
<p>現在,美國海軍陸戰隊的海軍 X-47B 無人轟炸機已完全由電腦操控,韓國的 Super aEgis II 自動炮塔、俄羅斯的 Platform-M 戰鬥機器人都已實現自動化控制,還有很多無人機、安防機器人已難以區分軍用與民用的界限。</p>
<p>美國五角大廈的軍方智囊團一致認為人工智慧、機器人和人機協同將改變戰爭進行的方式。俄羅斯高級軍事官員也表示,機器人近幾年內將在戰爭中被廣泛使用。</p>
<p>而且全球技術支出的加大,也讓「完全自治」的人工智慧機器更有機會實現。國際數據公司的研究表明,全球機器人技術支出將從 2016 年的 915 億美元翻倍增長到 2020 年的 1880 億美元。</p>
<p><img style="display: block; margin-left: auto; margin-right: auto;" src="https://s3.ifanr.com/wp-content/uploads/2019/05/12-14.jpg!720" sizes="(max-width: 934px) 100vw, 934px" srcset="https://s3.ifanr.com/wp-content/uploads/2019/05/12-14.jpg!720 700w, https://s3.ifanr.com/wp-content/uploads/2019/05/12-14-360x216.jpg 360w" alt="以色列的鐵穹防禦系統部分是自治的,軍方官員說完全自主武器很快就會普及. 圖片來源:阿米爾科恩 / 路透社" width="600" height="360"><label class="caption" style="width: 600px; display: block; text-align: left; color: #555; line-height: 22px; padding: 0 3px 22px 3px; border-bottom: 2px solid #f0f0f0; margin: 5px auto 1rem auto;"><span style="color: #2382c5; padding-right: 5px;"> ▲ </span> 以色列的鐵穹防禦系統部分是自治的,軍方官員說完全自主武器很快就會普及. 圖片來源:阿米爾科恩 / 路透社</label></p>
<p>人工智慧正在顛覆原有的社會結構和分配方式,數據已經成為了最重要的資源。</p>
<p>現代社會已不像過去對石油、殖民地那樣瘋狂渴求,傳統的戰爭幾乎已無利可圖,訊息社會裡最重要的資源是無形的,未來的戰爭勢必是一場技術戰。這也是為什麼這麼多年來,大規模的戰爭都沒出現過的原因。</p>
<p>是的,人們正在為高科技戰爭做準備,AI 會讓戰爭出現一種隱藏的、新舊交織、複雜混合的新形式。</p>
<p><img style="display: block; margin-left: auto; margin-right: auto;" src="https://s3.ifanr.com/wp-content/uploads/2019/05/11-16.jpg!720" sizes="(max-width: 1280px) 100vw, 1280px" srcset="https://s3.ifanr.com/wp-content/uploads/2019/05/11-16.jpg!720 1280w, https://s3.ifanr.com/wp-content/uploads/2019/05/11-16-360x203.jpg 360w, https://s3.ifanr.com/wp-content/uploads/2019/05/11-16-768x432.jpg 768w, https://s3.ifanr.com/wp-content/uploads/2019/05/11-16-1024x576.jpg 1024w" alt=" 在演算法殺人之前,或許我們該先殺死它們" width="600" height="338"></p>
<p>AI 用於軍事的趨勢是不可阻擋的,雖然它也有一些好處,諸如透過精確定位來減少戰爭中的平民傷亡,但可能會出現的最壞結果,是更難以掌控的人與人、人與機器、機器與機器之間相互交織的危機。</p>
<p>科技的邊界是無限的,但法律和政治需要邊界。</p>
<p>荷蘭反戰非政府組織帕克斯(Pax)在<a href="https://qz.com/1614684/killer-robots-must-be-stopped-pax-tells-the-world/">新報告</a>中擔心軍備競賽因此爆發,並表示「要防止最終的災難,必須採取全面禁令。」</p>
<p>目前,有 28 個國家明確支持禁止使用完全自主武器,但美國、英國等國<a href="https://global.udn.com/global_vision/story/8663/3514698#prettyPhoto">反對</a>這樣的禁令,認為禁令「為時尚早」,還能探索開發和使用自主武器的潛在優勢,國家武器審查是處理自主武器的最佳方式。</p>
<p><img style="display: block; margin-left: auto; margin-right: auto;" src="https://s3.ifanr.com/wp-content/uploads/2019/05/28.jpeg!720" sizes="(max-width: 1049px) 100vw, 1049px" srcset="https://s3.ifanr.com/wp-content/uploads/2019/05/28.jpeg!720 1049w, https://s3.ifanr.com/wp-content/uploads/2019/05/28-360x238.jpeg 360w, https://s3.ifanr.com/wp-content/uploads/2019/05/28-768x508.jpeg 768w, https://s3.ifanr.com/wp-content/uploads/2019/05/28-1024x677.jpeg 1024w" alt="發展中或低度開發國家一般受 AI 武器威脅最大,圖為葉門街上的壁畫塗鴉。圖片來源:路透社" width="600" height="397"><label class="caption" style="width: 600px; display: block; text-align: left; color: #555; line-height: 22px; padding: 0 3px 22px 3px; border-bottom: 2px solid #f0f0f0; margin: 5px auto 1rem auto;"><span style="color: #2382c5; padding-right: 5px;"> ▲ </span>發展中或低度開發國家一般受 AI 武器威脅最大,圖為葉門街上的壁畫塗鴉。圖片來源:路透社</label></p>
<p>不過從更積極的方面來看,禁令的勢頭正在增長。</p>
<p>去年,不結盟運動和非洲集團呼籲制定一項具有法律約束力的文件,聯合國秘書長也呼籲實施禁令,稱這些武器「在政治上是不可接受的,在道德上是令人反感的」,這些呼籲獲得了成千上萬的人工智慧科學家、民間社會、宗教領袖和諾貝爾和平獎獲得者的支持。</p>
<p>2013 年 4 月起,和平組織 PAX 共同創立了國際知名的阻止殺手機器人運動,近年來,一直在推廣禁止自主武器的開發、生產和部署,以及關注其中的法律、道德和安全問題。</p>
<p>對於 PAX 而言,AI 武器必須被禁止的最重要的原因,就是其中的道德問題。</p>
<p><img style="display: block; margin-left: auto; margin-right: auto;" src="https://s3.ifanr.com/wp-content/uploads/2019/05/2-17.png!720" sizes="(max-width: 1046px) 100vw, 1046px" srcset="https://s3.ifanr.com/wp-content/uploads/2019/05/2-17.png!720 1046w, https://s3.ifanr.com/wp-content/uploads/2019/05/2-17-360x227.png 360w, https://s3.ifanr.com/wp-content/uploads/2019/05/2-17-768x485.png 768w, https://s3.ifanr.com/wp-content/uploads/2019/05/2-17-1024x647.png 1024w" alt="阻止殺手機器人. 圖片來源:stopkillerrobots" width="600" height="379"><label class="caption" style="width: 600px; display: block; text-align: left; color: #555; line-height: 22px; padding: 0 3px 22px 3px; border-bottom: 2px solid #f0f0f0; margin: 5px auto 1rem auto;"><span style="color: #2382c5; padding-right: 5px;"> ▲ </span>阻止殺手機器人. 圖片來源:stopkillerrobots</label></p>
<ul>
<li>本文授權轉載自:<a href="https://www.ifanr.com/1212971">ifanr</a>
</li>
</ul>
</article><a href="https://www.facebook.com/TKbang">加入T客邦Facebook粉絲團</a><img src="http://feeds.feedburner.com/~r/techbang/~4/CYTkm3CZyxE" height="1" width="1" alt=""/>