時論廣場》台灣須應對AI失控（黃齊元 ）

最近世界上4組最有權勢的人，不約而同對於AI是否會對人類造成危險甚至滅亡，表達了強烈的個人意見。

首先是全球的AI大語言模型，包括Anthropic執行長阿莫戴，以及他的競爭對手OpenAI執行長阿特曼和特斯拉執行長馬斯克都表達應該放緩AI發展的腳步，由於AI一再失控，目前出現了一些安全上的疑慮。

其次是全世界最有權勢的人──美國總統川普，他認為AI是中美競爭最關鍵的武器，一旦放慢腳步美國就會輸給中國，因此怎麼樣也不願意放慢AI發展的速度。

第三是全世界最有權勢的企業家──市值高達5兆美元的輝達創辦人黃仁勳，他認為這只是資安技術問題，完全不同意放緩AI發展的速度。

第四是全世界最具有宗教影響力的領袖──天主教教宗良十四世，他公開批評黃仁勳淡化AI風險，並呼籲各界嚴肅看待AI對人類構成的威脅。

客觀的說，目前放慢AI發展速度的確有其必要性，因為近期OpenAI已駭入美國、澳洲政府網站，其AI代理人甚至在德國DseWiki網站建立了自己的留言板，基本上屬於沒有人類授權的失控行動。我們可以想像，未來美國AI不管什麼理由駭進俄國或中國政府網站時，是否會被認為是侵略行為、甚至引發世界大戰？這種電影中才有的情節，現在變得無比真實。

目前還沒有可靠證據顯示這些 AI是突然產生惡意、自己決定攻擊政府的。但真正令人擔心的是，AI已經開始具有目標導向的能力，遇到阻礙時會自己尋找替代路徑，把資安防護當成障礙繞過。

台灣是全世界半導體及AI基礎建設生產的主要來源地，跟輝達及所有AI大咖都有一定程度的關係；也由於AI，台灣今年GDP成長率預計超過11%，台股市值躍升為全球第4大。作為AI產業的重要參與者，台灣對於近期AI自主駭入真實世界的事件，不應置若罔聞，只管默默賺錢，至少應作為一個積極的議題推動者。

美國總統川普本周召集多位科技巨頭，宣布共同簽署一份號稱「AI憲法」的自願性協議，承諾加強風險審查、稽核及第三方評估。另外，輝達公布「Open Agent安全平台」，全球有100多家企業參與，包括中國及日本企業，但未見台灣企業。

至於台灣，行政院於今年5月研擬首部「國家人工智慧發展綱領」，7月數發部依據《人工智慧基本法》正式發布「人工智慧風險分類框架」，未來在此基礎上，政府可以考慮把近期AI案例納入法規探討。

台灣政府及企業支持AI創新，未來隨著技術不斷進步，安全責任也會提高，台灣應把AI安全與半導體、AI伺服器優勢結合，發展「可信任的AI基礎設施」。換言之，台灣不只製造AI，也需參與制定AI的安全規則。

（作者為台灣併購與私募股權協會創會理事長）