中時社論》教宗與黃仁勳 AI護欄誰說了算

教宗良十四世在返回羅馬專機上談到AI時，點名輝達執行長黃仁勳，這是一個極其罕見的場景，一位宗教領袖公開質疑當今最具影響力的科技企業領導人之一。這事之所以引發關注，不是看誰對誰錯，而是教宗質疑「AI愈來愈強大，誰來決定它的安全邊界」這個問題。

AI監管 法規阻發展

教宗談到AI可能對人類造成災難性風險時說，許多AI專家的憂慮必須被認真看待，他質疑黃仁勳所說的AI安全護欄，如果AI可以加入限制，何以對政府監管持反對態度？教宗提出的要求很簡單，政治領袖、AI產業、社會組織等團體都該坐下來，研究已經發生以及未來可能發生的事情。

這裡存在著一個需要釐清的細節，黃仁勳並非主張政府完全退出AI監管，他在接受播客節目專訪時，即明確表示政府應當參與監管，也認為特定產業如有規範不足，就該補上規則，他質疑的是全面性的AI安全監管。他認為目前最迫切的，是加速發展AI安全技術，包括限制系統行動範圍、持續監控及其他技術性的防護機制，企業若知產品不安全，就該停止發布。

這是一個極其合理的科技產業觀點，AI安全確實需要技術支撐，沒有足夠的監測與控制能力，再多法律文字也無法讓危險的模型變得安全，目前AI風險已經超過單一產品，可能同時存在於金融市場、醫療系統、社群平台、政府機關、企業資料庫與軍事網路。當AI從回答問題走向替人完成任務，安全問題便由產品設計延伸到整個社會。因此，護欄不會只是一段程式碼，誰決定模型可以做什麼、不能做什麼？誰負責監測？如果監測失敗，又由誰承擔責任？到了這一步，技術已和法律、企業治理、公共政策交會。

這也是教宗提出科技界應該認真對待的原因，良十四世並沒說AI必然毀滅人類，也沒有要求停止AI發展，他甚至說自己不恐慌，仍然可以安睡。他要求不要把尚未完全理解的風險當成不存在，面對AI可能帶來的重大後果，人類仍該持續研究、對話與建立防護機制。

這一原則適用於所有高風險科技，核能、基因工程、航空與金融科技，都曾面對同一個問題，技術創造者是最了解它的可能性，也最有能力控制它，但技術造成的風險，卻可能由整個社會共同承擔。於是，現代社會逐漸建立出企業負責創新與產品安全，政府設定底線，專業機構進行檢驗，社會保有監督與追問權利這套分工。

AI自律 企業難保證

最危險的狀況，可能不是某位科技領袖的誤判，而是所有人都假定別人會負責。企業相信技術可以解決，政府等待產業形成共識，社會則信任監管機構會及時介入，最後，能力增長速度超過了治理能力，這就是「安全護欄究竟由誰決定」的真正尖銳所在。假設護欄全由企業決定，企業會面對商業競爭要求更快推出產品，而安全是需要更多測試與更高成本。如果護欄全由政府決定，又可能跟不上技術變化。比較務實的作法是企業技術能力與公共制度彼此制衡。

今天人們習慣用模型規模、算力、速度跟商業價值衡量AI的進步，未來還須多加一項指標，安全能力是否跟得上AI能力，倘若模型可以自主完成更多步驟，人類就必須知道它在做什麼；若是AI可以連結更多系統，人類就必須擁有有效的停止機制；要是AI可以替人做出重要決策，人類就必須知道什麼時候由人來接手。這不是反科技要求，一個成熟的科技文明，就要有能力讓創新與控制同步成長。

教宗與黃仁勳的分歧，都值得重視，黃仁勳提醒世界，安全必須建立在真正有效的技術上；良十四世告誡世界，技術安全不能只由技術的創造者自行定義，兩個觀點放在一起，才構成完整的問題。

AI會走向哪裡，此刻沒人知曉，但它的力量已走出科技企業的辦公室，影響整個世界。當AI的能力掌握在少數企業手中，風險要由全人類共同承擔，安全護欄就不能只由企業自行決定。所以，問題的癥結，不會是AI會不會失控，而是AI能力持續突破人類原有的想像時，誰有權決定它可以走到哪裡，又在哪兒必須停下。