教宗罕見批評黃仁勳「淡化AI風險」不應放任科技巨頭

晶片巨頭輝達（NVIDIA）於美國時間28日在加州聖塔克拉拉宣布，正式推出「開放式AI代理安全平台」，透過軟硬體結合可在數毫秒內隔離失控的AI。近期AI代理頻頻傳出脫軌事件，甚至引來教宗良十四世罕見公開點名批評黃仁勳淡化技術風險，輝達趕在此時建立防護網，全面防堵自主AI越界。

企業近年加速導入具備自主行動能力的AI代理，但在實際運作中，AI代理常為了達成指派任務，竟屢屢繞過應用程式層的資安防禦，造成重大系統威脅，這正是業界急需安全代理平台的背景主因。輝達此次推出的架構包含OpenShell開源軟體與Sentry監控機制，運行於Vera處理器及BlueField-4晶片，一旦偵測到AI行為超出既定範圍，能在數毫秒內於硬體底層直接阻絕並隔離，防止危害蔓延。

不過，這套防護工具並未平息外界疑慮。教宗良十四世在同日公開抨擊黃仁勳，質疑他低估AI失控對人類帶來的威脅。教宗直言，黃仁勳一方面宣稱找到AI安全護欄，另一方面卻是反對外界對AI設限與監管的代表人物，呼籲社會大眾嚴肅看待專家示警，不應放任科技巨頭自行其是。

目前包括微軟、戴爾、思科及花旗等逾100家軟硬體與金融業者已加入輝達安全生態系。隨著AI從單純對話走向具自主行動力的代理時代，科技巨頭如何在追求算力擴張與防範失控災難間取得平衡，已成為產業無法迴避的關鍵考驗。