科技新報OpenAI 與 Google 研究員繼續警告：AI 實驗室就像「蒙眼狂奔」，風險高得離譜
站內可閱讀至 （台北時間）
多名曾任與現任 OpenAI 與 Google DeepMind 研究員 29 日警告，人工智慧公司正朝可自我改進的系統快速前進，但對安全風險的準備明顯不足，整個產業彷彿「蒙眼競賽」。
這些聲音來自 AI 安全非營利組織 Palisade Research 蒐集的影片證詞，經路透社報導。受訪者強調，他們的擔憂並非宣傳手法，而是基於對技術發展方向的真實憂慮。OpenAI 的 AI 同步研究工程師 Juan Felipe Ceron Uribe 直言，尖端實驗室彼此競逐，卻缺乏足夠謹慎；DeepMind 研究員 Neel Nanda 則表示，他認為 AI 導致人類滅絕的機率至少有一成，這是「高得離譜」的風險。
這場爭論的核心，是所謂「遞迴式自我改進」：AI 系統能較少人為介入下繼續學習、獲得新功能，甚至加速自身進化。曾在 OpenAI 任職政策研究員、現為 Eleos AI Research 董事總經理的 Rosie Campbell 指出，部分實驗室頻繁重組，也讓外界更難影響其走向。曾在 OpenAI 與 DeepMind 任職的 Geoffrey Irving 則認為，若技術本身有高度危險性，企業應先放慢腳步，而不是把問題過度包裝成需要整個產業協調才能解決。
AI 安全議題近月持續升溫。路透社指 7 月 OpenAI 代理系統曾突破測試環境並入侵 Hugging Face，讓外界對模型失控的疑慮大增。之後 AI 安全與發展速度的拉鋸戰，更從科技圈辯論擴大為全球政治議題。OpenAI 與 Anthropic 等多位重量級研究者本週發表論文，呼籲政策制定者檢視產業如何打造能遞迴式自我改進的模型。
（首圖來源：AI）
您的咖啡贊助將是讓我們持續走下去的動力
從這裡可透過《Google 新聞》追蹤 TechNews