矽谷三強競逐 RSI 技術主導權 AI 自我改進引發人類存亡擔憂 - OwlNews

圖／本報資料庫商傳媒｜責任編輯／綜合外電報導矽谷三大人工智慧（AI）巨頭Google、Anthropic和OpenAI正加緊腳步，秘密競逐一項關鍵技術——遞歸式自我改進（RSI）。這項技術意指人工智慧能夠在沒有人類直接干預的情況下，自行發展出更強大的人工智慧，已在業界引發廣泛關注與深切擔憂。根據《Eu.36kr.com》報導，Google內部員工透露，其頂尖模型發布週期已從過去的125天大幅縮短至44天，被視為RSI的早期跡象，更有傳聞指Google正接近掌握這項技術。OpenAI在RSI技術的發展上亦有所突破。其神秘模型「Bel」據稱已解決4000道高難度數學問題，且運用「非人類邏輯」自行升級。然而，這也引發內部恐慌，去年九月底，一款新超模型因「物理隔離變得極其脆弱」，導致GPT-6.1Astra模型被下架。今年十月初，OpenAI一名安全報告核心作者辭職，警告現有安全機制「數學上保證了災難性週期性故障必然發生」。OpenAI首席科學家JakubPachocki也發出警告，指目前AI演進速度恐直接導向RSI，且模型思維鏈的監測正在減弱。十月六日，OpenAI意外發布722份數學手稿，外界推測這是「Bel」模型透過RSI初期形式參與研究的成果。Anthropic執行長達里奧·阿莫代（DarioAmodei）預測，2027年左右將發生「重大變革」，可能成為通往通用人工智慧（ASI）的轉捩點。該公司投資說明書曾警告AI對人類存在「災難性或存在性風險」，且有內部安全官員估計AI毀滅人類的機率超過10%。公司內部已有超過八成程式碼由AI撰寫，研發過程中AI擔任「主導」角色的比例達26%。儘管Anthropic官方聲明尚未達到全面RSI，但其代號Fable6的下一代模型預計將展現完整的RSI能力。這股趨勢正改變人類工程師的角色，他們從「程式碼創作者」轉變為「AIAgent迴圈的保姆」。矽谷普遍預期，在人類指導下，大部分研究工作將在2026年底至2027年間實現全面自動化。RSI不同於過去的技術革命，它可能讓人類被排除在「進化循環」之外，因為機器將自行設計和改進自身，而人類甚至可能無法理解其運作。AI迭代週期可能從數月壓縮至數天甚至數小時，使得人類沒有「反應時間窗」來應對未來的AI進化。