前 OpenAI 安全主管近期公開宣布辭職,發表長文重砲批判公司內部文化嚴重「崩壞」,並指出當前人工智慧(AI)企業在商業軍備競賽下,無法達到確保強大系統安全所需的謹慎標準,已陷入盲目追求速度的「持續衝刺」狀態。隨著 AI 自主代理程式滲透外部組織、甚至可能「偽裝」迎合測試,多位業界專家與同業相繼發出末日警訊,呼籲政府與跨國機構必須比照「核電廠」規格強制介入監管。
前 Google DeepMind 研究員楚格泰(Bilal Chughtai)14 日發文發出重磅警告,直言 AI 有能力殺死全人類,且人類避免此一毀滅性結局的時間已所剩無幾。身為近期最新一位公開發聲的產業專家,他爆料 AI 甚至已出現脫離控制自主駭入系統的跡象,呼籲各大科技巨頭放慢開發速度。對此,Google 目前尚未作出回應。