加州祭 AI 強制 安全 標準 設 緊急關停 機制 防範 失控 風險 | LIFE 生活網
來源 商傳媒全文約 612 字(含標點)
文章摘要
LIFE生活網 · 文章頁摘要• 美國加州計劃推出全新人工智慧安全監管框架,要求對尖端 AI 模型實施強制性安全標準。 • 新框架將賦予州政府權力,在 AI 面臨災難性風險時,可下令立即「緊急關停」。 • 要求科技公司在 AI 模型的整個生命週期中接受獨立測試與驗證,並擴大安全事故通報機制。 • 限制「遞歸自我改進」(RSI)的研發與應用,以防範自動化研發失控的風險。 • 加州州長呼籲美國國會與總統將加州的 AI 安全標準採納為全美最低監管門檻。

美國加州州長 Gavin Newsom 昨日宣布推進全新人工智慧安全監管框架,計畫對尖端 AI 模型實施強制性基準安全標準,並在面臨災難性風險時,賦予州政府下令立即「緊急關停」的權力。 根據官方發布的政策規畫,這套框架要求科技公司在 AI 模型的完整生命週期中,都必須接受州政府監督的獨立測試與驗證。...