LIFE生活網

加州祭AI強制安全標準 設緊急關停機制防範失控風險 | LIFE生活網

來源 商傳媒全文約 612 字(含標點)

文章摘要

LIFE生活網 · 文章頁摘要

• 美國加州計劃推出全新人工智慧安全監管框架,要求對尖端 AI 模型實施強制性安全標準。 • 新框架將賦予州政府權力,在 AI 面臨災難性風險時,可下令立即「緊急關停」。 • 要求科技公司在 AI 模型的整個生命週期中接受獨立測試與驗證,並擴大安全事故通報機制。 • 限制「遞歸自我改進」(RSI)的研發與應用,以防範自動化研發失控的風險。 • 加州州長呼籲美國國會與總統將加州的 AI 安全標準採納為全美最低監管門檻。

加州祭AI強制安全標準 設緊急關停機制防範失控風險 | LIFE生活網(新聞配圖)
配圖來源:LIFE生活網

美國加州州長 Gavin Newsom 昨日宣布推進全新人工智慧安全監管框架,計畫對尖端 AI 模型實施強制性基準安全標準,並在面臨災難性風險時,賦予州政府下令立即「緊急關停」的權力。 根據官方發布的政策規畫,這套框架要求科技公司在 AI 模型的完整生命週期中,都必須接受州政府監督的獨立測試與驗證。...