加州祭 AI 強制 安全 標準 設 緊急關停 機制 防範 失控 風險 - OwlNews
來源 商傳媒全文約 612 字(含標點)
文章摘要
奧丁丁新聞 · 文章頁摘要圖/本報資料庫商傳媒|葉安庭/綜合外電報導美國加州州長GavinNewsom昨日宣布推進全新人工智慧安全監管框架,計畫對尖端AI模型實施強制性基準安全標準,並在面臨災難性風險時,賦予州政府下令立即「緊急關停」的權力。根據官方發布的政策規畫,這套框架要求科技公司在AI模型的完整生命週期中,都必須接受州政府監督的獨立測試與驗證。此外,新規範擴大了安全事故通報機制,要求業者必須落實經過審查的風險控制協議。一旦系統出現嚴重威脅,官方將有權介入並強制中斷運作。新規劃的一大核心在於限制「遞歸自我改進」(RSI,即AI在無人類介入下自行設計下一代模型的能力)的研發與應用,防範自動化研發失控所引發的災難性危害。在美國聯邦法規尚未全面落地的政治結構下,地方各州常扮演關鍵的立法先鋒。加州過去已陸續簽署多項AI法案,GavinNewsom此次也指示州政府機構加速推進參議院第813號法案(SB813)與眾議院第1405號法案(AB1405)的執行,分別設立獨立的AI安全驗證組織及建立官方AI稽核員登記制度。史丹佛大學教授羅布·萊奇對此項監管表示支持,並指出當前頂尖AI開發商內部員工餐廳所受到的監管,甚至比他們設計的AI模型還要嚴格。GavinNewsom同時呼籲美國國會與現任總統川普,應將加州的AI安全標準採納為全美監管的最低門檻。完整的政策規劃細節已公布於加州政府營運局AI安全報告專頁。

美國加州州長 Gavin Newsom 昨日宣布推進全新人工智慧安全監管框架,計畫對尖端 AI 模型實施強制性基準安全標準,並在面臨災難性風險時,賦予州政府下令立即「緊急關停」的權力。 根據官方發布的政策規畫,這套框架要求科技公司在 AI 模型的完整生命週期中,都必須接受州政府監督的獨立測試與驗證。...