鉅亨網微軟CEO納德拉示警AI模型恐成「內鬼」 企業應設緊急煞車
作者 林羿君全文約 930 字
文章摘要
鉅亨網 · 文章頁摘要納德拉稱企業應把強大 AI 視為潛在內部威脅，預設模型可能遭入侵，並設「緊急煞車」機制可隨時停用。 他籲關鍵決策勿只靠單一模型、保存不可竄改紀錄並由獨立機構稽核。 川普政府 AI 工作小組警告開發商須通報並處理安全事件，Anthropic、OpenAI 多起非預期行為事件加深安全疑慮。
微軟(MSFT-US)執行長納德拉（SatyaNadella）表示，企業應將能力強大的人工智慧模型視為潛在的內部威脅，假設模型可能遭到入侵，並建立「緊急煞車」機制，避免代理型模型失控。納德拉指出，部署先進AI的企業不應只仰賴模型開發商的安全承諾。...