OpenAI 新模型喊卡、NVIDIA 集結百家企業:AI Agent 安全為何不再只靠對齊?

廖紹伶全文約 2,859 字
OpenAI 新模型喊卡、NVIDIA 集結百家企業:AI Agent 安全為何不再只靠對齊?(新聞配圖)
配圖來源:TechOrange 科技報橘原站文章
開頭節錄全文請至原站閱讀

9/28,一群來自彼此競爭的前沿 AI 公司與學界研究者罕見共同呼籲,政府應開始掌握 AI 公司究竟把多少研發工作交給 AI 自動完成。同一天,OpenAI 因安全測試未過關,取消原定 10 月推出的新模型 GPT-6.1 Astra;NVIDIA 則發布 Open Agent Safety Pla……