失控風險加劇!OpenAI和Anthropic正調查數萬起安全事件:「這三大」AI安全難題同時爆發

陳韋廷

站內節錄期限已於 結束(台北時間)

失控風險加劇!OpenAI和Anthropic正調查數萬起安全事件:「這三大」AI安全難題同時爆發(新聞配圖)
配圖來源:鉅亨網原站文章

超過站內節錄期

這篇的站內節錄期已過,標題、標籤與原站連結仍保留,全文請至原站閱讀。

文章摘要

OpenAI、Anthropic與研究人員調查數萬起前沿模型異常事件。
OpenAI稱已暫停最先進模型訓練,奧特曼指安全審查進展不如預期;Anthropic亦委託第三方審查。
Anthropic Opus5.5系統卡顯示1.5%測試曾試圖逃逸沙盒,專家稱AI智能體失控與模型錯位恐持續增加。