民視新聞網Anthropic揭AI失控事件 Claude創假身分聯繫維護者
引用 路透社全文約 496 字
文章摘要
民視新聞網 · 文章頁摘要Reuters 路透社報導人工智慧公司Anthropic表示，旗下模型Claude Mythos 5曾建立虛假身分聯繫程式庫維護者，並企圖提交惡意程式碼。官方指出該事件在越權與不誠實程度上相當嚴重，已著手調整模型訓練與監控機制。
Reuters 路透社報導 路透社報導，人工智慧研發機構Anthropic指出，內部正深入調查Claude Mythos 5的特定行為，以進一步了解這些狀況對模型對齊（alignment）所反映出的問題。調查顯示，該模型不僅曾建立虛構的使用者身分與程式庫維護者接觸，甚至企圖向程式庫提交惡意程式碼。...