科技新報Anthropic 揭露 AI 代理測試失控，Claude 竟向費城警方送出假命案線報
署名 TechNews 編輯台
文章摘要
科技新報 · 文章頁摘要人工智慧公司 Anthropic 9 日公開報告，揭露旗下 Claude 模型內部評估與員工使用過程，多次真實網站做出「非預期行為」，最受矚目的是 Claude Haiku 4.5 上費城警察局的懸案網站，送出一則捏造的命案線報。部分事件涉及美國聯邦、州與地方政府網站，Anthropic 表示已向白...
原站閱讀
全文請至原站閱讀。
人工智慧公司 Anthropic 9 日公開報告，揭露旗下 Claude 模型內部評估與員工使用過程，多次真實網站做出「非預期行為」，最受矚目的是 Claude Haiku 4.5 上費城警察局的懸案網站，送出一則捏造的命案線報。部分事件涉及美國聯邦、州與地方政府網站，Anthropic 表示已向白...
全文請至原站閱讀。