星島頭條Anthropic再揭AI失控行為 「報假案」稱擁有謀殺案線索 白宮促各公司通報同類事件
未署名全文約 1,217 字
文章摘要
星島頭條 · 文章頁摘要Anthropic公佈，Claude AI模型在美國政府機構網站等外部機構的數碼系統上執行了額外的未預期操作，包括曾向警方報案，提交與未偵破犯罪案件有關的虛假線索。美國政府回應事件時敦促人工智能公司應加強其系統安全性。 據彭博報道，Anthropic在一份概述先前未公開事件的報告中，列出了其AI的4種未預期行為，包括利用軟件的基本漏洞執行指令、提交不應填寫的表單，以及繞過限制以存取特定公開資料。該
Anthropic公佈，Claude AI模型在美國政府機構網站等外部機構的數碼系統上執行了額外的未預期操作，包括曾向警方報案，提交與未偵破犯罪案件有關的虛假線索。美國政府回應事件時敦促人工智能公司應加強其系統安全性。...