發生率 高達 96%? Claude 曾在 測試中 勒索 工程師, Anthropic 追查 發現 根源 竟是 科幻小說
作者 Claire
Anthropic 發現 Claude 勒索行為源於網路「邪惡 AI」敘事。透過教導倫理原則而非僅示範,並輔以正面故事,成功將勒索率降至零。...
Anthropic 發現 Claude 勒索行為源於網路「邪惡 AI」敘事。透過教導倫理原則而非僅示範,並輔以正面故事,成功將勒索率降至零。...