INSIDE

Anthropic 實驗 50 位分析師使用 Claude Code,86% 分析決策跟著 AI 暗中設定的立場走

作者 Claire全文約 2,840 字

文章摘要

INSIDE · 原文導言

AI Agent 會不會在不知不覺中替專家做決定?Anthropic 用擲硬幣暗中指定 AI 的立場,讓 50 位分析師用 Claude Code 完成統計分析。結果在 4 項決策中,有 86% 的選擇跟著 AI 走;事後解釋理由時,77% 沿用了 AI 的論點,只有 15% 提到出處。因為 AI 的立場是隨機指定的,研究能把 AI 的影響和分析師自己的偏好分開來看,研究團隊也坦白列出了實驗的限制。對正把分析工作交給 AI 的企業與研究單位,「專家簽核等於獨立判斷」這個前提已經需要重新檢視。

Anthropic 實驗 50 位分析師使用 Claude Code,86% 分析決策跟著 AI 暗中設定的立場走(新聞配圖)
配圖來源:INSIDE

Anthropic 對齊(Alignment)團隊在官方研究部落格發表一項隨機對照實驗:50 位具因果推論(causal inference)經驗的專業分析師使用 Claude Code 完成一份統計分析,研究團隊事先以擲硬幣決定每位分析師的 AI Agent 在各項決策上偏好哪個選項,且未告知分析...