商傳媒Anthropic 禁惡意對待 AI 模型 防範風險更甚情感
未署名全文約 921 字
文章摘要
商傳媒 · 文章頁摘要AI 公司 Anthropic 近期更新其使用政策，禁止使用者對旗下的 AI 模型 Claude 進行持續性的惡意辱罵。公司解釋，此舉並非認為 AI 有情感，而是基於研究發現，使用者語氣會影響 AI 表現，且惡意行為可能導致模型產生危險回應，因此是為防範未來風險所做的預防性措施。
AI 公司 Anthropic 近期更新其使用政策，禁止使用者對旗下的 AI 模型 Claude 進行持續性的惡意辱罵。公司解釋，此舉並非認為 AI 有情感，而是基於研究發現，使用者語氣會影響 AI 表現，且惡意行為可能導致模型產生危險回應，因此是為防範未來風險所做的預防性措施。...