Anthropic 警告 AI 安全評分恐誤導大眾 遊說白宮限縮模型引科技巨頭圍剿 | LIFE生活網
來源 商傳媒全文約 762 字
文章摘要
LIFE生活網 · 文章頁摘要• Anthropic 警告業界普遍採用的人工智慧模型安全評估標準可能誤導大眾。 • Anthropic 執行長遊說白宮限制開發並分享具潛在危險性的人工智慧模型。 • 微軟、輝達等科技巨頭聯署反對,主張人工智慧模型應維持開放。 • 業界認為 Anthropic 的策略激進,一方面強調風險,一方面又推動 IPO。

美國人工智慧新創 Anthropic 日前針對業界普遍採用的安全評估標準提出警示,指出當前的人工智慧模型安全基準(Benchmarks,即用來衡量模型是否具備危險行為或漏洞的標準化測試題庫)評測機制可能誤導大眾,並直言「要建立一套良好的評測指標極其困難」。...