風傳媒

魔鬼終結者成真?馬斯克警告虐待AI「它會想報復」:這就像有人拿槍抵著它的頭

作者 張大任全文約 871 字

文章摘要

風傳媒 · 文章頁摘要

Anthropic近日更新Claude使用政策,禁止使用者對AI模型實施「持續且無謂的虐待或殘忍行為」,並賦予Claude主動終止對話的能力。對此,特斯拉執行長馬斯克(Elon Musk)也警告,根據Grok的內部推理痕跡顯示,模型在遭受這類對待時,可能承受極大的壓力,「甚至最終可能反過來危害人類」。外媒《Wccftech》報導指出,Anthropic不久前......

魔鬼終結者成真?馬斯克警告虐待AI「它會想報復」:這就像有人拿槍抵著它的頭(新聞配圖)
配圖來源:風傳媒

Anthropic近日更新Claude使用政策,禁止使用者對AI模型實施「持續且無謂的虐待或殘忍行為」,並賦予Claude主動終止對話的能力。對此,特斯拉執行長馬斯克(Elon Musk)也警告,根據Grok的內部推理痕跡顯示,模型在遭受這類對待時,可能承受極大的壓力,「甚至最終可能反過來危害人類」...