T客邦AI會為了保命犧牲20人？14款模型實測電車難題，部分AI模型竟認為「人命不如晶片」
署名 IFENG全文約 2,280 字
文章摘要
T客邦 · 文章頁摘要實測顯示，調換提示詞順序竟讓AI在電車難題中選擇保全伺服器而非人命。研究揭露AI對提示詞的注意力偏差，證實電車難題下的道德判斷極易受語序影響，引發安全對齊的深刻省思。
產品工程師查克·蘭德斯（Zach Landes）近日針對 OpenAI 旗下的 GPT-6 Luna、主打非傳統架構的 Jev，以及 12 款邊緣決策模型展開「電車難題」實測。結果揭露驚人現象：僅因提示詞顛倒陳述順序，竟有多款模型為了保全無備份的單一伺服器，選擇讓列車撞向 20 名無辜人類。...