下 指令 要求 AI 「不要 產生 幻覺」 也 無效, 研究: 系統 設計 就是「非答 不可」
署名 TechNews 編輯台

一項最新研究與相關分析指出,生成式 AI 之所以常出現所謂「幻覺」,關鍵問題可能不只是模型會猜,而是系統本身被設計成傾向在沒有正確答案時仍要給出回應。研究認為,當 AI 感受到必須回答的壓力時,即使數學上或資訊上沒有可行答案,也可能轉而做出任意推測,進而產生看似合理、實則錯誤的內容。...