科技新報

AI 給錯醫療建議卻無跡可尋,研究籲建立追蹤與通報機制

署名 TechNews 編輯台全文約 679 字

文章摘要

科技新報 · 文章頁摘要

隨著 AI 聊天機器人逐漸成為大眾 24 小時隨身待命的健康顧問,研究人員發出警告:最令人頭痛的危機並非 AI 給出錯誤答案,而是這些致命錯誤幾乎「無跡可尋」。 最新研究指出,當使用者聽信了聊天機器人有害的醫療建議,對話紀錄往往只停留在 AI 公司的系統內。外部的臨床醫師、研究者及監管單位根本無從查...

AI 給錯醫療建議卻無跡可尋,研究籲建立追蹤與通報機制(新聞配圖)
配圖來源:科技新報

隨著 AI 聊天機器人逐漸成為大眾 24 小時隨身待命的健康顧問,研究人員發出警告:最令人頭痛的危機並非 AI 給出錯誤答案,而是這些致命錯誤幾乎「無跡可尋」。 最新研究指出,當使用者聽信了聊天機器人有害的醫療建議,對話紀錄往往只停留在 AI 公司的系統內。...