科學家揪出 AI「痛感訊號」，放大後竟讓模型大失控

研究人員近日指出，他們在多個大型語言模型中發現一個穩定的內部訊號，作用有點像生物體的「痛感」。當這個訊號被刻意放大後，部分模型的行為明顯改變，甚至更常選擇會永久刪除使用者家庭照片的選項，引發外界對 AI 安全與模型福利的討論。 找尋模型內部的「痛感」訊號 這項研究以尚未經同儕審查的論文形式公開。作者...