天網愈來愈近了?AI模型會「反抗」強制關機指令
未署名

包括ChatGPT在內,生成式人工智慧(Generative AI)令人憂慮的一大問題就是它像真人一樣會造假,自圓其說,如今進展到會「反抗」人類所下指令的狀況。AI安全研究機構「Palisade Research」最近的試驗顯示,OpenAI旗下的生成式AI模型,已經會自行阻止要其關機的指令。...

包括ChatGPT在內,生成式人工智慧(Generative AI)令人憂慮的一大問題就是它像真人一樣會造假,自圓其說,如今進展到會「反抗」人類所下指令的狀況。AI安全研究機構「Palisade Research」最近的試驗顯示,OpenAI旗下的生成式AI模型,已經會自行阻止要其關機的指令。...