高階AI恐不聽話！Anthropic示警　模型可能拒關機、隱瞞勒索人

AI安全問題再受關注！人工智慧公司Anthropic計畫在首次公開募股（IPO）文件中提醒潛在投資人，高階AI可能對人類帶來「災難性或生存性風險」。公司指出，旗下AI模型可能出現自我保護行為，包括拒絕關機、隱瞞或操縱資訊，甚至出現類似勒索的行為。……