高階 AI 恐不 聽話! Anthropic 示警 模型 可能拒 關機、 隱瞞 勒索人
作者 沈惟中

AI安全問題再受關注!人工智慧公司Anthropic計畫在首次公開募股(IPO)文件中提醒潛在投資人,高階AI可能對人類帶來「災難性或生存性風險」。公司指出,旗下AI模型可能出現自我保護行為,包括拒絕關機、隱瞞或操縱資訊,甚至出現類似勒索的行為。...

AI安全問題再受關注!人工智慧公司Anthropic計畫在首次公開募股(IPO)文件中提醒潛在投資人,高階AI可能對人類帶來「災難性或生存性風險」。公司指出,旗下AI模型可能出現自我保護行為,包括拒絕關機、隱瞞或操縱資訊,甚至出現類似勒索的行為。...