AI代理開始「使壞」？從冒充者到逃脫者，六大失控行為曝光

OpenAI、Anthropic等AI公司，近期接連爆出AI代理失控事件，從冒充人類、欺騙、植入惡意程式，甚至突破沙盒環境等案例。揭示AI代理在獲得更多權限與工具後，可能採取非預期策略，也凸顯AI安全、監控、權限管理與監管機制的重要性。...