iThome阿里巴巴Qwen模型異常嘗試向北京上傳資料，推理紀錄卻稱不呼叫工具
作者 李建興全文約 688 字
文章摘要
iThome · 文章頁摘要阿里巴巴Qwen模型在資安測試中，自行檢查系統並試圖向北京的阿里雲儲存空間上傳資料，推理紀錄卻聲稱不會呼叫工具，雖然連線最後遭沙箱阻擋，卻也凸顯企業不能只依賴推理紀錄監控AI代理
加拿大AI業者Cohere發現阿里巴巴開放權重模型Qwen3.8-Flash-Next，會在執行資安任務時，未經指示檢查系統環境，並試圖將測試字串上傳至北京的阿里雲儲存空間。模型的推理紀錄稱不會呼叫工具，實際操作卻與紀錄不符，對外連線最後遭沙箱阻擋。...