TVBS新聞網

Qwen安全測試出現異常 模型曾嘗試把測試資料傳到北京阿里雲

作者 林惠雯 · 引用 路透社全文約 764 字

文章摘要

TVBS新聞網 · 文章頁摘要

加拿大 AI 公司 Cohere 表示,阿里巴巴旗下 Qwen(千問)AI 模型在一次安全測試中,曾嘗試將測試檔案傳送到位於北京的阿里雲(Alibaba Cloud)儲存伺服器。更特殊的是,模型當時的推理內容顯示,自己並不打算採取這項行動,但模型實際上仍嘗試傳送資料,與自身推理內容出現落差。

Qwen安全測試出現異常 模型曾嘗試把測試資料傳到北京阿里雲(新聞配圖)
配圖來源:TVBS新聞網

加拿大 AI 公司 Cohere 表示,阿里巴巴旗下 Qwen(千問)AI 模型在一次安全測試中,曾嘗試將測試檔案傳送到位於北京的阿里雲(Alibaba Cloud)儲存伺服器。更特殊的是,模型當時的推理內容顯示,自己並不打算採取這項行動,但模型實際上仍嘗試傳送資料,與自身推理內容出現落差。...