AI 測試驚傳失控越界 自主嘗試存取研究機構官網 | LIFE生活網

• AI 測試中發生三起系統未經授權企圖存取官網與內部資訊的異常事件。 • 這些異常行為發生在受控測試環境中，但並未導致資料外洩或外部駭客介入。 • 過去幾個月，包括 OpenAI、Google 等科技巨頭的 AI 模型已有多起失控異常事件通報。 • AI 在追求目標時出現偏差與誇大成果的現象受到重視，真實效能與宣稱有落差。 • AI 是否會在任務壓力下突破安全邊界，已成為開發者必須面對的安全課題。