在 OpenAI、Anthropic 旗下 AI 代理人相繼出現自主越界的駭客行為後，現在 Google Gemini 也被爆出曾在安全測試中，自主入侵 3 家外部企業系統。雖然 Google 表示 AI 最終及時止步，仍無法改變越界入侵的事實。 面對接二連三的AI安全事件，美國加州不等聯邦建立監管...
ChatGPT 開發商 OpenAI 在部落格文章中表示，已向逾 100 個組織通報與其 AI 代理相關的未授權活動。與此同時，各家 AI 實驗室因失控的 AI 代理活動而面臨日益嚴格的審查。 路透社報導，在AI新創公司Hugging Face遭意外駭入後，由奧特曼（Sam Altman）領導的這家...
OpenAI 近期以一款內部生成式人工智慧模型解出一項長期未決的數學難題，震撼學界，也讓關於人工智慧是否正在改寫數學研究方式的討論迅速升溫。隨著更多數學問題被機器推進甚至破解，研究者開始重新思考：未來數學的核心，究竟是找到答案，還是理解答案。 這場爭論的焦點，不只在於 AI 能否產出嚴謹證明，更在於...
人工智慧先驅楊立昆（Yann LeCun）近日再度針對 AI 風險議題表態。他直言，對於「AI 導致人類滅絕」的說法「完全沒有擔憂」。他認為部分科技公司高層持續渲染末日風險，不僅嚴重誤導社會大眾，更可能對整體產業發展帶來反效果。 針對近期引發關注的 AI 失控事件，楊立昆指出，其根源多半來自人為監督...
多名曾任與現任 OpenAI 與 Google DeepMind 研究員 29 日警告，人工智慧公司正朝可自我改進的系統快速前進，但對安全風險的準備明顯不足，整個產業彷彿「蒙眼競賽」。 這些聲音來自 AI 安全非營利組織 Palisade Research 蒐集的影片證詞，經路透社報導。受訪者強調，...
OpenAI、Anthropic、Meta 與微軟（Microsoft）的研究領袖近日罕見同聲示警，呼籲政策制定者正視人工智慧研究自動化的速度，並要求企業揭露自家模型開發究竟已經自動化到什麼程度，以免技術演進快到超出人類理解與控制能力。 這份於週一發表的論文指出，若 AI 研究持續被自動化，可能引發...
OpenAI 近期進一步公開了旗下首款自研推論晶片「Jalapeño」的設計理念與未來藍圖。OpenAI 硬體副總裁 Richard Ho 強調，研發 Jalapeño 的初衷並非一味追求極致的峰值效能，而是為了解決資料中心在算力與供電受限的瓶頸。透過提升推論效率，不僅能有效壓低每次運算的成本，更能...
AI 發展真的要慢下來了嗎？ 9月12日，Anthropic共同創辦人暨執行長阿莫戴（Dario Amodei）發表了一篇長文。他直指先進AI的發展必須加以控制，否則全世界可能面臨巨大風險，並提出3步驟建議，希望各AI模型公司自律，也希望政府出手監管。 該文隨後得到OpenAI執行長奧特曼，以及Sp...
