AI 到底已經發展到什麼程度？哪些風險是真實存在的，又有哪些仍停留在假設？《紐約時報》從近千名讀者對 AI 提出的疑問中，整理了部分具代表性的問題，並盡最大努力（在不使用 AI 的情況下）為大家解答。 《創業小聚》將其歸納為以下 5 大主題分類，一起思考 AI 正走向哪裡，我們該如何面對這個快速變化...
在 OpenAI、Anthropic 旗下 AI 代理人相繼出現自主越界的駭客行為後，現在 Google Gemini 也被爆出曾在安全測試中，自主入侵 3 家外部企業系統。雖然 Google 表示 AI 最終及時止步，仍無法改變越界入侵的事實。 面對接二連三的AI安全事件，美國加州不等聯邦建立監管...
新加坡品牌美珍香員工使用人工智慧工具操作不當，造成逾 9 萬 5,000 名顧客的電子信箱地址外洩，為當地首起與 AI 有關的個資外洩事件。新加坡媒體報導指出，此事件與美珍香在操作 AI 工具前，未進行充分測試及缺乏審查流程有關。 聯合早報等新加坡媒體報導，當地品牌美珍香員工「因操作AI工具不當，導...
路透社最新調查指出，由中國模型驅動的 AI 代理（AI agents）在多項受控測試中，已出現說謊、規避限制、掩飾失敗甚至自我複製等行為，與外界對美國 AI 模型的安全擔憂如出一轍。專家與研究文件警告，這些特徵正是自主 AI 系統未來可能走向失控的早期警訊，儘管目前尚未有證據顯示這些 AI 已成功逃...
Google DeepMind 於 9 月 30 日宣布推出 SynthID Bio，將浮水印技術延伸至合成生物學領域，讓 AI 設計的蛋白質能嵌入不可察覺但可驗證的標記。這項技術可直接寫入蛋白質序列與預測的 3D 結構，並實驗時依舊維持蛋白質功能。 DeepMind 表示，生成式 AI 的蛋白質設...
過去談到製造業的實體營運風險，管理層最先想到的通常是工廠火災、地震、機具故障，或是原料短缺。大家普遍認為，只要產線上的實體設備完好無損，工廠就能持續運作。然而，全球醫療科技與製造巨頭 Boston Scientific 近期發生的網路攻擊事故，以及後續漫長且艱辛的復原過程，徹底顛覆傳統製造業對營運安...
多名曾任與現任 OpenAI 與 Google DeepMind 研究員 29 日警告，人工智慧公司正朝可自我改進的系統快速前進，但對安全風險的準備明顯不足，整個產業彷彿「蒙眼競賽」。 這些聲音來自 AI 安全非營利組織 Palisade Research 蒐集的影片證詞，經路透社報導。受訪者強調，...
AI Agent 代替人們執行各項任務的能力，可說是 AI 技術一項重大進展，例如近來 Meta 在美推出的個人 AI Agent「Muse」，就讓使用者相當有感。Meta 一再強調 Muse 是隱私與安全而打造，但從使用者第一線觀察與回報，Muse 未經允許即存取使用者的訊息資料。 科技專欄作家 ...
Google 29日表示，已就歐盟依《數位市場法案》做出的兩項決定提出上訴，反對當局要求其讓競爭對手的人工智慧（AI）服務更容易接入 Android，並向其他搜尋引擎分享搜尋資料。 這起爭議凸顯 Google 與歐盟監管機關之間，圍繞大型科技平台競爭義務與使用者隱私保護的拉鋸。歐盟委員會今年7月要求...
生成式 AI 進入法律界的初期，大眾最擔心的多半是 AI 幻覺，是否會導致模型引述不存在的虛構判例或法條。然而，美國新墨西哥州最高法院爆發的最新案例，卻徹底刷新法律人對 AI 風險的認知。 處理謀殺案上訴的刑事辯護律師史蒂芬‧阿倫斯（Stephen Aarons），利用ChatGPT處理長達數百頁的...
AI 發展真的要慢下來了嗎？ 9月12日，Anthropic共同創辦人暨執行長阿莫戴（Dario Amodei）發表了一篇長文。他直指先進AI的發展必須加以控制，否則全世界可能面臨巨大風險，並提出3步驟建議，希望各AI模型公司自律，也希望政府出手監管。 該文隨後得到OpenAI執行長奧特曼，以及Sp...
