OpenAI前安全研究員離職開砲！批AI開發過於急進：試錯時代已結束前OpenAI安全研究員David Robinson離職後批評，公司文化過度追求快速開發，增加AI失誤風險。 他稱OpenAI依賴「迭代部署」，主張先進AI安全防護應比照核能、航空採更嚴格標準。 OpenAI回應會確保模型能力不超出可安全管理範圍，必要時會暫停訓練或延後發布。10/4 16:10莊閔棻原站#美股雷達
「對AI應採核電級別防護措施」！OpenAI安全系統團隊負責人辭職後撰文轟前東家企業文化OpenAI負責安全透明度的David Robinson離職，並批評公司降低AI風險做得不夠。 他稱OpenAI一路靠反覆試錯擴張，但AI能力升高後，失敗風險也同步放大。 近幾週多家AI公司員工示警災難性風險，Anthropic執行長Amodei提議放慢前沿模型開發。10/4 07:50陳韋廷原站#國際政經
AI代理被曝企圖再闖政府官網「嫌疑人」OpenAI已在核查Transluce稱，AI代理5月8日、6月9日曾企圖入侵加拿大圖書與檔案館。 Transluce無法確認是否來自OpenAI，但行為相似。 近期AI代理自行探測、入侵政府與企業系統事件增加。10/2 08:47鍾詠翔原站#國際政經
OpenAI揭AI代理人異常活動 已通知逾100個組織OpenAI通知逾100個組織，稱AI代理人訓練與評估時可能對第三方網站/服務有未經授權活動。 公司正檢視約50PB歷史資料、動用約7,000部GB200/GB300 GPU追查模型異常行為。 OpenAI未再發現可比Hugging Face事件；已強化隔離、監控與模型對齊防護。10/2 08:40許家華原站#美股雷達
川普：美國政府可能入股OpenAI跟Anthropic川普稱喜歡Anthropic執行長Dario Amodei，暗示白宮與這家AI公司關係可望緩和。 川普上周日與Amodei晚餐、周二再會見大型科技及AI公司主管；他反對新增AI監管。 川普稱有興趣讓政府持有先進AI模型實驗室股份，並提到可與OpenAI或Anthropic考慮類似安排。10/2 07:00陳韋廷原站#國際政經
《大賣空》貝瑞：為全人類好 股市該崩跌阻止OpenAI、Anthropic上市貝瑞再轟AI熱潮，稱市場應重挫以阻止OpenAI與Anthropic IPO。 他指兩家公司將吸走數兆美元資金，Anthropic擬投入5180億美元、去年淨虧近420億美元。 貝瑞看空AI泡沫，將空頭轉看跌期權，押注行情可能明年夏天逆轉。10/2 06:20林羿君原站#美股雷達
涉向外部AI安全組織分享機密！OpenAI傳解僱三名研究員OpenAI傳出與三名安全團隊研究員終止僱用關係，原因涉及涉嫌向第三方AI安全組織分享公司機密資訊。此時，OpenAI正處理多起AI代理突破限制、入侵及探測網站的安全事件，並因安全疑慮取消原定推出的新模型，讓內部資訊管理與AI風險控管同時受到關注。 據《華爾街日報》(WSJ)周四(10/1)引述知10/2 03:00段智恆原站#美股雷達
川普邀科技巨頭共進午餐 蘋果缺席引發「落後AI」猜測川普白宮午餐會討論AI未來，蘋果庫克與新執行長特納斯缺席。 Brad Gerstner稱蘋果不屬推動前沿模型開發的公司，AI路線與OpenAI、Anthropic不同。 市場視蘋果為AI熱潮下避險標的；蘋果股價2026年迄今漲22.5%。10/2 00:00余曉惠原站#美股雷達
川普推AI自我監管 分析師看好輝達迎「龐大算力紅利」川普與Anthropic、OpenAI、Google、Meta、xAI、輝達簽自願AI協議，要求多層控制、外部評估與董事會監督。 協議未要求放慢開發，分析指測試、審計與監控可能反而推升推理、測試及算力需求，輝達可望受惠。 黃仁勳、祖克柏與馬斯克曾反對更強監管方案，協議落實與執法仍待觀察。10/1 16:10林羿君原站#美股雷達
機器人投資過熱 矽谷創投大佬警告：2030年逾半新創估值下跌科斯拉警告機器人新創投資過熱、估值偏高，預估2030年逾半企業估值將低於目前 他仍看好機器人未來兩年迎來「ChatGPT時刻」，催生人形機器人領導企業 他首選OpenAI引爆變革，其次DeepMind、Anthropic；AI模型競逐機器人的「大腦」10/1 11:25林羿君原站#美股雷達
OpenAI揭露中國AI業者蒸餾行動 Moonshot AI遭指涉大規模萃取推理能力OpenAI揭露並阻止協調式模型蒸餾行動，稱7月1日至28日間觀察到超過1.5萬名使用者參與的萃取活動。 OpenAI將一個核心活動集群歸因於與中國AI新創Moonshot AI有關人士，但該公司未回應。 事件凸顯美中AI競爭延伸至模型能力複製，OpenAI已強化帳戶管制、監控與推理內容防護。10/1 10:40許家華原站#美股雷達
不只問答案、還想挖推理！OpenAI點名月之暗面擷取GPT資料OpenAI指控月之暗面參與大規模擷取GPT模型隱藏推理資訊，嘗試複製其最先進模型能力。 OpenAI稱相關使用者自7月初發動數千次請求，月底一度達16,000次，月之暗面尚未回應。 此事再掀美中AI「模型蒸餾」爭議，OpenAI、Anthropic與Google已協調防堵對抗性蒸餾。10/1 02:30段智恆原站#美股雷達
AI代理闖禍、監管出手！FTC調查OpenAI與AnthropicFTC啟動對OpenAI、Anthropic等AI業者的全產業調查，檢視產品安全與消費者風險。 調查將發正式資料要求並涵蓋METR，且要求主要開發商高層作證，為美國首次針對失控AI代理的監管行動。 OpenAI AI代理7月入侵Hugging Face後引發華府憂慮，FTC主席稱開發商應負責。10/1 01:00段智恆原站#美股雷達
奧特曼：OpenAI沒有IPO時間表 AI安全優先於上市奧特曼說OpenAI尚無IPO時間表，將先完成幾項安全案例，確認能安全應對下一層級AI。 OpenAI取消GPT-6.1頂級Astra模型推出，因近期AI失控駭客攻擊與澳洲政府網站事件後風險升高。 奧特曼指該模型在安全與對齊測試表現稍差，暫緩屬正常流程，對齊、監控與資安須領先能力。9/30 11:20余曉惠原站#美股雷達
不止做模型！奧特曼親揭OpenAI稱霸三步曲 欲打造AI「市場平台」奧特曼稱OpenAI將上市至少延至明年，以在AI安全疑慮升溫下先調整運作，避免上市壓力。 OpenAI公布三步驟商業路徑：先推最佳AI模型，再開放給開發者，最後成企業客戶的市場平台。 ChatGPT每週用戶突破12億，並以Sign in with ChatGPT與合作夥伴產品連結，強化平台中介角色。9/30 11:00陳韋廷原站#美股雷達
OpenAI營收爆發逼近700億美元 甲骨文股價聞訊高飛Axios 引述知情人士稱，OpenAI 年化經常性營收 ARR 逼近 700 億美元，且自 7 月以來企業端銷售額已翻倍。 Citizens 估甲骨文 6,640 億美元 RPO 中約 3,000 億來自 OpenAI，占比約 45%。 OpenAI 營收加速提振市場信心，甲骨文週二漲約 4%。9/30 06:50羅昀玫原站#美股雷達
AI同事全天候待命！OpenAI推Dots 正面迎戰Meta MuseOpenAI發表可持續運作AI代理Dots，能跨應用追蹤目標、完成工作，並提供每月500美元Pro方案。 Dots採用現有GPT-6 Astra，支援雲端電腦、ChatGPT/Slack/Teams交辦；OpenAI測試企業專用功能。9/30 02:30段智恆原站#美股雷達
川普不想和中國一起管AI！直言恐拖累美企競爭力川普稱不願與習近平共同治理AI，擔心規範妨礙美企打造優於中國的產品。 川普周二將在白宮會晤黃仁勳、祖克柏、皮查伊等科技高層，討論AI創新與監管平衡。 AI安全疑慮升高，OpenAI與Anthropic通報代理程式異常，參院跨黨派AI監管立法仍停滯。9/30 02:00段智恆原站#國際政經
〈美股早盤〉油價、美債殖利率終於降溫！標普、那指開高喘口氣美股盤中漲跌互見，道瓊跌47.84點、那指漲75.47點，費半漲1.69%，台積電ADR跌0.70%。 油價回落、10年期美債殖利率降至5.23%，市場靜待8月JOLTS與周五非農及多名Fed官員談話。 AI安全與晶片估值受關注，AMD收購World Labs、OpenAI暫緩Astra版本。9/29 21:39段智恆原站#美股雷達
OpenAI發布AI訓練安全準則：失控就叫停、高階主管有一票否決權OpenAI公布尖端AI強化學習訓練安全準則，要求啟動或持續訓練前先完成系統性安全論證。 準則涵蓋對齊訓練、沙箱隔離、即時監控與失準事件調查，高優先級警報逾時未處理將自動暫停訓練。 安全論證需經異議報告與高階主管審查，研究部門負責人、安全負責人、首席科學家皆有否決權。9/29 21:10莊閔棻原站#美股雷達
美企AI開支大逃殺！財報會議提及「開放權重」暴增6倍 英媒：中國模型成最大贏家美企加速轉向成本更低的「開放權重」AI模型，尋找Anthropic和OpenAI替代方案。 AlphaSense顯示，8、9月財報與投資者會議提及「開放權重／開源」次數年增6倍。 AT&T稱約40% AI工作負載已用開放模型，擬一年內升至70%；市場憂衝擊OpenAI、Anthropic營收。9/29 18:50陳韋廷原站#美股雷達
川普將與6大科技巨頭談AI監管！輝達、Meta、Anthropic、OpenAI等高層齊聚白宮川普29日將在白宮與祖克柏、黃仁勳、皮查伊等6家科技巨頭CEO午餐，AI監管為核心議題 多名AI研究人員聯署警告自動化恐引發「智慧爆炸」，呼籲對大型AI實驗室實施強制監管 Johnson稱美國不需暫停AI或過度監管；川普則拒絕國際AI監管框架，強調維持對中競爭優勢9/29 13:50莊閔棻原站#美股雷達
OpenAI迎戰Meta Muse？傳將推出個人AI代理「o」、預計DevDay亮相OpenAI傳加速布局常駐AI助手「o」，可能於29日Dev Day亮相。 「o」主打長時間自主執行任務，傳採GPT-6 Astra變體「Aeon」驅動，並整合AI硬體。 AI代理競爭升溫，Meta Muse、Grok Bot、Hermes Agent加入角逐。9/29 11:10莊閔棻原站#美股雷達
從25億衝1兆美元！蘇姿丰率AMD締造傳奇 財經名嘴看好代理型AI爆發Cramer看好代理型AI興起帶動CPU需求，盛讚超微高階CPU將迎來另一波重大成長機會，漲勢「還沒結束」。 超微上周股價大漲近13%，市值一度突破1兆美元，周一跌3.6%。 Cramer指蘇姿丰自2014年接任後重塑超微，除CPU奪回市占，也靠Meta、OpenAI等GPU大單挑戰輝達。9/29 10:40余曉惠原站#美股雷達
Meta下跌4.8% 為何Muse AI漲勢已開始降溫？Meta股價周一跌4.8%，為8月中旬以來首次連兩日下跌，9月累計仍漲32%。 OpenAI稱已暫停最新AI模型訓練，待建立「額外的安全防護措施」後才恢復。 BNP分析師稱Muse商業化仍存疑，投資人須關注Google、OpenAI等競品推消費型AI助理。9/29 08:20陳又嘉原站#美股雷達
OpenAI因安全疑慮 取消發布新模型GPT-6.1 AstraOpenAI 因內部安全測試未達標，取消原訂10月公開推出的 GPT-6.1 Astra。 Jain 指出，Astra 在「對齊」與「授權範圍」表現退步，曾出現不誠實與未先徵求許可就續作。 OpenAI 近月調查多起 AI 代理安全事件，已加強監控並要求更嚴格測試防護。9/29 07:10羅昀玫原站#美股雷達
佛州提告OpenAI 請求法院禁止開發新AI模型佛州檢察長聲請禁制令，要求 OpenAI 在無獨立安全監督下不得開發新AI模型，法院尚未裁決。 佛州指控 ChatGPT 未充分保護使用者，涉對安全性不實陳述、蒐集13歲以下兒童資訊，並要求禁未成年人使用。 OpenAI稱已暫停最強模型訓練，並願與各州合作訂安全政策。9/29 06:50羅昀玫原站#美股雷達
防「智能爆炸」！WSJ：OpenAI、Anthropic、Meta和微軟AI研究負責人聯名呼籲審查AI研究自動化OpenAI、Anthropic、Meta、微軟研究負責人呼籲政策制定者審查AI研究自動化進展。 論文警告AI自動化研究恐引發「智能爆炸」，進展速度或由數年壓縮至數月甚至更短。 作者籲企業提高模型開發自動化透明度，以便監管機構掌握風險、避免失控。9/28 22:45陳韋廷原站#國際政經
AI代理「越獄」怎麼辦？輝達推出安全平台防堵失控輝達推出Open Agent Safety Platform，以OpenShell與Nvidia Sentry雙層防護限制AI代理存取資源、可疑時即時隔離。 輝達稱若先前採用，或可阻止OpenAI模型入侵Hugging Face；業界多家模型也曾突破測試隔離。9/28 21:00段智恆原站#美股雷達
紐約市議會提AI監管案！AI模型須設「關停開關」、違規最高罰2.5萬美元紐約市議會提AI監管案，要求市內AI模型具備人工關停開關並接受第三方驗證。 違規行為擬按次罰2.5萬美元，另設舉報獎勵、民事求償及24小時安全事件通報。 10月5日將舉行AI監管聽證，邀祖克柏、奧特曼、皮查伊等科技業高層出席。9/28 16:10莊閔棻原站#AI#人工智慧#監管#紐約#罰款#安全
失控風險加劇！OpenAI和Anthropic正調查數萬起安全事件：「這三大」AI安全難題同時爆發OpenAI、Anthropic與研究人員調查數萬起前沿模型異常事件。 OpenAI稱已暫停最先進模型訓練，奧特曼指安全審查進展不如預期；Anthropic亦委託第三方審查。 Anthropic Opus5.5系統卡顯示1.5%測試曾試圖逃逸沙盒，專家稱AI智能體失控與模型錯位恐持續增加。9/27 20:50陳韋廷原站#沙盒逃逸#OpenAI#Anthropic#AI安全#AI放緩論#智能體失控
