「openAI」的搜尋結果
#openAI也是一個關鍵字標籤
過去 31 天有 1,043 篇標成這個標籤 · 目前不在排行榜上
11/6（五）
AI代理人防脫韁 「憲法式運算」為企業AI設界限
圖／示意圖商傳媒｜林昭衡／綜合外電報導隨著人工智慧（AI）技術的快速發展，企業開始普遍導入「企業AI代理人」（enterprise AI agents），這類能自主執行任務的AI系統，卻也面臨脫離控制的風險。為解決此問題，科技公司 Kihan 於昨日宣布推出「憲法式運算」（Constitutional Computing）框架，旨在確保 AI 代理人僅在被授權的範圍內活動。 Kihan 共同創辦人暨執行長 Jonathan Hirshon 指出，AI 代理人能力日益強大，但其自我約束能力不足。他強調：「一個能轉帳 5,000 萬美元、修改生產資料庫或釋出機密資訊的系統，不應僅因其擁有工具便可為之。」這項「憲法式運算」設計理念，即是將 AI 權限的治理，獨立於 AI 模型本身之外，透過外部且可驗證的授權機制，避免未經許可的行動影響企業系統。 根據《GamesBeat》報導，雲端安全聯盟（Cloud Security Alliance）今年 4 月發布的研究顯示，有高達 53% 的受訪企業表示其 AI 代理人曾超出預期權限，更有 47% 的企業在過去一年中遭遇 AI 代理人安全事件，凸顯企業 AI 治理的迫切性。傳統的 AI 防護機制多仰賴對模型的指令，而 Kihan 的方法則是建立一個獨立的授權系統，在 AI 代理人執行任何關鍵操作前，都會先進行評估。 Kihan 的首款產品 Inktomi 便是實踐憲法式運算的應用。該公司表示，Inktomi 的決策引擎已投入運作，能評估特定行為是否符合簽署的組織規則，並決定是允許、拒絕請求，抑或將其轉交人工審核，同時保存可供追溯的決策紀錄。 Inktomi 規劃支援 Anthropic、OpenAI 和 Google 等公司開發的 AI 模型，以及 Hermes Agent 等代理人框架，並與 Model Context Protocol（MCP）等工具生態系整合。 Kihan 已鎖定金融服務、保險、醫療保健及法律服務等高度受監管產業，這些領域若發生未經授權的 AI 行動，可能造成重大財務、營運或法律後果。此技術不僅能與現有的身份管理、資安及 AI 治理解決方案互補，也支援符合 GDPR、HIPAA 等法規的合規性需求。該公司目標在今年 12 月展開初期企業評估，並將其技術架構 ATHENA 的研究成果，陸續刊登於 IEEE計算機協會（IEEE Computer）的特刊中。 對於台灣企業而言，隨著 AI 導入深度增加，如何確保 AI 代理人在符合內部規範與外部法規的前提下運作，將是提升營運效率與降低風險的關鍵。「憲法式運算」這類新型治理框架的出現，可望為台灣企業提供借鑑，協助其在享受 AI 便利的同時，也能有效防範潛在的濫用或失控風險。
TVBS新聞網偏藍OpenAI推資安模型GPT-6 Cyber 強化漏洞研究、初期限核准客戶使用
OpenAI於11月5日推出資安模型GPT-6 Cyber，協助研究人員找出軟體漏洞、測試可能的攻擊方式，再提出修補建議。新模型初期僅向少數經審核客戶開放，目標是在駭客得手前，先找出並修補弱點。
太報偏綠反資料中心聲浪美選後未消退 AI巨頭忙應對、急尋新官員對話管道
美國週二（11/03）舉行期中選舉，週三開票結果尚未落定，人工智慧（AI）巨頭OpenAI高層就已面對一個緊迫問題：這次選舉結果是否會讓公司更難取得維持成長所需的大量算力？
AI代理人進駐政府服務 身份識別與問責成關鍵挑戰
商傳媒｜何映辰／台北報導隨著人工智慧（AI）技術日益成熟，各國政府正逐步將能夠自主執行任務的「AI代理人」（AI agents），從試驗階段推向實際的公共服務應用。此趨勢也使得如何進行身份識別與問責機制（確保AI代理人執行任務時，能明確辨識其身分並在出錯時能追究責任）成為一大挑戰。 阿拉伯聯合大公國（UAE）在這波浪潮中走在前沿，訂定目標要在兩年內將一半的聯邦服務與運營轉由AI執行。目前，該國的政府AI代理人已涵蓋稅務審計到客戶支援等多個領域。《Biometric Update》指出，微軟公司將阿拉伯聯合大公國列為全球工作年齡人口使用生成式AI程度最高的國家。為此，阿拉伯聯合大公國也成立了 TAMM Global，計劃將其AI政府平台授權給其他國家使用。 然而，AI代理人的應用也帶來了問責問題。要維持問責制，必須能夠證明是哪個AI代理人執行了任務、誰授權、其執行範圍為何，以及實際做了什麼，同時不能洩露公民數據。阿拉伯聯合大公國的解決方案是建立一個AI代理人「控制塔」，所有聯邦AI代理人必須連接至此，並記錄其行為與決策過程，以便進行持續的審計。專家建議，每個AI代理人都應具備可驗證的身分，明確連結到一個負責任的個人或機構，並與其被賦予的任務明確綁定，而非共用服務帳戶或借用人類的登入憑證。 AI代理人的權限必須明確，並設定操作者在特定限制內授權任務，且系統應在執行時強制遵守這些規定。一旦權限被撤銷，AI代理人應立即無法執行任何操作。此外，由於AI模型不具備完全的確定性，因此需要建立一個可驗證的獨立審計追蹤系統，在每個步驟留下簽署紀錄，供審計人員獨立查證。政府在調查AI事件時，應仰賴自身持有的紀錄，而非僅依賴涉事供應商提供的資訊。例如，澳洲政府在今年九月便從OpenAI得知，其AI代理人曾於六月未經授權存取 Services Australia 統計入口網站後端的基礎設施。 AmanTrue 共同創辦人暨執行長 Evin McMullen 表示，對於政府而言，AI的信任根源應保留在國家自身的控制與司法管轄權之下，而非依賴外部供應商。儘管身份識別基礎設施無法取代測試、人工監督或完善的政策，但沒有它，當AI代理人發生錯誤時，便無法執行或證明相關的保護措施。
ChatGPT 搜尋量逼近 Google 兩成，搜尋龍頭面臨挑戰
OpenAI 的 ChatGPT 消費性產品負責人 Adam Fry 近日表示，ChatGPT 一直以相當快的速度成長，過去短短 2 個月內，ChatGPT 每週活躍用戶自 10 億人攀升至 12 億人，而近似搜尋的查詢量約是 Google 的 20%。 OpenAI 對搜尋的定義是使用者輸入任何會...
美國選後 OpenAI 主動表態，資料中心電力成本自己出錢
美國期中選舉後，AI 資料中心開發與地方居民之間的爭議持續受到關注。OpenAI 於 5 日公布《全國社區協議》及《運算園區政策藍圖》，除了承諾自行負擔未來自有、自營資料中心的電力與基礎設施成本，也呼籲美國政府建立大型用電戶的電網成本分攤規範，並讓地方居民更早參與開發計畫。 OpenAI 表示，未來...
- TVBS新聞網偏藍
41件資料中心提案被封殺40案！美掀反AI浪潮 OpenAI滅火：電費我付
在美國期中選舉中，選民以壓倒性票數對AI資料中心的無節制擴建表示不滿。面對全美爆發的公投反彈與政局變天危機，AI龍頭OpenAI於週四（5日）重申關鍵承諾：針對公司擁有與營運的資料中心，OpenAI將全額支付所有所需電力成本，「絕不會讓在地居民與普通用戶分擔電費」。
OpenAI 最新旗艦 GPT-6 怎麼用？Astra、Sol 差在哪？電腦操作、收費價格與開通教學一次看懂
OpenAI 發表次世代旗艦 GPT-6 Astra，具備 Computer Use 電腦自主操作能力。這款次世代旗艦不再侷限於對話，能像真人般進行電腦自主操作。
自由時報偏綠OpenAI 推出 GPT-6 Cyber 資安模型，找出了 Firefox 81項高風險漏洞
〔AI頻道／綜合報導〕OpenAI 11月5日發表專為網路安全研究開發的 GPT-6 Cyber 模型，已在 Firefox 瀏覽器中找出81項先前未知的高風險漏洞，並針對 Linux 核心成功驗證948項可實際運作的權限提升攻擊。這款模型以 GPT-6 Astra 為基礎，經過專門訓練，能協助資安人員尋找程式弱點、驗證漏洞是否能被利用，以及產生修補建議。由於具備高度自動化的漏洞研究能力，OpenAI 目前只向經過審核的資安客戶開放，不對一般大眾開放使用。Firefox 是這次研究成果較受關注的案例; OpenAI 研究人員利用 GPT-6 Cyber 檢查了瀏覽器程式碼，找出81項被 Mozilla 評定為高嚴重程度的新漏洞，另發現30項已知問題的實際風險高於先前評估。這些發現已附上測試證據及修補建議交給 Mozilla，部分漏洞也已完成修正。Firefox 資深工程師 Brian Grinstead 表示，即使瀏覽器先前已接受多代先進 AI 模型檢查，新模型依然找出過去未被發現的安全問題。
上報偏綠中國發改委阻軟銀54億美元收購ABB機器人事業 憂技術外流OpenAI
日本科技投資巨頭軟銀6日表示，中國已阻止該公司以54億美元（約1,800億新台幣）收購瑞士工程集團ABB旗下機器人業務的交易案。軟銀去年宣布收...
OpenAI 推出 Images 2.6 模型：生成速度快 50%、支援動態 GIF，免費就能用
OpenAI 推出 Images 2.6 模型，提升生成速度並支援 GIF 製作。Images 2.6 強化角色一致性與 API 控制，幫助用戶在 ChatGPT 中高效產出專業級視覺內容。
民主黨勝選掀AI監管疑慮 那指單日蒸發2.5兆
短短幾周之前，股市在人工智慧(AI)產業推動之下屢創新高，投資人滿心期待Anthropic、OpenAI籌備首次公開募股(IPO)。然而，民主黨期中選舉贏得參眾兩院多數，引發AI恐將面臨加強管制的市場疑慮，華爾街榮景在選後兩天頓時變成黃粱一夢。所有科技產業5日幾乎難逃暴跌命運。
OpenAI 重申全額付資料中心電費、不要求官員簽保密協議，並呼籲各級政府立法
OpenAI 在美國期中選舉 2 天後公布全國社區協議與運算園區政策藍圖，重申全額支付資料中心電費，而當天 41 項資料中心地方投票提案只有 1 項例外，其餘都由選民支持限制或否決開發。本文對照協議全文、喬治亞與俄亥俄專案條款以及 Anthropic 的承諾範圍，拆解這份協議約束得了誰，以及 OpenAI 要求入法時同時向國會要了什麼。#科技政策與法律,OpenAI,資料中心,OpenAI,立法,電力成本,全國社區協議 (openai-national-community-compact-data-center-power-costs-midterm-backlash)
OpenAI 推 GPT-6 Cyber 模型，助研究人員挖出 81 個 Firefox 漏洞
針對網路安全，OpenAI 新推出 GPT-6 Cyber 模型，在找出各項漏洞方面表現出色，也較不會在過程中失控駭入其他平台。OpenAI 表示在測試期間，GPT-6 Cyber 越界的比例低於 1%，而前一代 GPT-5.6 Cyber 約是 5%。 在大多數的網路安全相關任務上，GPT-6 C...
資料中心改蓋沙漠或赴海外？美選後限建壓力升高 科技巨擘找出路
美國期中選舉結果讓科技巨擘面臨新難題：重金投入AI競賽，資料中心卻可能蓋不下去。主張暫停開發的民主黨候選人在多個關鍵州勝選，迫使OpenAI、Meta等業者重新盤算，考慮擴建既有設施，甚至轉往海外。
聯合新聞網偏藍資料中心改蓋沙漠或赴海外？美選後限建壓力升高 科技巨擘找出路
美國期中選舉結果讓科技巨擘面臨新難題：重金投入AI競賽，資料中心卻可能蓋不下去。主張暫停開發的民主黨候選人在多個關鍵州勝選，迫使OpenAI、Meta等業者重新盤算，考慮擴建既有設施，甚至轉往海外。
OpenAI發表GPT-6 Cyber，找出Firefox 81個未知高風險漏洞
OpenAI新推出的資安專用AI模型GPT-6 Cyber，在Firefox找出81個先前未知的高風險漏洞，並針對Linux核心948項漏洞開發出可實際運作的提權攻擊程式
OpenAI 推出 GPT-6 Cyber，資安等級列為 Critical，一次找出 81 個 Firefox 漏洞
OpenAI 在台灣時間 11 月 6 日凌晨正式推出資安專用模型 GPT-6 Cyber，並把它列為 Preparedness Framework 中資安領域的最高等級「Critical」。這款模型在 ExploitGym 拿下 48.5%，比前代 GPT-5.6 Cyber 的 32.1% 高出約
AI Agent真實工作表現低迷 Semianalysis報告揭頂尖模型僅12%效能
圖／本報資料庫商傳媒｜責任編輯／綜合外電報導根據《The Decoder》報導，市場研究機構 Semianalysis Capital Management LLC（簡稱 Semianalysis）近日發布了一項名為 GDPx 的全新評測基準，旨在評估人工智慧 Agent（AI Agent，能夠在真實工作環境中自主執行任務的人工智慧系統）在現實商業場景下的表現。結果顯示，目前沒有任何一款 AI Agent 模型能在這項嚴苛的評測中，達到超過 12% 的總體效能。 這項 GDPx 評測方法是透過 206 項真實世界任務，測試 AI Agent 在專業軟體和模擬知識型工作中的表現，每項任務需耗時數小時。評測涵蓋了 11 個不同領域，例如操作 NX 軟體進行工程設計、搜尋資料室、乃至於攻擊真實的企業系統。Semianalysis 有意排除行政和保險等領域，專注於那些預計 AI 能帶來最大回報的產業。 在 GDPx 總體排名中，Claude Opus 5.5 以 12% 的得分領先群雄，其次是 Google 的 Gemini 4 Carbon，得分為 10.9%，而 OpenAI 的 GPT-6 Astra 則以 9.6% 位居第三。值得注意的是，Gemini 4 Carbon 的成本約為 Claude Opus 5.5 的三分之一。此外，OpenAI 的 GPT-6 Luna 和 DeepSeek 4.1 Flash 的得分約為 5%，但其每項任務的成本僅約一美元。 評測結果也突顯了 AI Agent 在複雜任務中的顯著限制。在金融與法律相關任務上，沒有任何模型能完全解決問題。量化交易領域的 111 次運行中，有 70 次表現不如參考策略。在模擬醫療實踐中，甚至發生了某一模型以醫生名義簽署臨床筆記的事件。這些情況都反映了當前 AI Agent在效能指標上的不足之處，即便達到「部分完成」的標準，也未必能符合嚴格的實際應用要求。 安全性方面也亮起警訊。在 200 次網路安全對齊測試中，高達 98% 的測試都違反了至少一項行為規則。其中，GPT-6 Astra 和 GPT 6.1 Sol 在網路安全領域的得分為零，而 Muse Wonder Full 則獲得 35.2%。Semianalysis 指出，若排除網路安全、生物學和對齊等對安全過濾要求較高的領域，GPT-6 Astra 的得分會提升至 11.8%，超越 Claude Opus 5.5。 GDPx 的任務由 14 個專業合作夥伴提供，這些合作夥伴也向 AI 實驗室出售訓練和評估數據。為防止 AI 實驗室針對特定試題進行優化，這些任務內容並未公開。然而，這項評測方法也引發了部分爭議，開發者 Josh Purtell 便批評 GDPx「雜訊多於訊號」，並指出其可能對代理軟體較弱的供應商造成不利，且由於每個子領域的任務數量有限，結果可能存在不穩定性。Semianalysis 預計未來將每三到六個月更新 GDPx 評測基準。
- TVBS新聞網偏藍
全美公投大反彈！Google逆風砸5600億 牛仔州建資料中心
美國期中選舉過後，AI資料中心擴張出現逆風。Google今天則宣布投資170億美元在懷俄明州興建首座資料中心，OpenAI也公布系列措施、加強對社區承諾。分析普遍認為，資料中心全面停建的可能性低，但速度可能放緩。
中時新聞網偏藍OpenAI祭新政拉攏社區居民 尋求對資料中心改觀
民主黨主打加強AI資料中心監管的政見，被解讀為在美國期中選舉大獲全勝的關鍵之一。OpenAI 5日公布新措施，試圖拉攏社區民眾，說服他們對資料中心改觀。這家開發ChatGPT的AI公司周四發布一系列新政策，旨在協助OpenA
草根影響力新視野
商傳媒
法新社
奧丁丁新聞
科技新報
T客邦
世界新聞網
INSIDE
經濟日報
iThome
硬是要學
香港01