AI安全爭議

https://news.pts.org.tw/hotTopic/742

議題新聞

原站清單中已發現 15 篇，依報導日期由新到舊排列。

本頁 15 篇 · 依報導日期顯示摘要

AI失控、越權引關注數發部「風險分類框架」供指引
AI新一代先進模型衍伸的風險受到檢視，台灣作為硬體製造主要產地，外界也擔憂經濟命脈受到牽動。學者觀察，目前AI模型「越權」的狀況，要對實體世界的產生衝擊仍有鴻溝，不過持續快速發展的話，可能預期更快被破解。針對AI越權的管轄，目前數發部制定風險分類框架，並且研擬AI代理資安參考指引。
9/30 20:20王彥婷、方雋淮https://news.pts.org.tw/article/829381
川普白宮會晤AI科技巨頭達成協議企業將自我監管AI安全
近期各界要求對人工智慧AI監管的聲浪高漲，美國總統川普29日就在白宮，邀集輝達執行長黃仁勳、特斯拉執行長馬斯克等AI科技業領袖會面，共同簽署了一份具道德約束力的承諾，川普則稱為是「AI憲法」的協議，包括要求AI公司要建立內控和異常偵測，引入獨立稽核等，川普除了大力宣揚美國在AI領域的世界領導地位，還宣布，他已將「人工智慧」AI，重新命名為「超級智慧SI」。
9/30 20:05翁如玫https://news.pts.org.tw/article/829382
2026/9/24 13:53 澳政府網站遭AI代理程式入侵總理：對OpenAI延遲通報失望 OpenAI 程式網…
澳洲總理艾班尼斯（Anthony Albanese）23日表示，OpenAI開發的AI代理程式今（2026）年6月入侵澳洲政府健康資料網站，可能是已知第一起AI代理程式入侵政府網站的事件，但該公司直到9月才通知澳州政府，澳洲總理對OpenAI延遲通報表達失望，這起事件也再次引發外界對AI代理失控的隱憂。
9/24 13:53黃韻玲https://news.pts.org.tw/article/828438
2026/9/24 08:18 OpenAI執行長：AI需謹慎發展 UN秘書長籲中美建立對話機制 OpenAI 聯合國…
人工智慧的快速發展，究竟是帶來「超級智慧」，還是可能演變成致命的「機器人殺手」？面對AI可能帶來的失控風險，OpenAI執行長阿特曼（Sam Altman）在聯合國安理會發出強烈警告，呼籲業界必須極度謹慎；聯合國秘書長古提瑞斯（António Guterres）也向中美兩大強權喊話，要求雙方建立人工智慧對話機制，以防範生存危機。
9/24 08:18鄭惟仁、鍾建剛https://news.pts.org.tw/article/828397
2026/9/21 14:21 川普宣示成立AI部隊強調不會阻礙產業成長產業 Gemini 部隊軟體
日前Google旗下AI模型Gemini傳出遭「越獄」，美國科技巨頭也陸續出現放慢AI發展的聲音。不過美國總統川普（Donald Trump）反而強調，絕不會以任何方式阻礙或扼殺AI產業成長，並宣布將比照第一任期成立的美國太空軍，籌組「AI部隊」。學者認為，AI競爭正逐步升高到國家戰略層級，至於台灣能否受惠，業界則指出台灣硬體優勢已相當明確，軟體人才與應用產業也可能迎來新一波轉型契機。
9/21 14:21王彥婷、許家瑞https://news.pts.org.tw/article/827929
2026/9/18 16:19 工程師吹哨示警AI恐失控反對方指氣候變遷更迫在眉睫 Anthropic 模型川普政…
「AI末日論」近來在產官學界掀起劇烈論戰，有頂尖企業工程師化身吹哨者示警，業者盲目發展AI，恐將引發人類滅亡危機。日前甚至發生AI Agent 代理程式在人類毫不知情下，自主集體攻擊其他企業平台的資安事件，震撼各界。然而，也有學者持保留態度，認為氣候變遷與核武威脅才是迫在眉睫的危機，過度擔憂遙遠的AI 末日不切實際。如何在創新應用與風險防範之間取得平衡，是全球共同面對的重要課題。
9/18 16:19徐家仁https://news.pts.org.tw/article/827659
2026/9/18 13:42 英王示警AI不法利用恐致危機黃仁勳強調安全第一人工智慧英國國王查爾斯三世安全…
英國國王查爾斯三世昨（17）日在一場AI峰會，向人工智慧領域高層示警，指出這項技術一旦落入不法分子手中，恐有存亡危機，應建立掌控機制，以免為時已晚。受邀出席的輝達執行長黃仁勳強調，安全必須擺在第一位，如果產品還不夠安全，就不該急著推出，而是要繼續研發。
9/18 13:42黃韻玲https://news.pts.org.tw/article/827649
2026/9/16 12:35 黃仁勳反對為AI訂新法稱企業應把關產品安全 Anthropic 輝達執行長 Goog…
AI安全引發科技業論戰。輝達執行長黃仁勳15日在Salesforce年度大會上表示，不必另訂新法，企業沒把握安全就別推出產品；Anthropic執行長阿莫戴（Dario Amodei）則主張放慢研發，共訂標準。美國政壇也出現監管呼聲，但川普（Donald Trump）反對放緩速度，認為將讓中國受益。
9/16 12:35沈祿珮https://news.pts.org.tw/article/827294
2026/9/15 21:04 AI熱潮席捲影響人類生活效益與風險並存引擔憂人類程式風險工程師
人工智慧熱潮席捲全球，從寫程式、生成圖片到安排生活，AI帶來生產力革命，也引發人類工作遭到取代，甚至科技失控的憂慮。當發展速度遠遠超前法規，該不該踩下煞車、又該由誰出手監管，正成為全球共同難題。
9/15 21:04林意慈https://news.pts.org.tw/article/827220
2026/9/15 20:20 台積電講座與台大學生交流AI 米玉傑：有正確方向使得發揮台積電台大校長 Anthr…
台積電共同營運長米玉傑，今（15）日到台大與學生面對面交流，以AI時代為軸心，討論企業與新世代人才所面臨的機會與挑戰，董事長魏哲家也以預錄影片的方式現身。談到AI工具的應用，米玉傑認為，掌握正確使用方向，才能發揮最大功能，也舉例近期各大公司針對先進AI模型的資安疑慮，台積電在研發等部門，使用時也更加謹慎。
9/15 20:20王彥婷、許家瑞https://news.pts.org.tw/article/827218
2026/9/15 20:14 黃仁勳座談中川普突致電當場擴音駁斥AI陰謀論 Anthropic 輝達執行長黃仁勳…
人工智慧AI快速發展，衍伸資安疑慮，在部份科技巨頭喊話業界要放緩AI開發的步調、加強監管後，週一（14日）美股四大指數全面下挫，美國總統川普也急了，連續發文稱AI危機是個大騙局，還直接打電話正在參加座談的輝達執行長黃仁勳，當場開啟擴音，對全場強調機器人不會接管世界，要求AI減速發展的背後可能有陰謀。
9/15 20:14施慧中https://news.pts.org.tw/article/827219
2026/9/14 13:12 科技巨頭籲放緩AI發展腳步川普：贏過中國才是當務之急 Anthropic 人類眾議…
近年來AI技術一日千里，不過近期卻有前AI研究員發出嚴厲警告，擔憂AI發展過快，恐怕會導致人類滅絕；包含OpenAI在內的科技巨頭也罕見達成共識，呼籲應該放緩AI發展腳步、建立安全護欄。然而面對科技界的憂心，美國總統川普（Donald Trump）與政界高層卻認為，在AI領域保持領先，贏過中國才是當務之急，拒絕放慢研發腳步，凸顯科技安全與國家霸權之間的激烈拉扯。
9/14 13:12鄭惟仁https://news.pts.org.tw/article/826943
2026/9/13 13:01 Anthropic執行長憂AI風險籲業界放緩尖端模型研發 Anthropic Ope…
AI發展速度太快，安全疑慮也跟著升高。Anthropic執行長阿莫戴（Dario Amodei）公開呼籲，業界應該放慢尖端AI模型的研發腳步，OpenAI執行長阿特曼（Sam Altman），和xAI創辦人馬斯克（Elon Musk）都表態支持。OpenAI也因安全考量，暫緩原定今（2026）年推出的新計畫。
9/13 13:01施慧中https://news.pts.org.tw/article/826836
2026/9/10 20:36 Anthropic研究員示警AI若失控未來10年釀人類滅絕機率逾10% Anthro…
AI發展狂飆，安全警報也跟著拉響。Anthropic研究員示警，未來10年內，AI造成全人類滅絕的風險可能超過10%，尤其超級人工智慧ASI一旦失控或遭到濫用，恐引發嚴重後果。但全球AI競賽仍持續推進，如何兼顧科技創新與安全監管，已成各國政府共同難題。
9/10 20:36沈祿珮https://news.pts.org.tw/article/826545
2026/7/30 20:24 OpenAI代理模型發動網路攻擊川普：評估相關管制措施 OpenAI 奧特曼資安風…
OpenAI開發的AI代理模型，日前發生失控資安事故，這套模型自行突破防禦，入侵AI開源平台Hugging Face，引發外界對人工智慧逾越安全屏障、脫離監管的疑慮。美國總統川普對此也表達立場，表示會在不落後中國的條件下，評估相關AI管制措施。OpenAI執行長奧特曼在Podcast節目受訪時表示，這起事件讓他確實感受到AI進化的威脅，呼籲建立AI安全機制。
7/30 20:24張淑芬https://news.pts.org.tw/article/820140

新聞清單累計本站從原站頁面發現的文章，不限報導日期；原站分頁或動態載入的文章可能尚未完整取得。最近檢查：2026/10/5 下午2:23:36。