Anthropic 推 AI 安全法案草案 籲美國會管制致命 AI 威脅 - OwlNews

圖／本報資料庫商傳媒｜責任編輯／綜合外電報導美國人工智慧（AI）公司Anthropic近日向美國國會議員提出一份AI安全法案草案，旨在呼籲政府應有權阻擋可能造成大規模死傷或經濟損失的危險AI模型發布。此舉顯示AI產業在快速發展的同時，對潛在風險的擔憂日益加劇。根據《DeccanChronicle》報導，Anthropic提出的草案建議，若某個AI模型被認定可能立即造成超過50人死亡或受傷，或導致超過10億美元的損害，美國政府應能阻止其發布。這些潛在威脅包括AI模型製造或釋放生物武器、AI失控，以及網路攻擊等。該公司發言人指出，這項提案是Anthropic自今年6月以來，持續向聯邦與州政府議員倡議的「先進AI框架」之具體體現。該法案草案還要求AI製造商必須測試其模型並公開測試結果，同時允許獨立評估者定期審查模型。Anthropic表示，這些是「明智的政策」，相信國會應採取行動。然而，《DeccanChronicle》也提到，現任總統川普（DonaldTrump）政府迄今已拒絕了加強監管的呼籲。Anthropic共同創辦人JackClark上週六在曼谷舉行的國際貨幣基金（IMF）與世界銀行年會上表示，快速進步的AI能力將加速各領域的變革。Clark強調，需要國際合作來為AI制定「不尋常且嚴肅的規則」，並警告政策制定者採取行動的時間窗口正在縮小。他引用Anthropic內部AI模型預測，在特定條件下，AI可能在2030年前將美國經濟產出提高近50%，達到44兆美元。Clark同時警示，利用AI進行科學研究也可能導致誤用，例如生物及網路武器等，需要最嚴格的人為監督與透明度。AI應用帶來營運變革與產業調整除了對外部監管的呼籲，Anthropic內部營運也正因AI的廣泛應用而發生轉變。根據《mint》與《CIOL》報導，Anthropic的初級技術職位招聘比例大幅下降，從27%降至9%；自2025年初以來，技術部門的初級員工佔比從21%滑落至14%。這顯示許多基礎的程式編寫、偵錯與技術維護工作正逐步被自動化系統取代。至2026年8月，由員工指導的AI系統活躍工時已是人類員工的六倍。這種轉變也影響了招聘標準，公司開始更重視應徵者的軟技能和戰略能力，而非單純的技術專長。儘管初級職位減少，Anthropic的整體員工人數仍持續成長，技術職位的絕對招聘人數也有所增加，顯示公司正朝向不同的人才結構調整。網路安全新威脅與客戶合作變動Anthropic也在網路安全領域發出警訊。該公司警告，AI的進步可能使自我複製的惡意軟體（AI蠕蟲）更具實用性，可能在智慧電視、攝影機等聯網裝置間傳播，適應不同硬體並獨立運行。研究指出，參數約300億或更小的AI模型，若依循歷史發展進程，可能在2026年底前達到發動此類攻擊所需的能力。然而，Anthropic在商業合作方面也面臨挑戰。AI程式開發平台Replit近日宣布，已將OpenAI列為其首選AI模型供應商。Replit執行長AmjadMasad表示，OpenAI的模型在性能和成本上，對Replit的需求而言更具優勢，其Sol和Astra模型在內部基準測試中表現更佳。儘管Replit澄清客戶仍可選用Anthropic的Claude模型，但這項改變意味著Anthropic失去了一個曾是其前五大客戶的重要合作夥伴。在追求利潤的同時，Anthropic也展現對公共利益的承諾。根據《TheMighty790KFGO》報導，Anthropic計畫將公司5%的股份投入一個新的公共利益基金，並可依公司估值增長進一步增加持股比例。此基金將用於支持非營利捐款、對特定族群直接分配，以及處理AI對勞工影響的相關計畫，但該基金的股權不會用於在美國或海外的遊說或政治捐獻。這項承諾是Anthropic作為一家「公益企業」（publicbenefitcorporation）上市計畫的一部分，旨在平衡利潤與更廣泛的社會利益。參考來源AnthropicPitchesAISafetyBilltoLawmakers（DeccanChronicle）Anthropicco-foundersaysAIcouldboostUSGDP50%（BusinessDay）AICodingPlatformDumpsAnthropicforOpenAI,SaysChatGPT…（InternationalBusinessTimes,SingaporeEdition）AnthropicwarnsAIwormscouldspreadacrosssmartdevicesa…（BusinessUpturn）AIautomationreshapesrecruitmentasAnthropicseesentry-l…（mint）AnthropicCutsJuniorTechnicalHiringasAIAgentsTakeon…（CIOL）Anthropictocommit5%staketonewpublicbenefitfund（TheMighty790KFGO|KFGO）