「對AI應採核電級別防護措施」！OpenAI安全系統團隊負責人辭職後撰文轟前東家企業文化

外媒最新報導指出，OpenAI一名專注於AI安全的員工已從公司離職，並警告頂尖AI公司在降低風險方面做得還不夠。負責OpenAI安全團隊透明度工作的DavidRobinson週六(3日)在《大西洋月刊》撰文指出，OpenAI「一直透過反覆試錯發展壯大」，但這種方式不可避免會有失敗的時候，隨著AI技術的能力不斷提升，這些失敗造成的風險也在加大，他還以OpenAI未能阻止其AI在測試過程中失控作為例證。Robinson在文章中寫道，「我以前的同事都很聰明、工作努力，也努力做出正確的選擇，但隨著公司從一個產品發布衝向下一個產品發布，它並沒有達到我認為所需要的謹慎程度」，並稱真正需要的是「第一次就做到更接近完美」。OpenAI一名發言人表示，Robinson上星期離開公司，此前也曾負責公司的政策規劃工作，並參與AI安全透明度工作，包括開發和發布模型「系統卡」。近幾週，多家頂尖AI公司的員工都對該技術可能帶來的災難性風險發出警告。有些人甚至表示，AI有朝一日可能會消滅人類。在此背景下，Anthropic執行長達DarioAmodei呼籲放慢開發最前沿模型的速度，並將引入第三方評估人員，協助審查以保證安全。業內其他人士，包括OpenAI執行長奧特曼及Grok的馬斯克，也公開支持Amodei的計畫。文中還說，AI公司應該更像核電站那樣營運，「設置多層冗餘機制，並進行謹慎且耗時的規劃，以免偶發且不可避免的人為錯誤打開通往災難的大門」。