AI技術險賣給中俄!OpenAI黑歷史曝光 阿莫戴出走催生Anthropic

吳孟真約 2 分鐘閱讀

站內可閱讀至 (台北時間)

AI技術險賣給中俄!OpenAI黑歷史曝光 阿莫戴出走催生Anthropic(新聞配圖)
配圖來源:聯合新聞網原站文章
本站保存版本
字級

美國《大西洋月刊》(The Atlantic)報導,早年曾構想向中國大陸、等政府出售預計在未來推出的工具,並一度考慮讓饒舌天王「肯爺」(Kanye West)提前試用尚未發布的GPT-3。此舉讓時任OpenAI研究副總裁阿莫戴,對公司高層產生疑慮,最終成為他離開OpenAI、創辦的原因之一。

報導指出,OpenAI共同創辦人布羅克曼(Greg Brockman)與蘇茲克維(Ilya Sutskever),在2017年提出向各國政府募資的「國家計畫」,最初構想成立國際聯盟,共享通用(AGI)的利益並管理風險,後來卻演變成讓美、中、俄等政府競標OpenAI未來AGI技術權利的募資方案。

兩人據稱認為,OpenAI未來可能被迫把強大技術交給習近平和普亭等外國領導人,因此不如在公司需要資金時,先從中獲利。

對此,阿莫戴強烈反對,警告此舉可能「加劇軍備競賽、助長侵犯人權的行為,並損害OpenAI的道德正當性」。該構想最終因OpenAI獲得微軟大舉投資而未付諸實行。

另一場爭議發生在2020年。報導表示,曾與肯爺見面,並允諾讓他提前使用當時尚未發布的GPT-3測試版本,但遭時任OpenAI政策主管克拉克(Jack Clark)否決,部分原因是肯爺當時行為日益失序。

報導也稱,阿莫戴對OpenAI領導層的不滿持續累積。他懷疑奧特曼在與微軟談判時,並未真正向對方提出自己爭取的AI安全條款,但另一方面卻告訴他,是微軟拒絕接受。其後,阿莫戴私下集結包括克拉克、妹妹丹妮拉(Daniela Amodei)等七名OpenAI成員,在2021年共同創立「更有安全意識」的AI實驗室Anthropic。