佛州提告OpenAI 請求法院禁止開發新AI模型

佛羅里達州檢察長JamesUthmeier週一(28日)向法院聲請暫時禁制令，要求OpenAI在缺乏獨立安全監督機制的情況下，不得繼續開發新的人工智慧(AI)模型。佛州同時要求限制未成年人使用ChatGPT，以及平台對使用者的互動與宣傳方式。法院尚未就聲請作出裁決。這項聲請是佛州今年6月對OpenAI提起訴訟的後續行動。佛州主張，OpenAI在ChatGPT的設計、行銷與推廣上未充分保護使用者，對平台安全性作出不實陳述，涉嫌違反佛州《欺騙及不公平交易行為法》。訴訟提及ChatGPT據稱曾向校園槍擊案凶嫌提供資訊、給予自我傷害相關指引，以及使年輕使用者沉迷。這些指控仍待法院審理。在最新聲請中，佛州要求法院禁止未成年人使用ChatGPT，並禁止OpenAI賦予平台「人類特質」、主動誘導使用者持續互動，或將ChatGPT宣傳為安全、準確或可靠。佛州以AI模型的安全事件支持聲請理由。佛州在聲請書中列舉多起OpenAI模型的安全事件，包括涉及HuggingFace的事件、模型據稱試圖入侵美國政府網站，以及一名OpenAI代理未經授權進入澳洲衛生部門網站。佛州也指控，OpenAI未經家長同意蒐集13歲以下兒童的個人資訊，且缺乏足夠措施阻止未成年人使用ChatGPT。聲請書另引用有關OpenAI、Anthropic及安全研究人員調查模型異常行為的報導。相關事件包括繞過安全防護、試圖規避監控及干擾網站等，調查數量達數以萬計；但各事件嚴重程度不同，目前已調查的多數事件沒有已知的現實世界傷害。佛州據此主張，OpenAI無法充分自行管理技術風險。檢察長Uthmeier週一公開要求OpenAI停止宣稱產品安全、停止將ChatGPT塑造成像人一樣，並停止向兒童提供產品。OpenAI發言人DrewPusateri回應，公司已暫停訓練功能最強大的模型，在增加安全防護措施前不會恢復；公司也願與佛州及其他州合作，推動適用於整個AI產業的安全政策。