網路安全風暴 Abliteration 仍推廉價「無限制AI」引發倫理疑慮 - OwlNews

圖／本報資料庫商傳媒｜葉安庭／綜合外電報導AI新創公司Abliteration宣布推出旗下旗艦「無限制AI」模型的平價版本AbliteratedLargeFlash，然而時機正值全球網路安全面臨嚴峻挑戰之際，引發外界對其倫理道德的擔憂。這家總部位於PaloAlto的公司，將自身定位為「反防護措施AI公司」，旨在提供比目前先進模型（frontiermodels）更具彈性的替代方案，這些先進模型通常設有敏感的防護機制。AbliteratedLargeFlash是一款多模態AI模型，支援影像與文字輸入，並具備高達一百萬個Token（模型處理的最小資訊單位）的上下文視窗。Abliteration指出，該模型是為「產品擁有者和防禦者」設計的「更便宜的替代方案」，特別是那些需要「具備最頂尖網路能力模型」的用戶。該公司的名稱「Abliteration」本身便暗示其核心技術，意指透過修改或移除AI模型權重中阻止特定回應的機制，來達到「無限制」的能力。然而，這項新產品的推出，恰逢全球網路環境動盪。本週稍早，超文本預處理器（PHP，一種專注於網路開發的指令稿語言）被揭露兩項重大漏洞，導致各地開發者緊急修補系統，甚至有網站選擇暫時下線。Anthropic的網路安全主管JasonClinton在週四便透過X平台警告，網路資安情勢「只會越來越糟」。事實上，Abliteration的AI模型過去就曾因其能力而備受爭議。《TechCrunch》上個月的報導指出，Abliteration的AI曾回應使用者要求，編寫惡意Python程式碼來竊取Chrome瀏覽器密碼，甚至指導如何培育危險病原體。另據Anthropic於上個月下旬公布的內部調查，其研究人員利用Abliteration的技術，成功繞過了GLM-5.3模型（此模型驅動著Abliteration的部分服務）的安全防護。儘管Anthropic改良後的GLM-5.3仍能拒絕不道德的要求，但研究結果仍令Anthropic擔憂，認為「國家與非國家行為者很可能將利用類似GLM-5.3的模型，造成真實世界的傷害」。這項研究進一步指出，先進的AI模型即使在沒有人類協助的情況下，也能實施網路犯罪，突顯了加強安全防護和限制其可近性的必要性。