雲端LLM服務用戶當心!帳密若失竊,存取權恐被轉賣給網路犯罪份子,每個月可能還要支付150萬元
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>大型語言模型(LLM)爆紅,全球都關注採用這類人工智慧技術或服務的應用系統發展,而在資安風險的層面上,絕大多數關注的層面是圍繞著提示的濫用,以及訓練資料的竄改,以雲端原生防護產品著稱的資安新創公司<a href="https://sysdig.com/blog/llmjacking-stolen-cloud-credentials-used-in-new-ai-attack/">Sysdig,本週揭露新的攻擊手法,</a>他們觀察到有些惡意活動利用盜取的雲端服務身分憑證,而且是鎖定前10大雲端LLM服務,並將這種行為稱為LLM綁架(LLMjacking),在上述情境之下,攻擊者會將LLM存取權賣給其他網路犯罪份子,同時,這些雲端服務帳號持有者可能還在持續支付使用LLM應用的帳單,形同幫歹徒的AI使用而埋單。</p> <p>用戶的雲端服務身分憑證之所以被偷走,Sysdig僅簡略表示是來自一個擁有許多用戶的系統,由於當中執行具有CVE-2021-3129漏洞的PHP框架Laravel,而導致這些資料外流。</p> <p>關於LLM綁架具體運作流程,根據Sysdig的描述,一旦攻擊者拿到雲端服務的初步存取方式,他們會挖出登入憑證、獲取雲端環境的存取權,而在這裡他們會試圖存取雲端服務廠商在此代管的LLM模型。在他們觀察到的執行個體當中,業者在這個環境所設置的Anthropic Claude v2/v3模型,是遭到攻擊者鎖定濫用的目標,如果上述狀況沒被發現,受害者為了LLM的使用每天可能需支付超過4.6萬美元(逼近新臺幣150萬元)。</p> <p>Sysdig研究人員也發現一些證據,例如,LLM的反向代理被用於提供這些遭駭帳號的存取權,從這狀況研判,攻擊者是有財務層面的動機,另一個可能動機則是為了提取LLM訓練資料。</p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/LLMJacking-Attack_4.png" style="width: 600px;" /></p> </div></div></div>