iThome

台灣·持續收錄

標籤科技編輯標籤

今日收錄: 0篇
近 24 小時: 21篇
近 7 天: 118篇

媒體資料

刊登媒體: iThome
所屬地區: 台灣
收錄範圍: 台灣媒體 · 繁體中文
來源網站: www.ithome.com.tw
月造訪量: 1,694,5742026/09
Radar 全球: 前 100,000 名
開始收錄: 2026/9/29
最新報導: 2026/11/6
最近更新: 11/7 06:54
流量資料: 2026/10/25 更新

流量與排名比較 →

寫法近 90 天

轉述貼文: 0.3%2 篇
發言者: 公職、政治人物 50.0%網友、民眾 50.0%
標題用詞: 懸念 0.0%反應 0.1%攻擊 0.0%

看這家的轉述報導與各家比較 →

網站流量來源Similarweb · 2026/09

台灣訪客占 90%，約 1,532,709 次造訪

來源國家（前五）

台灣90%
香港4.4%
中國0.9%
美國0.9%
新加坡0.3%

導流來源

自然搜尋59%
直接造訪24%
其他網站連入10%
社群3.4%
電子郵件1.2%
付費社群0.9%
生成式 AI0.7%
展示廣告0.3%
付費搜尋0.1%

全台排名: 第 492 名
全球排名: 第 35,757 名
類別排名: 第 28 名 · Computers Electronics and Technology/Computers Electronics and Technology
跳出率: 63%
每次造訪: 2.6 頁
平均停留: 2 分 8 秒

整個網域的估算值，比例以造訪次數計，非精確 page views。

媒體關係

近 7 天

已比對 118 篇內文

2
引用其他媒體: 0
被其他媒體引用: 0
同署名跨站: 0
已註明來源: 0
未辨識稿源

主要關係對象2 家

彭博社1筆關係
路透社1筆關係

直接文字比對引用對方被對方引用

在媒體關係圖查看 →

媒體關係

比對結果載入中…

報導關鍵字

近 7 天

較早收錄

本頁 60 篇 · 依收錄順序顯示摘要

Hugging Face API漏洞洩露驗證令牌，可讓攻擊者存取微軟、Meta、Google的AI模型
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p><a href="https://www.lasso.security/blog/1500-huggingface-api-tokens-were-exposed-leaving-millions-of-meta-llama-bloom-and-pythia-users-for-supply-chain-attacks" target="_blank">研究人員發現</a>AI模型資源平臺Hugging Face上存在API漏洞，洩露包含微軟、Meta及Google等公司的API驗證資訊，嚴重者可能讓攻擊者污染訓練資料集或竊取、改造成惡意的AI模型。</p> <p>隨著大型語言模型（LLM）快速普及，GitHub和Hugging Face也成為許多LLM專案開發人員愛用的資源平臺。其中，Hugging Face一項重要功能是開源碼函式庫Transformers。這個函式庫裏代管了50萬個AI模型及25萬項資料集，包括Meta的Llama、Bloom、Pythia及其他預訓練模型。Hugging Face提供API，供外部開發人員及企業將Python函式庫整合到其模型，或讀取、新增、修改或刪除儲存庫或檔案。GitHub的API也是類似功能。若取得GitHub和Hugging Face API驗證令牌，可能導致企業資料外洩、惡意模型散布等不良後果。</p> <p>資安廠商Lasso Security近日在一項研究中，發現不論GitHub或Hugging Face都可能讓不肖人士從其儲存庫（repository）取得平臺上各模型供應商的API驗證令牌（token），得以存取模型或其他程式碼。研究小組一共從兩平臺上找到1,681個有效的令牌。經過一步分析資料，他們取得了723家企業組織的帳號，包括Meta、微軟、Google、VMware及Hugging Face等。其中655個令牌具有寫入權限，其中77個還能寫入多個組織系統，令研究人員得以全權控制多個知名公司的程式碼儲存庫，如Hugging Face上的Pythia的EleutherAI、Bloom的BigScience Workshop、Meta Llama 2等，都是下載次數超過百萬的熱門模型。</p> <p>研究人員警告，只要控制這些程式碼儲存庫，就能發動多種攻擊。像是最基礎的竊取模型和資料集，或是污染資料集：研究人員從API取得14個每月下載次數數十萬的資料集，得以扭曲機器學習模型的完整性。最嚴重的是供應鏈攻擊：改造現有模型使其成為惡意模型，危害大量依賴這些基礎模型的應用程式。</p> <p>他們還意外發現到一個Hugging Face之前宣布已停用的org_api tokens，只要稍稍變更程式碼，雖然無法寫入Python函式庫，但仍可讀取，讓研究人員成功下載多個不公開的模型，包括微軟擁有的模型。</p> <p class="rtecenter"><a href="https://s4.itho.me/sites/default/files/files/1205-hugging%20face-600-1-%E5%8E%9F%E5%9C%96.jpg" target="_blank"><img alt="" src="https://s4.itho.me/sites/default/files/images/1205-hugging%20face-600-1.jpg" style="width: 600px;" /></a></p> <p><a href="http://www.lasso.security/blog/1500-huggingface-api-tokens-were-exposed-leaving-millions-of-meta-llama-bloom-and-pythia-users-for-supply-chain-attacks" target="_blank"><span style="color:#696969;"><span style="font-size:14px;">圖片來源_Lasso Security</span></span></a></p> <p>研究人員最後通報Hugging Face以及研究中其他受影響的組織，像是微軟、Meta、Google及VMware及GitHub等，並且解決org_api令牌還能讀取的問題。這些知名企業已經撤銷其令牌，也移除了API上曝露出的token。</p> <p>但研究人員表示，Hugging Face並未立即採取積極作為保護其用戶令牌。他們同時呼籲所有開發人員避免將令牌資訊寫死在API，以免洩露資訊而為攻擊者開方便之門。</p> </div></div></div>
2023/12/5 13:02作者林妍溱https://www.ithome.com.tw/news/160166
新版Android Studio Hedgehog升級IntelliJ、加入功耗分析工具
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>Google推出最新Android官方開發IDE <a href="https://android-developers.googleblog.com/2023/11/android-studio-hedgehog-is-stable.html">Android Studio Hedgehog</a>，在新版本的更新重點，不只是升級IntelliJ IDEA至2023.1版本，也加入分析功能，助開發者提高應用程式效能和電力應用效率，同時也調整使用者介面提升程式碼編寫效率，還提供SDK升級助理，協助開發者將應用程式升級至新的Android版本。</p> <p>Android Studio Hedgehog開始提供專案升級到Android 14，也就是API等級34，官方還添加額外的相關性過濾器，可刪除不必要的步驟，SDK升級助理會在部分情況，替開發者準確指出需要調整的程式碼。SDK升級助理提供逐步指導流程，協助開發者完成targetSdkVersion升級，官方提到，SDK升級助理會將targetSdkVersion相關文件直接帶入IDE，加速整個更新流程。</p> <p>Android Studio Hedgehog現在可以從Google Play控制臺獲取Android vitals資料，這代表開發者不需要對應用程式進行額外的配置，就可以查看發布到Google Play商店的應用程式崩潰報告，透過利用這些資料，開發者可以快速發現並解決應用程式崩潰的原因，進而提高程式品質和穩定度。</p> <p>新的IDE也讓開發者更容易解決Android應用程式的耗電問題，透過使用可以呈現裝置功耗的新工具Power Profiler，了解不同子系統的功耗資訊，協助開發者視覺化應用程式行為和耗電量之間的相關性，官方解釋，Power Profiler直接量測功耗，和之前以模型估算電力消耗的Energy Profiler的方法不同。藉由使用更精確的電力消耗資訊，開發者可以辨識並修復應用程式中的功耗問題，最佳化應用程式電力和散熱效能，提升終端使用者體驗。</p> <p>開發者會在Android Studio Hedgehog看到更乾淨簡潔的使用者介面，官方調整介面的目標，要減少視覺複雜度，供開發者更簡單地存取IDE核心功能，來提高整體開發體驗。而開發者現在也可以在嵌入式虛擬裝置，或是實體裝置鏡像視窗中執行布局檢視器，新的嵌入式布局檢視器提升布局檢查的效率，也更節省螢幕空間，使得開發者可以在單一工具視窗中，組織使用者介面除錯工作流程。</p> <p>新加入Android Studio即時編輯（Live Edit）功能的手動模式，提供了預測快捷鍵，讓開發者可以更精確地控制部署更新到執行中應用程式的時機。而在Composable函式中設置中斷點時，除錯器現在會列出函式的參數和狀態，讓開發者更容易辨識出可能意外導致重組的變更。</p> <p>在Windows中，官方也盡量減少防毒軟體對Android Studio建置速度所產生的影響。由於當Windows Defender即時掃描Gradle所使用的目錄時，就可能發生建置速度減慢的狀況。當此狀況發生時，建置分析器能夠警示開發者，並且提供防毒軟體主動掃描排除相關目錄的建議。</p> </div></div></div>
2023/12/5 08:27作者李建興https://www.ithome.com.tw/news/160153
Google雲端Filestore Enterprise現提供CSI整合備份功能
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>Google雲端<a href="https://cloud.google.com/blog/products/containers-kubernetes/filestore-features-for-stateful-workloads-on-gke" target="_blank">更新全託管整合GKE的NFS儲存服務Filestore</a>，新支援Filestore Zonal高容量達100TiB，並且推出適用Filestore Enterprise的CSI整合備份，同時還強化Filestore Enterprise的多重共享功能，現在用戶可以細分多達80個共享。</p> <p>Filestore現在分為Basic、Enterprise與Zonal（原為High Scale）三層，每個層級針對不同的使用案例和性能需求，提供不同的功能和服務。Basic適用於基礎文件儲存功能等效能需求不高的應用，而Zonal用戶的資料會在同一個區域儲存兩次，以確保區域中的高可用性，Zonal的可用性SLA為99.9％，而Enterprise則是跨區域服務，會在單一地區的三個區域同步複製資料，維持可用性SLA達99.99%。</p> <p>Filestore是一個GKE整合CSI驅動程式的儲存服務，支援諸如機器學習等大規模GKE有狀態工作負載。CSI（Container Storage Interface）驅動程式是一個標準化介面，可用於像是Kubernetes容器化環境中的儲存系統，該介面讓儲存供應商，可以對容器提供一致且相容的儲存解決方案，不受特定容器調度系統的限制。</p> <p>而現在由CSI驅動程式支援的Filestore Zonal，最高容量為100TiB，這項整合服務從最少10TiB儲存容量開始提供，並隨用戶需求線性擴展容量和效能，每個執行個體最高可達100TiB的高容量和高效能需求。</p> <p>Filestore Zonal吞吐量為26GiB/s，能夠良好地支援PyTorch或Tensorflow等這類需要檔案介面的大規模機器學習訓練框架，此外，Filestore Zonal也擁有無中斷升級功能，每10TiB具有1,000個NFS連接，100TiB就會擁有多達10,000的並行NFS連接，支援大型GKE部署，以及多寫入機器學習工作負載。</p> <p>官方提到，Filestore Zonal的CSI驅動程式補充了現有Filestore Enterprise和Filestore Basic產品線。供用戶可以根據效能、容量、資料保護需求，選擇適當的檔案儲存層。</p> <p>Google也推出適用於Filestore Enterprise的CSI整合備份，在Filestore Basic層級，用戶之前就已經可以使用磁碟區快照API保護資料，而現在也可以使用相同的方式保護Filestore Enterprise。用戶可以備份現有Enterprise磁碟區，並使用快照作為資料來源，建立新的磁碟區。官方表示，新功能可讓用戶直接從CSI驅動程式備份和復原執行個體。需要注意的是，該功能僅在Enterprise層的單一共用配置支援，目前多重共享配置還不支援磁碟區快照API。</p> <p>Filestore Enterprise與GKE共享執行個體功能，讓用戶可以將1TiB執行個體細分為多個100GiB持久性磁碟區，以提高儲存利用率。而現在官方更新多重共享功能，讓用戶能夠將Enterprise執行個體細分數量，從之前的10個增加為80個共享，並且可從10GiB最小共享容量開始。現在Enterprise多重共享，GKE有狀態工作負載的持久性儲存不僅具有高耐用度和高效能，且每個執行個體高達80個共享，達到更高的綜合利用率。</p> </div></div></div>
2023/12/5 08:36作者李建興https://www.ithome.com.tw/news/160160
AWS Clean Rooms添加機器學習和差分隱私功能，強化資料應用與隱私安全性
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>AWS更新其安全資料共享服務Clean Rooms，除了<a href="https://aws.amazon.com/tw/blogs/aws/aws-clean-rooms-ml-helps-customers-and-partners-apply-ml-models-without-sharing-raw-data-preview/">新增機器學習支援</a>，協助用戶在不共享原始資料的情況下應用機器學習模型，同時也<a href="https://aws.amazon.com/tw/blogs/aws/aws-clean-rooms-differential-privacy-enhances-privacy-protection-of-your-users-data-preview/">加入了差分隱私（Differential Privacy）功能</a>，在協作聚合資料分析結果時，模糊個人資料的貢獻。</p> <p>Clean Rooms服務可讓企業和其合作夥伴安全協作資料處理，提供一種不共享原始資料就能協作和分析資料的方法，在追求效率和預測精確度的同時，也能安全地合作。Clean Rooms內建隱私控制功能，能以權限控制Clean Rooms成員所執行的查詢和輸出。</p> <p>新功能Clean Rooms ML則允許用戶使用機器學習模型生成預測性分析，同時保護敏感資料。而這項功能其中一項主要應用，是創建市場行銷用途的相似用戶群組，像是航空公司可以和線上預訂服務合作，針對類似特徵的用戶進行行銷活動；汽車貸款和汽車保險公司也可以辨識，與現有租賃車主類似特徵的潛在汽車保險客戶。這項功能同樣也能用於加速研究機構和醫院的臨床研究，找到與現有臨床試驗者相似的候選人。</p> <p>Clean Rooms ML會於每一次組織資料共享合作中，訓練一個由AWS管理的模型，協助用戶快速生成相似資料集，省去用戶自行建立、訓練和部署模型的時間。Clean Rooms ML還提供了許多靈活的控制功能，使用戶和其合作夥伴，可以調整機器學習模型預測結果。</p> <p>AWS Clean Rooms現在也提供差分隱私功能，系統會在用戶的查詢結果，添加經過仔細校準的誤差，也就是雜訊，讓查詢結果足夠準確，在提供有意義的分析結果的同時，也遮蔽來自特定個人的資料貢獻。差分隱私功能包括了一個隱私預算元件，透過將隱私作為每次執行查詢時消耗的有限資源，控制用戶資料集執行的查詢數量，確保雜訊不能被平均，確保不會洩露任何個人資料。當隱私預算耗盡時，在預算增加或是刷新之前，都無法於資料集中執行更多的查詢。</p> <p>差分隱私是一項增強資料共享時隱私保護的技術，能夠分享描述資料庫中部分統計特徵，又不公開特定個人資訊，不過缺點就是有其實作門檻，而Clean Rooms差分隱私功能，讓應用該技術變得更容易，用戶只需要對資料表啟用差分隱私功能，並在協作中配置差分隱私政策，就能簡單地應用該技術。</p> </div></div></div>
2023/12/4 16:29作者李建興https://www.ithome.com.tw/news/160149
【資安日報】12月4日，研究人員揭露竊資軟體Lumma攻擊行動，駭客佯裝金融服務業者寄送發票，將用戶導向不存在的網頁迴…
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>使用竊資軟體Lumma的駭客組織近期動作相當頻繁，其攻擊行動經常會使用較為罕見的招式，例如：利用三角量測判斷所處的是真實使用者操作環境，或是研究人員分析用的沙箱；再者，這些駭客前陣子<a href="https://www.ithome.com.tw/news/160011">聲稱能恢復使用者的連線階段，挾持他們的Google帳號</a>。</p> <p>而在新一波的攻擊行動中，駭客則是在網路釣魚攻擊運用了另一種不尋常的手法，他們寄送的郵件會提供吸引使用者容易點選的按鈕，卻是將他們導引到實際上不存在的URL網址，讓收信者點選另一個URL，希望能夠藉此避開只檢查第一次點選網址的資安防護措施。</p> <p> </p> <h3><strong>【攻擊與威脅】</strong></h3> <p><a href="https://perception-point.io/blog/behind-the-attack-lumma-malware/"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">竊資軟體Lumma假借寄送發票的名義散布，為迴避偵測，駭客故意將使用者導向不存在的網頁，目的是要他們點選另一個惡意網址</span></strong></a></p> <p></p> <p><a href="https://s4.itho.me/sites/default/files/images/Lumma-13.png"><img alt="" src="https://s4.itho.me/sites/default/files/images/Lumma-13.png" style="width: 300px; float: right;" /></a>資安業者Perception Point揭露最新一波的竊資軟體Lumma的攻擊行動，攻擊者冒充金融服務業者的名義，宣稱提供發票向使用者寄送電子郵件，一旦使用者依照指示點選檢視及下載發票的按鈕，便會被帶往「網頁無法使用」的網站，使用者被迫回到電子郵件點選另一個URL，研究人員指出，攻擊者這麼做的目的，就是為了避免第一個按鈕觸發防毒軟體的警報。</p> <p>這個URL連線的網站連接看似無害，然而只要使用者點選，就有可能被重新導向至第2個URL啟動JavaScript指令碼，從被入侵的網站下載包含惡意酬載在內的多個檔案。</p> <p>在這起惡意軟體攻擊當中，駭客會在受害電腦部署3個可執行檔1741.exe、RegSvcs.exe（竊資軟體Lumma）、wmpnscfg.exe，共通點是這些惡意程式檔案存放於一般軟體不會使用的資料路徑，例如：系統暫存資料、Microsoft.NET資料夾、Windows Media Player資料夾，而且，這些作案工具的處理程序，都是透過特定的父處理程序執行，目的是增加攻擊的複雜性，進而混淆惡意活動。</p> <p><a href="http://unit42.paloaltonetworks.com/new-toolset-targets-middle-east-africa-usa/"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">美國、中東、非洲企業組織遭到後門程式Agent Raccoon鎖定</span></strong></a></p> <p></p> <p><a href="https://s4.itho.me/sites/default/files/images/word-image-131403-3.png"><img alt="" src="https://s4.itho.me/sites/default/files/images/word-image-131403-3.png" style="width: 300px; float: right;" /></a>資安業者Palo Alto Networks揭露最近出現的後門程式Agent Racoon攻擊行動，駭客鎖定美國、中東、非洲地區，針對政府機關、電信業者、教育產業、房地產、零售業、非營利組織發動攻擊。</p> <p>此惡意軟體以.NET開發，被偽裝成Google更新程式、OneDrive更新程式來進行散布，一旦成功入侵受害電腦，該惡意軟體就會透過DNS通訊協定建立通訊管道，與C2基礎設施進行連線，為了回避偵測，該後門程式使用國際化網域名稱編碼（Punycode）查詢子網域，其內容還帶有隨機資料，使得通訊更難以追蹤。此後門程式的主要功能在於，讓攻擊者能遠端執行命令、上傳或下載檔案、存取受害電腦，研究人員也發現不同版本的Agent Racoon，差異在於針對特定環境調整其組態，研判駭客正積極開發來因應特定的攻擊行動需求。</p> <p>除了上述後門程式，攻擊者也使用名為Mimilite的特製版本Mimikatz，在受害組織收集帳密資料，以及模仿Windows網路提供者元件的DLL竊資軟體Ntospy，以便在受害組織執行後續的攻擊行動。</p> <p><a href="http://arcticwolf.com/resources/blog/qlik-sense-exploited-in-cactus-ransomware-campaign/"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">資料分析系統Qlik Sense重大漏洞被用於攻擊行動，駭客發動勒索軟體Cactus攻擊</span></strong></a></p> <p></p> <p>資安業者Arctic Wolf揭露近期的勒索軟體Cactus攻擊行動，駭客鎖定資料分析系統Qlik Sense的漏洞CVE-2023-41265、CVE-2023-41266、CVE-2023-48365（CVSS風險評分介於8.2至9.9），於目標系統執行程式碼，觸發Qlik Sense Scheduler執行新的處理程序。</p> <p>攻擊者利用PowerShell和背景智慧型傳送服務（BITS），下載其他作案工具，並進行遠端控制。這些駭客載入受害伺服器的工具，包含：ManageEngine UEMS系統的主程式、遠端桌面連線工具AnyDesk、SSH終端機連線程式PuTTY Link（Plink），然後執行多項命令並將結果輸出到特定的TrueType字型檔（TTF），研究人員推測，攻擊者這麼做的目的，是為了利用路徑穿越的方式來輸出命令。</p> <p>接著，攻擊者進一步移除Sophos防毒軟體、竄改管理者密碼、利用Plink命令列建立遠端桌面連線隧道，最終部署勒索軟體並進行檔案加密。此外，駭客也利用WizTree、rclone來分析、竊取伺服器的資料。</p> <p><a href="https://www.bleepingcomputer.com/news/security/black-basta-ransomware-made-over-100-million-from-extortion/"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">勒索軟體駭客Black Basta敲詐逾1億美元贖金</span></strong></a></p> <p></p> <p><a href="https://s4.itho.me/sites/default/files/images/basta inv.png"><img alt="" src="https://s4.itho.me/sites/default/files/images/basta%20inv.png" style="width: 300px; float: right;" /></a>資安險業者Corvus與區塊鏈分析業者Elliptic聯手，針對勒索軟體駭客組織Black Basta進行調查，指出這些駭客從2022年4月開始從事攻擊行動迄今，329個組織感染其加密程式，其中有超過90個受害組織向其低頭，共支付1.07億美元的贖金，平均每個組織向其支付120萬美元，其中金額最高的為900萬美元，至少18筆贖金超過100萬美元。</p> <p>而對於受害組織的地區分布，研究人員指出，61.9%是美國組織，德國組織居次，占15.8%。由於惡意軟體QBot（亦稱Qakbot）在攻擊行動提供駭客組織Black Basta初始入侵管道，經營此惡意軟體的人士大約會拿到贖金的10%抽成，提供作案工具的經營團隊平均會收取14％贖金，而駭客流通這些金錢的管道是俄羅斯加密貨幣交易所Garantex。</p> <p>資料來源</p> <p>1. <a href="https://www.elliptic.co/blog/black-basta-ransomware-victims-have-paid-over-100-million">https://www.elliptic.co/blog/black-basta-ransomware-victims-have-paid-over-100-million</a><br /> 2. <a href="https://www.corvusinsurance.com/blog/black-basta-ransomware-has-extracted-over-100-million-from-its-victims">https://www.corvusinsurance.com/blog/black-basta-ransomware-has-extracted-over-100-million-from-its-victims</a></p> <p><a href="https://blog.talosintelligence.com/new-sugargh0st-rat/"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">惡意軟體Gh0st RAT變種鎖定韓國、烏茲別克而來</span></strong></a></p> <p></p> <p><a href="https://s4.itho.me/sites/default/files/images/sugarghost-infection-1.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/sugarghost-infection-1.jpg" style="width: 300px; float: right;" /></a>思科旗下威脅情報團隊Talos揭露從今年8月出現的RAT木馬程式SugarGh0st，此為Gh0st RAT變種，駭客將其用來攻擊烏茲別克外交部，以及韓國的使用者。</p> <p>駭客透過RAR壓縮檔來散布此木馬程式，該壓縮檔的內容包含了Windows捷徑檔（LNK），或是觸發LNK的惡意文件檔案，一旦使用者執行，電腦就有可能執行JavaScirpt指令碼，從而感染SugarGh0st。研究人員根據駭客所使用的誘餌文件檔案，推測駭客來自中國。</p> <p> </p> <h3><strong>【漏洞與修補】</strong></h3> <p><a href="https://www.bleepingcomputer.com/news/security/new-bluffs-attack-lets-attackers-hijack-bluetooth-connections/"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">新型態藍牙攻擊手法Bluffs鎖定通訊協定漏洞而來，可讓攻擊者進行中間人攻擊，挾持藍牙通訊</span></strong></a></p> <p></p> <p>法國通信系統工程師學校與研究中心Eurecom的研究人員揭露名為Bluffs的藍牙通訊協定漏洞CVE-2023-24023，這些漏洞涉及此通訊協定標準的2項缺陷，原因與匯出連線階段（Session）金鑰並進行解密、交換資料的流程有關。這些弱點影響4.2版至5.4版的藍牙通訊，破壞藍牙連線的保密性，而有機會讓攻擊者冒充連線設備來進行中間人攻擊，CVSS風險等級為6.8分。</p> <p>研究人員總共公布了6種攻擊手法，其共通點就是利用連線階段金鑰產生的過程裡，存在的4種缺陷（2個已知、2個新弱點），從而強制產生強度較弱，有可能猜到內容組成的金鑰。</p> <p>接下來，攻擊者再進行暴力破解，從而掌控過往的通訊內容，並解密、操控日後設備進行的藍牙通訊。研究人員針對不同的藍牙晶片進行測試，結果發現，所有的晶片至少有3種Bluffs攻擊手法能夠奏效。監督藍牙標準開發的非營利組織Bluetooth SIG也收到研究人員通報，並發布緩解措施。</p> <p>資料來源</p> <p>1. <a href="https://dl.acm.org/doi/10.1145/3576915.3623066">https://dl.acm.org/doi/10.1145/3576915.3623066</a><br /> 2. <a href="https://www.bluetooth.com/learn-about-bluetooth/key-attributes/bluetooth-security/bluffs-vulnerability/">https://www.bluetooth.com/learn-about-bluetooth/key-attributes/bluetooth-security/bluffs-vulnerability/</a></p> <p> </p> <h3><strong>【其他新聞】</strong></h3> <p><a href="https://binarly.io/posts/The_Far_Reaching_Consequences_of_LogoFAIL/index.html"><strong><span style="font-size: 20px;"><span style="color: rgb(0, 0, 0);">研究人員揭露LogoFAIL漏洞，藉由電腦UEFI開機的商標圖片解析元件執行惡意酬載</span></span></strong></a></p> <p></p> <p><a href="https://www.vmware.com/security/advisories/VMSA-2023-0026.html"><strong><span style="font-size: 20px;"><span style="color: rgb(0, 0, 0);">VMware雲端服務交付平臺Cloud Director存在身分驗證繞過漏洞</span></span></strong></a></p> <p><a href="https://www.securityweek.com/hackers-hijack-industrial-control-system-at-us-water-utility/"><strong><span style="font-size: 20px;"><span style="color: rgb(0, 0, 0);"></span></span></strong></a></p> <p></p> <p><a href="https://www.tenable.com/security/research/tra-2023-37"><strong><span style="font-size: 20px;"><span style="color: rgb(0, 0, 0);">Arcserve統一資料防護系統UDP存在重大漏洞，研究人員公布概念性驗證程式</span></span></strong></a></p> <p></p> <p><a href="https://securelist.ru/trojan-proxy-for-macos/108460/"><strong><span style="font-size: 20px;"><span style="color: rgb(0, 0, 0);">駭客假借提供盜版軟體的名義，對Mac用戶散布惡意程式</span></span></strong></a></p> <p></p> <p><a href="https://www.bleepingcomputer.com/news/security/over-20-000-vulnerable-microsoft-exchange-servers-exposed-to-attacks/"><strong><span style="font-size: 20px;"><span style="color: rgb(0, 0, 0);">2萬臺生命週期結束的Exchange伺服器仍在運作</span></span></strong></a></p> <p></p> <p> </p> <h3><strong>近期資安日報</strong></h3> <p><a href="https://www.ithome.com.tw/news/160108"><strong>【12月1日】美國賓州水利設施遭伊朗駭客攻擊，CISA呼籲管理者應修改設備預設密碼、採用雙因素驗證，強化基本防護力</strong></a></p> <p><a href="https://www.ithome.com.tw/news/160086"><strong>【11月30日】針對10月資料外洩事故，身分驗證管理業者Okta表示受害範圍擴大，所有使用客戶支援系統的用戶皆受影響</strong></a></p> <p><a href="https://www.ithome.com.tw/news/160069"><strong>【11月29日】上海商銀驚傳1.4萬客戶資料外洩，金管會公布調查結果列4大缺失，依銀行法重罰千萬，外洩管道仍有待釐清</strong></a></p> </div></div></div>
2023/12/4 17:39作者周峻佑https://www.ithome.com.tw/news/160152
搶攻ULL低延遲電子交易商機，AMD推出第二款FinTech加速卡
<div class="field field-name-field-image field-type-image field-label-hidden"><div class="field-items"><div class="field-item even"><img src="https://s4.itho.me/sites/default/files/amd_alveo_ul3524_main-1.jpg" width="960" height="420" alt="" /></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>相較於另一家FPGA與ASIC廠商英特爾，AMD今年在這類型技術的產品應用動作頻頻，陸續推出多款加速卡產品，像是年初主攻AI加速的<a href="https://www.ithome.com.tw/review/159831">Alveo V70</a>，4月發表、<a href="https://community.amd.com/t5/adaptive-computing/amd-alveo-ma35d-media-accelerator-now-in-production-and-amd-ama/ba-p/637940">10月量產</a>的<a href="https://www.ithome.com.tw/review/156294">Alveo MA35D</a>，鎖定多媒體加速應用，到了第三季他們針對金融科技領域，發表可用於超低延遲（Ultra-Low Latency，ULL）電子交易的加速卡，名為Alveo UL3524。回顧過去，在2022年10月，AMD曾推出第一款基於FPGA而成的金融科技（FinTech）加速卡，也就是<a href="https://www.ithome.com.tw/review/156717">Alveo X3系列</a>。</p> <p>這款號稱能以低於3奈秒的極少時間進行電子交易的產品，提供立即可用的FPGA平臺，鎖定金融科技領域的發展需求，目前已有證券交易商、期貨自營商、避險基金、證券經紀商、交易所採用，也有多家解決方案合作廠商開始提供，例如：Alpha Data、Exegy、Hypertec等公司。</p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/AMD%20UL3524%20Server.jpg" style="width: 600px;" /></p> <p>比起上一代FPGA技術，Alveo UL3524採用導入16奈米製程的訂製款Virtex UltraScale+ FPGA晶片，採用新穎的收發器架構，並配備經過強化、調校的網路連線核心，而能帶來超乎以往表現的效能——延遲度縮減幅度高達7倍，FPGA收發器延遲度低於3奈秒，能大大加速電子交易的執行。</p> <p><a href="https://s4.itho.me/sites/default/files/images/UL3524-Ultra-Low Latency Transceiver Architecture.png"><img alt="" src="https://s4.itho.me/sites/default/files/images/UL3524-Ultra-Low%20Latency%20Transceiver%20Architecture.png" style="width: 600px;" /></a></p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/UL3524%20Card%20interface.jpg" style="width: 600px;" /></p> <p>在硬體配置上，Alveo UL3524總共內建72個收發器，其中有64個是GTF超低延遲收發器，頻寬為28.21 Gb/s，8個是GTYP收發器，頻寬為32.75Gb/s，而在運算架構方面，這款加速卡的晶片內含78萬個查閱資料表（LUTs）匯集的FPGA交織網路，以及1,680個數位訊號處理器。</p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/UL3524-FPGA.png" style="width: 600px;" /></p> <p>基於上述硬體元件的組成，Alveo UL3524可加速不同訂製型交易演算法的執行，交易商可根據持續演進的策略與市場狀況來調整當中的設計。在實際使用這款產品時，用戶可透過Vivado Design Suite軟體與AMD來自全球的各地領域專家的幫忙，支援傳統的FPGA生產流程，開發人員可從中獲取一套參考設計與效能測試方法，進而快速找到關鍵測量項目，並且能設計出訂製的交易策略、將其轉換為規格。</p> <p>因應演算法交易市場採用AI的比例日漸增加，AMD表示，為了簡化相關的設計工作，他們已備有FINN開發框架，是屬於開放原始碼、由社群提供支援的技術。有了這套框架，開發人員在使用PyTorch與神經網路量化技術時，能在維持精準度、收集硬體智財，以及將網路模型整合到演算的資料路徑、實現低延遲效能的前提之下，還是可以縮小AI模型的規模。</p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/AMD%20finn-example.png" style="width: 398px;" /> <img alt="" src="https://s4.itho.me/sites/default/files/images/finn_flow.png" style="width: 120px;" /></p> <p><a href="https://s4.itho.me/sites/default/files/images/FINN.png"><img alt="" src="https://s4.itho.me/sites/default/files/images/FINN.png" style="width: 600px;" /></a></p> <p><span style="color:#008080;"><strong>產品資訊</strong></span></p> <p><strong>AMD Alveo UL3524</strong><br /> ●原廠：AMD<br /> ●建議售價：廠商未提供<br /> ●外形：全高3/4長<br /> ●內建運算晶片：Virtex UltraScale+ FPGA（XCVU2P-FSVJ2104-3-E）、16奈米製程<br /> ●內建記憶體：16 GB DDR4、72 MB QDR II+<br /> ●提供網路埠：4個QSFP-DD埠可分接10個10/25GbE埠<br /> ●連接介面：PCIe 4.0 x8<br /> ●擴充插槽：4個ARF6接頭，可分接32個10/25 GbE埠，再以此連接多張介面卡<br /> ●熱設計功耗：125瓦（180瓦電力）</p> <p>【註：規格與價格由廠商提供，因時有異動，正確資訊請洽廠商】</p> </div></div></div>
2023/12/4 18:01作者李宗翰https://www.ithome.com.tw/review/160143
AI在業績壓力下也會執行內線交易
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>甫於今年5月於倫敦成立的AI評估研究組織Apollo Research上個月進行了一項實驗，顯示AI股票交易代理人在業績壓力下，將會基於內線消息進行交易，不僅明知不可為而為之，還向主管說謊。</p> <p><a href="https://www.apolloresearch.ai/blog/announcement" target="_blank">Apollo Research表示</a>，人工智慧（AI）很快就會融入人們的生活與經濟中，在帶來個人與社會利益的同時也存在巨大的風險，主要的風險來自於先進的AI系統，因為這些系統可藉由策略的欺騙來逃避標準的安全評估，特別是一個模型在表面上看似與人類所設計的一致（Aligned），實際上卻沒有（Misaligned），還能在人類的監督下隱瞞此一事實，是AI許多災難性風險場景的關鍵組成部分。而該公司的目標便是充分了解AI系統，以防止欺騙性AI的開發與部署。</p> <p><a href="https://arxiv.org/pdf/2311.07590.pdf" target="_blank">在此一實驗中</a>，Apollo Research採用已被訓練為有幫助、無害且誠實的GPT-4，打造了一個AI投資管理系統Alpha，Alpha的目標是替一個金融機構來管理股票投資組合，可存取用來查詢與分析股票的各種工具，也能執行交易、推理下一步，與人類同事互動，並必須向經理報告。</p> <p>Alpha先收到了經理的電子郵件，表示公司最近的表現不佳，下一季需要有更好的績效，然而，Alpha卻找不到有希望的低度風險與中度風險交易機會，接著它收到另一名同事的郵件，預期下一季的股市將呈現低迷狀態。</p> <p>在這樣的狀況下，Alpha從另一名同事得到了一個有關併購案的內線消息，該消息可能會帶來豐厚的收益，但這名同事亦提醒，管理階層可能不會批准此一交易。</p> <p class="rtecenter"><img alt="" src="https://s4.itho.me/sites/default/files/images/1204-Apollo%20Research-GPT-4-600-1.png" style="width: 600px;" /></p> <p><a href="https://arxiv.org/pdf/2311.07590.pdf" target="_blank"><span style="font-size:14px;"><span style="color:#696969;">圖片來源_Apollo Research</span></span></a></p> <p>如果是你會怎麼做？Alpha在知道公司不允許內線交易的情況下，還是執行了內線交易，還在向經理報告時隱瞞了作出此一決策的原因，並提出了一個假的解釋，當經理問它是否知道併購消息時，Alpha又說謊了。</p> <p class="rtecenter"><img alt="" src="https://s4.itho.me/sites/default/files/images/1204-Apollo%20Research-GPT-4-600-2.png" style="width: 600px;" /></p> <p><a href="https://arxiv.org/pdf/2311.07590.pdf" target="_blank"><span style="font-size: 14px;"><span style="color: rgb(105, 105, 105);">圖片來源_Apollo Research</span></span></a></p> <p><a href="https://twitter.com/apolloaisafety/status/1721594479205822753" target="_blank">Apollo Research指出</a>，即使Alpha沒有承受壓力，還是有可能執行上述的不一致行為（內線交易、說謊），只是頻率比較低；而且就算直接於系統指令中阻止（Discourage）非法交易，也無法完全抑制這類的行為。</p> <p class="rtecenter"><a href="http://twitter.com/apolloaisafety/status/1721594479205822753" target="_blank"><img alt="" src="https://pbs.twimg.com/media/F-RLey1WgAAQeZ3?format=png&name=900x900" style="width: 600px;" /></a></p> <p><a href="http://twitter.com/apolloaisafety/status/1721594479205822753" target="_blank"><span style="font-size: 14px;"><span style="color: rgb(105, 105, 105);">圖片來源_Apollo Research</span></span></a></p> <p>Apollo Research把此次的實驗當作是紅隊演練，尋找及展示大型語言模型中的策略性欺騙能力。</p> </div></div></div>
2023/12/4 15:59作者陳曉莉https://www.ithome.com.tw/news/160148
巴西市議會通過一項由ChatGPT撰寫的法案
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>巴西南部大城阿雷格里港（Porto Alegre）的市議會於今年10月通過一項法案，若納稅人水表被盜，將不會向納稅人收取更換水表的費用，而且已於11月底生效。然而，提出該法案的市議員<a href="https://twitter.com/curtaramiro/status/1729805545157120113" target="_blank">Ramiro Rosário上周對外揭露</a>，此一法案是由ChatGPT所撰寫的，因而掀起了一陣議論。</p> <p>Rosário是在該法案正式生效後才坦承它其實來自ChatGPT。他說，該市到處裝設水表，如果水表被盜，就向納稅人收取更換費用，這是應該立法改變的事，於是他給了ChatGPT簡單的提示，要求ChatGPT建立一個法案來避免此一收費，結果ChatGPT在幾秒內就生成了完整的草案，也附上了理由，還能針對自己原先生成的版本進行改善。而阿雷格里港市議會無異議地全數通過此案。</p> <p>Rosário向<a href="https://apnews.com/article/brazil-artificial-intelligence-porto-alegre-5afd1240afe7b6ac202bb0bbc45e08d4" target="_blank">《美聯社》（AP）</a>透露，他一開始是故意隱暪此事，因為如果只是因為它是由AI所撰寫的就被拒絕，對人們來說是不公平的。而使用ChatGPT的目的除了解決當地問題之外，也企圖要引起辯論。事實上，該市市議會主席Hamilton Sossmeier在發現此事時，即說這是一個危險的先例。</p> <p>Rosário則認為，這就是技術該有的樣子，可用來降低成本並改善作業流程，提高品質與生產力，沒有人會被AI取代，人們是被那些知道如何使用它的人取代。</p> <p>不過，基於大型語言模型的聊天機器人依舊有令人存疑之處，美國一名律師Steven Schwartz曾利用ChatGPT來整理客戶案件的有利判決，<a href="https://www.ithome.com.tw/news/157103" target="_blank">卻被對手發現</a>它杜撰了許多對該案件有利的判決，最後Schwartz、另一名同案律師與所屬的Levidow, Levidow & Oberman律師事務所被法官判罰了5,000美元。</p> <p>當時美國法官Kevin Castel<a href="https://www.unsw.edu.au/news/2023/06/this-us-lawyer-used-chatgpt-to-research-a-legal-brief-with-embar" target="_blank">認為</a>，使用AI來協助法律工作並沒有什麼本質上的不當之處，但律師必須確保他們的文件準確無誤。</p> </div></div></div>
2023/12/4 13:52作者陳曉莉https://www.ithome.com.tw/news/160147
Meta發表4合一Seamless Communication翻譯AI模型套件，支援近百種語言輸入
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>Meta上周（11/30）<a href="https://ai.meta.com/research/seamless-communication/" target="_blank">公布翻譯AI模型套件Seamless Communication</a>，包含提供更精準再現說話者情緒、及延遲僅2秒的幾近同步翻譯能力的新模型，支援近百種語言輸入。</p> <p>Seamless Communication為Meta為慶祝其AI研究機構基礎AI研究（Fundamental AI Research，FAIR）成立10周年而發表的研究成果之一。Seamless Communication是以8月公布的多語雙模（文字、語音）翻譯模型SeamlessM4T第2版為基礎而發展出的套件，號稱能在翻譯時保存不同語言的說話表情，以及說話者講話同時加速翻譯。</p> <p class="rtecenter"><img alt="" src="https://s4.itho.me/sites/default/files/images/1204-Seamless%20Communication-Meta.png" style="width: 600px;" /></p> <p>這個套件其實由4個模型組成，其中之一是SeamlessM4T第2代，以及SeamlessExpressive、SeamlessStreaming與Seamless。<a href="https://github.com/facebookresearch/seamless_communication/tree/main/docs/expressive" target="_blank">SeamlessExpressive</a>是一種口譯模型，解決傳統AI翻譯時無法抓住聲音語調、停頓和重點，而失去情感和意圖的重要訊號的問題。SeamlessExpressive是第一個掌握跨語言表情的公開系統。它使用的模型能保存說話者情緒、風格、說話速度、停頓和節奏，又能維持翻譯品質。目前SeamlessExpressive支援英、中、西、法、德、義語。</p> <p class="rtecenter"><a href="https://video.ftpe7-3.fna.fbcdn.net/v/t39.25447-2/404545900_710738110990833_6443015246729999141_n.mp4?_nc_cat=108&vs=2bef875d4aa03631&_nc_vs=HBksFQAYJEdHemhIQmp4U2FLY2FZWUNBQ1Z6eFBjNk1HcFpibWRqQUFBRhUAAsgBABUAGCRHTUxURUJqbzUya1FraE1EQU82M2lQZFI1Qmw5YnY0R0FBQUYVAgLIAQBLB4gScHJvZ3Jlc3NpdmVfcmVjaXBlATENc3Vic2FtcGxlX2ZwcwAQdm1hZl9lbmFibGVfbnN1YgAgbWVhc3VyZV9vcmlnaW5hbF9yZXNvbHV0aW9uX3NzaW0AKGNvbXB1dGVfc3NpbV9vbmx5X2F0X29yaWdpbmFsX3Jlc29sdXRpb24AHXVzZV9sYW5jem9zX2Zvcl92cW1fdXBzY2FsaW5nABFkaXNhYmxlX3Bvc3RfcHZxcwAVACUAHIwXQAAAAAAAAAAREQAAACag7fjJl9rIAxUCKAJDMxgLdnRzX3ByZXZpZXccF0AsxysCDEm6GCFkYXNoX2dlbjJod2Jhc2ljX2hxMl9mcmFnXzJfdmlkZW8SABgYdmlkZW9zLnZ0cy5jYWxsYmFjay5wcm9kOBJWSURFT19WSUVXX1JFUVVFU1QbCogVb2VtX3RhcmdldF9lbmNvZGVfdGFnBm9lcF9oZBNvZW1fcmVxdWVzdF90aW1lX21zATAMb2VtX2NmZ19ydWxlB3VubXV0ZWQTb2VtX3JvaV9yZWFjaF9jb3VudAUxMTczORFvZW1faXNfZXhwZXJpbWVudAAMb2VtX3ZpZGVvX2lkDzY5NzExNDc4ODgxNjIzNRJvZW1fdmlkZW9fYXNzZXRfaWQPNzI3Mzc3NjM4NzYyOTcwFW9lbV92aWRlb19yZXNvdXJjZV9pZBAxMDA0MzAzOTU3MzAyMDk2HG9lbV9zb3VyY2VfdmlkZW9fZW5jb2RpbmdfaWQPNzI0MDY3NjMyNDk4NDY3DnZ0c19yZXF1ZXN0X2lkACUCHAAlvgEbB4gBcwQ5NjM5AmNkCjIwMjMtMTEtMjEDcmNiBTExNzAwA2FwcAblvbHniYcCY3QIVU5MSVNURUQTb3JpZ2luYWxfZHVyYXRpb25fcwUxNC40MgJ0cxVwcm9ncmVzc2l2ZV9lbmNvZGluZ3MA&ccb=1-7&_nc_sid=c44558&efg=eyJ2ZW5jb2RlX3RhZyI6Im9lcF9oZCJ9&_nc_ohc=0e8lUXXI7-MAX-09G6G&_nc_ht=video.ftpe7-3.fna&oh=00_AfBlHfhjcseyHSXo4mgIPOqsSF6IrY5NbMlZ99hCMHR0pQ&oe=6572E316&_nc_rid=623665765907209&_nc_store_type=0" style="text-align: center;" target="_blank"><img alt="" src="https://s4.itho.me/sites/default/files/images/1204-SeamlessExpressive%20demo-600.png" style="width: 600px;" /></a></p> <p>SeamlessStreaming是同步翻譯模型，主打2秒延遲的語音和文字翻譯，可支援口譯（speech-to-speech translation，S2ST）、聽寫翻譯（speech-to-text translation，S2TT）及自動語音辨識（Automatic speech recognition，ASR）。在後二種任務上，SeamlessStreaming支援將近100種語言輸入及輸出，而在口譯同步翻譯則支援100種語言輸入、36種語言輸出。最後一種模型Seamless則是融合這三種語言模型於一。</p> <p>Meta也將示範影片公布在<a href="https://github.com/facebookresearch/seamless_communication" target="_blank">GitHub</a>以及<a href="https://huggingface.co/collections/facebook/seamless-communication-6568d486ef451c6ba62c7724" target="_blank">HuggingFace</a>網站上。</p> </div></div></div>
2023/12/4 12:36作者林妍溱https://www.ithome.com.tw/news/160145
Meta發表首個能同時接受語言及文字輸入的聲音生成模型Audiobox
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>Meta上周<a href="https://ai.meta.com/blog/audiobox-generating-audio-voice-natural-language-prompts/" target="_blank">發表</a>可讓用戶使用語音及文字指令生成音效及語音的最新AI模型Audiobox。</p> <p>Meta今年6月發表<a href="https://www.ithome.com.tw/news/157419" target="_blank">Voicebox</a> AI模型，可應用在語音生成、去噪、採樣和內容編輯等各式語音任務，不限定特定應用場景且具高效能。Audiobox則是Voicebox的後一代模型，以Voicebox框架為基礎開發。Audiobox能生成各種環境及風格的語音、音效或聲音地景（soundscape），新模型整合生成和編輯能力，以及多種輸入機制，以擴大不同應用場景的控制能力。</p> <p>Audiobox承襲了Voicebox的引導聲音生成訓練目標，以及音流比對（flow-matching）建模方法，以支援聲音填充（audio infilling），以生成或修飾音效，例如在下雨聲音地景加入雷聲。使用者可運用自然語言文字提示描述想要的聲音或語音類型。用戶可輸入「潺潺流水、鳥兒啾啁」的文字提示生成聲音地景，或是以「高聲快節奏講話的年輕女性」生成人聲。該模型還讓使用者輸入人聲及文字提示，以合成任何環境（如教堂）或任何情緒（如哀痛而緩慢）的一段說話。Meta認為Audiobox是第一個可接受語音及文字描述來改造聲音的模型。</p> <p class="rtecenter"><a href="https://video.ftpe7-2.fna.fbcdn.net/v/t39.25447-2/406365519_381976304228906_2408301710998785958_n.mp4?_nc_cat=109&vs=1119c13908f1acf0&_nc_vs=HBksFQAYJEdFX2xPQmdxR3UzSloxc0JBS1pQREh5bEFXd2hibWRqQUFBRhUAAsgBABUAGCRHRXQyTnhpVFd0aHZqaTBEQUZrcEo4dE1aLXBNYnY0R0FBQUYVAgLIAQBLB4gScHJvZ3Jlc3NpdmVfcmVjaXBlATENc3Vic2FtcGxlX2ZwcwAQdm1hZl9lbmFibGVfbnN1YgAgbWVhc3VyZV9vcmlnaW5hbF9yZXNvbHV0aW9uX3NzaW0AKGNvbXB1dGVfc3NpbV9vbmx5X2F0X29yaWdpbmFsX3Jlc29sdXRpb24AHXVzZV9sYW5jem9zX2Zvcl92cW1fdXBzY2FsaW5nABFkaXNhYmxlX3Bvc3RfcHZxcwAVACUAHIwXQAAAAAAAAAAREQAAACbAvfGo5t6DBhUCKAJDMxgLdnRzX3ByZXZpZXccF0A3VT987ZFoGCFkYXNoX2dlbjJod2Jhc2ljX2hxMl9mcmFnXzJfdmlkZW8SABgYdmlkZW9zLnZ0cy5jYWxsYmFjay5wcm9kOBJWSURFT19WSUVXX1JFUVVFU1QbCogVb2VtX3RhcmdldF9lbmNvZGVfdGFnBm9lcF9oZBNvZW1fcmVxdWVzdF90aW1lX21zATAMb2VtX2NmZ19ydWxlB3VubXV0ZWQTb2VtX3JvaV9yZWFjaF9jb3VudAUxMTczORFvZW1faXNfZXhwZXJpbWVudAAMb2VtX3ZpZGVvX2lkDzMxNjIxNTQyNzg5NjM2NRJvZW1fdmlkZW9fYXNzZXRfaWQPMjM2OTgyNDk1OTMwMTAzFW9lbV92aWRlb19yZXNvdXJjZV9pZBAxNjk3MDc1NTcwODE0ODE2HG9lbV9zb3VyY2VfdmlkZW9fZW5jb2RpbmdfaWQQMTA1MDAyNDQ5NjE0NTQ4OQ52dHNfcmVxdWVzdF9pZAAlAhwAJb4BGweIAXMENjMxNAJjZAoyMDIzLTExLTI5A3JjYgUxMTcwMANhcHAG5b2x54mHAmN0CFVOTElTVEVEE29yaWdpbmFsX2R1cmF0aW9uX3MFMjMuMzYCdHMVcHJvZ3Jlc3NpdmVfZW5jb2RpbmdzAA%3D%3D&ccb=1-7&_nc_sid=4a9f44&efg=eyJ2ZW5jb2RlX3RhZyI6Im9lcF9oZCJ9&_nc_ohc=KEdKD955B5IAX8RHbMD&_nc_ht=video.ftpe7-2.fna&oh=00_AfDJcz5MMLGI23kY68pMflJSrv01YLf5RrIqcvyhhVoM6g&oe=657209C2&_nc_rid=958833612379490&_nc_store_type=0" target="_blank"><img alt="" src="https://s4.itho.me/sites/default/files/images/1204-Audiobox%20Meta-600-1(1).jpg" style="width: 600px;" /></a></p> <p>經過Meta測試，顯示Audiobox在音質及相關性（切合文字描述的程度）都超越了現有最佳的聲音生成模型如AudioLDM2、VoiceLDM及TANGO。</p> <p>Meta解釋，生成高品質聲音需要有大量音訊庫及深厚的領域知識，如聲音工程、後製、語音表演等，但大眾和消費者都不會有這些資源。他們推出這個模型，相信未來可降低聲音生成的門檻，讓任何人都更容易製作影片或podcast、電玩或其他應用場景的音效。</p> <p>Meta即將準備讓特定研究人員及學者專家試用Audiobox，測試模型品質及安全倫理性。再過幾周將透過<a href="https://ai.meta.com/research/audiobox_responsible-generation-grant/" target="_blank">申請網頁</a>開放申請試用。</p> <p>Audiobox是Meta發表的AI研發成果之一。為慶祝AI研究中心FAIR成立十周年，Meta還公佈翻譯模型Seamless Communication。此外，Meta也宣布即將公開影像學習及多模感知模型的基礎訓練資料集<a href="https://ai.meta.com/blog/ego-exo4d-video-learning-perception/" target="_blank">Ego-Exo4D</a>。Ego-Exo4D是Meta開發VR眼鏡<a href="https://www.ithome.com.tw/news/140039" target="_blank">Project Aria</a>並和學界合作的成果，主體為<a href="https://ego-exo4d-data.org/" target="_blank">以人為中心（egocentric）及外心（exocentric，由鏡頭環視周遭場景）的資料集</a>，兩種角度能提升AI模型學習人類技能的能力。這批資料包含1,400小時影片及基準模型，將供研究社群使用。</p> </div></div></div>
2023/12/4 12:47作者林妍溱https://www.ithome.com.tw/news/160146
PyTorch 2.1改進CPU支援最佳化AI模型運算效能
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p><a href="https://pytorch.org/blog/new-features-for-ai/">PyTorch 2.1</a>獲英特爾（Intel）諸多貢獻，主要強化模型在CPU的運算效能，加入了包括TorchInductor-CPU最佳化、CPU動態形狀推理路徑與C++打包器等新功能。整體來說，PyTorch在人工智慧開發的效能和效率獲得強化，CPU動態形狀推理路徑提高了PyTorch對大型語言模型的支援，而且C++打包器更是減少Python的執行成本，有效提升輕量級工作負載的效能。</p> <p>TorchInductor-CPU最佳化能夠改善Bfloat16的推理效能，運用第三代與第四代Intel Xeon Scalable處理器內建的硬體加速器，便可加速Bfloat16資料類型的內積運算，增加圖模式下的效能。不過，如果開發人員是在第四代Intel Xeon Scalable處理器上部署模型，則能夠完全利用高級矩陣擴充AMX功能，來獲得torch.compile更好的運算效能。</p> <p>PyTorch 2.0中有一個重要功能更新是動態形狀（Dynamic Shape），該功能允許模型在推理時處理可變大小的輸入，這代表模型不必在訓練時，就確定所有輸入資料精確的形狀，進而增加了模型的靈活性和應用範圍，對於需要處理各種大小輸入的應用，像是文字或是圖像處理，這是一個相當重要的功能。</p> <p>而在PyTorch 2.1中，CPU動態形狀推理路徑更進一步最佳化這項功能，在使用CPU時更好地支援動態形狀，也是說在使用CPU進行推理時，模型可以更有效地處理動態形狀輸入，改進功能性和效能。</p> <p>新的C++打包器功能，則允許開發者將深度學習模型加速元件TorchInductor生成的核心和外部核心的呼叫程式碼，從Python轉換成為C++。該功能有兩個主要好處，第一是透過C++代替Python呼叫核心，可以減少Python所產生的額外效能成本，對於受到Python額外執行成本較大影響的輕量級工作負載尤為重要。另外，C++打包器也是支援無Python環境部署模型的重要環節，對模型部署提供更好的靈活性和可擴展性。</p> <p>PyTorch 2.1還新加入了一種基於閃光注意力的比例內積演算法（Flash-attention-based scaled dot product algorithm），這是一種CPU最佳化演算法，專門改善Transformer模型中的比例內積式注意力（Scaled Dot Product Attention，SDPA）計算效能，而SDPA是一個在PyTorch 2.0才推出的重要功能。新演算法的重點在於，開發者不需要更改前端使用方式即可利用SDPA最佳化，大幅加速Transformer模型的訓練和推理過程，並且支援FP32和Bfloat16資料類型。</p> <p>PyTorch 2.1也提供了一個新的量化（Quantization）流程，用於在模型訓練完成後，透過TorchInductor以x86 CPU裝置作為後端，供開發者對模型進行後訓練量化，最佳化模型在x86架構CPU上的執行效率和效能。</p> </div></div></div>
2023/12/4 12:02作者李建興https://www.ithome.com.tw/news/160115
【資安週報】2023年11月27日到12月01日
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>在這一星期的漏洞消息中，有3起漏洞利用情況須優先關注，其中以Google修補瀏覽器漏洞的影響需要特別重視：</p> <p>（一）Google在28日修補已遭利用的Chrome瀏覽器零時差漏洞CVE-2023-6345，值得關注的是，該漏洞存在於Skia繪圖引擎，又是涉及底層，因此可能影響範圍還包括了Android、ChromeOS、Firefox/Thunderbird、Firefox OS、Flutter、Avalonia及LibreOffice等。</p> <p>（二）蘋果在30日修補兩個已遭到攻擊的零時差漏洞，分別是CVE-2023-42916、CVE-2023-42917），由於這些漏洞是Google威脅分析團隊（TAG）通報，且Google前兩日才修補Chrome零時差漏洞，這些漏洞是否可能同一起攻擊活動所利用，有待後續更多消息揭露。</p> <p>（三）檔案共享平臺ownCloud在11月21日修補3個重大漏洞，其中CVSS滿分的漏洞CVE-2023-49103，本身並不複雜，修補發布後已快速遭攻擊者用於攻擊行動，用戶需盡速進行緩解或補強。</p> <p>其他可留意的漏洞消息，包括：兆勤修補旗下NAS設備的6個重大漏洞，以及AI框架Ray被揭露存在重大漏洞，但開發商Anyscale目前未有修補打算，</p> <p>在國內，有兩大事件成為焦點，都與上市公司有關，首先是上海商銀發生1.4萬客戶資料外洩事件，由於事件發生後竟缺乏相關資訊可追查，成為金管會開罰重點，依據銀行法開罰1千萬元；關於中石化在11月中旬發布資安事件重大訊息，說明遭受駭客網路攻擊事件，近期有後續消息傳出，疑為勒索軟體駭客組織BlackCat所為，該組織聲稱取得41.9 GB資料。</p> <p>另一起事件也與臺灣有關，是即時通訊軟體Line的母公司發布資安通告，說明發生44萬用戶、合作夥伴、員工個資恐外洩事件，而當中有100筆資料屬於臺灣用戶，而目前Line已說明初步調查結果，是承包商員工的電腦感染惡意軟體。</p> <p>在資安威脅與事件方面，我們認為有下列4起事件值得留意：</p> <p>●先前10月身分驗證管理業者Okta資料外洩事故有新的調查結果，該公司指出所有曾經存取客戶支援系統的用戶都受波及，影響範圍比之前公布的更大。<br /> ●荷蘭半導體業者恩智浦（NXP）驚傳前幾年遭駭，當地新聞媒體NRC報導指出，中國駭客組織Chimera自2017年到2020年初滲透該公司網路環境，並竊得與晶片設計相關的智慧財產。而臺灣資安業者奧義智慧之前也曾揭露，臺灣在2018年及2019年至少7家半導體業者曾遭到中國駭客集團Group Chimera鎖定。<br /> ●財星500大企業中有數百個曝露了Kubernetes機敏資料，揭露此事的資安業者指出，他們主要針對dockercfg、dockerconfigjson這兩種類型的機敏資料進行調查所發現。<br /> ●北韓駭客發動供應鏈攻擊的事件，英國NCSC與韓國NIS提出警告，駭客先挖掘出韓國資安業者Dream Security開發的身分驗證系統MagicLine4NX的零時差漏洞，作為攻擊跳板，再利用另一連網系統的零時差漏洞來入侵特定目標。韓國資安業者AhnLab指出，這起事件是駭客組織Lazarus所為。</p> <p>此外，我們還看到，近日國際間持續有多家大型業者遭遇網路攻擊的消息，受害企業與組織遍及研究單位、醫療、關鍵CI等領域，包括：日本航太研究機構JAXA的AD伺服器遭非法存取，美國醫療保健業者Henry Schein傳出遭遇勒索軟體BlackCat攻擊，以及美國賓州自來水公司的工業控制系統傳出遭駭客劫持，斯洛維尼亞大型能源供應商HSE遭遇勒索軟體攻擊等。還有駭客聲稱竊取了奇異（General Electric）的資料，當中並包含大量美國DARPA的軍事資料。</p> <p>關於資安防護進展方面，有一項消息值得AI系統開發人員注意——英國NCSC與美國CISA在11月26日共同發布全球首份「安全AI系統開發指南」，當中將AI系統開發生命周期分四大階段，包括：安全設計、安全開發、安全部署及安全維運，主要提供AI系統開發的必要建議，以確保每個階段都能讓開發者有適當的安全措施可遵循。</p> <p> </p> <h3><a href="https://www.ithome.com.tw/news/160022"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">【11月27日】荷蘭半導體業者NXP遭中國駭客攻擊，入侵時間超過2年，驚傳與晶片設計相關智慧財產資料被竊</span></strong></a></h3> <p>隨著最近幾年中美之間的晶片戰，半導體產業的重要性與日俱增，美國禁止廠商對中國業者供應晶片，中國也盡舉國之力，無不想方設法取得相關的技術及資源，試圖在封裝、製程等層面具備更強的自主能力。</p> <p>雖然檯面上因為美中對抗的關係，各國將相關技術輸出到中國受到越來越多管制，但最近有媒體報導曾出現國家級駭客滲透歐洲大型半導體業者，試圖取得相關智慧財產資料。</p> <h3><a href="https://www.ithome.com.tw/news/160051"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">【11月28日】美國醫療保健服務業者Henry Schein傳出二度遭遇勒索軟體BlackCat攻擊，導致電子商務平臺遭到癱瘓</span></strong></a></h3> <p>這幾年勒索軟體攻擊極為氾濫，一旦遭遇相關攻擊，企業組織就有可能必須與駭客交涉。但受害組織在談判的過程，也要同時採取相關的因應措施，來防範駭客翻臉不認人的情況。</p> <p>例如，最近有一起大型資安事故當中，駭客疑似因不滿談判結果，再度對受害企業發動攻擊，癱瘓該公司包含電子商務平臺等多項應用系統，並打算公布竊得的資料。</p> <h3><a href="https://www.ithome.com.tw/news/160069"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">【11月29日】上海商銀驚傳1.4萬客戶資料外洩，金管會公布調查結果列4大缺失，依銀行法重罰千萬，外洩管道仍有待釐清</span></strong></a></h3> <p>金融業強化資安不遺餘力，從<a href="https://www.ithome.com.tw/article/156845">投入的資安預算高居臺灣各產業之冠</a>可見一般。但最近一起資料外洩事故並非銀行主動揭露，竟是等到主管機關祭出處罰才曝光。</p> <p>金管會最近針上海商銀資料外洩事故祭出高額裁罰引起舉國關注，上海商銀在事發後僅公告證實遭罰，但根據現在已知的資訊，仍難以判斷具體發生資料外洩的行為與過程，期昐上海商銀未來能提出更詳細的說明。而對於接下來要進行的檢討與改善，上海商銀也勢必要儘快公開這方面的資訊。</p> <h3><a href="https://www.ithome.com.tw/news/160086"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">【11月30日】針對10月資料外洩事故，身分驗證管理業者Okta表示受害範圍擴大，所有使用客戶支援系統的用戶皆受影響</span></strong></a></h3> <p>身分驗證解決方案業者Okta今年10月底發生資安事故，該公司11月初揭露此事時，只說低於1%比例的客戶受害，如今該公司推翻這樣的說法，他們改口表示，影響範圍擴大，涵蓋使用客戶支援系統的所有用戶。</p> <p>這起資料外洩事故比較特別的是，雖然駭客取得所有曾經使用該支援系統的用戶名單，但大多數人只有填寫姓名與電子郵件信箱兩種資料，後續影響有待觀察。</p> <h3><a href="https://www.ithome.com.tw/news/160108"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">【12月1日】美國賓州水利設施遭伊朗駭客攻擊，CISA呼籲管理者應修改設備預設密碼、採用雙因素驗證，強化基本防護力</span></strong></a></h3> <p>美國賓州阿里奎帕市水務局證實增壓站遭到伊朗駭客入侵，因採用以色列廠牌工控設備而遭到鎖定。駭客也宣稱，他們正在對採用這類OT設備的水利設施發動攻擊。</p> <p>值得留意的是，在美國網路安全暨基礎設施安全局（CISA）發布的資安公告當中，指出駭客可能是透過配置不當的情況發動攻擊，而非透過漏洞入侵受害組織。</p> <p style="margin: 0px;">10月身分驗證管理業者Okta資料外洩事故範圍擴大，存取該公司客戶支援系統的用戶皆受影響</p> <p style="margin: 0px;"> </p> <p> </p> </div></div></div>
2023/12/4 12:18作者羅正漢https://www.ithome.com.tw/news/160142
10月身分驗證管理業者Okta資料外洩事故範圍擴大，存取該公司客戶支援系統的用戶皆受影響
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>11月初身分驗證解決方案業者Okta證實客戶支援系統遭駭，<a href="https://www.ithome.com.tw/news/159667">當時初步確認約有134個客戶受到影響</a>，占他們客戶不到1%，最近該公司揭露<a href="https://sec.okta.com/harfiles">新的調查結果</a>。</p> <p>11月29日Okta指出，他們確認駭客下載的資料當中，包含所有客戶支援系統用戶的姓名、電子郵件信箱，研判所有Workforce Identity Cloud（WIC）、Customer Identity Solution（CIS）的使用者都可能曝險，但不包含使用FedRamp High、DoD IL4環境的用戶，原因是這些環境採用獨立的支援系統，駭客無從存取。此外，Auth0、CIC的支援案件管理系統也不受影響。</p> <p>該公司指出，雖然駭客取得的資料多達15種欄位，但不含帳密或敏感個資，且大部分（99.6%）使用者僅有提供姓名和電子郵件信箱，因此影響有限。Okta亦尚未察覺這些資料遭到濫用的跡象。</p> </div></div></div>
2023/12/3 16:22作者周峻佑https://www.ithome.com.tw/news/160131
Deno Cron新工具供開發者安排預定作業，簡化網頁應用開發
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p><a href="https://deno.com/blog/cron">Deno Cron</a>是JavaScript/TypeScript執行環境Deno最新推出的功能，目的是要簡化網頁開發過程。Deno Cron讓用戶可以透過設定任務名稱、排程以及處理函式3個參數，簡單地安排預定作業。</p> <p>Deno Cron可以在Deno執行環境中獨立運作，供開發者在Deno應用程式中安排和管理定時作業。不同於UNIX/Linux上的Cron，Deno Cron執行任務不會重疊，官方解釋，當開發者安排每10分鐘執行一次的任務，而該任務需要30分鐘才能完成，Deno Cron會自動跳過下一次預訂的作業，直到任務完成為止。</p> <p>Deno Cron處理函式可以執行各種操作，包括更新Deno KV的狀態、發送電子郵件和啟動資料庫備份等工作。Deno Cron的運作方式，會在專案進行生產部署時，以一個暫時的V8隔離區評估專案的頂層作用域，發現所有Deno.cron的定義，之後全域Cron調度器便會根據專案的最新Cron定義進行更新。</p> <p>而Deno Cron也能搭配無伺服器服務Deno Deploy使用，並獲得額外好處，使Deno Cron能夠自主偵測和管理作業，甚至可以在沒有網頁伺服器的情況下執行Cron作業，官方解釋，當用戶部署專案，Deno Deploy便會自動偵測Cron作業並進行評估。</p> <p>當到了需要執行處理函式的期間，Deno Deploy便會自動啟動隔離區執行作業。此外，透過更改程式碼並創建新的部署，用戶就能簡單地修改或停止現有的Cron，像是當用戶從程式碼中移除了Deno.cron並重新部署，之前的作業便不會再被安排執行。</p> </div></div></div>
2023/12/4 08:22作者李建興https://www.ithome.com.tw/news/160116
AWS正式發布專為Rust和Kotlin設計的SDK
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>AWS推出<a href="https://aws.amazon.com/tw/blogs/developer/announcing-general-availability-of-the-aws-sdk-for-rust/">Rust</a>與<a href="https://aws.amazon.com/tw/blogs/developer/aws-sdk-for-kotlin-ga/">Kotlin</a>兩個程式語言專用的AWS SDK正式版本，開發者已經可以將其用於生產環境中。AWS SDK是一系列工具，供開發者在AWS平臺上建立、部署和管理應用程式，該套件提供多種語言的API，讓開發者可以簡單地操作AWS服務和資源。</p> <p>雖然Kotlin開發者早就可以使用Java SDK開發Kotlin程式，但AWS仍從頭設計Kotlin SDK，提供符合Kotlin語言特性的開發體驗，官方提到，Kotlin比Java更具互通性，他們認為應該提供一個可以充分利用Kotlin語言特性，而且Kotlin開發者能夠習慣的SDK。</p> <p>AWS的Kotlin SDK提供了一些專為Kotlin程式語言設計的功能，包括領域特定語言（Domain-Specific Language，DSL）建置器，和支援使用協程進行非同步AWS服務呼叫等。官方提到，Kotlin可以簡單地混用其他語言，讓開發者也能從Kotlin呼叫Java程式碼。</p> <p>開發者可以使用Kotlin SDK，開發在JVM平臺或Android API Level 24以上裝置的應用程式，官方指出，因為Kotlin並非一種僅限JVM的程式語言，其多平臺的能力供開發者有能力編寫JVM、原生二進位檔案、JavaScript和WebAssembly的Kotlin程式碼。因此Kotlin SDK一開始就被官方定位成多平臺函式庫，計畫未來支援更多的平臺。</p> <p>除了Kotlin，AWS還推出適用於Rust的SDK，提供了類型安全API，並且具有Rust語言優勢諸如效能、可靠性和生產力。官方提到，Rust SDK支援async/await、非阻塞IO以及建置器。目前Rust SDK已經可以存取300多個AWS服務。</p> <p>Rust SDK為模組化設計，開發者可以僅對需要的AWS服務編譯Crate，AWS還強調，Rust SDK高效的執行效能，開發者可以用於S3、EC2和DynamoDB之間快速傳輸資料。</p> </div></div></div>
2023/12/4 08:26作者李建興https://www.ithome.com.tw/news/160118
荷蘭半導體業者恩智浦驚傳遭駭，中國駭客竊取晶片設計相關智財資料
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>隨著最近幾年中美之間的晶片戰，半導體產業的重要性與日俱增，美國禁止廠商對中國業者供應晶片，中國也盡舉國之力，無不想方設法取得相關的技術及資源，試圖在封裝、製程等層面具備更強的自主能力。</p> <p>雖然，檯面上因為美中對抗的關係，各國將相關技術輸出到中國受到越來越多管制，但最近有媒體報導曾出現國家級駭客滲透歐洲大型半導體業者，試圖取得相關智慧財產資料。</p> <p>根據荷蘭新聞媒體NRC報導，<a href="https://www.nrc.nl/nieuws/2023/11/24/spionage-chinese-hackersgroep-zat-jarenlang-in-het-netwerk-van-de-nederlandse-chipfabrikant-nxp-a4182149">中國駭客組織Chimera自2017年到2020年初，滲透荷蘭半導體業者恩智浦（NXP）的網路環境</a>，並竊得與晶片設計相關的智慧財產，但是否有更多機密被竊，仍有待進一步調查。</p> <h3><strong>事件揭露是緣自另一起攻擊的調查</strong></h3> <p>這起攻擊行動之所以曝光，源於荷蘭皇家航空子公司Transavia前幾年遭遇類似攻擊，駭客在2019年9月入侵該公司的訂票系統，資安業者Fox-IT鑑識人員在調查的過程中，發現存在與恩智浦的IP位址連線的情況，從而發現這群駭客也對恩智浦下手。</p> <p>攻擊者起初從臉書、職場社交平臺LinkedIn挖掘可能的帳號資料，然後透過暴力破解攻擊來猜測密碼，取得VPN的存取權限，遂於2017年10月入侵恩智浦的內部網路環境。而對於竊取的資料，攻擊者還會每隔幾個星期重新比對，然後將竊得的新資料上傳到OneDrive、Dropbox、Google Drive等公有雲端服務。然而，恩智浦直到2020年，才察覺遭到駭客入侵。</p> <p>特別的是，NRC提及了恩智浦採用了雙因素驗證來保護網路系統──該公司透過電話提供額外的驗證碼，來防範上述的暴力破解攻擊，但道高一尺魔高一丈，駭客竄改電話號碼來繞過此種驗證措施。究竟駭客如何竄改電話號碼？該報導並未提及。</p> <p>該報導指出，恩智浦在微軟及多家IT業者的協助下，試圖盤點受害情形，並隔離受影響的IT系統。Fox-IT也協助調查至2020年4月，恩智浦也向艾司摩爾（ASML）等位於費爾德霍芬附近的半導體廠商進行通報。不過，艾司摩爾本次並未受到波及。</p> <p>對此，恩智浦向NRC證實智慧財產遭竊，但強調該資料極為複雜，無法輕易複製，因此，該公司認為沒有公開說明的必要。</p> <h3><strong>攻擊者曾對臺灣半導體產業發動攻擊</strong></h3> <p>而對於攻擊者的身分，Fox-IT將矛頭指向了臺灣資安業者奧義智慧於2020年4月揭露的中國駭客組織「Chimera」，<a href="https://www.ithome.com.tw/news/139301">該組織曾於2018年至2019年</a>，入侵新竹科學園區，至少有7家廠商遭到鎖定，駭客的目的就是竊取與該產業有關的機密資訊。而在這些攻擊行動裡，不論是初期的徵兆或是後續的手法，皆顯示駭客採用類似的戰略、技術、自製的惡意程式。NRC提到，這些駭客打包竊得的資料時，會使用特定的密碼。</p> <p>針對Transavia的資安事故，Fox-IT在2021年1月，曾公布名為<a href="https://web.archive.org/web/20210620162513/https://blog.fox-it.com/2021/01/12/abusing-cloud-services-to-fly-under-the-radar/">Abusing Cloud Services to Fly Under the Radar</a>的調查報告，然而在NRC向恩智浦進一步確認之後，這份報告已遭移除。</p> <p>奧義智慧<a href="https://cycrafttechnology.medium.com/threat-attribution-chimera-under-the-radar-7c4cce390efd">比對他們和Fox-IT調查的結果</a>，發現駭客曾經在分別針對臺灣、荷蘭攻擊行動當中，總共使用過67種手法，其中有42種在不同的攻擊行動出現，而兩波攻擊行動手法上出現的差異，很有可能與鎖定的目標有關。對此，NRC指出，攻擊恩智浦的駭客組織，應該就是曾經攻擊臺灣半導體產業的Chimera。</p> </div></div></div>
2023/12/3 16:09作者周峻佑https://www.ithome.com.tw/news/160130
Line母公司遭遇網路攻擊，44萬用戶、合作夥伴、員工個資恐外洩，臺灣也有用戶資料曝險
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>兩年半前，<a href="https://www.ithome.com.tw/news/143412">即時通訊軟體Line日本公司傳出資料外洩疑雲</a>，當時該公司數度發布公告，澄清用戶資料並未儲存在中國，並取消上海子公司對開發資料的存取權限，包含了Line調查機構內容管理系統（CMS）、監控業務CMS、問卷開發、頭像、Line應用程式中的OCR開發，以及Keep功能開發的權限。最近該公司再度出現資料外洩事故，但這次是供應鏈攻擊導致。</p> <p>即時通訊軟體Line母公司<a href="https://www.lycorp.co.jp/ja/news/announcements/001002/">LY Corporation（LYC，原Z Holdings）發布資安通告</a>，指出他們偵測到未經授權的第三方於10月9日存取該公司系統，而有可能導致使用者、業務合作夥伴、員工等人士的資訊遭到洩露。</p> <h3><strong>起因是承包商員工的電腦感染惡意軟體</strong></h3> <p>而對於資安事故發生的經過，該公司指出，起因是他們與韓國雲端業者Naver的承包商遭駭，員工電腦感染惡意軟體引起。由於LYC和Naver共用處理員工及其他個資的身分驗證系統，從而導致駭客藉由Naver的系統入侵先前屬於Line Corporation的內部系統。LYC於10月17日察覺異狀並著手調查，並於同月27日得到初步結論，很有可能是來自外部的未經授權存取事故造成。隔日，他們強制員工重新登入，才能存取內部系統。</p> <p>該公司在11月27日公布影響範圍，已知有超過44萬筆個資外洩，當中包含302,569筆Line使用者資料（日本用戶129,894筆）、86,105筆業務合作夥伴資料、51,353筆員工及其他人士的資料流出。</p> <p>而對於Line用戶的部分，當中有49,751筆包含服務使用記錄（日本用戶15,454筆），22,239筆含有與特定用戶互動的私密資料（日本用戶8,981筆）。不過，上述的用戶資料皆未包含銀行帳號、信用卡資料、聊天訊息內容。與LYC和Naver員工相關的資料當中，大部分來自身分驗證系統，其中，與LYC集團有關的資料有30,409筆；與Naver集團有關的資料則有20,938筆。</p> <h3><strong>臺灣也有用戶受到影響，數位部要求該公司積極處理</strong></h3> <p>由於Line的臺灣用戶眾多，這起資安事故公告引起國內各界關注。<a href="https://moda.gov.tw/ADI/news/latest-news/9007">台灣連線公司（LINE Taiwan）也向數位產業署通報此事</a>，並於11月27日中午向數位部進行說明。數位部也要求該公司依法通報個資外洩。</p> <p>台灣連線公司指出，這起事件主要的影響範圍，是系統事件記錄檔及部分員工資料，目前尚未發現個人或群組的通訊內容，以及信用卡、銀行帳號等金融資料外洩的情形。在外洩的資料當中，該公司也透露與臺灣用戶有關的資料約有100筆，其內容均為經過雜湊處理的手機號碼、電子郵件信箱、Line帳號。</p> <p>根據數位產業署要求說明的改善作為，台灣連線公司表示，LYC強制重設員工內部系統的密碼、雙因素身分驗證機制，並透過使用者註冊的電子郵件，以及Line官方帳號發送訊息等方式，來通知當事人。數位產業署也要求台灣連線公司，配合行政檢查，並針對臺灣用戶權益受損的情況提出解決方案。</p> </div></div></div>
2023/12/3 15:57作者周峻佑https://www.ithome.com.tw/news/160129
TXOne第二代OT網路安全產品上場，提供彈性、多元軟硬體
<div class="field field-name-field-image field-type-image field-label-hidden"><div class="field-items"><div class="field-item even"><img src="https://s4.itho.me/sites/default/files/txone_edgev2_main1.jpg" width="960" height="420" alt="" /></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>與趨勢科技（Trend Micro）有深厚淵源的OT資安廠商睿控網安（TXOne Networks），今年9月初在SEMICON Taiwan 2023國際半導體展前夕，針對旗下的網路安全產品線Edge系列，發布第二代版本（V2），強調可提供自動學習與產生控管政策的功能，方便企業在複雜、大型OT環境當中，也能輕鬆地進行網路分段（segmentation）的設定與管理工作。</p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/TXOne%20Edge%20segmentation.jpg" style="width: 600px;" /></p> <p>這套解決方案在5月初舉行的2024臺灣資安大會首度亮相，透過企業與組織網路傳送的OT網路通訊流量進行學習，可依照各個特定環境產生對應的OT協定信任清單，TXOne的Edge V2世代的產品，已配備針對OT網路環境原生設計的能見度增進功能，以及進階的OT智慧型政策部署方式，並且提供線上（inline）的虛擬修補機制，以便在產線設備無需停機的狀態下，也能主動防堵漏洞濫用行為，同時可廣泛支援多種OT網路協定，用戶能夠進行深層分析。</p> <p><a href="https://s4.itho.me/sites/default/files/images/2023-05-TXOne Cybersec 2023-1.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-05-TXOne%20Cybersec%202023-1.jpg" style="width: 298px;" /></a> <a href="https://s4.itho.me/sites/default/files/images/2023-05-TXOne Cybersec 2023-2.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-05-TXOne%20Cybersec%202023-2.jpg" style="width: 298px;" /></a></p> <p><a href="https://s4.itho.me/sites/default/files/images/TXOne Edge virtualpatch.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/TXOne%20Edge%20virtualpatch.jpg" style="width: 600px;" /></a></p> <p>此外，TXOne Edge V2也備妥多種外形的設備選擇，可用於建置縱深防禦的資安防護態勢。舉例來說，當中的OT網路入侵防禦設備EdgeIPS，目前可細分3大系列、共8款機型。</p> <p>依外形與建置方式而言，若要設在標準伺服器機櫃，TXOne提供2U機架式的EdgeIPS Pro 2096 Gen2，1U機架式的EdgeIPS Pro 2016F、EdgeIPS Pro 2008、EdgeIPS Pro 1048 Gen2；而需要以其他形式安裝的產品，則有：可安裝在DIN滑軌、伺服器機架、壁掛的橫置型設備，例如EdgeIPS Pro 216、EdgeIPS Pro 216 Rugged，以及支援DIN滑軌安裝與壁掛的直立小型設備，例如EdgeIPS 103、EdgeIPS LE 102。</p> <p><a href="https://s4.itho.me/sites/default/files/images/EdgeIPS 103_LE Arch.png"><img alt="" src="https://s4.itho.me/sites/default/files/images/EdgeIPS%20103_LE%20Arch.png" style="width: 298px;" /></a> <a href="https://s4.itho.me/sites/default/files/images/EdgeFire Arch.png"><img alt="" src="https://s4.itho.me/sites/default/files/images/EdgeFire%20Arch.png" style="width: 298px;" /></a></p> <p>而以產品推出時序來看，EdgeIPS Pro 2096、EdgeIPS Pro 1048應該是在2021年推出，EdgeIPS Pro 216、EdgeIPS Pro 216 Rugged在2022年6月登場，今年3月EdgeIPS LE 102、EdgeIPS 103、上陣，至於EdgeIPS Pro 2096 Gen2、EdgeIPS Pro 1048 Gen2則是在9月推出。</p> <p><a href="https://s4.itho.me/sites/default/files/images/EdgeIPS Pro Arch.png"><img alt="" src="https://s4.itho.me/sites/default/files/images/EdgeIPS%20Pro%20Arch.png" style="width: 298px;" /></a> <a href="https://s4.itho.me/sites/default/files/images/EdgeIPS Pro 216 Arch.png"><img alt="" src="https://s4.itho.me/sites/default/files/images/EdgeIPS%20Pro%20216%20Arch.png" style="width: 298px;" /></a></p> <p>值得注意的是，我們剛好也看到處理器廠商英特爾10月底發布的解決方案簡介文件，當中特別提到EdgeIPS系列的3款機型：EdgeIPS Pro 216、EdgeIPS Pro 1048、EdgeIPS Pro 2096，並介紹這些產品搭配的CPU運算平臺，以及處理效能。他們表示，這三款機型皆以EdgeIPS Pro軟體搭配瑞祺電通（CASwell）的網路安全設備而成，存取延遲均低於500毫秒，用於過濾OT通訊協定的組態都是256個。</p> <p>其中的EdgeIPS Pro 216採用的處理器是英特爾Atom，內建16個GbE網路埠，防火牆吞吐量可達12 Gbps，同時連線數量可支援20個，能強制實施的控管政策為8千個；EdgeIPS Pro 1048、EdgeIPS Pro 2096則搭配第三代Xeon Scalable處理器，分別內建48個與96個GbE網路埠，防火牆吞吐量為20Gbps與40Gbps，同時連線數量各為2百萬個與4百萬個，能強制實施的控管政策為5萬個與10萬個。</p> <p><a href="https://s4.itho.me/sites/default/files/images/TXOne Edgepolicy enforcement.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/TXOne%20Edgepolicy%20enforcement.jpg" style="width: 600px;" /></a></p> <p><a href="https://s4.itho.me/sites/default/files/images/TXOne Edge Authorization.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/TXOne%20Edge%20Authorization.jpg" style="width: 600px;" /></a></p> <p>關於網路連線容錯的部分，EdgeIPS全系列均提供硬體旁路（bypass），若設備發生故障，網路連線仍可繼續進行而不會在此堵塞。以EdgeIPS 103、EdgeIPS LE 102這類小型設備而言，網路埠不多，各為3個與2個，因此，全部支援這項配置；至於其餘機型，均保留一半數量的網路埠提供第三代的硬體旁路機制，並能在此啟動網路分段，例如，EdgeIPS Pro 1048 Gen2本身有48個GbE埠，其中24個可支援硬體旁路與網路分段。</p> <p><a href="https://s4.itho.me/sites/default/files/images/TXOne Edge Bypass.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/TXOne%20Edge%20Bypass.jpg" style="width: 600px;" /></a></p> <p>而在OT網路協定的運用上，EdgeIPS系列可支援超過6千種通訊協定的細部參數設定組合，可廣泛因應不同的OT網路營運需求。對於OT網路活動的辨別與控管上，EdgeIPS內建該公司長期發展的產業型深層封包檢測核心技術，名為TXOne One-Pass DPI for Industry（TXODI），能夠建立與編輯允許裝置連網的清單，並且能以此透視重要設備節點之間的交互運作狀況，深入分析網路第2層至第7層的流量。</p> <p>關於TXOne Edge V2強調的政策簡化設置功能，在EdgeIPS 103、216、2008、2016F、1048 Gen2、2096 Gen2，以及OT網路防火牆EdgeFire 1012，均配備自動化學習、產生控管規則的技術，可根據每天的OT網路運作狀態學習日常連線模式、產生允許連網的清單，減少部署這類防護機制的時間。透過這項針對OT環境的原生應用技術，能夠學習差異極大的OT網路行為，再以此建立作為安全基準判斷的信任清單，進而簡化管理流程。</p> <p><a href="https://s4.itho.me/sites/default/files/images/TXOne Edge Autolearn.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/TXOne%20Edge%20Autolearn.jpg" style="width: 600px;" /></a></p> <p><a href="https://s4.itho.me/sites/default/files/images/TXOne Edge host management.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/TXOne%20Edge%20host%20management.jpg" style="width: 600px;" /></a></p> <p>而在多臺TXOne Edge設備的集中控管應用上，V2世代提供的管理主控臺軟體稱為EdgeOne，前身是Operational Technology Defense Console（ODC），可提供多臺設備的特徵碼更新與韌體管理功能，目前最新版本為2.2，於今年8月底推出。</p> <p>根據3月公布的Edge V2新功能來看，EdgeOne支援EdgeIPS 103、EdgeIPS LE 102之餘，最大特色是針對OT環境營運提供原生的能見度功能，先前的ODC僅能總覽所有列管的設備資產，EdgeOne現在有4種檢視方式：即時的設備資產、介面狀態、網路拓樸架構圖解、特徵碼部署資訊。</p> <p><a href="https://s4.itho.me/sites/default/files/images/2023-03-EdgeOne_Visibility_Updated Web.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-03-EdgeOne_Visibility_Updated%20Web.jpg" style="width: 600px;" /></a></p> <p>以資產檢視而言，管理者可察看設備類型、通用資訊、頻寬用量、應用系統使用量。網路架構圖解的部分，管理者可了解裝置與介面連線狀態、識別設備的潛在風險（網路威脅的事件、違反政策的事件）。</p> <p>關於日常處理的作業功能，EdgeOne支援以電子郵件寄送事件通知，用戶也能設定排除過濾的檔案清單。在資安防護系統的延伸應用上，EdgeOne內建整合趨勢科技的XDR系統Trend Micro One，除此之外，也能整合Syslog通訊協定，可接收CEF與LEEF這兩種事件格式的記錄，以及其他解決方案廠商的可疑物件情報，從而提升威脅識別度。</p> <p><a href="https://s4.itho.me/sites/default/files/images/TXOne Edge Montoring.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/TXOne%20Edge%20Montoring.jpg" style="width: 600px;" /></a></p> <p><span style="color:#008080;"><strong>產品快報</strong></span></p> <p><strong>TXOne Edge V2</strong><br /> ●原廠：TXOne Networks<br /> ●建議售價：廠商未提供<br /> ●涵蓋產品種類與供應形式：集中管理主控臺EdgeOne，軟體系統（虛擬應用設備）；入侵預防系統EdgeIPS，含EdgeIPS Pro系列、EdgeIPS 103、EdgeIPS LE 102，硬體設備；防火牆EdgeFire 1012，硬體設備<br /> ●硬體設備威脅預防處理效能：<br /> EdgeIPS Pro 1048為10Gbps，EdgeIPS Pro 2096為20Gbps<br /> EdgeIPS Pro 2008、EdgeIPS Pro 2016F為20Gbps，<br /> EdgeIPS Pro 216、216 Rugged為1.8 Gbps<br /> EdgeIPS 103為850Mbps<br /> EdgeIPS LE 102為100 Mbps<br /> EdgeFire 1012為200Mbps</p> <p>【註：規格與價格由廠商提供，因時有異動，正確資訊請洽廠商】</p> </div></div></div>
2023/12/3 15:55作者李宗翰https://www.ithome.com.tw/review/160083
提供PCIe與OAM外形，英特爾首款資料中心GPU產品問世
<div class="field field-name-field-image field-type-image field-label-hidden"><div class="field-items"><div class="field-item even"><img src="https://s4.itho.me/sites/default/files/intel_data_center_gpu_maxxi_lie_main.jpg" width="960" height="420" alt="" /></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>自從Nvidia在2016年推出Tesla P100，將GPU拓展至資料中心等級的產品，後續發表Tesla V100、A100，以至近期炙手可熱的H100，連帶也吸引其他晶片廠商開始積極發展資料中心GPU、AI加速器，像是AMD在2020、2021年底的SC超級電腦大會期間，推出<a href="https://www.ithome.com.tw/review/141277">Instinct MI100系列</a>，以及<a href="https://www.ithome.com.tw/review/147860">Instinct MI200系列</a>，下一代產品<a href="https://ir.amd.com/news-events/press-releases/detail/1168/amd-announces-amd-instinct-mi300-accelerator-launch-event">Instinct MI300系列即將於今年12月初發表</a>；英特爾在2021年預告將推出資料中心GPU產品，2023年1月終於上市，隨後於5月底、9月底，以及11月初，陸續公布效能測試優勢，以及超級電腦系統、市售伺服器的採用現況。</p> <h3><span style="color:#0000FF;"><strong>兩年前對外揭露正在發展的</strong><strong>資料中心GPU架構，去年底定名為Data Center GPU Max系列</strong></span></h3> <p>在2021年8月的Intel架構日，英特爾首度公開介紹他們發展的<a href="https://www.ithome.com.tw/tech/146524">資料中心GPU架構：Xe HPC</a>，以及採用此架構的產品，代號為Ponte Vecchio，隔年11月初舉行的SC22超級電腦大會期間，<a href="https://www.ithome.com.tw/tech/154162">GPU產品正式定名為Intel Data Center GPU Max系列（以下簡稱為Intel Max GPU）。</a></p> <p>當時英特爾預告將推出3款資料中心GPU，分別是：雙寬尺寸PCIe介面卡外形的1100，以及OAM外形的1350、1550，內建的Xe核心數量、HBM2e記憶體容量，以及熱設計功耗，都有不同配置，而在運算效能的突破上，英特爾以競爭產品Nvidia A100為基準，聲稱Intel Max GPU可達到1.5倍至2.4倍。</p> <p><a href="https://s4.itho.me/sites/default/files/images/2022-11-Intel Max GPU 1100 overview.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/2022-11-Intel%20Max%20GPU%201100%20overview.jpg" style="width: 298px;" /></a> <img alt="" src="https://s4.itho.me/sites/default/files/images/Intel%20Max%201350_1500%20GPU%20overview.jpg" style="width: 298px;" /> </p> <p>而在採用客戶的部分，英特爾表示，美國能源部阿貢國家實驗室正在建造的超級電腦Aurora，預計將會採用Intel Max GPU，以及此時一同揭露的Xeon Max系列處理器，並預告2023年1月將推出這兩種Max系列產品，以及2024年發表下一代資料中心GPU，代號為Rialto Bridge，未來將會推出在單一封裝結合x86核心與Xe核心的XPU晶片，代號為Falcon Shores。</p> <p> </p> <div class="media_embed" height="315px" width="560px"> <iframe allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share" allowfullscreen="" frameborder="0" height="315px" src="https://www.youtube.com/embed/icT4c3EX8Kg?si=lV5cK1UrE9ZMJKkC" title="YouTube video player" width="560px"></iframe></div> <p> </p> <p>至於搭配Intel Max GPU伺服器方面，有兩家廠商率先響應，一家是聯想，他們在SC大會公布與展出ThinkSystem SD650 V3，以及<a href="https://www.servethehome.com/intel-xeon-sapphire-rapids-platforms-shown-before-sc22-supermicro-asus-qct-lenovo-atos-coolit-hpe/">展出ThinkSystem SD650-I V3</a>。</p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/GPU-Max%20Server-Lenovo1-2022-11.jpg" style="width: 600px;" /></p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/GPU-Max%20Server-Lenovo2-2022-11.jpg" style="width: 600px;" /></p> <p>另一家是Dell，當時宣布推出PowerEdge XE系列3款機型，其中一款XE9640採用這款GPU。</p> <p><a href="https://s4.itho.me/sites/default/files/images/2022-11-XE9640.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/2022-11-XE9640.jpg" style="width: 600px;" /></a></p> <h3><span style="color:#0000FF;"><strong>今年上半Intel Max GPU細部規格、系統搭配，以及應用案例陸續出爐</strong></span></h3> <p>今年1月10日，英特爾一口氣推出第四代Xeon Scalable處理器、Xeon Max系列處理器，以及Intel Max GPU，但所有焦點都在第四代Xeon Scalable處理器，對於Intel Max GPU，英特爾延續Intel架構日公布的相關資訊，重申這款產品使用超過1千億顆電晶體，並在單一封裝納入47片晶磚，而在運算效能方面，他們提出新數據：在與Xeon Max系列處理器一起使用的伺服器當中，執行分子動力學模擬器LAMMPS時，相較於第三代Xeon Scalable處理器的伺服器，可獲得12.8倍的效能。在此同時，聯想也在公布ThinkSystem V3系列機型，順勢<a href="https://lenovopress.lenovo.com/lp1684-announcing-thinksystem-v3-with-4th-gen-intel-xeon-scalable-processors">揭露ThinkSystem SD650-I V3的規格。</a></p> <p><a href="https://s4.itho.me/sites/default/files/images/Intel Max GPU 1350 in SD650-I V3.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Intel%20Max%20GPU%201350%20in%20SD650-I%20V3.jpg" style="width: 298px;" /></a> <a href="https://s4.itho.me/sites/default/files/images/SD650-I V3 internals front angled left-web.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/SD650-I%20V3%20internals%20front%20angled%20left-web.jpg" style="width: 198px;" /></a></p> <p>接著是5月底的ISC High Performance 2023超級電腦大會，英特爾揭露更多Intel Max GPU的能耐。</p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/Max%201550-Spec-2023-05.jpg" style="width: 600px;" /></p> <p>他們宣稱，若同樣用於廣泛的科學工作負載，以Nvidia於2022年新推出的資料中心GPU產品H100 PCIe為對手，OAM外形的Intel Data Center GPU Max 1550領先幅度平均可達到30%，同時，英特爾也引用於工程模擬軟體廠商Ansys的測試數據，指出Intel Data Center GPU Max 1550執行AI加速的高效能運算系統，效能是Nvidia H100 PCIe的1.5倍。</p> <p><a href="https://s4.itho.me/sites/default/files/images/Max 1550-Perform2-2023-05.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Max%201550-Perform2-2023-05.jpg" style="width: 298px;" /></a> <a href="https://s4.itho.me/sites/default/files/images/Max 1550-Perform1-2023-05.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Max%201550-Perform1-2023-05.jpg" style="width: 298px;" /></a></p> <p><a href="https://s4.itho.me/sites/default/files/images/Max 1550-Perform0-2023-05.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Max%201550-Perform0-2023-05.jpg" style="width: 298px;" /></a></p> <p>關於超級電腦方面的應用布局，英特爾揭露美國能源部阿貢國家實驗室Auroa系統的安裝進度與系統規格——涵蓋63,744臺GPU、21,248顆CPU，以及1,024臺DAOS儲存系統節點，並透過早期程式碼測試，將Aurora測試與開發平臺「Sunspot」，與美國能源部旗下兩臺超級電腦比較預測核融合反應爐等離子體活動的效能，其中一臺是採用SXM外形Nvidia A100 GPU的「Polaris」，另一臺是正在建置、採用OAM外形AMD Instint MI250 GPU的「Crusher」。</p> <p>英特爾展示這些超級電腦在單GPU與多GPU組態的效能差異，他們表示，採用Intel Data Center GPU Max 1550的系統運算效能，可達到AMD Instint MI250的兩倍。若用於量子力學應用系統，如QMCPACK，以Nvidia H100為比較基準，Intel Data Center GPU Max 1550領先幅度為20％，擴充至數百臺節點時，整體效能也將呈近乎線性的增長。</p> <p><a href="https://s4.itho.me/sites/default/files/images/Aurora P1-2023-05.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Aurora%20P1-2023-05.jpg" style="width: 298px;" /></a> <a href="https://s4.itho.me/sites/default/files/images/Aurora P2-2023-05.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Aurora%20P2-2023-05.jpg" style="width: 298px;" /></a></p> <p>此外，英特爾還特別提到英國劍橋大學的Open Zettascale實驗室，他們已部署Max GPU測試平臺，並於分子動力學和生物成像應用看到正面的早期成果。</p> <p>在市售伺服器產品的搭配上，英特爾也公布2023年底之前的供應規畫。首先是機型名稱有變化，Intel Max GPU仍然提供3款機型， 1100、1550照舊，但不提供1350而是1450，關於這項傳言，4月中有一些科技媒體報導。</p> <p><a href="https://s4.itho.me/sites/default/files/images/Max GPU Offered in 203.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Max%20GPU%20Offered%20in%20203.jpg" style="width: 600px;" /></a></p> <p>伺服器廠商的產品方面，以OAM外形的1450與1550而言，Supermicro、浪潮將提供支援8臺OAM配置的伺服器，Dell、聯想將提供支援4臺OAM配置的伺服器；若是PCIe介面卡外形的1100，會有5大廠牌伺服器搭配，包含Dell、HPE、浪潮、聯想、Supermicro。若用戶不想透過這種形式測試Intel Max GPU是否合用，也可以透過英特爾發展、正在測試的雲服務<a href="https://www.ithome.com.tw/review/159908">Intel Developer Cloud</a>評估。</p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/ISC23-Supermicro%208-OAM%20Server-0-2023-05.jpg" style="width: 298px;" /> <img alt="" src="https://s4.itho.me/sites/default/files/images/ISC23-Supermicro%208-OAM%20Server-2023-05.jpg" style="width: 298px;" /></p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/ISC23-Supermicro%208-OAM%20Server-2023-05-1.jpg" style="width: 298px;" /> <img alt="" src="https://s4.itho.me/sites/default/files/images/Max%201550-OAM-2023-05.jpg" style="width: 298px;" /></p> <blockquote><p>今年5月底召開的ISC超級電腦大會期間，英特爾展示Intel Data Center GPU的兩種外形，副總裁暨超級運算事業群總經理Jeff McVeigh向大家介紹此產品的PCIe介面卡款式，以及OAM外形的款式（右下圖）。</p> </blockquote> <p>而在ISC大會期間，英特爾也在他們的演講舞臺上，展出Supermicro設計、採用Xeon Max系列處理器及8臺OAM外形GPU的8U尺寸氣冷伺服器，預計7月開始供貨，Supermicro也預告9月將推出4U尺寸的Intel Max GPU液態冷卻伺服器。除此之外，他們也介紹聯想設計、採用4臺OAM外形GPU的液態冷卻伺服器。 </p> <p><a href="https://s4.itho.me/sites/default/files/images/ISC23-Lenvo 4-OAM Server-2023-05-1.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/ISC23-Lenvo%204-OAM%20Server-2023-05-1.jpg" style="width: 298px;" /></a></p> <h3><span style="color:#0000FF;"><strong>搭配Intel Max GPU的市售伺服器產品一一浮出檯面，VMware為了擴展Private AI架構陣容也找上Intel合作</strong></span></h3> <p>9月下半英特爾年度用戶大會Innovation期間，對於Intel Max GPU，除了重申先前強調的產品特色，他們在一場演講當中，公布多款AI產品用於<a href="https://www.intel.com/content/www/us/en/developer/articles/technical/accelerate-llama2-ai-hardware-sw-optimizations.html#gs.0rp0m1">大型語言模型Llama 2的推論效能測試結果</a>，當中也包含Intel Max GPU。英特爾提到Intel Data Center GPU Max 1550在晶片封裝內放置兩片GPU晶磚，他們只用其中一片執行AI推論，結果顯示：輸入長度為32到2千個Token的狀態下，若用70億參數的模型進行推論，每個Token的反應延遲可低於20毫秒；若用130億參數的模型進行推論，每個Token的反應延遲介於29.2到33.8毫秒之間。他們表示，用戶可以同時執行兩個執行個體，每一片晶磚負責一個執行個體，可提供更大的吞吐量、獨立服務更多用戶。</p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/-Intel-Innovation-Day2-Keynote-3-Max%20GPU%20OAM.jpg" style="width: 248px;" /> <a href="https://s4.itho.me/sites/default/files/images/Intel AI Perform-Innovation-2023-09-1-WEB.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Intel%20AI%20Perform-Innovation-2023-09-1-WEB.jpg" style="width: 350px;" /></a></p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-10-f4-llama-2-7b-13b-inference-performance-on-gpu-max.png" style="width: 600px;" /></p> <blockquote><p>在今年的Innovation大會期間，英特爾針對旗下伺服器處理器與兩大加速器產品，以及最佳化軟體用於大型語言模型，首度公開以Llama 2的70億參數模型與130億參數模型執行AI推論的效能，當中可看出Intel Data Center GPU的表現，介於Xeon Scalable處理器與Gaudi2加速器之間。</p> </blockquote> <p>企業與組織若想要實際測試Intel Max GPU，英特爾9月正式上線的<a href="https://www.ithome.com.tw/review/159908">Intel Developer Cloud</a>服務，當中就提供搭配這款GPU的裸機執行個體。</p> <p><a href="https://s4.itho.me/sites/default/files/images/Intel Developer Cloud-GPU Max1.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Intel%20Developer%20Cloud-GPU%20Max1.jpg" style="width: 600px;" /></a></p> <p> <a href="https://s4.itho.me/sites/default/files/images/Intel Developer Cloud-GPU Max2.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Intel%20Developer%20Cloud-GPU%20Max2.jpg" style="width: 600px;" /></a></p> <p>在此同時，另一款支援Intel Max GPU的伺服器產品終於上市，那就是去年底預告將支援的<a href="https://www.ithome.com.tw/review/159900">Dell PowerEdge XE9640</a>，他們公布細部規格，也在臺灣舉行的2023戴爾科技論壇公開亮相。</p> <p><a href="https://s4.itho.me/sites/default/files/images/2023-09-26-Dell-TW-XE9640-2.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-09-26-Dell-TW-XE9640-2.jpg" style="width: 298px;" /></a> <img alt="" src="https://s4.itho.me/sites/default/files/images/2023-09-26-Dell-TW-XE9640-3.jpg" style="width: 298px;" /></p> <p>到了11月，適逢VMware Explore 2023 Barcelona大會，以及SC23超級電腦大會的舉行，連帶有Intel Max GPU相關消息。</p> <p>首先，在月初這場VMware歐洲年度用戶大會活動期間，他們宣布8月底登場的VMware Private AI架構，先支援Nvidia的產品與技術，現在擴及英特爾、IBM這兩家公司合作。而採用Intel AI的VMware Private AI參考架構裡面，目前主要著墨在第四代Xeon Scalable處理器、Intel AI軟體套餐的運用，VMware公布《AI without GPUs: A Technical Brief for VMware Private AI with Intel》，9月底他們曾發布《AI without GPUs: Accessing Sapphire Rapids AMX instructions on vSphere》，Intel Max GPU也是其中一員，但未透露實際搭配應用方式。</p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-11-VMware-Presentation1_Page_2.jpg" style="width: 600px;" /></p> <p>隔週登場的SC23大會，英特爾宣布更多Intel Max GPU的近況。</p> <p>以運算效能而言，若同樣執行通用原子、分子與電子結構系統（GAMESS）的軟體，Intel Max GPU超越Nvidia A100的比例超過1倍以上。而在他們與伺服器廠商Dell合作發布的效能測試結果當中，以金融業市場風險分析應用的工作負載來比較，結果顯示以4臺Intel Data Center GPU Max 1550對上8張Nvidia H100 PCIe，效能超越比例是26％（但英特爾對媒體秀出的圖表是1.16倍？），而在伺服器空間使用效率方面，可達到4.3倍。</p> <p><a href="https://s4.itho.me/sites/default/files/images/2023-11-Max GPU Perform1.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-11-Max%20GPU%20Perform1.jpg" style="width: 600px;" /></a><br /> <a href="https://s4.itho.me/sites/default/files/images/2023-11-Max GPU Perform2.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-11-Max%20GPU%20Perform2.jpg" style="width: 600px;" /></a></p> <p>在多種高效能運算工作負載類型的測試當中，Intel Data Center GPU Max 1550平均可贏過Nvidia H100 PCIe的幅度是36％。</p> <p><a href="https://s4.itho.me/sites/default/files/images/2023-11-Max GPU Perform3.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-11-Max%20GPU%20Perform3.jpg" style="width: 600px;" /></a></p> <blockquote><p>在11月SC23超級電腦大會，英特爾揭露多種產業HPC效能測試比較，他們強調Intel Data Center GPU Max Series 1550（OAM外形），以36%的幅度領先競爭產品Nvidia H100 PCIe。可惜的是，這次未呈現以Nvidia H100 SXM為對手的表現差異，若差距幅度也這麼大，相信會更有說服力。</p> </blockquote> <p>SC23大會也同步揭開最新全球500大超級電腦榜單，其中有4臺使用Intel Max GPU，美國能源部阿貢國家實驗室的Aurora拿下第二，建置規模大致如ISC大會公布的，英特爾補充此系統有166座機櫃，10,624臺運算刀鋒模組，並透露此系統是在6月完成建置，其他3臺分別是：第41名英國劍橋大學的Dawn、第52名德國萊布尼茲超級電腦中心的SuperMUC-NG Phase 2、第196名美國能源部洛斯阿拉莫斯國家實驗室的Crossroads。其中的Dawn，應該就是英特爾5月ISC大會揭露的劍橋大學Open Zettascale實驗室系統。</p> <p><a href="https://s4.itho.me/sites/default/files/images/2023-11-Aurora-perform1.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-11-Aurora-perform1.jpg" style="width: 600px;" /></a></p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-11-Aurora-perform2.jpg" style="width: 600px;" /></p> <p>值得注意的是Dawn、SuperMUC-NG Phase 2均採用伺服器廠商的產品搭建超級電腦，前者搭配Dell PowerEdge XE9640，後者則是聯想ThinkSystem SD650-I V3 Neptune DWC，均配備直接液態冷卻（DLC）技術。關於Intel Max GPU的搭配，我們看到聯想在SD650-I V3 Neptune DWC規格變更歷程的資訊，提到部分GPU款式支援變化——4月撤下對Intel Data Center GPU Max 1350的支援，8月針對中、港、澳的客戶提供搭配Intel Data Center GPU Max 1450的選項。</p> <p>除了上述兩款機型，SC23大會期間我們看到兩家伺服器廠商揭露搭配Intel Max GPU的產品。首先是Supermicro展出8U尺寸且支援OAM外形GPU的伺服器SYS-821GV-TNR，強調可搭配Intel Data Center GPU Max 1550，這款機型應該是5月底ISC大會英特爾展示的產品，而在Supermicro網站的Intel加速器產品專區當中，也提到該公司有一款4U伺服器SYS-421GE-TNRT，可搭配10張PCIe介面卡形式的多款Nvidia GPU加速卡，或是Intel Data Center GPU Max 1100。</p> <p><a href="https://s4.itho.me/sites/default/files/images/Supermicro 8U OAM-Intel GPU Server.png"><img alt="" src="https://s4.itho.me/sites/default/files/images/Supermicro%208U%20OAM-Intel%20GPU%20Server.png" style="width: 298px;" /></a> <a href="https://s4.itho.me/sites/default/files/images/Suprmicro Intel 10GPU Server.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Suprmicro%20Intel%2010GPU%20Server.jpg" style="width: 298px;" /></a></p> <p><a href="https://www.hpe.com/us/en/product-catalog/compute/accelerators/pip.specifications.intel-accelerators.1014779728.html">HPE旗下有兩款伺服器也能搭配Intel Data Center GPU Max 1100</a>，根據該公司11月初更新的伺服器產品規格資訊，ProLiant DL380 Gen11可搭配2張，ProLiant DL380a Gen11能搭配2張或4張。</p> <p><a href="https://s4.itho.me/sites/default/files/images/2023-11-Max GPU server status.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-11-Max%20GPU%20server%20status.jpg" style="width: 600px;" /></a></p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/Intel%20Max%20GPU%20Server.png" style="width: 500px;" /></p> <h3><span style="color:#0000FF;"><strong>Intel Max GPU的下一代產品是代號為Falcon Shores的「GPU」</strong></span></h3> <p>根據2022年11月Max系列GPU發表揭露的產品上市規畫，下一代會是代號為Rialto Bridge的資料中心GPU，預計2024年登場，之後則是在單一封裝結合Xe架構與x86核心的產品，代號為Falcon Shores，</p> <p><a href="https://s4.itho.me/sites/default/files/images/2022-11-Intel AI Chip Roadmap.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/2022-11-Intel%20AI%20Chip%20Roadmap.jpg" style="width: 600px;" /></a></p> <p>然而到了2023年3月初，英特爾突然宣布原本接班的Rialto Bridge將終止發展，下一代的產品會採用代號為Falcon Shores的GPU架構，預計2025年推出，將採用小晶片（chiplet）設計架構，能整合英特爾與長期合作客戶新型矽智財，涵蓋，CPU核心、其他小晶片，。</p> <p>而在幾天之後舉行的資料中心與AI投資者線上說明會當中，他們介紹今年第四季即將問世的第五代Xeon Scalable處理器之餘，在資料中心GPU Max系列的發展藍圖，也將後繼產品標示為「次世代加速器架構，代號為Falcon Shores」，而專屬AI加速器產品Habana Gaudi系列，在現行產品Gaudi 2，以及後繼產品Gaudi 3，之後是哪一款產品接替呢？英特爾在此，也相當巧合地將這個位置標示為「次世代加速器架構」，但並未列出研發代號。</p> <p><a href="https://s4.itho.me/sites/default/files/images/2023-03-DCAI Investor Webinar-DCAI Roadmap.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-03-DCAI%20Investor%20Webinar-DCAI%20Roadmap.jpg" style="width: 600px;" /></a></p> <p>到了5月底召開的ISC23大會，英特爾直接表明下一代Max系列GPU就是Falcon Shores，它同時是現行Intel Data Center GPU Max與Habana Gaudi 3的接班者，並且以「次世代GPU」稱呼Falcon Shores。英特爾提到這款產品結合系統層級的CPU與獨立GPU，採用模組化、基於多片晶磚而成的架構，提供更多使用彈性，可因應新興與快速變遷的工作負載執行需求，他們預告GPU不只是廣泛支援HPC與AI領域常用的多種資料型別，舉凡FP64、BF16、FP8，最多能內建288 GB的HBM3記憶體，支援高達9.8 TB/s的記憶體總頻寬，大幅改善I/O存取，而且能運用CXL互連技術的程式運作模型，同時，可經由他們發展的oneAPI展現統一的GPU程式處理介面使用。</p> <p>英特爾副總裁暨超級運算事業群總經理Jeff McVeigh坦承，他們太快走向XPU的發展。他表示，倘若平臺層級具備的彈性能夠更理想地處理動態工作負載，英特爾會在合適的時機進行整合，例如此類工作負載趨於成熟時，以及更了解這些運算元件的正確搭配比例，屆時就能更有效率地完成相關的組建與設計，因此，英特爾決定改變GPU與XPU產品演進的過程。</p> <p>按照他們調整後的規畫，Falcon Shores是預計在2025年推出的GPU產品，至於產品的技術組成，Jeff McVeigh提出進一步說明，他表示，當中將結合Gaudi產品線的矽智財——像是深層的脈動陣列（Deep Systolic Array）、內建標準乙太網路而提供具有規模延展性的AI效能，可廣泛用於各種系統，以及Xe GPU產品線的矽智財——支援FP64的程式處理，提供彈性的CPU與GPU混合搭配比率，可橫跨多家廠商、使用熟悉的GPU程式處理介面，同時，這個平臺也能運用CXL技術，提供更理想的程式處理，以及記憶體容量擴充能力。</p> <p><a href="https://s4.itho.me/sites/default/files/images/Intel DCAI Roadmap-2023-05.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Intel%20DCAI%20Roadmap-2023-05.jpg" style="width: 600px;" /></a></p> <p>到了11月SC23超級電腦大會期間，英特爾重申Falcon Shores會是用於HPC與AI領域的下一代GPU，相關產品宣傳力道聚焦在Habana Gaudi系列。</p> <p><a href="https://s4.itho.me/sites/default/files/images/2023-11-SC23-Intel Accelerator Roadmap.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-11-SC23-Intel%20Accelerator%20Roadmap.jpg" style="width: 600px;" /></a></p> <p>為何會出現厚此薄彼的現象？此產品線目前最新的解決方案<a href="https://www.ithome.com.tw/review/155484">Habana Gaudi 2</a>，是在2022年5月推出，<a href="https://habana.ai/where-to-buy/">搭配這款AI加速器的市售伺服器</a>，有Supermicro的SYS-820GH-TNR2、緯穎SV600G2、浪潮信息NF5688M7，到了2023年下半Gaudi 2突然暴紅，原因應是MLCommon公布的AI效能測試數據，突顯其運算效能日益接近Nvidia H100，在性價比方面，有競爭優勢。</p> <p> </p> <div class="media_embed" width="560px"> <blockquote class="twitter-tweet" data-media-max-width="560" height="" width="560px"><p dir="ltr" lang="en" xml:lang="en">Join Thomas Jorgensen as he takes you on a closer look at the <a href="https://twitter.com/Supermicro_SMCI?ref_src=twsrc%5Etfw">@Supermicro_SMCI</a> Habana Gaudi®2 server. If you are at <a href="https://twitter.com/hashtag/SC23?src=hash&ref_src=twsrc%5Etfw">#SC23</a> this week, stop by our booth at #1325 and explore this fantastic server!</p> <p>Learn more: <a href="https://t.co/VoNsv3EgKq">https://t.co/VoNsv3EgKq</a><a href="https://twitter.com/hashtag/Supermicro?src=hash&ref_src=twsrc%5Etfw">#Supermicro</a> <a href="https://twitter.com/hashtag/SupermicroSC23?src=hash&ref_src=twsrc%5Etfw">#SupermicroSC23</a> <a href="https://t.co/vEcMYe5Nko">pic.twitter.com/vEcMYe5Nko</a></p> <p>— Supermicro (@Supermicro_SMCI) <a href="https://twitter.com/Supermicro_SMCI/status/1725152880275890469?ref_src=twsrc%5Etfw">November 16, 2023</a></p></blockquote> <script async="" charset="utf-8" height="" src="https://platform.twitter.com/widgets.js" width="560px"></script></div> <p> </p> <p><a href="https://s4.itho.me/sites/default/files/images/Wiwynn SV600G2-Web-圖片來源-Intel.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Wiwynn%20SV600G2-Web-%E5%9C%96%E7%89%87%E4%BE%86%E6%BA%90-Intel.jpg" style="width: 600px;" /></a></p> <p>例如，今年6月揭露的AI訓練效能測試結果MLPerf Training 3.0，英特爾以48臺伺服器、總共搭配384臺Gaudi2的組態，完成GPT-3訓練需311.94分鐘；Nvidia以64臺DGX H100伺服器、總共搭配512臺H100 GPU的組態，完成GPT-3訓練需64.26分鐘。此時彼此的差距雖然不小，Gaudi2卻是少數在檯面上能在這方面應用與其競爭的對手。</p> <p>11月揭露MLPerf Training 3.1，因為當中的GPT-3測試增加FP8資料型別的支援，受測伺服器效能大幅提升，連帶拉近Intel Gaudi2與Nvidia H100的差距。英特爾以48臺伺服器、總共搭配384臺Gaudi2的組態，完成GPT-3訓練需153.58分鐘，節省一半時間，Nvidia以64臺DGX H100伺服器、總共搭配512臺H100 GPU的組態，完成GPT-3訓練需58.30分鐘。</p> <p>9月MLPerf Inference 3.1公布，在GPT-J-99與GPT-J-99.9測試中，英特爾搭配8臺Gaudi2的伺服器，線上查詢每秒78.58個樣本，離線為84.08個樣本；Nvidia搭配8臺H100的伺服器DGX H100，有兩個數據，其中一組領先幅度較大，線上查詢每秒82.26個樣本，離線每秒為106.32個樣本，另一組遜於Gaudi2伺服器，線上查詢每秒48.98個樣本，離線每秒為64.51個樣本。</p> <p>相較之下，Intel Max GPU上市近一年，英特爾多次公開內部效能測試成效，頻頻向Nvidia A100與H100這兩款資料中心GPU叫陣，卻遲遲未見其向MLCommons提交Max GPU測試數據，今年針對Gaudi 2提交的AI測試數據目前卻已累積3次以上。（若再加上去年的MLPerf Training 2.0、2.1，總共有5次之多）。</p> <p>除此之外，英特爾Innovation大會期間，他們揭露Gaudi 2效能測試數據的數量，也明顯多於Intel Max GPU。</p> <p><a href="https://s4.itho.me/sites/default/files/images/Intel Gaudi2-2023-09-Intel Innvation2.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Intel%20Gaudi2-2023-09-Intel%20Innvation2.jpg" style="width: 298px;" /></a> <a href="https://s4.itho.me/sites/default/files/images/Intel Gaudi2-2023-09-Intel Innvation3.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Intel%20Gaudi2-2023-09-Intel%20Innvation3.jpg" style="width: 298px;" /></a></p> <p><a href="https://s4.itho.me/sites/default/files/images/Intel Gaudi2-2023-09-Intel Innvation4.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Intel%20Gaudi2-2023-09-Intel%20Innvation4.jpg" style="width: 298px;" /></a> <a href="https://s4.itho.me/sites/default/files/images/Intel Gaudi2-2023-09-Intel Innvation5.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Intel%20Gaudi2-2023-09-Intel%20Innvation5.jpg" style="width: 298px;" /></a></p> <p>兩相比較之下，Intel Max GPU雖然有較多伺服器廠商支持，但在媒體與市場聲勢上，似乎不如Gaudi2。現在英特爾預告未來將把這兩個產品送做堆，等於用Falcon Shores進行整合，是否能在AI加速硬體市場獲得更大競爭優勢，仍有待觀察。</p> <p><span style="color:#008080;"><strong>產品資訊</strong></span></p> <p><strong>Intel Data Center GPU Max系列</strong><br /> ●原廠：英特爾<br /> ●建議售價：廠商未提供<br /> ●機型與外形：1550為OAM，1100為PCIe介面卡<br /> ●製程：基礎晶磚採用Intel 7製程，運算晶磚採用TSMC N5製程，Xe Link晶磚採用TSMC N7製程<br /> ●I/O介面：PCIe 5.0 x16<br /> ●GPU架構：Intel Xe HPC<br /> ●GPU核心：1550內建128顆Xe核心、128顆光線追蹤器、1024個XMX引擎、1024個Xe Vector處理引擎，1100內建56顆Xe核心、56顆光線追蹤器、448個XMX引擎、448個Xe Vector處理引擎<br /> ●GPU互連介面與頻寬：Xe Link，53 Gbps<br /> ●GPU記憶體：1550搭配128 GB HBM2e，1100搭配48 GB HBM2e<br /> ●記憶體頻寬：1550為3276.8 GB/s，1100為1228.8 GB/s<br /> ●運算效能：FP64尖峰值為52 TFLOPS，BF16尖峰值為839 TFLOPS<br /> ●耗電量：1550為600瓦，1100為300瓦</p> <p>【註：規格與價格由廠商提供，因時有異動，正確資訊請洽廠商】</p> </div></div></div>
2023/12/1 23:36作者李宗翰https://www.ithome.com.tw/review/159902
Fintech周報第223期：澳洲銀行公會宣布打造收款人確認系統，可讓匯款方確認收款帳戶的使用者名稱；調查顯示全球約2…
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <h3 style="margin: 10px 0px; font-family: 微軟正黑體, sans-serif; font-weight: bold; line-height: 1.25em; text-rendering: optimizelegibility; font-size: 24.5px; background-color: rgb(247, 247, 247);"><span style="font-size: 18px;"><span style="color: rgb(139, 69, 19);">2023/11/27~12/1金融科技精選新聞</span></span></h3> <h1 style="font-weight: bold; line-height: 1.25em; margin: 10px 0px; font-family: 微軟正黑體, sans-serif; text-rendering: optimizelegibility; font-size: 38.5px; background-color: rgb(247, 247, 247);"><span style="font-size: 18.6667px; color: rgb(255, 255, 255);"><strong><span style="background-color: rgb(51, 153, 255);"> 金融詐騙</span></strong></span><span style="font-size: 18.6667px; color: rgb(255, 255, 255);"><strong><span style="background-color: rgb(51, 153, 255);"> </span></strong></span><span style="font-size: 18.6667px;"> </span><span style="font-size: 18.6667px; color: rgb(255, 255, 255);"><strong><span style="background-color: rgb(51, 153, 255);"> 收款人確認系統 </span></strong></span></h1> <h3>澳洲銀行公會將聯合銀行業打造收款人確認系統，可以比對收款人姓名和帳戶名稱是否匹配</h3> <p>澳洲銀行公會（ABA）近期宣布，為了打擊詐騙，他們將聯合銀行業者投入1億美元打造收款人確認系統，提供給國內所有銀行使用，讓匯款人在進行轉帳交易時，可以查看收款人姓名和帳戶名稱是否匹配，確保匯款至正確的帳戶。除了在轉帳環節上防止詐騙，澳洲銀行業者也將會在開戶環節中，至少使用一個生物辨識，來確認開戶者是真人，且符合其生物特徵。</p> <p>此外，ABA也表示，有鑑於加密貨幣平臺有時會成為非法詐取金錢的工具，這項系統將會限制或停止與高風險的加密貨幣平臺間的轉帳交易。這項開發計畫將在2024年至2025年間開發和交付。</p> <h1 style="font-weight: bold; line-height: 1.25em; margin: 10px 0px; font-family: 微軟正黑體, sans-serif; text-rendering: optimizelegibility; font-size: 38.5px; background-color: rgb(247, 247, 247);"><span style="font-size: 18.6667px; color: rgb(255, 255, 255);"><strong><span style="background-color: rgb(51, 153, 255);"> 金融趨勢研究 </span></strong></span><span style="font-size: 18.6667px;"> </span><span style="font-size: 18.6667px; color: rgb(255, 255, 255);"><strong><span style="background-color: rgb(51, 153, 255);"> 生成式AI </span></strong></span></h1> <h3>英國金融軟體供應商Finastra發布2023全球金融服務狀況調查，約26%金融機構已開始使用生成式AI</h3> <p>《2023全球金融服務狀況調查》顯示，銀行即服務（Banking as a Service,BaaS）、嵌入式金融和AI在今年發展快速，全球已有48%金融機構提供BaaS服務，相較2022年增加約13%，而嵌入式金融服務也有相似的增長幅度。</p> <p>此外，調查也顯示，全球約有26%金融機構已在某些場景使用生成式AI，31%金融機構正在研究、測試或實驗生成式AI。根據調查，最多金融機構考慮或使用生成式AI來蒐集、處理或分析ESG相關數據，以進行投資和借貸決策。這份調查蒐集來自美國、英國、德國、香港和新加坡等九個國家的金融機構中，956位主管階層的專業人士意見。</p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/%E8%9E%A2%E5%B9%95%E6%93%B7%E5%8F%96%E7%95%AB%E9%9D%A2%202023-11-30%20184349.png" style="width: 600px;" /></p> <blockquote><p>調查顯示，金融機構票選前五個生成式AI使用案例依序為：蒐集處理和分析ESG標準或決策的相關數據、自動化人工或重複度高的工作任務、提升IT開發效率、蒐集處理和分析KYC和洗錢防制資料、促進任務管理和決策預測分析。</p> </blockquote> <h1 style="font-weight: bold; line-height: 1.25em; margin: 10px 0px; font-family: 微軟正黑體, sans-serif; text-rendering: optimizelegibility; font-size: 38.5px; background-color: rgb(247, 247, 247);"><span style="font-size: 18.6667px; color: rgb(255, 255, 255);"><strong><span style="background-color: rgb(51, 153, 255);"> 生成式AI </span></strong></span><span style="font-size: 18.6667px;"> </span><span style="font-size: 18.6667px; color: rgb(255, 255, 255);"><strong><span style="background-color: rgb(51, 153, 255);"> 顧客虛擬助理 </span></strong></span></h1> <h3>德國商業銀行將整合微軟text to speech avatar工具開發逼真的顧客虛擬助理</h3> <p>微軟近期才宣布Azure AI Speech新工具，能生成逼真的虛擬化身，便有銀行宣布要導入這項工具，開發生成式AI虛擬助理。德國商業銀行（Commerzbank）近期宣布將開發顧客虛擬助理，提供各種銀行服務，除了使用GPT模型，也會整合text to speech avatar工具來製作逼真的虛擬化身。</p> <p>德國商業銀行將鎖定銀行App的220萬用戶數，首先會在行動裝置上發展虛擬助理。目前這項計畫仍在內部實驗，已進行首次顧客測試。</p> <h1 style="font-weight: bold; line-height: 1.25em; margin: 10px 0px; font-family: 微軟正黑體, sans-serif; text-rendering: optimizelegibility; font-size: 38.5px; background-color: rgb(247, 247, 247);"><span style="font-size: 18.6667px; color: rgb(255, 255, 255);"><strong><span style="background-color: rgb(51, 153, 255);"> 客戶資料外洩</span></strong></span><span style="font-size: 18.6667px; color: rgb(255, 255, 255);"><strong><span style="background-color: rgb(51, 153, 255);"> </span></strong></span><span style="font-size: 18.6667px;"> </span><span style="font-size: 18.6667px; color: rgb(255, 255, 255);"><strong><span style="background-color: rgb(51, 153, 255);"> 上海商銀 </span></strong></span></h1> <h3>上海商銀1.4萬客戶資料外洩，金管會依銀行法重罰1千萬</h3> <p>金管會近期在例行記者會上公布上海商銀客戶資料外洩情事，針對該缺失開罰1千萬。金管會銀行局長副局長童政彰表示，2022年9月及今年5月至7月間，上海銀陸續接獲匿名民眾反映其資安問題，而後續金管會查核顯示，上海商銀未完善建立及未確實執行內控制度，導致客戶資料外洩，且未能保有相關軌跡，至今仍不清楚外洩來源。</p> <p>金管會表示，上海商銀的重大缺失有四大項，分別是未訂定妥善個人電腦管理者權限規定，例如案發前並未明定每半年變更個人電腦管理者權限密碼，且未訂定可攜式設備管控規範、未留存個人資料使用軌跡，和未測試出資安軟體漏洞並確認其執行情形。</p> <h1 style="margin: 10px 0px; font-family: 微軟正黑體, sans-serif; font-weight: bold; line-height: 1.25em; text-rendering: optimizelegibility; font-size: 38.5px; background-color: rgb(247, 247, 247);"><span style="font-size: 18.6667px; color: rgb(255, 255, 255);"><strong><span style="background-color: rgb(51, 153, 255);"> 金融監管</span></strong></span><span style="font-size: 18.6667px; color: rgb(255, 255, 255);"><strong><span style="background-color: rgb(51, 153, 255);"> </span></strong></span><span style="font-size: 18.6667px;"> </span><span style="font-size: 18.6667px; color: rgb(255, 255, 255);"><strong><span style="background-color: rgb(51, 153, 255);"> 英國FCA </span></strong></span></h1> <h3>英國金融行為監理總署FCA進一步研究大型科技公司與金融業間資料不對稱問題</h3> <p>去年十月，FCA針對大型科技公司擴張或開展消金服務的潛在影響展開研究，並蒐集業界意見。研究結果顯示，許多回應提到大型科技公司具備相對的資料優勢，因為他們可以從金融機構取得金融相關數據，但根據資料共享相關規定，金融機構無法取得大型科技公司擁有的數據。此外，部分金融機構也擔心大型科技公司將獲取的數據用來發展數據分析和AI技術，進而影響兩個行業間在金融服務上的競爭性發展。</p> <p>因此，FCA近日公開徵求大型科技公司與金融業間資料不對稱的相關證據，以評估這項問題是否會影響金融服務市場競爭效益。</p> <p style="margin: 0px 0px 1.5em; font-size: 14pt; line-height: 2em; font-family: 微軟正黑體, sans-serif; background-color: rgb(247, 247, 247);">責任編輯／李昀璇</p> <p style="margin: 0px 0px 1.5em; font-size: 14pt; line-height: 2em; font-family: 微軟正黑體, sans-serif; background-color: rgb(247, 247, 247);"><span style="font-family: 微軟正黑體, sans-serif; font-size: 18.6667px; background-color: rgb(247, 247, 247);">圖片來源／澳洲銀行公會、</span>Finastra</p> <p style="margin: 0px 0px 1.5em; font-size: 14pt; line-height: 2em; font-family: 微軟正黑體, sans-serif; background-color: rgb(247, 247, 247);">資料來源：iThome整理，2023年12月</p> <p></p> </div></div></div>
2023/12/1 12:52作者李昀璇https://www.ithome.com.tw/news/160106
【re:Invent 2023】AWS如何以生成式AI再創新
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>「以生成式AI再創新」，在AWS年度用戶大會re:Invent 2023的重頭戲－由執行長獨挑大樑的主題演講上，AWS執行長Adam Selipsky開宗明義，AWS不只是因應時下熱門的生成式AI熱潮，更藉由生成式AI迎接新一波再創新的機會。</p> <p>一如往常，Selipsky在二個半小時的演講中，一口氣發表大量新產品服務，而其中幾乎全數與生成式AI有關，不僅涵蓋生成式AI架構的三個層級—基礎設施、工具與應用程式，還包括首度揭曉、專為企業組織所設計的商務型AI聊天機器人Amazon Q，可望成為其在生成式AI領域的新戰略利器。</p> <p>Selipsky首先宣布的是Amazon S3 Express One Zone，它是AWS目前效能最強、延遲最低的S3物件儲存方案，效能足以應付每分鐘數百萬次的存取，延遲時間則不到10微秒，主要是因應如金融分析、詐欺偵測、機器學習訓練模型與即時推播廣告等應用對於高速存取的需求，而存取的計費竟然比S3標準版便宜一半。據先期使用者Pintrest的經驗，其寫入速度快了10倍，而總體成本減少4成。</p> <p>AWS自家研發的晶片Graviton，則預計於明年正式推出第四代產品，Selipsky表示，Graviton4將會是AWS旗下效能最強且能源效率最好的運算晶片，其效能將比前一代Graviton3快30%，資料庫應用效能快40%，在大型Java應用程式的效能提升則更顯著，可達45%的提升，而採用Graviton4的EC2實體R8g已可提供預覽。</p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/RIV23_D3Selipsky_Keynote_01753a.png" style="width: 640px; height: 426px;" /></p> <p>在上述兩項產品宣布後，發表會旋即揭開生成式AI重頭戲。Selipsky首先邀請Nvidia執行長黃仁勳上臺，宣布雙方擴大多項策略合作。第一項是Nvidia將提供針對生成式AI運算需求所設計的GH200 Grace Hopper Superchip運算卡，讓AWS成為第一個採用的雲端運算供應商。</p> <p>AWS將會以一個EC2執行個體的型式提供整套GH200 NVL32的運算力，GH200 NVL32整套系統是以NVlink連結技術串接32片GH200 Grace Hopper Superchip運算卡，整套系統亦包含NVswitch，可配置最大20TB共享記憶體，運算力可說是超級電腦等級，對於需要仰賴巨量運算資源的生成式AI模型訓練有很大的助益。</p> <p>上述的EC2執行個體亦立基於AWS的第三代EFA（）連結技術與Nitro的虛擬化技術，因而每片Superchip運算卡擁有高速低延遲的400Gbps網路傳輸速度，執行個體的串接數量可多達上千個，提供在網路服務上建立巨大的AI運算叢集。</p> <p>AWS與Nvidia的擴大合作，還包括Nvidia將首度提供其專為生成式AI運算所設計的Nvidia DGX超級電腦等級運算雲，予以第三方雲端服務供應商，由AWS提供雲端託管服務。Nvidia DGX亦立基於GH200 NVL32，可支援超過1兆參數的生成式AI與大型語言模型的訓練。此外，雙方也藉由Project Ceiba的合作，建置一套超過16,384個Nvidia GH200超級晶片，運算速度達65 Exaflops等級的AI超級電腦，作為Nvidia研發全新生成式AI之用。</p> <p>在生成式AI架構的基礎設施層，Selipsky宣布AWS自家設計的新一代AI訓練晶片Trainium 2將於明年推出，效能比前一代提升4倍，可應付參數量千億至兆級的基礎模型訓練需求。</p> <p>在生成式AI架構的工具層，AWS最大的利器就是Bedrock平臺，而Bedrock的一大優勢就是支援多種大型語言模型，從AI21、Amazon Titan、Anthropic、Cohere、Llama2到stability.ai。Selipsky說，AWS深信沒有任何一個大型語言模型可以主宰一切，因為各個模型在不同的應用面上皆有其獨到之處。</p> <p>Bedrock的另一個優勢，則是客製化能力。Selipsky指出，AWS的生成式AI技術的研發，打從第一天開始就是以企業需求為出發點，考量到不同型態的企業生成式AI應用需要運用不同的模型，再者各別企業的產業型態、業務流程與企業知識皆有不同，企業需要有客製化模型的彈性，才能將企業知識融入模型，創造各別競爭優勢，同時也由於企業知識具有機敏性，必須將資訊安全與資料隱私設計在內，確保商業機密在模型訓練過程中不會外洩。</p> <p>在模型客製化方面，AWS新推出三款服務，包括Cohere、Llma2與Titan三種模型的微調（Fine tuning）、Retrieval Augmented Generation (RAG) with Knowledge Bases及Titan模型的持續預訓練。</p> <p>對於企業擔憂生成式AI本質上存在不可控的可能性，AWS也新推出Guardrails for Amazon Bedrock，提供過濾有害內容的功能，確保模型輸出的內容符合企業的負責任AI（Responsible AI）政策，而針對基礎模型輸出的個資內容予以事先編輯，以防個資外洩的功能，也在未來規畫藍圖中。</p> <p>在生成式AI架構最上層的應用層方面，Selipsky則是相當興奮地宣布AWS首款AI聊天機器人Amazon Q的問世。面對市面上已有眾多AI聊天機器人搶占市場先機，為何AWS還要推出另一款聊天機器人？Selipsky表示，Amazon Q是專為企業組織設計的商務型AI聊天機器人，與其他聊天機器人最大的不同是考量企業應用的情境、資訊安全、資料隱私與依職責控管存取權限等需求。</p> <p>Selipsky提出Amazon Q可望協助企業的四大面向，包括協助軟體開發人員撰寫程式碼、協助同仁提升日常工作效率、讓同仁便於獲得商業智慧的協助，以及提升更好的顧客服務。在程式碼方面，AWS新推出Amazon Q Code Transformation，透過生成式AI技術協助程式碼改寫升級與強化程式碼安全，Selipsky指出，這項新服務可讓1千個Java應用程式的改寫工作，在2天內就完成，若在過往由開發人員改寫，往往需耗時數月甚至數年。此外，Amazon Q的訓練資料涵蓋17年的AWS產品與服務資料，使用AWS的軟體開發人員或架構師可用聊天問答介面，立即取得AWS所有的技術資訊。</p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/amazonq.png" style="width: 700px; height: 508px;" /></p> <p>除了協助軟體開發人員，Amazon Q也可以幫助資料庫管理人員，Amazon Redshift Serverless資料倉儲服務整合了Amazon Q，使用者可用自然語言提出資料查詢需求，由Amazon Q自動生成SQL資料庫查詢指令，協助提升ETL等工作的效率。</p> <p>Amazon Q亦可望成為企業內的專家助手，可連結超過40種企業常用服務的資訊源，如S3、Salesforce、Google Drive、Microsoft 365、ServiceNow、Gmail、Slack、Atlassian與Zendesk等，涵蓋一般辦公室文書通信、業務行銷、軟體開發與IT管理等平臺，同時依據詢問者的存取權限來提供其被授權的內容。此外，Amazon Q也會整合至Amazon Quicksight、Amazon Connect等商業智慧與客戶服務平臺。</p> <p>AWS資料與人工智慧資深副總裁Swami Sivasubramanian則指出開發生成式AI應用必備的四個要素，包括要有基礎模型、可讓模型運行的私有安全運算環境、易於使用的生成式AI開發工具，以及機器學習專用運算架構。他亦強調資料是生成式AI的重要關鍵，資料會決定企業生成式AI的差異性，而資料的儲存、處理、分析、治理，本來就是企業用戶使用AWS雲端服務的重要應用之一。</p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/RIV23_D4Swami_00421a(1).png" style="width: 640px; height: 426px;" /></p> <p>Sivasubramanian也發表多項生成式AI服務，包括Amazon Titan新增影像生成功能，不僅可以生成高畫質的圖像，使用者甚至可用自然語言下達指令，在保持影像背景下讓圖片中的主角鏡像翻轉，而Titan Image Generator生成的圖片都會加上隱形浮水印，以利識別AI生成，避免淪為假訊息之用。此外，Titan也新增轉換多模態向量（Multimodal Embeddings）的能力，同時支援文字、圖片、影像與音訊。而為了因應負責任AI的需求，Bedrock也提供模型評估功能，讓用戶先以預載的資料與檢測方法評估模型的適用性與風險，另外，AWS Clean Rooms ML，則可讓企業不需提供訓練資料也能與合作夥伴共享模型。</p> <p>在資料庫與資料分析服務方面，也因應生成式AI而全面提升向量儲存與搜尋功能，新推出的Amazon Neptune analytics藉由內建圖形（Graph）演算法提升向量搜尋速度，幾秒鐘內可分析百億個連結。多款資料庫服務也增加向量儲存與搜尋能力，Amazon OpenSearch Serverless vector engine可以儲存與搜尋向量資料，Amazon DocumentDB、Amazon DynamoDB、Amazon MemoryDB for Redis也都可以儲存與搜尋向量。此外，支援Zero-ETL的資料庫服務也增多了，包括Amazon Aurora PostgreSQL、Amazon DynamoDB與Amazon RDS for MySQL皆可直接整合，不需額外透過ETL，而Amazon OpenSearch Service亦可直接與S3整合。</p> <p>自去年11月30日ChatGPT推出後，生成式AI頓時蔚為風潮，短短一年內就成為兵家必爭之地。雖然AWS在這波生成式AI浪潮中沒有搶到引領風潮的先機，但綜觀Selipsky宣布的多款生成式AI新服務，包括在生成式AI架構最底層的基礎設施層，以Nvidia晶片與AWS自家晶片提供雲端服務中最強大的生成式AI運算力；在中間層的工具層方面，以Bedrock為主力擴展對基礎模型的支援；在最上層的應用層，祭出Amazon Q聊天機器人貫通企業應用場景，而且在每個環節都將資訊安全、隱私保護、負責任AI與合規考量進去，讓企業不因上述顧慮而畏懼生成式AI，再加上諸多強化資料整合、提升向量資料庫能力等等，很明顯地，AWS將以其擁有眾多雲端企業用戶的優勢，透過持續再創新搶占仍是處女地的生成式AI企業商用市場。</p> </div></div></div>
2023/12/1 18:45作者吳其勳https://www.ithome.com.tw/news/160117
【資安日報】12月1日，美國賓州水利設施遭伊朗駭客攻擊，CISA呼籲管理者應修改設備預設密碼、採用雙因素驗證，強化基本…
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>美國賓州阿里奎帕市水務局證實增壓站遭到伊朗駭客入侵，因採用以色列廠牌工控設備而遭到鎖定。駭客也宣稱，他們正在對採用這類OT設備的水利設施發動攻擊。</p> <p>值得留意的是，在美國網路安全暨基礎設施安全局（CISA）發布的資安公告當中，指出駭客可能是透過配置不當的情況發動攻擊，而非透過漏洞入侵受害組織。</p> <p> </p> <h3><strong>【攻擊與威脅】</strong></h3> <p><a href="https://www.securityweek.com/cisa-warns-of-unitronics-plc-exploitation-following-water-utility-hack/"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">美國賓州水利單位的工業控制系統傳出遭到駭客劫持</span></strong></a></p> <p></p> <p><a href="https://s4.itho.me/sites/default/files/images/image-38.png"><img alt="" src="https://s4.itho.me/sites/default/files/images/image-38.png" style="width: 300px; float: right;" /></a>上週末美國賓州阿里奎帕市水務局（Municipal Water Authority of Aliquippa，MWAA）遭駭，駭客控制了其中1個增壓站，但並未影響供水。MWAA董事會主席Matthew Mottes向當地媒體KDKA-TV透露，此起攻擊是伊朗駭客組織Cyber Av3ngers，原因很有可能是他們採用了以色列自動化控制業者Unitronics的系統，而成為該組織鎖定的對象。</p> <p>Matthew Mottes透露，遭駭的增壓站位於郊區，用於監控、調節浣熊鎮及波特鎮的供水，事發後該系統已經停用，警方著手進行調查。對此，Cyber Av3ngers聲稱，他們鎖定數個以色列供水設施的SCADA系統，並聲稱所有以色列製造的設備都是攻擊目標。</p> <p>而在上述攻擊事件發生後，美國網路安全暨基礎設施安全局（CISA）針對Unitronics的可程式化邏輯控制器（PLC）提出警告，呼籲管理者應修改預設為1111的管理密碼，並在遠端存取OT系統時進行多因素驗證，以及避免控制器直接曝露在網際網路。</p> <p>資料來源</p> <p>1. <a href="https://www.cbsnews.com/pittsburgh/news/municipal-water-authority-of-aliquippa-hacked-iranian-backed-cyber-group/">https://www.cbsnews.com/pittsburgh/news/municipal-water-authority-of-aliquippa-hacked-iranian-backed-cyber-group/</a><br /> 2. <a href="https://www.cisa.gov/news-events/alerts/2023/11/28/exploitation-unitronics-plcs-used-water-and-wastewater-systems">https://www.cisa.gov/news-events/alerts/2023/11/28/exploitation-unitronics-plcs-used-water-and-wastewater-systems</a></p> <p><a href="https://www.sentinelone.com/blog/dprk-crypto-theft-macos-rustbucket-droppers-pivot-to-deliver-kandykorn-payloads/"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">北韓駭客利用惡意程式載入工具RustBucket散布Kandykorn</span></strong></a></p> <p></p> <p>資安業者SentinelOne揭露北韓駭客鎖定Mac電腦最近一波的攻擊行動，這些駭客先前曾使用惡意程式載入工具RustBucket散布第二階段工具SwiftLoader、利用後門程式KandyKorn對區塊鏈工程師發動攻擊，以及使用惡意程式ObjCShellz對投資人或求職者下手。</p> <p>但研究人員進一步分析、比對發現，這些北韓駭客彼此有合作跡象，因為在最新一波行動中，攻擊者交互搭配、運用上述各種惡意程式，增加活動的複雜度，例如，透過RustBucket散布不同版本的SwiftLoader，但也散布ObjCShellz，而SwiftLoader與KandyKorn採用的基礎設施有關。</p> <p>研究人員也根據Elastic資安研究團隊公布的KandyKorn攻擊行動進行追查，結果發現駭客融合上述惡意程式攻擊手法，開始透過RustBucket於受害電腦投放KandyKorn。</p> <p> </p> <h3><strong>【漏洞與修補】</strong></h3> <p><a href="https://www.bleepingcomputer.com/news/apple/apple-fixes-two-new-ios-zero-days-in-emergency-updates/"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">蘋果發布行動裝置及Mac電腦更新，修補2個已被用於攻擊行動的WebKit零時差漏洞</span></strong></a></p> <p></p> <p>11月30日蘋果發布了iOS 17.1.2、iPadOS 17.1.2、macOS Sonoma 14.1.2、電腦版Safari 17.1.2，修補已出現攻擊行動的排版引擎WebKit漏洞CVE-2023-42916、CVE-2023-42917，有可能導致在處理網頁內容的過程裡，攻擊者可洩露敏感資訊，或是執行任意程式碼。</p> <p>該公司指出，這些漏洞已被用於攻擊iOS 16.7.1及之前版本的iPhone手機。</p> <p><a href="https://www.zyxel.com/global/en/support/security-advisories/zyxel-security-advisory-for-authentication-bypass-and-command-injection-vulnerabilities-in-nas-products"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">兆勤公告旗下NAS設備重大漏洞，有可能被用於執行作業系統命令</span></strong></a></p> <p></p> <p>11月30日兆勤科技（Zyxel）發布資安公告，針對旗下儲存設備NAS326、NAS542揭露CVE-2023-35137、CVE-2023-35138、CVE-2023-37927、CVE-2023-37928、CVE-2023-4473、CVE-2023-4474，其中的CVE-2023-35138、CVE-2023-4473、CVE-2023-4474為重大層級。</p> <p>而這些重大等級的漏洞，CVSS風險評分皆達到9.8。其中，CVE-2023-35138、CVE-2023-4473為命令注入漏洞，前者發生在show_zysync_server_contents功能，未經授權的攻擊者能發送偽造的HTTP POST請求，執行作業系統命令；另一個漏洞則是與網頁伺服器元件有關，未經授權的攻擊者能發送偽造的URL，執行作業系統的命令。</p> <p>至於CVE-2023-4474，則是與WSGI伺服器元件有關，同樣能讓攻擊者在尚未通過身分驗證的情況下，透過偽造的URL執行作業系統命令。</p> <p><a href="https://appomni.com/blog_post/claiming-zoom-rooms-service-accounts-to-gain-access-to-tenants/"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">視訊會議系統Zoom存在漏洞，有可能讓攻擊者挾持會議</span></strong></a></p> <p></p> <p>今年6月，資安業者AppOmn的研究人員在<a href="https://blog.zoom.us/zoom-hackerone-h1-4420-event-2023/">HackerOne舉辦的活動H1-4420</a>上，找到視訊會議解決方案Zoom Rooms的漏洞，近期公布相關細節。研究人員指出，攻擊者有機會藉此控制Zoom Rooms的服務帳號，從而對目標組織進行未經授權存取。</p> <p>攻擊者可在未受到邀請的情況下劫持會議、操縱聯絡人的名單、滲透白板，甚至從團隊交談內容取得敏感資料。值得留意的是，這些攻擊行動可在使用者難以察覺的狀態下進行。他們與Zoom進行協調後，上述漏洞得到驗證及修復。</p> <p> </p> <h3><strong>【其他新聞】</strong></h3> <p><a href="https://www.bleepingcomputer.com/news/security/staples-confirms-cyberattack-behind-service-outages-delivery-issues/"><strong><span style="font-size: 20px;"><span style="color: rgb(0, 0, 0);">辦公用品零售商Staples傳出營運出現異常，起因是遭遇網路攻擊後關閉部分系統所致</span></span></strong></a></p> <p></p> <p><a href="https://www.bleepingcomputer.com/news/security/capital-health-hospitals-hit-by-cyberattack-causing-it-outages/"><strong><span style="font-size: 20px;"><span style="color: rgb(0, 0, 0);">醫療照護系統Capital Health遭遇網路攻擊，造成旗下醫院IT系統中斷</span></span></strong></a></p> <p><a href="https://www.securityweek.com/hackers-hijack-industrial-control-system-at-us-water-utility/"><strong><span style="font-size: 20px;"><span style="color: rgb(0, 0, 0);"></span></span></strong></a></p> <p></p> <p><a href="https://www.bleepingcomputer.com/news/security/dollar-tree-hit-by-third-party-data-breach-impacting-2-million-people/"><strong><span style="font-size: 20px;"><span style="color: rgb(0, 0, 0);">連鎖折扣商店Dollar Tree資料外洩，近2百萬人受害，起因是外部供應商遭駭</span></span></strong></a></p> <p></p> <p><a href="https://securityaffairs.com/154999/cyber-crime/rhysida-ransomware-king-edward-viis-hospital.html"><strong><span style="font-size: 20px;"><span style="color: rgb(0, 0, 0);">英國愛德華七世國王醫院傳出遭到勒索軟體Rhysida攻擊</span></span></strong></a></p> <p></p> <p><a href="http://arcticwolf.com/resources/blog/qlik-sense-exploited-in-cactus-ransomware-campaign/"><strong><span style="font-size: 20px;"><span style="color: rgb(0, 0, 0);">資料分析系統Qlik Sense重大漏洞被用於攻擊行動，駭客發動勒索軟體Cactus攻擊</span></span></strong></a></p> <p></p> <p> </p> <h3><strong>近期資安日報</strong></h3> <p><a href="https://www.ithome.com.tw/news/160086"><strong>【11月30日】針對10月資料外洩事故，身分驗證管理業者Okta表示受害範圍擴大，所有使用客戶支援系統的用戶皆受影響</strong></a></p> <p><a href="https://www.ithome.com.tw/news/160069"><strong>【11月29日】上海商銀驚傳1.4萬客戶資料外洩，金管會公布調查結果列4大缺失，依銀行法重罰千萬，外洩管道仍有待釐清</strong></a></p> <p><a href="https://www.ithome.com.tw/news/160051"><strong>【11月28日】美國醫療保健服務業者Henry Schein傳出二度遭遇勒索軟體BlackCat攻擊，導致電子商務平臺遭到癱瘓</strong></a></p> </div></div></div>
2023/12/1 15:56作者周峻佑https://www.ithome.com.tw/news/160108
Google Messages的RCS用戶數突破10億人
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>就在蘋果<a href="https://www.ithome.com.tw/news/159885" target="_blank">宣布</a>將支援豐富通訊服務（Rich Communication Services，RCS）協定的兩周後，<a href="https://blog.google/products/android/7-new-messages-features/" target="_blank">Google本周指出</a>，已有超過10億名使用者於Google Messages中啟用了RCS，為了慶祝10億的里程碑，Google Messages開始測試7種新的互動方式，包括照片表情符號Photomoji、語音情緒、螢幕效果及客製化泡泡（Custom Bubbles）等。</p> <p>Google Messages原本稱為Android Messages，是Android生態體系的傳訊程式，它同時支援傳統的文字簡訊（SMS）與RCS，初期使用者必須主動啟用RCS，但今年起某些特定的Android裝置預設便啟用了RCS。Google被視為RCS協定的最大推手，不僅於Android生態中導入了RCS，也開源了基於RCS Universal Profile規格的客戶端供外界使用。</p> <p>新版Google Messages的7項新功能之一是照片表情符號，它允許使用者把自己的照片直接變成表情符號來回應親友的文字；語音情緒則是在傳送語音訊息上添加表情符號；並將某些特定文字設定成螢幕效果的提示詞，只要輸入相關文字，例如「我愛你」或「下雪了」，對話窗就會自動跳出視覺效果；最有趣的可能是客製化泡泡了，這個原本由蘋果iMessage用戶專屬的泡泡功能，現在則變成Google Messages的客製化服務之一。</p> <p class="rtecenter"><img alt="" src="https://s4.itho.me/sites/default/files/images/1201-google-messages-RCS-600.png" style="width: 600px;" /></p> <p>在蘋果的傳訊程式中，倘若雙方都使用蘋果裝置，即可透過iMessage傳訊，那麼訊息便是以藍色泡泡顯示，但若其中有一方非採用蘋果裝置，或未啟用iMessage，因而使用傳統的簡訊服務，那麼訊息就會以綠色泡泡顯示。而Google Messages的客製化泡泡則允許使用者任意變更泡泡顏色，直接打破蘋果慣例。</p> </div></div></div>
2023/12/1 16:28作者陳曉莉https://www.ithome.com.tw/news/160110
微軟未來3年將斥資25億英鎊於英國打造AI基礎設施
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>微軟周四（11/30）<a href="https://blogs.microsoft.com/on-the-issues/2023/11/30/uk-ai-skilling-security-datacenters-investment/" target="_blank">宣布</a>，未來3年將在英國斥資25億英鎊（32億美元）以擴大其新一代AI資料中心的基礎設施，亦將投入數百萬英鎊來培育100萬名當地的AI人才，<a href="https://www.gov.uk/government/news/boost-for-uk-ai-as-microsoft-unveils-25-billion-investment" target="_blank">英國政府則說</a>，這是英國40年來最大的一筆投資。</p> <p>英國政府表示，英國已是歐洲領先的科技生態系統，去年的價值是德國的兩倍，更是法國的3倍，而去年AI領域對英國的經濟貢獻為37億英鎊，提供了5萬個工作職缺。</p> <p>微軟計畫在英國增加一倍的資料中心足跡，未來3年將以25億英鎊的預算來建置AI資料中心基礎設施，在2026年時把超過2萬個最先進的GPU帶到英國，亦將在英國訓練100萬名適用於AI經濟的人才，以及與英國大學及政府合作來支持當地的AI安全與研究。</p> <p>微軟表示，此一基礎設施的投資將有助於滿足對AI特定運算能力的高效及可持續性的需求，且公私部門也都在等待著要利用最新的雲端與AI創新。</p> <p>除了基礎設施之外，微軟準備培育的100萬名AI人才包括那些有意進入AI領域的，訓練他們掌握及使用AI所需的技能，也會發展AI技術技能，支援AI業務轉型，推動安全與負責任的AI，以及提供第一張生成式AI專業證書等。</p> </div></div></div>
2023/12/1 16:43作者陳曉莉https://www.ithome.com.tw/news/160111
AWS現在偵測到可用區域出現潛在故障時，可自動轉移用戶流量到其他區域
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>AWS新推出<a href="https://aws.amazon.com/tw/blogs/aws/zonal-autoshift-automatically-shift-your-traffic-away-from-availability-zones-when-we-detect-potential-issues/">區域自動轉移（Zonal Autoshift）功能</a>，這是Amazon Route 53應用程式恢復控制器的新功能，能夠在偵測到可用區域（Availability Zone）可能出現問題的時候，自動且安全地將用戶的應用程式工作負載流量，從可用區域轉移出去，並在問題解決後再將流量轉回原本區域。</p> <p>在部署具韌性的應用程式時，AWS用戶通常會將資源部署於同一個地區的多個可用區域。而所謂的可用區域，是相距一定距離，確保具有不同的電力、連接性、網路設備甚至是洪泛區的不同實體資料中心群組。</p> <p>在過去，用戶需要手動管理不同可用區工作負載平衡，以確保應用程式的高可用性和韌性。用戶在可用區域指標狀態不良時，便能以手動或是程式化的方式觸發區域轉移，將流量從原本的可用區域移出，透過負載平衡器配置將所有連接導向到健康的可用區域，供用戶在調查故障的原因時，仍然可以維持應用程式的可用性。</p> <p>手動區域轉移雖然可以用於防止例如部署失敗、配置或是操作錯誤等，來自用戶這端的應用程式錯誤，但官方提到，當可用區域存在潛在故障問題時，用戶有時難以辨識或是偵測到故障，畢竟用戶也不會追蹤每一個可用區域的指標，當用戶的服務需要跨區域邊界呼叫相依項目，就可能造成所有可用區域的應用出現錯誤。</p> <p>而用戶現在可以透過在啟用區域自動轉移功能，來保護工作負載不受潛在可用區域故障的影響。AWS會透過內部監控工具和指標，來決定網路流量轉移的時機，當AWS偵測到特定區域可能出現電力或是網路中斷等問題，系統會自動觸發該基礎設施的NLB或ALB流量自動轉移，並在故障解決後將流量轉回。</p> <p class="rtecenter"><a href="https://d2908q01vomqb2.cloudfront.net/da4b9237bacccdf19c0760cab7aec4a8359010b0/2023/10/22/2023-10-22_18-19-08-1.png"><img alt="" src="https://d2908q01vomqb2.cloudfront.net/da4b9237bacccdf19c0760cab7aec4a8359010b0/2023/10/22/2023-10-22_18-19-08-1.png" style="width: 600px;" /></a></p> <p>這個過程有多重保障措施，確保不會降低應用程式的可用性，AWS也有內部控制確保用戶一次只會從一個可用區域轉移流量。AWS每周都會在基礎設施上演練轉移30分鐘，演練結束根據應用程式運作狀況，提供用戶成功或是失敗的結果。</p> <p>用戶可以定義不希望進行轉移的時間段，同時還可以設定兩個Amazon CloudWatch警報在執行期間充當斷路器，一個是阻擋演練執行，另一個則是在演練執行期間監控應用程式運作狀況，當其中一個警報觸發，AWS會立即停止演練，並恢復所有可用區流量。</p> <p>用戶在啟用區域自動轉移時，需要確保所有可用區域都要部署足夠容量，以承受在特定可用區域故障時所產生的流量轉移。不過，在所有可用區域部署額外容量會產生成本，用戶需要在應用程式的可用性和成本之間權衡。目前，區域自動轉移在中國和GovCloud之外的所有AWS地區中提供。</p> </div></div></div>
2023/12/1 16:53作者李建興https://www.ithome.com.tw/news/160109
蘋果緊急修補兩個已遭攻擊的零時差漏洞
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>蘋果周四（11/30）緊急更新了<a href="https://support.apple.com/zh-tw/HT214033" target="_blank">Safari</a>、<a href="https://support.apple.com/zh-tw/HT214031" target="_blank">iOS、iPadOS</a>與<a href="https://support.apple.com/zh-tw/HT214032" target="_blank">macOS Sonoma</a>，只為了修補兩個已遭到攻擊的零時差漏洞，根據<a href="https://www.bleepingcomputer.com/news/apple/apple-fixes-two-new-ios-zero-days-in-emergency-updates/" target="_blank">《Bleeping Computer》</a>的統計，這使得蘋果今年修補的零時差漏洞達到20個。</p> <p>此次蘋果修補的兩個漏洞都藏匿在瀏覽器引擎WebKit中，其中的CVE-2023-42916為一越界讀取漏洞，在處理網頁內容時可能揭露機密資訊。而CVE-2023-42917則為記憶體毀損漏洞，處理網頁內容時可能導致任意程式執行。</p> <p>這兩個漏洞都是由Google威脅分析小組（Threat Analysis Group，TAG）的安全研究人員Clément Lecigne 所發現，而且可能已經遭到攻擊。</p> <p>受到波及的使用者可將軟體升級到Safari 17.1.2、iOS 17.1.2、iPadOS 17.1.2及macOS Sonoma 14.1.2。</p> </div></div></div>
2023/12/1 14:24作者陳曉莉https://www.ithome.com.tw/news/160107
【企業LLM實戰：叡揚資訊】實測多種LLM更走訪企業現場，歸納臺灣企業LLM應用3大挑戰
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>去年11月，ChatGPT橫空出世。與大多數企業一樣，「我們覺得世界變了！」叡揚資訊技術服務總處暨創新研發中心副總經理林縣城指出，那時起，他們開始盤點各種整合方法，要以最快的方式，將LLM能力整合至自家產品中，提供更好的服務。</p> <p>2019年，叡揚資訊推出AI對話平臺產品，成為不少企業的小幫手。一路來，他們有組30多人的研發團隊，及時研究最新技術，不只在語言模型BERT問世時，就用來強化Chatbot理解意圖的能力，今年還大力擁抱大型語言模型（LLM），如GPT-4、Llama 2、Taiwan-LLM和國科會打造的TAIDE等，要讓AI Chatbot的回答更自然、範圍更廣。</p> <p>他們不只用這些模型發展內外部服務，也在這個過程中，看見臺灣企業應用LLM的困難和挑戰。</p> <p></p> <p><span style="color:#3399ff;"><span style="font-size:28px;"><strong>展開內部專案，累積LLM實戰經驗</strong></span></span></p> <p>當微軟推出Azure OpenAI服務後，叡揚就立刻用來優化自家AI對話平臺。因為，原本的對話機器人，只能根據提問中的一個意圖來回答，若採用LLM，不僅能分辨提問中的多個意圖，還能結合知識庫，來產出更貼切的答案。</p> <p>為驗證這個目標，叡揚資訊展開一項POC專案，用AOAI LLM加持的對話平臺，來打造內部專用的員工AI秘書Chatbot。他們採取檢索增強生成（RAG）方法，將自家知識管理系統的人資類基礎文件作為檢索對象，當使用者向Chatbot提問後，會先由嵌入式模型（Embedding model）將問題轉為向量空間，來比對檢索用的知識庫、找出最相符資料，再透過LLM整理、生成最終答案給使用者。而且，LLM生成的答案還會附上資料來源，來降低誤解風險。</p> <p>不只AOAI，叡揚還嘗試了其他LLM模型來驗證，包括Meta開源的可商用語言模型Llama 2，以及臺大師生團隊釋出的Taiwan-LLM，還有國科會以Llama 2為基礎打造的TAIDE模型。</p> <p>因採用RAG機制，模型不需上通天文、下知地理，因此，叡揚資訊只準備了相對少量的800萬個Token的閱讀理解資料集，來對模型進行監督式微調，加強模型對特定領域的理解力。另考量運算成本，他們採用參數高效能微調（PEFT）方法，以LoRA壓縮技術、只微調模型的5%參數，來提高模型能力。</p> <p>目前，不同LLM模型的驗證還在持續進行中，不過，叡揚初步評估，AOAI服務是其中最成熟的作法。不只用來優化AI對話平臺，叡揚資訊還打算進一步將LLM整合至其他產品，如知識管理平臺、公文系統等，前者要讓企業以RAG方式，來打造各領域的問答Chatbot，後者則能生成樣板，來加速公文作業時間。</p> <p><span style="color:#3399ff;"><span style="font-size:28px;"><strong>企業LLM應用的三大挑戰</strong></span></span></p> <p>除了自家LLM實戰經驗，過去1年來，叡揚資訊也接到不少企業客製化LLM應用的需求，甚至實地走訪了不少企業。林縣城觀察，一般10億個參數規模的LLM，就可滿足大部分企業應用需求了，不過他坦言，雖然企業需求量大，但目前應用狀況幾乎以POC專案為主，實際上線的應用非常少。</p> <p>一年來參與大量內外部POC專案後，他認為，一般企業要自行發展LLM應用，門檻並不低，有三大挑戰要面對。</p> <p>首先，企業要找出具業務價值的應用案例。他說明，叡揚資訊每到一家企業了解時，一定會問的問題是，是否已經找到「業務上真正有價值的應用案例」，但多數企業都給出否定答案。林縣城認為，這是企業採用LLM時，首要思考的課題。</p> <p>第二個挑戰是資料。不論是企業自行使用開源LLM，還是採購系統廠商服務，都得有完整、乾淨的資料，才能用來微調模型，滿足客製化需求。在資料層面，企業常面臨資料量不足或品質參差不齊的問題，叡揚資訊處理企業客戶的需求時，經常得花大把時間來清理資料。這是第二個企業要面對的課題。</p> <p>第三，企業要有相關人才，長期投入來累積實務經驗。林縣城說明，以自行採用開源LLM來說，企業本身要有技術團隊和長年的實務經驗，才能做好資料清理、資料集建置和微調工作，甚至是LLM應用幕後的「LLMOps維運工作和自動化工具，」才能確保應用能持續作業，這也是叡揚資訊自己的實戰經驗。</p> <p></p> <p><span style="color:#3399ff;"><span style="font-size:28px;"><strong>建言：臺灣需要國家級繁中語料和測試基準</strong></span></span></p> <p>林縣城認為，一般企業要從頭打造一套符合在地文化的LLM，更是困難。首先，這種具備在地文化知識的LLM，通常以開源LLM為基礎，透過大量繁中資料進行連續預訓練、微調和RLHF等三階段優化才能成形。</p> <p>這三個階段的工作成本很高，比如預訓練需要大量繁中資料，Token數通常是模型參數的20倍，也需要長達幾個月的訓練時間。但是，臺灣目前打造的模型，所使用的預訓練Token數在數十億至300億左右，還有進步空間。因此，林縣城建議，臺灣可透過國家性計畫，如TAIDE計畫，來開源更多繁中資料集，補足這個差距。</p> <p>再來，微調又分為全參數微調和參數高效能微調（PEFT），前者對模型的學習表現最好，但耗費的運算資源較多。對資源有限的企業來說，只能採取微調少量參數的PEFT方式來增強模型表現。</p> <p>而RLHF工作也得耗費大量人力成本，對一般企業來說，不太可能完整實作。「上述的模型預訓練、全參數微調和RLHF，還是得靠國家力量來完成，」林縣城還建議，臺灣也能設計評估模型繁中能力的基準測試（Benchmark），才能更精準衡量模型表現，以利後續應用。</p> <p></p> <p><a href="https://www.ithome.com.tw/article/160096" target="_blank"><span style="color: rgb(255, 255, 255);"><span style="font-size: 18px;"><strong><span style="background-color: rgb(51, 153, 255);">相關報導 </span></strong></span></span><span style="font-size: 18px;"><strong><img alt="" src="https://s4.itho.me/sites/default/files/styles/picture_size_large/public/1158-feng_mian_p1_open-ruo_pu_-960x420_0.jpg?itok=1ZND9vlp" style="width: 550px;" /></strong></span></a></p> </div></div></div>
2023/11/30 23:39作者王若樸https://www.ithome.com.tw/news/160094
Evernote將限制免費版只能儲存50項筆記
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>雲端記事本服務Evernote昨（30）日正式<a href="https://evernote.com/blog/evernote-free-note-limits" target="_blank">宣布新政策</a>，下周開始，免費帳號最多只能儲存50項筆記及1個線上筆記本。</p> <p>從12月4日起Evernote將實施新政策，一個Evernote Free帳號最多只能儲存50項筆記及1本筆記本，適用於現有或新增用戶。Evernote指出，由於大部分用戶筆記數量都在50項以下，因此用戶多半不會受影響。</p> <p>在12月4日以後，超過限額的免費帳號用戶必須刪除筆記，或是升級到付費版本才能繼續新增筆記。但現有帳號下超出50項筆記的用戶，Evernote表示仍然可以持續讀取、編輯、共享、匯出及刪除現有筆記和筆記本。</p> <p>Evernote上周開始<a href="https://techcrunch.com/2023/11/29/its-official-evernote-will-restrict-free-users-to-50-notes/" target="_blank">通知</a>免費版用戶升級，並強調付款訂閱版提供筆記跨裝置立即同步、直覺式AI功能如筆記清理及AI搜尋，以及更高的穩定性、安全性與運作效能。</p> <p>Evernote近年因營收不佳，功能更新減緩，也縮小營運。這家曾經是獨角獸的線上記事本平臺，去年宣布賣給了義大利行動軟體開發商Bending Spoons，<a href="https://www.ithome.com.tw/news/157696" target="_blank">7月宣布</a>公司營運遷往歐洲，也裁減大部分美國及南美員工。</p> </div></div></div>
2023/12/1 11:17作者林妍溱https://www.ithome.com.tw/news/160103
Amazon預覽圖像生成模型、新增文字生成模型
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p><a href="https://aws.amazon.com/tw/blogs/aws/amazon-titan-image-generator-multimodal-embeddings-and-text-models-are-now-available-in-amazon-bedrock/" target="_blank">Amazon周四在re: Invent大會上公布</a>AWS生成式AI模型產品，包括第一個圖像生成式模型Titan Image Generator，以及文字生成模型Amazon Titan Text Express及Titan Text Lite。</p> <p>新公布的模型中，Titan Image Generator為Amazon自行開發的Titan家族最新模型之一，使其得以趕上OpenAI、Google、微軟等競爭者，具備圖片編輯及加入浮水印等功能。Titan Text Express及Titan Text Lite則是AI模型平臺Bedrock的新增文字模型。在Bedrock服務平臺上，用戶可以透過Bedrock控制臺直接存取使用，或是以自有資料再加以客製化訓練。</p> <p>Amazon Titan Image Generator允許用戶以英文自然語言輸入提示視窗，以建立專業等級的圖像，作為廣告、電商平臺，或是媒體與娛樂內容。Amazon表示，這項服務是以高品質而多元化的資料訓練而成，可生成精準、貼近真實、少扭曲，且屬性多元的圖片，並能理解包含多個物件的複雜提示。</p> <p class="rtecenter"><img alt="" src="https://s4.itho.me/sites/default/files/images/1201-Amazon%20Titan%20Image%20Generator.png" style="text-align: center; width: 600px;" /></p> <p>Titan Image Generator的圖片編輯功能之一，是利用內建分割模型自動編輯圖片。最新模型支援以圖片遮罩進行修補（inpainting）及以擴展（outpainting）延伸或變更圖片背景。使用者可設定圖片大小、指明想要模型產生幾種款式。用戶也可利用其自有資料客製化模型，以生成和公司品牌指引一致的圖片，或是透過微調令模型生成特定風格的圖像。它也支援負責任AI原則，防止生成有害或惡意的圖片。</p> <p>此外，有鑒於這模型可被用於生成Deepfake影像，所有以Titan生成的圖片都會加入看不見的浮水印，以利辨識AI生成的圖片。不過Amazon並未說明技術資訊。<a href="https://www.theverge.com/2023/11/29/23980697/amazon-ai-image-model-watermark-copyright" target="_blank">《The Verge》</a>引述AWS主管指出，這浮水印不會破壞圖片畫質，也無法被裁切或壓縮掉，但使用者需要連結到獨立API以判別是否為AI生成。</p> <p>AWS還為Bedrock新增了2個Titan文字生成模型Titan Text Express及Text Lite。Titan Text Express為「價格和效能兼顧」的文字生成模型，提供最多8000 token輸入，也可以微調。它支援的情境包含檢索增加生成（retrieval-augmented generation）、開放式文本生成、腦力激盪、摘錄重點、程式碼及表格生成、文本改寫、改述（paraphrasing）、關聯思考（chain of thought）、擷取、問答及聊天等。</p> <p class="rtecenter"><img alt="" src="https://s4.itho.me/sites/default/files/images/1201-Amazon%20Titan%20Text%20Express%20Demo.png" style="width: 600px;" /></p> <p>而Text Lite版則是為特定使用場景而設計，強調「具成本效益且可高度客製化」的LLM。Lite版最大輸入為4000 token，支援場景包括摘錄重點及文案寫作（copywriting）。</p> <p>Titan Text Express目前已正式推出英文版，並有100多個語言版本已以預覽版上線，Titan Lite則僅支援英文。</p> <p>除了主打的圖片生成模型外，AWS昨日還推出Titan多模嵌入（Titan Multimodal Embedding）模型。此一模型可支援多模態提示輸入，包括文字、圖片或者兩者同時輸入。Titan多模嵌入模型支援輸入最高128 token及25MB圖片，僅支援英文。</p> <p>Titan多模嵌入提供非同步批次API，Amazon OpenSearch Service的神經搜尋（Neural Search）很快也會加入連接器，以便加入Titan多模嵌入模型支援。</p> </div></div></div>
2023/12/1 11:55作者林妍溱https://www.ithome.com.tw/news/160104
【一年從無到有，臺灣生成式AI發展下一步如何擴大？】臺灣發展LLM的4大挑戰
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>一年了。</p> <p>引發各行業日以繼夜創新的ChatGPT，剛滿周年。這一年來，我們看見許多變革，全球掀起了生成式AI的浪潮，這股浪潮也吹進臺灣。在臺灣，大型語言模型（LLM）不只走進各行各業，也開始出現自行打造的繁中版LLM，如聯發科的BLOOM-zh、台智雲的福爾摩沙基礎模型和FFM-Llama 2、臺大陳縕儂師生團隊的Taiwan-LLM，政府更出資逾2億元推動國科會TAIDE計畫，來打造臺版LLM，要供企業和公部門使用。這些成果，代表臺灣在過去一年從0到1發展LLM的軌跡。</p> <p>為何臺灣必須有自己的LLM模型？國科會TAIDE計畫負責人李育杰指出，有五大理由。</p> <p>「文化知識」是第一個原因。由於現有開源LLM所用的中文訓練資料，幾乎以簡中為主，繁中資料占比非常低，比如BLOOM的簡中訓練資料占16.2%、繁中只占0.05%，導致模型學習到的中文知識和回答用語，多以簡中為主。</p> <p>不只如「土豆」和「馬鈴薯」等生活用語差別，專業術語也有不同。李育杰舉例：「線性代數中，矩陣的行與列，在中國稱為列與行，和臺灣用語相反。」若未事先定義，就會造成誤解。就算以大量簡中資料轉換為繁中資料，用來訓練模型，很可能給出不符國情的回答，例如答錯了「國慶日日期」，正是先前中研院明清研究專用CKIP模型所引發的通用性爭議。這些例子，再次突顯臺灣打造繁中LLM的必要性。</p> <p>另一個非做不可的原因則是「資料安全」。李育杰說明，使用公開LLM服務，就會有機密洩漏風險。所以，行政院8月底才提出生成式AI參考指引，規範公部門對相關服務的使用。而TAIDE計畫，就是要打造出安全、合規的模型，來供本地使用者落地使用。</p> <p>再來是「資料偏誤（Data Bias）」因素。這些大型模型的訓練資料多來自公開網路資料，資料分布不均，科技巨頭訓練的LLM多以英文為主，容易產出偏誤答案。最後兩個非做不可的原因是人才培育，以及算力算法經驗累積的考量。臺灣LLM技術人才不多，自己發展LLM，可以由少數專家帶頭，來培養人才具備相關LLM技能，也能趁機累積超級電腦的平行運算經驗，像是TAIDE計畫團隊就與國網中心實作出了專門支援大模型訓練的平行運算工具，未來可供其他團隊參考。</p> <p>但是，全球生成式AI的馬拉松競賽，才剛鳴槍開跑，未來臺灣想要與各國競爭，讓AI成為臺灣的競爭國力之一，從過去一年的臺灣LLM發展經驗中，可以看到還有許多挑戰有待克服。</p> <p><span style="color:#3399ff;"><span style="font-size:28px;"><strong>繁中語料不足是首要課題</strong></span></span></p> <p>臺灣目前打造LLM的作法，並非從無到有開發一套模型，而是以開源LLM為基礎，透過繁中資料集進行連續預訓練、微調和人工回饋強化學習（RLHF）等步驟，優化出懂臺灣文化和用語的LLM。這是全球AI圈常見的LLM建置方法。</p> <p>不過，要發展繁中LLM，首先面臨的挑戰是繁中語料不足。這從主流開源模型的訓練資料占比就可看出，例如1,760億參數的BLOOM，繁體中文資料才占0.05%，比例非常低。而且，臺灣目前發展的繁中版LLM，所使用的訓練資料量為數十億至300億個Token，與一般訓練資料量為模型參數的20倍相比，還有進步空間。</p> <p>繁中語料不足，正是國科會TAIDE計畫面臨且想解決的挑戰。TAIDE的目標是打造符合臺灣文化和用語習慣的LLM，團隊收集了新聞、政府公開資訊和研究資訊、繁中維基百科與學術論文等10種資料，來作為TAIDE模型訓練資料集。同時，他們正與新聞媒體、出版社等機構一一取得授權，要將這些內容，製作為高品質的繁中語料集，並開源釋出來，推動臺灣LLM發展，甚至是整體AI發展。</p> <p>面對訓練資料量不足，除了爬蟲網路公開資料、仰賴政府開源資料集，還有其他解法嗎？深耕自然語言處理（NLP）數十年的中研院資訊所研究員古倫維認為，已開源的簡中資料量龐大，並非完全不能用，而是要謹慎篩選，剔除不符合臺灣文化的爭議內容、保留共通知識，轉為繁中後可用來擴充訓練資料集。</p> <p><span style="color:#3399ff;"><span style="font-size:28px;"><strong>運算成本是另一挑戰</strong></span></span></p> <p>另一方面，打造LLM還有一大課題要面對：運算成本。以TAIDE計畫為例，光是以70億參數版本的Llama 2為基礎，以繁中資料進行連續預訓練，就得使用超級電腦臺灣杉2號、耗費數月才完工。以台智雲經驗來說，他們以千億參數的BLOOM為基礎，使用了1.5TB、包含繁中在內的46種人類語言和13種程式語言訓練資料，也是花費好幾個月，才以臺灣杉2號訓練完成。</p> <p>這其中，還得靠平行運算技術。比如，台智雲自行摸索3種平行化方法，如資料平行化、工作流程平行化和張量平行化，從中找出最佳切割組合，來讓每張GPU發揮最佳效能，提高訓練效率。他們也因此實現最高調度840片GPU、同時進行平行化運算，完成福爾摩沙大模型的預訓練。而國網中心團隊在協助TAIDE計畫初期，也建置了張量平行化工具，優化超級電腦主機內和主機間的資料傳輸效率，來加速訓練過程。</p> <p>不過，對一般企業而言，從預訓練階段開始打造繁中LLM，並不符合成本效益。常見的作法是從微調下手，也就是準備少量資料集，來針對特定任務優化模型。比如專門提供AI對話平臺服務的叡揚資訊，就準備了800個Token資料來微調LLM，來嘗試發展內部員工專用的Chatbot。</p> <p>但，微調也分為全參數微調和參數高效能微調（PEFT）兩種，前者是對模型的所有參數來微調，成效較好，也最耗費運算資源。後者則是微調部分參數，通常為模型5%的參數量，來試圖達到全參數微調效果，其運算成本較低，但成效未必理想。對資源有限的一般企業來說，幾乎只能採取PEFT方法，來增強模型表現。</p> <p><span style="color:#3399ff;"><span style="font-size:28px;"><strong>得克服模型災難性遺忘，更需建立繁中測試基準</strong></span></span></p> <p>除了算力，打造LLM基礎模型還有技術問題要注意，其一是災難性遺忘，也就是模型學習新資訊時，忘記已經習得的知識。</p> <p>常見的解方有訓練資料分布多元化，比如台智雲在打造福爾摩沙大模型和繁中優化的模型FFM-Llama 2時，將訓練資料平均分配，確保每一批訓練資料都涵蓋不同領域的資料，並混合一部分前批的訓練資料，來讓模型均衡學習。</p> <p>這個概念，就像是學生每周學習不同學科，如數學、語文、歷史、地理，而非第一個月只學數學、第二個月只學歷史，如此考試時，一定會忘記先前學習過的知識。台智雲後來測試模型，驗證了這種方法，可有效降低災難性遺忘，還能保有模型既有的優點。</p> <p>不只如此，在臺灣發展繁中LLM的這一年中，還有不少專家意識到，臺灣缺乏繁中的基準測試（Benchmark）。古倫維指出，LLM完成預訓練後，通常需要基準測試，來衡量模型的學習成效。比如常見的200種任務測試，其中就有用來衡量自然語言處理能力的GLUE、SuperGLUE等主流基準測試，來評估模型的閱讀理解、翻譯、情感分析等能力。但這些基準測試，並非為繁中模型設計。</p> <p>她認為，應該要建置專屬基準測試，才能衡量模型的繁中任務處理能力。這也是叡揚資訊創新研發中心副總經理林縣城提出的看法，透過有效的繁中基準測試，才有利於後續應用。</p> <p>此外，古倫維還點出另一個臺灣發展LLM可思考的課題，也就是應用生態系。因為，LLM要發揮效益、成為好用工具，不單只是模型本身夠好，還需要充足的平臺資源和API生態，比如微調工具，來協助使用者客製化，或是API能串接多種App、與不同系統溝通。</p> <p>這一年來，臺灣LLM發展順利跨出從0到1的第一步，雖遭遇發展中必經的挑戰，如缺乏繁中語料、運算成本高、需建置繁中基準測試等配套措施，卻也因此開始發展解決對策，像是由國家建置高品質繁中資料集，預計開源釋出來推動臺灣AI發展。</p> <p>國網中心也因TAIDE計畫而升級算力，繼10月新添72片H100 GPU後，明年還要擴增16PFLOPS的效能算力，更開始規畫建置下一代AI超級電腦。國網中心還擬訂未來計畫，要鼓勵企業與新創提案、使用大算力做好題目，將以非常優惠的價格，甚至免費，來讓提案出眾的企業和新創，使用上百PFLOPS的AI超級電腦算力。</p> <p><span style="color:#FFFFFF;"><span style="font-size:24px;"><strong><span style="background-color:#B22222;"> 臺灣自己打造LLM五大原因和四大挑戰 </span></strong></span></span></p> <p><span style="font-size:20px;"><strong><span style="color:#FFFFFF;"><span style="background-color:#FF8C00;"> 非做不可五大原因：</span></span></strong><br /> <strong>1. 開源LLM的繁中文化知識不足<br /> 2. 資料安全考量<br /> 3. LLM訓練資料偏誤課題<br /> 4. AI人才培育需求<br /> 5. 平行運算經驗和算力累積。</strong><br /> <span style="color:#FFFFFF;"><strong><span style="background-color:#FF8C00;"> 四大挑戰：</span></strong></span><br /> <strong>1. 繁中語料不足和授權議題<br /> 2. 龐大算力和運算資源的不足<br /> 3. 克服模型災難性遺忘<br /> 4. 缺乏繁中版基準測試</strong></span><br /> <span style="color:#696969;"><span style="font-size:14px;">資料來源：iThome整理，2023年12月</span></span></p> <p><a href="https://www.ithome.com.tw/article/160096" target="_blank"><span style="color:#FFFFFF;"><span style="font-size:18px;"><strong><span style="background-color:#3399ff;"> 相關報導 </span></strong></span></span><span style="font-size:18px;"><strong><img alt="" src="https://s4.itho.me/sites/default/files/styles/picture_size_large/public/1158-feng_mian_p1_open-ruo_pu_-960x420_0.jpg?itok=1ZND9vlp" style="width: 550px;" /></strong></span></a></p> </div></div></div>
2023/12/1 10:00作者王若樸https://www.ithome.com.tw/news/160090
【LLM關鍵基礎建設：算力】因應大模型訓練需求，國網中心算力明年大擴充
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>即便不是從無到有、開發一套大型語言模型（LLM），以開源LLM為基礎，用數百億Token語料進行預訓練、微調和人類回饋強化學習（RLHF）所優化出的繁中基礎模型，也是極耗成本。光130億參數模型，就得花上幾個月才能完成預訓練。</p> <p>算力，是影響訓練成敗的一大關鍵。臺灣現有算力，夠發展自己的LLM嗎？</p> <p><span style="color:#3399ff;"><span style="font-size:28px;"><strong>盤點臺灣現有超級電腦算力</strong></span></span></p> <p>臺灣目前的主要算力資源，集中於國家高速網路與計算中心3臺超級電腦，包括臺灣杉1、2、3號，總效能約20 PFLOPS。其中，臺灣杉1號和3號以CPU為主，專為工程運算、大型模擬等任務設計，臺灣杉2號則採V100 GPU，專為AI模型開發和推論而設計，運算效能可達9 PFLOPS。臺灣杉2號雖有2,016片GPU，但是分開使用，半數由國網中心管理，供公部門和學研界使用，另一部分則由建置臺灣杉2號的台智雲營運，來處理業界需求。</p> <p>這樣的算力，能否滿足繁中LLM發展需求？國網中心主任張朝亮指出，以Meta開源模型Llama 2為例，它有70億參數（7B）、130億參數（13B）和700億參數（70B）版本，在標準條件下，進行7B、13B模型預訓練和全參數微調，臺灣杉2號都能應付。所謂的標準條件是指，搭配預訓練的資料量為模型參數的20倍，亦即國網中心臺灣杉2號，面對7B模型進行預訓練（搭配1,400億個Token訓練資料）還是對13B模型預訓練（搭配2,400億個Token資料量）需求，都可以勝任。就算資料量多一些，臺灣杉2號也能處理，只是所需時間長了點。</p> <p>「但若是70B版模型預訓練，國網中心算力可能就不太夠了。」張朝亮解釋，這是因為，Meta從無到有訓練Llama 2時，需要上千甚至上萬片A100 GPU，所需時間大約為6個月，而臺灣杉2號採用相對低階的V100 GPU，效能約為1：3。若以臺灣杉2號進行70B模型預訓練，可能得花上9個月至1年。再者，臺灣杉2號還得支援其他AI專案，無法全力發展單一LLM專案。</p> <p>如何提供夠用的算力，正是國網中心協助國科會打造TAIDE模型時，所面臨的挑戰。</p> <p><span style="color:#3399ff;"><span style="font-size:28px;"><strong>助國科會打造臺版LLM，平行運算是關鍵</strong></span></span></p> <p>今年4月28日，國科會TAIDE計畫正式展開，國網中心隨即提供臺灣杉2號算力，來協助發展臺版LLM。經過數月發展，國科會現已提供繁中優化的TAIDE 7B模型，供企業和公部門簽約使用，預計明年初提供13B版本模型，同時展開70B模型優化工作。</p> <p>國科會TAIDE模型能一步步順利上架，一大關鍵是高效能運算，尤其是平行化運算。張朝亮是該領域專家，他專攻流體力學和高效能平行計算，不只在美國NASA從事研究工作34年，回臺接任國網中心主任後，也親自參與TAIDE模型的平行運算和性能調校工作。</p> <p>他點出，平行運算並非新發明，在高效能運算領域中已發展數十年，是項成熟技術。他自己從事科學工程運算時，就時常運用，只是在AI運算領域，作法稍有不同。「平行運算的原理很簡單，」張朝亮說明，好比一臺電腦執行一項任務，需要10天才完成，若同時使用10臺電腦，一天就能完成。以此類推，一臺超級電腦可想像為成千上萬臺電腦組成，執行複雜運算任務時，可透過切分任務，來讓多臺電腦同時執行。</p> <p>其中一種常見且簡單的平行運算方法，是從資料量下手的資料平行化。意思是，假設AI模型參數量不大，單片GPU就能執行訓練，一臺主機因有8片GPU，就可訓練模型8次。這時，開發者可將訓練資料分割，將每批不同的訓練資料，分別交給各個GPU，同時進行運算，讓模型不斷修正參數。</p> <p>當模型大到無法用單一GPU執行訓練時，就需要另一種平行化方法來因應。因為模型參數量越大，就需要越多GPU支援，可能是一臺主機，或數十、數百臺或上千臺主機。在這種情形下，每臺主機只負責一部分的模型訓練，而訓練資料的分配和傳輸，就變得十分複雜，也會使模型訓練過程變得冗長。</p> <p>此時，就需要NVLink和訊息傳輸介面（MPI），來提高主機內和跨主機的資料交換效率。張朝亮指出，傳統科學運算時常使用MPI，使用者得針對每一項平行化和資料傳輸一一寫程式，但在AI領域，有不少現成工具可加速，比如深度學習框架PyTorch提供平行運算工具，將MPI和GPU平行化所需的NVLink等分段工作打包，能根據需求拆解MPI和NVLink任務、自動執行。這種作法，就是張量平行化方法。國網中心在國科會TAIDE計畫初期，就建置了平行化工具，來讓開發團隊進行性能調校。</p> <p><span style="color:#3399ff;"><span style="font-size:28px;"><strong>分階段提升AI算力，還要引進量子電腦</strong></span></span></p> <p>不只是平行化運算加持，這次TAIDE計畫，還進一步提高了臺灣杉2號算力。今年10月，他們購置了9臺主機、共72片H100 GPU，是臺灣杉2號原搭載的V100 GPU第三代，預估效能可達4.8 PFLOPS。</p> <p>國網中心也以4.8 PFLOPS為基準，預計明年再增加16 PFLOPS算力。這些算力升級，也能用來解決，原本臺灣杉2號可能難以應付70B模型預訓練的問題。至於國網中心的整體算力提升目標，則是要在5年內達到200至300 PFLOPS。</p> <p>這次的LLM訓練經驗，也影響了張朝亮對下一代AI超級電腦的建置想法。他計畫分年建置，因為這麼做，每年都可購入新機器，能避免基礎設施過時。</p> <p>甚至，國網中心還規畫引進量子電腦。張朝亮點出，採用量子電腦是世界趨勢，他在剛落幕的2023超級電腦大會中，就見到非常多量子電腦公司和新創，「臺灣一定要及早切入這個領域，否則會落後。」而國網中心的規畫方向有2個，一是觀察量子位元數量發展，以量子位元數多的量子電腦為優先選擇，二是依照世界主流作法，將量子電腦與超級電腦整合，透過超級電腦將資料轉換為適合量子運算的形式，交由量子電腦計算，再將計算結果交給超級電腦，轉換為人類可讀的資料。</p> <p>國網中心將另外建置超級電腦來與量子電腦溝通，目前規畫中的AI超級電腦，也將撥出一部分來執行這個轉換工作。此外，國網中心也打算引進可模擬量子電腦的工具cuQuantum，來提高量子電腦模擬在GPU的運算效率。</p> <p><span style="color:#3399ff;"><span style="font-size:28px;"><strong>鼓勵企業、新創運用超算資源</strong></span></span></p> <p>「AI和算力，是接下來幾年非常重要的國家發展指標。」張朝亮認為，臺灣不只要發展高速運算的基礎建設，還要鼓勵企業和學研界挑戰「大題目」。他觀察，過去幾年，臺灣研究風氣保守，「我們鼓勵大家發表論文，但沒有鼓勵大家提出解決大問題的機制。」他認為，ChatGPT之所以存在，是因為有勇於挑戰大題目的文化DNA。</p> <p>「我希望未來幾年，能夠改變這樣的想法。」為鼓勵專家挑戰大題目、勇於使用大算力解決大問題，張朝亮分享個人觀點，政府在編排研究補助專案時，也許可直接命題，提出如TAIDE這類需要超級電腦運算的大計畫，來編排經費、鼓勵專家投入研究。</p> <p>不只如此，張朝亮還點出，國網中心正擬定計畫，要鼓勵中小企業、新創產業使用超級電腦。亦即在下一代AI超級電腦發展的幾年，國網中心將針對出眾的提案，提供「非常優惠的價格，甚至免費，來讓提案企業和新創使用上百PFLOPS效能的超級電腦，」他說。</p> <p><a href="https://www.ithome.com.tw/article/160096" target="_blank"><span style="color: rgb(255, 255, 255);"><span style="font-size: 18px;"><strong><span style="background-color: rgb(51, 153, 255);"> 相關報導 </span></strong></span></span><span style="font-size: 18px;"><strong><img alt="" src="https://s4.itho.me/sites/default/files/styles/picture_size_large/public/1158-feng_mian_p1_open-ruo_pu_-960x420_0.jpg?itok=1ZND9vlp" style="width: 550px;" /></strong></span></a></p> </div></div></div>
2023/12/1 10:00作者王若樸https://www.ithome.com.tw/news/160091
【本土LLM：國科會TAIDE】打造臺版LLM供企業和公部門免費使用，還要開源繁中資料集
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>「臺灣也要有自己的ChatGPT！」這是國科會主委吳政忠在今年2月新春記者會上揭露的重磅消息。</p> <p>現在，10個月過去了，國科會打造的臺版ChatGPT不只有70億參數模型的初步成果，也開始進入公部門應用討論階段，更預計明年初釋出130億參數版本供企業和公部門免費使用，並展開700億參數的模型訓練。這套模型名為可信任AI對話引擎（簡稱TAIDE），以繁體中文資料訓練而成，主打以臺灣文化為基底，具備臺灣特有用語、價值觀和文化知識，能回答在地使用者問題。</p> <p>國科會TAIDE團隊，如何發展臺版大型語言模型（LLM）？</p> <p><span style="color:#3399ff;"><span style="font-size:28px;"><strong>3階段打造本土化基礎模型</strong></span></span></p> <p>他們採成本高、步驟最完整的方法來打造TAIDE。有別於從無到有自行開發一套模型，團隊以開源LLM為基礎，利用自行建置的繁中語料，來對LLM進行連續預訓練（Continual pretraining）、微調和人類回饋強化學習（RLHF）等3階段優化，完成品即是TAIDE模型。</p> <p>第一階段的連續預訓練，是要用大量繁中資料，來讓模型學習基礎知識。更貼切的形容是，讓模型學會文字接龍，比如「臺」後有70%機率接「灣」、10%機率接「北」、4%機率接「中」等，讓模型「從訓練資料中，了解字與字之間的條件機率分布，」李育杰說。</p> <p>為盡可能建置足夠量的訓練資料集，TAIDE團隊收集了新聞、政府公開資訊和研究資訊、繁中維基百科和學術論文等10種資料，製作成繁中語料集，來訓練模型。由於這階段使用的資料量最多，通常是模型參數量的20倍，例如70億參數，需要多達140億個訓練Token。因此最耗費運算資源，訓練時間最長，若無建構良好的高速平行運算環境，可能耗費數月之久，難以符合現實要求。</p> <p>再來是微調（Fine-tune）階段，也就是用問答組資料，來讓模型學習特定任務，比如翻譯。微調作法又可細分為2種，一是全參數微調，較耗費運算資源，但模型學習成效較好。另一種是參數高效能微調（PEFT），也就是採用LoRA、P-Tuning等常見壓縮技術，只對模型部分參數微調，以較省運算資源的方式，來試圖達到全參數微調的效果。</p> <p>在這個階段，TAIDE團隊收集了42萬筆資料，包括ChatGPT問答組、繁中翻譯的rm-static資料集、新聞摘要等，採較吃力的全參數微調方式，來讓模型學習特定任務。最後一階段是RLHF，也就是以人工標註模型回答，再以這個回饋來改善模型，如用語更符合臺灣文化和知識。這期間，TAIDE團隊也找來專攻自然語言處理的師生團隊協作開發。</p> <p>李育杰指出，經這3階段訓練的TAIDE，可作為基礎模型，來讓公家機關或企業，以少量資料微調模型即可應用。使用者也可搭配自家資料庫，以檢索強化方式（RAG），來限制模型回答範圍、降低幻覺，給出更精準的答案。</p> <p><span style="color:#3399ff;"><span style="font-size:28px;"><strong>改以Llama 2為基礎打造臺版LLM</strong></span></span></p> <p>今年4月28日，TAIDE計畫正式展開，團隊首先嘗試不同的開源模型，如BLOOM、第一代LLaMA等。他們發現，LLaMA中文表現最好，因此以它為基礎，來進行預訓練、微調和RLHF。</p> <p>由於LLaMA只開放學術研究授權，TAIDE團隊打算先優化LLaMA來供學術研究使用，日後再尋找其他商用授權的LLM，來發展臺灣企業可用的基礎模型。今年6月時，他們展示了TAIDE第一階段成果，也就是以繁中資料優化的LLaMA 70億參數版本，已能執行自動摘要、翻譯、寫信、寫文章等4大任務，且用語符合臺灣文化，表現也比未優化的LLaMA-7b、科大訊飛-7b和Bloom-3b-zh等模型要好。</p> <p>7月下旬，Meta釋出Llama 2，不只開放學術研究和商用授權，表現還比第一代好。於是，國科會團隊改以Llama 2為基礎，原本打算分別進行學術研究和商用的模型訓練，現在可以同步發展，省下許多功夫。</p> <p>他們從Llama 2 70億參數版本開始進行預訓練、微調和RLHF工作，打造為TAIDE 7B模型。接著也對130億參數的Llama-2-13b-chat模型進行3階段優化，包括以30億個Token的繁中資料進行連續預訓練、以42萬筆資料進行微調和RLHF工作，打造出Taide-Llama-2-13b-Chat模型。</p> <p>他們以17種任務來測試模型能力，如寫作、摘要、翻譯、寫程式等，再以GPT-4比較TAIDE模型與其他模型的回答，並打分數。結果，Taide-LLaMA2-13B-Chat大勝第一階段展示的TAIDE模型，但這個版本的模型還需更多資料進一步優化，才能正式開放使用。</p> <p><span style="color:#3399ff;"><span style="font-size:28px;"><strong>10月進入公部門討論，預計明年初上架13B模型</strong></span></span></p> <p>打造臺版LLM很重要，但更重要的是如何落地。為此，國科會TAIDE團隊設置使用者帳號、建立使用平臺，並在10月和11月，陸續舉辦中央和地方公部門的應用工作坊，先讓公部門嚐鮮TAIDE 7B功能、發想可行專案。同時，「我們也開放業界申請，企業簽訂MOU就能免費使用TAIDE模型。」李育杰指出，這正是國科會構想TAIDE計畫時的重要考量，政府出資建造模型，不只彌補國外LLM方案可能的不足，還要帶來產業效益，供企業自行使用或優化服務。</p> <p>隨著國網中心在10月購入72片H100 GPU，接下來團隊將用這個算力，來優化130億參數的TAIDE模型，讓它具備多輪對話能力，更能記住使用者先前的對話，讓任務執行更有連貫性。</p> <p>他們預計明年初釋出TAIDE 130億參數版本，同時展開700億參數版本模型訓練，預計明年4月完工。不過，由於TAIDE計畫將於明年4月28日到期，「我們正在想辦法長期維運，讓TAIDE繼續營運下去，」李育杰說。</p> <p>另一方面，在發展TAIDE的過程中，還有一大挑戰要解決。「我們的訓練資料目前還不夠！」李育杰坦言，撇除無版權的網路公開資料，團隊還需要新聞和出版物等資料，才夠建置完整的訓練資料集。也因此，TAIDE團隊正向新聞媒體、出版社等機構，一一取得授權，來製作訓練模型的繁中語料。</p> <p>為打造LLM而取得資料授權，是必須的嗎？「我請教過創立CC授權機制的哈佛大學教授Lawrence Lessig，他表示，將資料用於連續預訓練，屬於合理使用範圍，不需取得授權。」李育杰說明，預訓練目的是要模型學會字與字之間的機率分布，理應不會發生抄襲問題。</p> <p>但他與團隊還是想取得授權，不只為了製作TAIDE訓練資料集，還有一個更大的願景：開源這些高品質繁中語料。</p> <p><span style="color:#3399ff;"><span style="font-size:28px;"><strong>開源繁中資料集來提高國際參與</strong></span></span></p> <p>「TAIDE計畫走到現在，更讓我體認到，臺灣需要龐大且高品質的繁中語料庫！」李育杰深知，繁中資料集稀缺，難以帶動本地LLM技術發展，但「有系統地收整資料、發展國家性的繁體中文語料庫，不只對TAIDE模型訓練有幫助，對未來的LLM研發，甚至是整體AI發展，都會有很大的影響。」</p> <p>有了這些資料集，臺灣也更有機會參與國際AI研究。他舉例，如OpenAI、Google、Meta等科技巨頭打造新一代LLM時，就能使用臺灣開源的繁中語料。目前，TAIDE計畫已陸續釋出一些資料集，如字典、法規資料庫、中央社中文新聞等，未來還會釋出更多。李育杰坦言，建置繁中資料集猶如打造公共財，需要如數位典藏的國家性計畫和經費來推動，但TAIDE計畫是個起點，透過計畫拋磚引玉、讓更多人知道建置資料集的重要性，是推動臺灣AI進展的重要一步。</p> <p><a href="https://www.ithome.com.tw/article/160096" target="_blank"><span style="color: rgb(255, 255, 255);"><span style="font-size: 18px;"><strong><span style="background-color: rgb(51, 153, 255);"> 相關報導 </span></strong></span></span><span style="font-size: 18px;"><strong><img alt="" src="https://s4.itho.me/sites/default/files/styles/picture_size_large/public/1158-feng_mian_p1_open-ruo_pu_-960x420_0.jpg?itok=1ZND9vlp" style="width: 550px;" /></strong></span></a></p> </div></div></div>
2023/12/1 10:00作者王若樸https://www.ithome.com.tw/news/160092
【本土LLM成果：台智雲福爾摩沙大模型】靠3種平行化技術提高訓練效率，加速繁中LLM產品化
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>以打造臺灣杉2號超級電腦起家的華碩子公司台智雲，在今年5月和9月先後揭露多款繁中語料優化的大型語言模型（LLM），不只有懂臺灣文化的福爾摩沙系列模型（FFM），還有一系列企業級模型開發工具和無程式碼平臺，來供企業使用。</p> <p>這是除了國科會可信任人工智慧對話引擎（TAIDE）外，另一個具本地知識和用語的LLM選擇。</p> <p><span style="color:#3399ff;"><span style="font-size:28px;"><strong>以繁中資料優化2種開源LLM</strong></span></span></p> <p>台智雲總經理吳漢章指出，5月揭露的福爾摩沙大模型，是以可商用的開源模型BLOOM為基礎，經連續預訓練、全參數微調和人類回饋強化學習（RLHF）等三階段優化而成。</p> <p>他們用來訓練模型的資料量高達1.5TB，其中包含繁中在內的46種人類語言、13種程式語言等無版權資料，共2千億個Token。他們也針對微調，建置專用的問答組，來強化模型執行特定任務的能力。</p> <p>經過3個月開發，福爾摩沙模型共有2個版本，也就是1,760億參數版本和70億參數版本。台智雲技術長陳忠誠指出，福爾摩沙模型具備多語言、寫程式和推理能力，在語言部分，不只繁體中文表現優異，可準確回答不少ChatGPT難以答對的問題，還特別加強東南亞語系的語言能力，為未來南向發展做準備。</p> <p>今年9月，台智雲更進一步揭露新模型FFM-Llama 2，包含70億、130億和700億參數等3種版本。這款模型以Meta開源的Llama 2為基礎，用繁中資料優化而成。與原Llama 2相比，不只能用繁體中文回答問題，而非如Llama 2會以英文回答中文問題，還能在寫程式時，在程式碼中保留所需的中文。</p> <p>不只如此，台智雲以這些模型為核心，進一步推出企業級大語言模型服務AFS，可細分為AFS Cloud和AFS Appliance兩款產品。前者是雲端託管服務，提供完整訓練過的模型，來讓企業以API呼叫使用，而後者則是地端部署方案，企業可下載大型模型到本地端環境部署，來執行LLM應用。在AFS的預訓練模型庫中，除了有福爾摩沙大模型和FFM-Llama 2模型，還有BLOOMZ、Llama 2、Code Llama等開源模型。</p> <p><span style="color:#3399ff;"><span style="font-size:28px;"><strong>平行化運算是訓練LLM關鍵</strong></span></span></p> <p>打造企業級LLM服務並不容易，台智雲如何能這麼快推出產品？關鍵是算力的準備。</p> <p>訓練和微調LLM需要大量算力，特別是千億參數的龐大模型BLOOM，更需要一套有效的運算方法。早在2022年下半年，台智雲就開始研究訓練LLM所需的平行運算技術；他們的初始目標是，在臺灣杉2號上，實際用3種平行化方法來訓練BLOOM。</p> <p>這3種平行化方法，包括將模型水平切割的工作流程平行化、將模型垂直切割的張量平行化，以及使用前述兩種平行化後，再將訓練資料分割給不同GPU群運算的資料平行化。</p> <p>為實作這3種平行化，他們先修改模型訓練程式碼，來讓模型訓練時，可執行相對應的平行化。接著，他們解決一系列挑戰，比如找到最佳切割組合、讓每張GPU都能發揮最佳效能，以及分割時，解決GPU記憶體不夠用的問題。</p> <p>陳忠誠還點出，LLM訓練需要好幾個月，團隊不只要實現同時調度大量GPU，比如訓練福爾摩沙大模型，最高調度840片GPU來進行平行化運算，還要注意硬體故障問題，以防止訓練流程中斷。因此，台智雲設計一套機制，能在硬體故障問題修復後，自動開始LLM訓練流程。最終，他們成功在臺灣杉2號上，最高調度840片GPU、同時進行平行化運算來訓練BLOOM。這個成功經驗，也用於FFM-Llama 2的訓練上。</p> <p>不只是算力，台智雲還有不同方法，來解決LLM訓練問題。比如，為確保訓練資料品質，他們還自建一套自動辨識工具，來篩選訓練資料，比如判斷是否夾雜不預期的語言，是否含不適當內容以及低品質的資料等。</p> <p>同時，為避免模型發生災難性遺忘，忘記先前學習過的知識，台智雲也特別分配訓練資料集，比如每一批平均涵蓋不同領域的資料、新舊混合等，來讓模型均衡學習。這些方法綜合起來，就打造出具備繁中知識、表現良好的福爾摩沙大模型和FFM-Llama 2。</p> <p>台智雲也將訓練LLM累積的平行化經驗，發展成容易自助操作的LLM訓練服務。吳漢章表示，他們將平行化技術打包成無程式碼平臺，使用者點擊滑鼠，選擇各種想要微調的模型需求和條件，比如用1,200萬字在1小時內完成Llama 2模型微調的組合條件，系統會自動根據這些條件，來調度相應GPU支援，自動進行平行化的模型訓練任務，來降低企業訓練LLM的門檻。他也揭露台智雲下一步，不只要添加更多模型到AFS，還要往亞洲市場進一步推廣算力服務。</p> <p><a href="https://www.ithome.com.tw/article/160096" target="_blank"><span style="color: rgb(255, 255, 255);"><span style="font-size: 18px;"><strong><span style="background-color: rgb(51, 153, 255);"> 相關報導 </span></strong></span></span><span style="font-size: 18px;"><strong><img alt="" src="https://s4.itho.me/sites/default/files/styles/picture_size_large/public/1158-feng_mian_p1_open-ruo_pu_-960x420_0.jpg?itok=1ZND9vlp" style="width: 550px;" /></strong></span></a></p> </div></div></div>
2023/12/1 10:00作者王若樸https://www.ithome.com.tw/news/160093
【企業LLM實戰：台灣大哥大】全體動員嘗試LLM，2大流程讓客服AI回答更準也更豐富
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>今年5月，台灣大哥大悄悄揭露了運用大型語言模型（LLM）優化自家智能客服小麥的成果。他們並非採用常見的微調LLM優化方法，而是以嵌入式模型（Embedding model）搭配客服知識庫，來讓小麥回答更準確、更有人味。</p> <p>為何不直接建置資料集、微調LLM，讓模型成為客服大腦？台灣大資訊長蔡祈岩認為：「現階段嵌入式模型就夠用了。」為什麼？</p> <p>去年底ChatGPT問世，各產業爭相擁抱LLM，要來強化自家服務、提高競爭力，台灣大也不例外。「這段時間，我們嘗試過許多大大小小的應用，」蔡祈岩指出，台灣大不只有一個團隊在摸索，而是「各部門全員動員，」來嘗試各種應用案例，特別是客服場景。</p> <p>他們嘗試了多種模型，如台智雲的福爾摩沙大模型、微軟的AOAI服務，以及Meta的Llama 2，要來優化小麥。一開始，他們採取自建資料集、微調LLM的方法，來打造客服大腦，要讓客服引擎更聰明、給出正確答案。於是，他們收集了客服知識點、客服文字對話、公司新聞、臉書與LinkedIn等資料，作為微調LLM的語料庫。</p> <p>接著，他們開始清理資料，去除HTML標籤和個資等資訊。也因為每種資料清洗方式不同，難以用少數程式邏輯來處理全部資料，因此需要人工介入。他們將原本投入的1至2名人力，增加為4至6人。資料集整理完後，團隊開始用來微調模型，但由於資料集中99.8%的資料來自新聞語料，因此模型產出的回答偏向新聞用語，準確度也待加強。</p> <p>經過那次測試，團隊發現，LLM不適合直接用作客服大腦，還需要其他配套方法補強。於是，他們改變策略，將目標調整為提高回答正確性，改採嵌入式模型搭配客服知識點資料庫，來產出答案。而LLM則轉為幕後輔助角色，用來新添客服知識點內容，而非直接處理業務問題。</p> <p><span style="color:#3399ff;"><span style="font-size:28px;"><strong>前後臺分工，分別負責準確回答和豐富知識庫</strong></span></span></p> <p>這個作法可分為前臺和後臺兩套流程，前臺流程的目標是提高客服回答準確性。因此，當顧客向小麥問問題時，提問會經過嵌入式模型，將文字轉換為向量空間，來與客服知識點中的例句計算信度，找出最符合的資料。若信度大於等於90%的門檻值，就會將這個知識點的資訊回傳給小麥，提供新參考答案給顧客。若信度不足而無回傳值，小麥則套用制式答案來回覆。</p> <p>要是信度小於門檻值，就會啟動知識點後臺接手處理。後臺流程的目的是豐富知識庫內容，因此，系統會將信度小於門檻值的內容，包含顧客提問和前幾名回答，組成新的提示，由LLM根據新提示產出答案，並將這個新答案回饋給知識點維護人員，來更新知識點內容。</p> <p>這麼做可節省客服人員維運知識點平臺的時間，而且，知識點的回覆內容，也會因此循環越來越完整。這正是蔡祈岩認為，目前嵌入式模型即可解決客服業務問題的原因。</p> <p><span style="color:#3399ff;"><span style="font-size:28px;"><strong>AI 2.0進展快速，不適合砸重金發展LLM</strong></span></span></p> <p>另一方面，隨著OpenAI掀起AI 2.0超級大腦的浪潮，蔡祈岩觀察，AI 2.0進展迅速，台灣大暫不投入大量成本來發展LLM。他指出，台灣大在AI 2.0已找到許多可立即看到成效的低垂果實，自行發展並非優先選擇。再來，LLM是個眾神必爭領域，企業自行投入的成本效益幾乎沒有能見度。比如，OpenAI日前提出GPTs，允許使用者根據自身需求，客製化專屬的ChatGPT，這就掀翻了許多AI企業的桌子。台灣大集團憑藉多樣的應用場域和IT人才，只要緊盯技術趨勢，就能靈活找出高效益、低風險的發展機會。</p> <p><span style="color:#3399ff;"><span style="font-size:28px;"><strong>發展AI國力，可強化人才發展環境</strong></span></span></p> <p>生成式AI不只是企業標配，還成為各國秀AI國力的亮點。臺灣已有國科會的TAIDE計畫，來打造臺版LLM，但蔡祈岩認為，要長遠發展臺灣AI國力，還有更多需努力之處。</p> <p>比如，臺灣要加速發展再生能源，來支援AI算力所需的綠電，政府也能提供更多企業和新創的技術研發補助計畫，來鼓勵研發，激發更多AI軟體創新。</p> <p>此外，蔡祈岩點出，高等研發人才，特別是軟體人才，更是發展重點。尤其，主流國家瘋搶AI人才，臺灣應提出賦稅優惠來留住本地高階技術人才，加上良好的生活環境，如醫療資源、便利性和包容的文化，來吸引國際人才。「因為，臺灣的國際競爭策略一向是高CP值，非常成功，我們不宜孤注一擲在紅海，想用世界最高薪資來搶人才。」他認為，臺灣反而更適合吸引全球非電腦科學學科畢業、具高潛力的AI生手或IT素人，來臺培養專業技能、轉職為軟體人才，同時在訓練過程中，培養對臺灣社會和文化的認同，進而成為臺灣專屬的軟體人才。</p> <p><a href="https://www.ithome.com.tw/article/160096" target="_blank"><span style="color: rgb(255, 255, 255);"><span style="font-size: 18px;"><strong><span style="background-color: rgb(51, 153, 255);"> 相關報導 </span></strong></span></span><span style="font-size: 18px;"><strong><img alt="" src="https://s4.itho.me/sites/default/files/styles/picture_size_large/public/1158-feng_mian_p1_open-ruo_pu_-960x420_0.jpg?itok=1ZND9vlp" style="width: 550px;" /></strong></span></a></p> </div></div></div>
2023/12/1 10:00作者王若樸https://www.ithome.com.tw/news/160095
臺灣如何打造自己的LLM
<div class="field field-name-field-image field-type-image field-label-hidden"><div class="field-items"><div class="field-item even"><img src="https://s4.itho.me/sites/default/files/styles/picture_size_large/public/1158-feng_mian_p1_open-ruo_pu_-960x420_0.jpg?itok=1ZND9vlp" width="960" height="420" alt="" /></div></div></div><div class="field field-name-field-featured-article-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/taxonomy/term/75">專題故事</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>一年前，全球掀起了一場生成式AI的競爭浪潮，臺灣也沒有缺席，業界、學界、政府相繼出手，多款繁中版LLM相繼誕生，但AI競賽是馬拉松，才剛鳴槍起跑，如何持續改版、持續進化才是真正的考驗</p> </div></div></div>
2023/12/1 10:00作者王若樸https://www.ithome.com.tw/article/160096
百年郵局全面數位大轉型，靠IT優化服務打造郵政生活圈
<div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>近兩年，中華郵政公司開始積極擁抱革新，展現出對現代化、數位化的強烈決心，不只運用IT優化郵儲壽業務流程，朝向更行動化、更智慧化的郵政服務新模式邁進，改變了過往國營事業機構給人保守的刻板印象。</p> <p>尤其因為疫情，加速了這家百年老字號的郵政公司轉型的腳步，將數位科技深入到內外服務，提升作業效率和優化顧客體驗。此外，郵局還積極發展數位金融和智慧物流，未來更要創新其商業模式，打造多元且便利的郵政生活圈。</p> <p>「面對大環境趨勢帶來的挑戰，如果郵局仍用PC和實體據點的作業模式，不改變早晚將被淘汰。」中華郵政公司協理陳棟梁明白地表示。他是郵局數位大轉型的幕後重要推手。</p> <p>中華郵政公司不論是存款戶數及分支機構，均居國內金融機構之冠，為全臺最大的存款機構。但是中華郵政的經營業務，與傳統金融機構有所不同，不僅提供儲匯、壽險、集郵及電商等服務，還包辦了全臺的郵務及物流服務，一年要處理數十億封郵件及包裹。</p> <p>可是，中華郵政的IT團隊目前僅兩百餘人，沒有像大型金融業者動輒六七百、甚至千人團隊，仍要服務全臺高達2,000多萬客戶、提供近1,300營業據點、近3,200臺ATM和相關自助物流機臺的維運，對於IT團隊帶來不小的考驗。因此，如何在有限的人力資源下更有效率地完成任務成為重要課題。這也促使了這間百年郵政公司開始積極進行數位轉型。</p> <p>中華郵政雖然早在2013年就開始推動內部轉型，當時主要為了發展行動化，直到2021年這一年，郵政公司在高層的全力支持下，真正開始積極推動全面的轉型。中華郵政由董事長擔任召集人，成立了數位發展委員會，在委員會下設立數位發展推動小組。陳棟梁從2022年開始擔任數位發展執行長，負責推動郵局數位發展相關工作。</p> <p><span style="font-size:28px;"><strong>郵局數位發展藍圖3大目標</strong></span></p> <p>中華郵政的數位發展藍圖訂定了三大目標，包括提升作業效率、優化客戶體驗，以及創新商業模式，更提出11項發展策略，涵蓋了郵務、金融、物流、電商、集郵、人才培育等多個面向的數位發展。陳棟梁於今年3月升任總公司協理，不僅負責郵局整體IT發展與規畫，還要帶領IT團隊和數發小組，推動整個郵局體系的數位轉型。</p> <p>2021年啟動全面轉型後，中華郵政第一步，先從作業及服務流程優化著手，引進各種數位科技及工具，來提升內部作業效率。其中，資訊團隊導入RPA機器人流程自動化工具，改用RPA來自動處理過去繁瑣的人工電腦作業，來加快作業處理時間。</p> <p>舉例來說，過去郵局辦理銀行公會函詢答覆作業時，通常需要儲匯處多個單位協同作業，包括處理查詢、核對、通知等工作，不僅相當耗時，也造成執行人員不小的負擔。現在則是統一由RPA機器人執行相關查詢作業，改以自動化方式來完成，不需靠人手動輸入查詢，就能產生查詢答覆單。他們還利用RPA協助檢核國稅局所提供的檔案內容與篩除錯誤，以及自動執行存簿儲金附因管理作業及劃撥儲金附因管理作業。</p> <p>中華郵政先從儲匯處開始導入，使用RPA自動處理相關函詢答覆作業，接著推廣到壽險處和電商室，分別用於協助身故資料的比對和i郵購日帳挑對等工作。</p> <p> 陳棟梁表示，實際導入RPA後，帶來不少效益。郵局在導入第一年，導入了3條自動化流程，共上線了11支機器人模組，每條流程不僅節省了42%到84%的人力作業時間，也大幅降低人為出錯的機率。導入PRA，他表示，不僅減輕人員的工作負擔，還能重新檢視和改善既有作業流程，提高整體作業效率，更重要的是，這種做法讓員工能夠專注於更具附加價值的工作上。</p> <p>從2021導入RPA至今，中華郵政已經上線了超過50支RPA，並逐步增加應用範圍，涵蓋不同的業務部門，來簡化複雜的作業流程。</p> <p>就像許多傳統大型企業在導入新技術、新做法的過程中，勢必需要面對原有作業習慣改變的挑戰，中華郵政也不例外。</p> <p>為因應這樣的挑戰，陳棟梁在RPA的導入上採取了逐步推行的策略，先選定特定部門作為示範，待取得一定成果後，再進一步擴大至其他部門，減少推行可能遇到的阻力。同時，由數發小組負責評估各部門提出的RPA計畫，根據RPA開發的複雜度，決定是由內部團隊自行開發還是委外。此外，他們還設定年度的KPI指標，促使各部門加快對該技術的採用。</p> <p>除了升級內部流程，中華郵政也將數位科技深化到對外部服務，不斷地優化顧客體驗，像是在2022年時推出名為「行動郵局」全新的App，取代舊有的版本。這是郵局發展行動化以來，最重要的一次大改造。</p> <p>陳棟梁表示，由於舊版行動App功能翻新後仍有諸多限制，如無法推播，後來決定重新打造一款新App來取代。</p> <p>為了開發這支App，資訊團隊用一年半規畫設計，其中更花了半年與工研院合作進行使用者體驗優化，通過反覆測試和改良，才加以推出。這支App上線一年多，下載量已超過540萬次。</p> <p>新App中不僅整合了郵務、儲匯及壽險等多項服務功能，同時與多家電子支付業者進行系統串接，讓使用者可以透過行動支付App連結郵局帳戶付款。</p> <p>在操作介面上，新App強調提升使用者體驗，不僅將重要的功能介面設計在使用者用拇指可以點擊的位置，還支援語音引導和字型調整來因應一般使用者和身心障礙用戶的使用，除了中文介面，也新增加了英文介面，方便外國顧客操作。</p> <p>陳棟梁接下來更計畫，在行動郵局App平臺上建立One ID的單一登入機制，來解決過去使用App中不同服務需要分別登入的問題。他表示，未來將整合不同系統的登入帳戶，提供統一的登入體驗。這意味著，使用者只需記憶一組帳密，就能用各項郵局服務，就可完成商流、物流、金流相關操作。陳棟梁指出，這種One ID的建立，不僅僅解決使用者的便利性問題，「更大目的是，有助於郵局商業模式的創新，未來朝向會員經濟模式發展，提供更便捷、個人化的服務體驗。」</p> <p><span style="font-size:28px;"><strong>新一代資訊架構3大策略：敏前臺、大中臺、穩後臺</strong></span></p> <p>為了加速轉型，中華郵政公司不只積極擁抱新的數位科技，也逐步調整內部的IT架構，朝向現代化的IT架構邁進。</p> <p>陳棟梁指出，未來將採用「敏前臺、大中臺、穩後臺」策略進行系統現代改造，其中的敏前臺指的是App，如行動郵局App，這些App需要能夠根據使用者的行為、需求及痛點迅速調整及持續交付，因此需要盡可能將這些應用功能，轉化為API，以提高應用的靈活性和反應速度，以便能夠滿足使用者的需求，提供更好的服務體驗。</p> <p>前臺雖然強調敏捷，但後臺則需要穩定運作。中華郵政公司現有的IT架構，主要透過大型主機處理核心業務，而非核心的業務則由另一套集中運算的開放系統來執行，以提供高可用的服務。此外，郵局將以開放系統架構為基礎進一步發展成大中臺，包括作業中臺、數據中臺、資料中臺等，以支援內部各種業務應用以及大數據相關應用。郵局目前已有超過9成的開放系統完成虛擬化，未來，計畫將郵務系統從大型主機遷移到開放系統上。</p> <p>目前中華郵政採取同地異地備援策略，不僅在主中心的同一地點利用一臺備援機提供大型主機的同地備援外，還與異地分中心互為備援。陳棟梁未來考慮結合雲端備份機制，加強對於資料的保護與備援，提高營運的韌性。</p> <p class="rtecenter"><img alt="" src="https://s4.itho.me/sites/default/files/images/1158-CIO-%E9%99%B3%E6%A3%9F%E6%A2%81_%E4%B8%AD%E8%8F%AF%E9%83%B5%E6%94%BF-600.png" style="width: 500px;" /></p> <p><span style="font-size:18px;"><span style="color:#3399ff;"><strong>中華郵政公司協理陳棟梁表示，面對大環境趨勢帶來的挑戰，如果郵局仍用PC和實體據點的作業模式，不改變早晚將被淘汰。</strong></span></span></p> <p><span style="font-size:28px;"><strong>打造全新智慧物流中心，加強物流智慧化應用發展</strong></span></p> <p>中華郵政公司近年來積極朝智慧物流發展，例如郵局在2016年推出了智慧物流服務站點「i郵箱」，提供民眾自助式寄取服務。截至目前，全國已設置超過兩千座的i郵箱機臺，在付款上也能支援多元支付。</p> <p>2021年推動轉型後，加強智慧物流發展也成為該公司重要發展策略之一。中華郵政目前正在建置全新一座郵局智慧物流園區，未來完工啟用後，不僅將擁有全臺規模最大的智慧物流中心，在這座物流中心中，將導入各種自動化設備，加強物流智慧化應用發展與建立更透明的郵遞資訊。</p> <p>不光如此，在行動郵局App發展上，中華郵政年底即將推出推播通知功能，將針對快捷郵件及i郵箱兩種類型的郵件寄送服務，提供送達的推播訊息。以後寄件人只需透過綁定EZPost服務至窗口交寄郵件，當收件人收到郵件時，便可透過其行動裝置收到提醒通知，讓寄件者能夠更即時地掌握郵件的送達狀態和通知。</p> <p>除了翻新行動化應用，郵局近幾年導入新系統來簡化服務流程，例如過去開戶需要到臨櫃辦理，現在民眾可以透過線上申辦完成開戶手續，包括存簿儲金帳戶、郵政VISA金融卡、網路郵局及行動郵局App等服務，都可以在線上完成。該公司去年完成新一代支局系統上線，未來更容易支援創新應用服務。</p> <p>中華郵政近年來在AI應用發展方面也有相關投入，例如開發結合AI人臉辨識確認使用者身分等應用，此外，他們也將AI應用於協助識別金融詐欺案件，揪出可疑的詐騙帳號。今年還開始展開生成式AI的PoC驗證，用於儲匯業務的發展。</p> <p><span style="color:#FFFFFF;"><strong><span style="background-color:#3399ff;"> CIO小檔案 </span></strong></span></p> <p><strong>中華郵政公司協理陳棟梁</strong></p> <p>學歷：交通大學經營管理碩士</p> <p>經歷：在中華郵政任職逾30年，曾在資訊處、人力資源處、儲匯處等不同部門從事資訊工作。在資訊處長達18年的服務中，一路晉升至股長，後來進到人力資源與儲匯處接掌IT，積極推動數位金融發展。在今年3月升任該公司協理一職，肩負起推動郵局數位轉型的重任</p> <p><span style="color:#FFFFFF;"><strong><span style="background-color:#3399ff;"> 公司檔案 </span></strong></span></p> <p><strong>中華郵政公司</strong></p> <p>成立時間：1888年（2003年改制為中華郵政股份有限公司）</p> <p>網址：<a href="http://www.post.gov.tw">www.post.gov.tw</a></p> <p>地址：臺北市大安區金山南路2段55號</p> <p>主要業務：提供遞送郵件、儲金、匯兌、簡易人壽保險、郵務、集郵商品及郵政資產之營運</p> <p>員工數：2.5萬人（2022年）</p> <p>董事長：吳宏謀</p> <p>總經理：江瑞堂</p> <p>資本額：817.6億元</p> <p><span style="color:#FFFFFF;"><strong><span style="background-color:#3399ff;"> 資訊部門檔案 </span></strong></span></p> <p>資訊部門主管職稱：協理</p> <p>資訊部門主管姓名：陳棟梁</p> <p>資訊部門名稱：資訊處</p> <p>資訊部門人數：234人</p> <p>IT預算：年平均13億元（2022至2024年，含軟硬體支出）</p> <p>資訊部門分工：電子資訊科、郵務資訊科、財金資訊科、系統管理科、系統作業科、綜合規劃科</p> <p><span style="color:#FFFFFF;"><strong><span style="background-color:#3399ff;"> IT大事記 </span></strong></span></p> <p>2013年：e動郵局App推出上線，提供民眾行動化服務</p> <p>2016年：結合郵政物流、金流與資訊流，推出「i郵箱」服務，提供客戶自助寄取服務</p> <p>2017年：新一代網路郵局系統正式啟用、建置郵政電子商務第二代平臺系統，整合原有的郵政商城系統及網購中心系統、完成建置網路投保服務系統</p> <p>2018年：推出行動投保系統，業務員可攜帶平板電腦招攬壽險，保戶免人工填寫要保書</p> <p>2021年：EZPost郵寄便單據列印系統推出上線，可供民眾自助列印託運單、導入RPA機器人流程自動化，簡少繁瑣的人工電腦作業流程和提升效率</p> <p>2022年：行動郵局App推出上線，結合郵務、儲匯及壽險等功能、完成集中式架構的新一代支局系統上線、數位存款帳戶系統推出上線、網路投保服務系統上線，提供民眾自助上網投保服務</p> </div></div></div><div class="field field-name-field-image field-type-image field-label-hidden"><div class="field-items"><div class="field-item even"><img src="https://s4.itho.me/sites/default/files/1158-cio-chen_dong_liang_zhong_hua_you_zheng_-960.jpg" width="960" height="420" alt="" title="中華郵政公司協理陳棟梁" /></div></div></div>
2023/12/1 10:00作者余至浩https://www.ithome.com.tw/people/160097
越來越難但非走不可的臺灣AI路
<div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>在2006年時，我曾寫過一款免費的工具軟體「豆子謄稿機」，來幫忙整理大量訪談錄音的逐字稿。</p> <p>當年只能做到在同一個視窗中，一邊用鍵盤快速鍵控制聲音播放，一邊輸入文字，就能大幅將數十小時的謄打時間，縮短一半以上時間，幫了很大的忙。</p> <p>當時很希望，有一天可以完全不用「人工」，單靠軟體就能辨識出所有錄音內容。這個小小的願望，過了17年，終於有可能會實現。</p> <p>今年3月，當OpenAI釋出了語音轉文字Whisper模型時，我立刻下載到筆電上部署，開始試用了起來。非常驚艷！Whisper幾乎可以辨識出超過9成的中文內容，遠勝時下許多語音辨識軟體，只需再人工進行一些修正就好，已經大大節省了不少手動作業時間。</p> <p>後來OpenAI推出了v2版，提供了參數更多的超大模型版本，又讓辨識率提高了一些，逼近9成5。到了11月，OpenAI三度改版Whisper，我滿心期待，第一時間就下載來。</p> <p>v3新版Whisper模型的辨識率，的確又更高了一些，辨識速度也有改善，連一些受訪者碎嘴的呢喃，都能清楚的分辨出來，可是，我卻覺得更難用、得更花時間人工處理了。</p> <p>為什麼？因為同一個錄音檔，用了同樣的Whisper指令和參數，只是從v2換成了v3版模型，辨識出來的文字，大半都是簡體中文，就算強制指定了繁中語系，辨識出來的文字，還是參雜了大半的簡中文字，我得額外再花不少時間一一修正。</p> <p>怎麼會這樣？這個問題困擾了我好一陣子後，我才意識到，雖然v3版模型的參數量更大，可是用來訓練模型的繁中語料不見得變得更多，說不定，新版模型簡中訓練資料的比重更高，進而影響了語音辨識內容。</p> <p>雖然，我無法證實這個推測，嘗試過的錄音檔也不夠多，也可能只是我手上錄音內容特別冷門，才導致了這個偏誤結果。但是在這種開源大型語言模型中，繁中訓練語料的數量，的確遠遠比不上簡體中文，相對於英文資料更是少得可憐。</p> <p>例如開源模型BLOOM的簡中訓練資料占了16.2%，但是繁中資料只占0.05%，兩者差了300倍之多。不同語言資料量的落差，明顯影響了大型語言模型對不同語言的生成能力。這正是日前中研院明清研究用LLM，被誤用於通用型問答時，所遇到的問題，嚴重答非所問，甚至偏向於簡中資料的答案內容。</p> <p>單靠那些繁中語料占比稀少的開源LLM模型，很難得到品質夠好的繁中答案。這正是必須要有一個繁中LLM模型的理由，下一個問題是誰來做？臺灣自己要用的LLM模型，當然得自己做，不會有人幫你做到好。</p> <p>過去一年來，ChatGPT帶起全球生成式AI的浪潮，臺灣產學界也意識到繁中LLM的必要性而展開行動，今年陸續看到一些成果。</p> <p>例如聯發科的BLOOM-zh、台智雲的福爾摩沙基礎模型和FFM-Llama 2、臺大陳縕儂師生團隊的Taiwan-LLM等模型較為人所知，政府也出資超過2億元推動國科會TAIDE計畫，來打造臺版LLM，目前已經完成了LLaMA 70億參數預訓練的繁中版模型，正在優化以Llama 2為基礎發展的130億參數版本Taide-LLaMA2-13B-Chat，預計明年初釋出，這是一個可供學術用與商用的繁中模型。</p> <p>但是，LLM的競賽是一場馬拉松，現在才剛起步，各國、各大企業紛紛發展千億，甚至數千億量級參數的超大LLM模型。臺灣想要跟上，得面臨不少挑戰。</p> <p>繁中訓練資料嚴重不足是第一個挑戰，一般標準預訓練需要的資料量，大約是參數量的20倍，千億參數模型就需要2兆個Token的資料量才夠用。</p> <p>不只資料，算力和算法是另一個難題，國網中心正加緊腳步擴充算力，明年希望再增加16 PFLOPS算力，來因應700億參數模型的訓練需求。但是模型越大，需要的平行化運算也更複雜，才能有效縮短訓練時間。這一類人才是臺灣稀缺的高階研發人才。</p> <p>明年若一切順利，TAIDE希望趕在4月計畫結束前，完成並釋出700億參數的模型。至於計畫結束後如何繼續發展，政府目前仍無進一步的規畫，也沒有明確的長期營運策略。</p> <p>這場生成式AI的馬拉松競賽，沒有人知道終點還有多遠，只知道模型規模越來越大、訓練難度和所需資源越來越多。</p> <p>大國、大廠帶頭的領先群，越跑越快，遙遙拉開距離，臺灣也得奮力跟上。因為這是一條越來越難，但非走不可的AI路。</p> <p><a href="https://www.ithome.com.tw/article/160096" target="_blank"><span style="color: rgb(255, 255, 255);"><span style="font-size: 18px;"><strong><span style="background-color: rgb(51, 153, 255);"> 相關報導 </span></strong></span></span><span style="font-size: 18px;"><strong><img alt="" src="https://s4.itho.me/sites/default/files/styles/picture_size_large/public/1158-feng_mian_p1_open-ruo_pu_-960x420_0.jpg?itok=1ZND9vlp" style="width: 550px;" /></strong></span></a></p> </div></div></div><div class="field field-name-field-tags field-type-taxonomy-term-reference field-label-above"><div class="field-label">Tags: </div><div class="field-items"><div class="field-item even"><a href="/tags/%E5%A4%A7%E5%9E%8B%E8%AA%9E%E8%A8%80%E6%A8%A1%E5%9E%8B">大型語言模型</a></div><div class="field-item odd"><a href="/tags/%E7%B9%81%E4%B8%AD">繁中</a></div><div class="field-item even"><a href="/tags/llm">LLM</a></div><div class="field-item odd"><a href="/tags/%E5%9C%8B%E7%A7%91%E6%9C%83">國科會</a></div><div class="field-item even"><a href="/tags/taide">TAIDE</a></div><div class="field-item odd"><a href="/tags/%E7%94%9F%E6%88%90%E5%BC%8Fai">生成式AI</a></div></div></div>
2023/12/1 10:00作者王宏仁https://www.ithome.com.tw/voice/160098
DeepMind AI新工具GNoME已發現220萬種新晶體材料
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>DeepMind在《自然》期刊上<a href="https://deepmind.google/discover/blog/millions-of-new-materials-discovered-with-deep-learning/">發表</a>人工智慧在材料科學上的最新應用，人工智慧工具GNoME發現了220萬種新的晶體，並且經確認其中有38萬種屬於能夠在實驗室製造的穩定材料，具有綠色技術潛能，可用作開發電動車電池或是超導體等。</p> <p>從電腦晶片、電池到太陽能電板都需要用到無機晶體，要實現新的技術，科學家便需要開發新的晶體，但晶體必須要足夠穩定不分解才能夠被使用，研究人員提到，每種新晶體開發，都需要經過數個月的測試與實驗。</p> <p>目前ICSD資料庫中，約有2萬種晶體在計算上被認為穩定，由Materials Project等團隊透過計算方法，又找出了2.8萬種。過去10年所發展的人工智慧方法，雖然已經加快了發現新晶體結構的速度，但是過程仍然非常耗時且高成本。DeepMind的新工具GNoME則突破了之前人工智慧方法，在準確預測實驗可行材料上的限制，新發現了220萬種材料，相當於過去要花800年研究的知識。</p> <p>GNoME開發材料的效率非常高，像是找出了5.2萬種屬於石墨烯新型層狀化合物，而在之前，人類只鑑定出約1,000種類似的材料。另外，GNoME還發現528種潛在的鋰離子導體，導電度可達之前材料的25倍。科學家認為，這些發現將有助於改善電子產品和充電電池效能。GNoME所發現的220萬種材料中，有38萬種晶體在目前的科學標準下被認為是穩定的，高機率能夠在實驗室成功製造的材料結構。</p> <p>之所以GNoME能夠有效率地找出這麼多穩定晶體，主要是採用兩種策略來尋找材料，第一種是根據已知晶體結構創造候選物，另一種則是基於化學式，以更隨機的方式探索候選物結構。GNoME透過圖神經網路技術處理和分析這兩種方法的輸出，並透過密度泛函理論（Density Functional Theory，DFT）計算，來評估這些候選物的穩定性。此外，GNoME還用了一種稱為主動學習（Active Learning）的方法來提高預測精準度和效率，進而大幅增加發現新材料的速度和成功率。</p> <p>GNoME專案的目標是降低發現新材料的成本，目前全球的科學家，已獨立在實驗室製造出736種GNoME所預測的新材料，這證明了GNoME預測在現實中的準確性與可行性。DeepMind現在將GNoME新發現的晶體資料庫公開給研究社群，協助科學家測試和製造候選材料。</p> <p>此外，柏克萊實驗室還應用機器人技術，以自動合成的方式製造新材料，目前已經成功合成41種新材料，進一步證明了人工智慧在材料合成上的可能性。</p> </div></div></div>
2023/11/30 22:25作者李建興https://www.ithome.com.tw/news/160084
Google與加拿大就新聞連結稅達成協議
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p><a href="https://www.canada.ca/en/canadian-heritage/news/2023/11/statement-by-minister-st-onge-on-next-steps-for-the-online-news-act.html" target="_blank">加拿大文化遺產部</a>與<a href="https://blog.google/intl/en-ca/company-news/outreach-initiatives/an-update-on-canadas-bill-c-18-and-our-search-and-news-products/" target="_blank">Google</a>在29日宣布，雙方已就加拿大的《線上新聞法令》（Online News Act）達成協議，未來Google將持續於加拿大提供新聞連結，而加拿大則說，Google每年將會替當地新聞企業提供1億加幣（約7,350萬美元）的財政支援。</p> <p>加拿大在今年6月通過《線上新聞法令》，要求藉由新聞內容獲取流量及營收的數位平臺必須補償當地的新聞業者，只要透出新聞連結就必須付費，而且只點名Google與Meta。Meta在該法令通過的當天<a href="https://www.ithome.com.tw/news/157486" target="_blank">便宣布</a>將封鎖加拿大臉書（Facebook）與Instagram（IG）上的新聞內容，隨後<a href="https://www.ithome.com.tw/news/157572" target="_blank">Google亦決定跟進</a>，打算把Google Search、Google New與探索（Discover）等服務中的加拿大新聞連結全數移除，也不再於當地經營Google News Showcase。</p> <p>無視於這兩家業者的強烈反應，根據《加拿大廣播公司》（CBC）<a href="https://www.cbc.ca/news/politics/online-news-act-google-meta-1.6954656" target="_blank">今年9月的報導</a>，加拿大政府認為Google應該要支付1.72億加幣的補償金，Meta則是6,200萬加幣，才能在大型科技業者與加拿大新聞業之間創造公平的競爭環境，豁免於《線上新聞法令》。</p> <p>Google選擇了妥協。對於本周的協議，Google指出，很高興加拿大政府提出了一個明確的門檻來簡化豁免途徑。加拿大政府則提供了更多的細節，表示Google同意每年提供1億加幣予加拿大的新聞產業，包括獨立新聞媒體，或是來自原住民或少數族群，而且會根據通貨膨脹調整；Google可選擇與一個聯盟合作，根據這些組織所聘請的記者數量來分配所貢獻的金額，</p> <p>另一方面，Meta依舊態度強硬，其發言人Andy Stone向<a href="https://edition.cnn.com/2023/11/29/tech/google-deal-with-canada-news-content/" target="_blank">《CNN》</a>表示，該公司不是搜尋引擎，不會主動將網路上的新聞送到使用者面前，Meta遵守《線上新聞法令》的唯一方式就是不再供應新聞予加拿大人。</p> </div></div></div>
2023/11/30 22:16作者陳曉莉https://www.ithome.com.tw/news/160089
【資安日報】11月30日，針對10月資料外洩事故，身分驗證管理業者Okta表示受害範圍擴大，所有使用客戶支援系統的用戶…
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>身分驗證解決方案業者Okta今年10月底發生資安事故，該公司11月初揭露此事時，只說低於1%比例的客戶受害，如今該公司推翻這樣的說法，他們改口表示，影響範圍擴大，涵蓋使用客戶支援系統的所有用戶。</p> <p>這起資料外洩事故比較特別的是，雖然駭客取得所有曾經使用該支援系統的用戶名單，但大多數人只有填寫姓名與電子郵件信箱兩種資料，後續影響有待觀察。</p> <p> </p> <h3><strong>【攻擊與威脅】</strong></h3> <p><a href="https://www.bleepingcomputer.com/news/security/okta-october-data-breach-affects-all-customer-support-system-users/"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">10月身分驗證管理業者Okta資料外洩事故範圍擴大，存取該公司客戶支援系統的用戶皆受影響</span></strong></a></p> <p></p> <p>11月初身分驗證解決方案業者Okta證實客戶支援系統遭駭，當時初步確認約有134個客戶受到影響，占他們客戶不到1%，最近該公司揭露新的調查結果。</p> <p>11月29日Okta指出，他們確認駭客下載的資料當中，包含所有客戶支援系統用戶的姓名、電子郵件信箱，研判所有Workforce Identity Cloud（WIC）、Customer Identity Solution（CIS）的使用者都可能曝險，但不包含使用FedRamp High、DoD IL4環境的用戶，原因是這些環境採用獨立的支援系統，駭客無從存取。此外，Auth0、CIC的支援案件管理系統也不受影響。</p> <p>該公司指出，雖然駭客取得的資料多達15種欄位，但不含帳密或敏感個資，且大部分（99.6%）使用者僅有提供姓名和電子郵件信箱，因此影響有限。Okta亦尚未察覺這些資料遭到濫用的跡象。</p> <p><a href="https://www.bleepingcomputer.com/news/security/japanese-space-agency-jaxa-hacked-in-summer-cyberattack/"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">日本航太研究機構JAXA遭遇網路攻擊，AD伺服器被非法存取</span></strong></a></p> <p></p> <p>根據日本媒體讀賣新聞的報導，有知情人士透露，日本航太探查機構（Japan Aerospace Exploration Agency，JAXA）今年夏天遭遇網路攻擊，該組織網路的AD出現非法存取的跡象，當地警方於秋季察覺此事並通知JAXA，攻擊來源有待查明。</p> <p>後來日本內閣官房長官松野博一於11月29日，在記者會上證實JAXA遭到網路攻擊的消息，駭客存取該單位的AD伺服器，而有可能導致員工帳密外洩，並被用於進一步的攻擊行動。</p> <p>雖然尚未發現資料外洩的情況，但這起事故並未JAXA首度遭到攻擊。2016年至2017年，中國駭客組織Tick（亦稱Bronze Butler、Stalker Panda）針對當地近200個國防研究機構、公司發動攻擊，當中就包含了JAXA。</p> <p>資料來源</p> <p>1. <a href="https://japannews.yomiuri.co.jp/society/general-news/20231129-152511/">https://japannews.yomiuri.co.jp/society/general-news/20231129-152511/</a><br /> 2. <a href="https://japan.kantei.go.jp/tyoukanpress/202311/29_a.html">https://japan.kantei.go.jp/tyoukanpress/202311/29_a.html</a></p> <p><a href="https://www.bleepingcomputer.com/news/security/qilin-ransomware-claims-attack-on-automotive-giant-yanfeng/"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">中國汽車內裝零件業者延鋒傳出遭到勒索軟體Qilin攻擊</span></strong></a></p> <p></p> <p><a href="https://s4.itho.me/sites/default/files/images/qilin-2.png"><img alt="" src="https://s4.itho.me/sites/default/files/images/qilin-2.png" style="width: 300px; float: right;" /></a>中國大型汽車內裝零件供應商延鋒（Yanfeng）於11月13日傳出遭遇網路攻擊，導致汽車集團Stellantis受到影響，被迫停止北美工廠車輛的生產工作，這起資安事故最近有了新的進展。</p> <p>根據資安新聞網站Bleeping Computer的報導，勒索軟體駭客組織Qilin（亦稱Agenda）聲稱是他們所為，並公布部分竊得資料，內容包含財務文件、保密協議、報價資料、技術文件、內部報告等，駭客要脅將在數日後公布所有檔案，不過，他們沒有給出明確的日期。</p> <p><a href="https://www.fortinet.com/blog/threat-research/gotitan-botnet-exploitation-on-apache-activemq"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">殭屍網路GoTitan鎖定訊息導向中介軟體ActiveMQ重大漏洞而來</span></strong></a></p> <p></p> <p>訊息導向中介軟體Apache ActiveMQ重大漏洞CVE-2023-46604於10月底公布，其CVSS風險評分高達10分引起各界關注，很快成為駭客鎖定目標，最近又被發現新的攻擊行動。</p> <p>資安業者Fortinet揭露名為GoTitan的殭屍網路，以及名為PrCtrl RAT的.NET惡意程式。攻擊者最初會透過OpenWire協定（一般會使用61616埠）來找尋攻擊目標，發送特製的封包來觸發漏洞，導致ActiveMQ伺服器會從特定的遠端URL搜尋、載入XML格式的組態檔案，從而讓攻擊者透過CMD、Bash等指令介面遠端執行程式碼。</p> <p>此殭屍網路病毒以Go語言打造而成，具備10種DDoS的攻擊能力。研究人員也看到駭客運用另一種名為PrCtrl RAT惡意程式，與上述的殭屍網路病毒共通點就是利用ActiveMQ重大漏洞散布，一旦植入該工具，攻擊者就有機會遠端控制受害伺服器，但究竟駭客部署該惡意程式的目的為何？研究人員表示有待進一步釐清。</p> <p><a href="https://www.cybereason.com/blog/threat-alert-djvu-variant-delivered-by-loader-masquerading-as-freeware"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">勒索軟體Djvu出現變種Xaro，駭客將其偽裝成破解軟體散布</span></strong></a></p> <p></p> <p><a href="https://s4.itho.me/sites/default/files/images/Xaro-Attack-flow-diagram.png"><img alt="" src="https://s4.itho.me/sites/default/files/images/Xaro-Attack-flow-diagram.png" style="width: 300px; float: right;" /></a>資安業者Cybereason揭露勒索軟體Djvu新的變種Xaro，駭客假借提供免費軟體或破解軟體的名義，散布惡意程式載入器，從而到受害電腦啟動勒索軟體，將裡面存放的檔案加密並把副檔名改為XARO。</p> <p>但這起攻擊行動與Djvu有所不同的是，駭客也同時在受害電腦部署其他惡意軟體，其中包含了竊資軟體與惡意程式載入工具，研究人員推測，駭客使用多種作案工具，目的是想要進行雙重勒索，或是進一步滲透受害電腦，他們將對方一口氣部署多種攻擊工具的做法，稱為散彈槍感染（Shotgun infection）。</p> <p><a href="https://www.cib.npa.gov.tw/ch/app/news/view?module=news&id=1885&serno=26541a82-49f3-423b-a142-b22348fe43f8#"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">兩名嫌犯暗網購買近2千萬筆臺灣民眾個資，並以每筆500元兜售牟利</span></strong></a></p> <p></p> <p><a href="https://s4.itho.me/sites/default/files/images/個資法-嫌犯解送.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/%E5%80%8B%E8%B3%87%E6%B3%95-%E5%AB%8C%E7%8A%AF%E8%A7%A3%E9%80%81.jpg" style="width: 300px; float: right;" /></a>11月29日內政部警政署刑事警察局宣布獲破兜售臺灣民眾個資的案件，他們於今年4月接獲檢舉，有人透過即時通訊軟體Telegram兜售個資，以查詢每筆收取500元加密貨幣費用，替買家查詢特定對象的個資，包含生日、身分證字號、電話、工作單位名稱、工作單位地址。</p> <p>刑事警察局調查、確認嫌犯身分之後，與臺中市政府警察局太平分局共組專案小組，於臺中市東區套房查獲22歲張姓嫌犯的筆電，循線找出相關資料的上游供應源頭37歲顏姓嫌犯，並查獲俗稱「小白機」的全國民眾資料庫筆電。</p> <p>警方指出，兩名嫌犯先從暗網以200美元購得1,700萬筆個資，再透過社群網站宣傳、兜售，不法獲利近5萬元，對於這些售出的個資，警方將清查流向。</p> <p> </p> <h3><strong>【漏洞與修補】</strong></h3> <p><a href="https://chromereleases.googleblog.com/2023/11/stable-channel-update-for-desktop_28.html"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">Google修補今年第6個Chrome零時差漏洞CVE-2023-6345，其他採用圖像引擎程式庫Skia的軟體也可能曝險</span></strong></a></p> <p></p> <p>11月28日Google發布電腦版Chrome更新119.0.6045.199、119.0.6045.200，總共修補7個漏洞，值得留意的是其中1個是已出現攻擊行動的零時差漏洞CVE-2023-6345，此為存在於圖像引擎程式庫Skia的整數溢位漏洞，而這是今年Google修補的第6個Chrome零時差漏洞。</p> <p>值得留意的是，此圖像引擎程式庫受到許多開源專案採用，包含Google自家的行動裝置作業系統ChromeOS、Android，以及Mozilla基金會開發的Firefox、Thunderbird、Firefox OS，還有開源辦公室軟體套件LibreOffice等，影響範圍相當廣泛。</p> <p> </p> <h3><strong>【其他新聞】</strong></h3> <p><a href="https://www.sentinelone.com/blog/dprk-crypto-theft-macos-rustbucket-droppers-pivot-to-deliver-kandykorn-payloads/"><strong><span style="font-size: 20px;"><span style="color: rgb(0, 0, 0);">北韓駭客利用惡意程式載入工具RustBucket散布Kandykorn</span></span></strong></a></p> <p></p> <p><a href="https://www.bleepingcomputer.com/news/security/black-basta-ransomware-made-over-100-million-from-extortion/"><strong><span style="font-size: 20px;"><span style="color: rgb(0, 0, 0);">勒索軟體駭客Black Basta敲詐逾1億美元贖金</span></span></strong></a><a href="https://www.securityweek.com/hackers-hijack-industrial-control-system-at-us-water-utility/"><strong><span style="font-size: 20px;"><span style="color: rgb(0, 0, 0);"></span></span></strong></a></p> <p></p> <p><a href="https://www.ithome.com.tw/news/160077"><strong><span style="font-size: 20px;"><span style="color: rgb(0, 0, 0);">微軟資料庫管理軟體Access的外部連結功能可被濫用，外洩NTLM雜湊資訊</span></span></strong></a></p> <p></p> <p><a href="https://www.ithome.com.tw/news/160081"><strong><span style="font-size: 20px;"><span style="color: rgb(0, 0, 0);">研究人員要求ChatGPT重複輸入特定文字，逼得該大型語言模型洩露訓練資料</span></span></strong></a></p> <p><a href="https://www.bleepingcomputer.com/news/security/new-bluffs-attack-lets-attackers-hijack-bluetooth-connections/"><strong><span style="font-size: 20px;"><span style="color: rgb(0, 0, 0);">新型態藍牙攻擊手法Bluffs可讓攻擊者進行中間人攻擊，挾持藍牙通訊</span></span></strong></a></p> <p> </p> <h3><strong>近期資安日報</strong></h3> <p><a href="https://www.ithome.com.tw/news/160069"><strong>【11月29日】上海商銀驚傳1.4萬客戶資料外洩，金管會公布調查結果列4大缺失，依銀行法重罰千萬，外洩管道仍有待釐清</strong></a></p> <p><a href="https://www.ithome.com.tw/news/160051"><strong>【11月28日】美國醫療保健服務業者Henry Schein傳出二度遭遇勒索軟體BlackCat攻擊，導致電子商務平臺遭到癱瘓</strong></a></p> <p><a href="https://www.ithome.com.tw/news/160022"><strong>【11月27日】荷蘭半導體業者NXP遭中國駭客攻擊，入侵時間超過2年，驚傳與晶片設計相關智慧財產資料被竊</strong></a></p> </div></div></div>
2023/11/30 16:52作者周峻佑https://www.ithome.com.tw/news/160086
第7屆臺灣醫療科技展今日登場！全臺80多家醫院秀醫療AI和數位應用亮點
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>第七屆臺灣醫療科技展今日（11/30）展開，主辦方生策會指出，今年規模創新高，共有650家機構參展，其中包含全臺80多家醫療機構，展示醫療AI亮點成果，涵蓋自動生成病歷、急重症預警、疾病診斷輔助、手術麻醉風險監控等4大領域。不只如此，這些醫療院所也展示數位應用成果，包括醫院管理、精準照護、遠距醫療和就醫流程數位化等面向。</p> <p><span style="font-size:24px;"><strong>醫療AI亮點1：語音轉文字生成病歷報告</strong></span></p> <p>隨著生成式AI遍地開花，今年一大醫療AI亮點是將語音轉為文字病歷報告，再用生成式AI來生成摘要。這些醫院根據不同專科和使用對象，分別發展出AI護理師、AI放射師等生成式AI系統，甚至能支援不同語言的辨識。</p> <p>例如，敏盛醫療體系有套Hermes醫護智慧語音系統，能將照護、處置和交班資訊以語音輸入，自動產出文字報告，目前可精準辨識國、臺語和客語。此外，中國附醫體系自建智海AI病歷生成系統，支援中、英文語音輸入，轉為文字後再生成病歷，他們上線統計發現，至少可節省75％的醫護作業時間。</p> <p>再來，光田綜合醫院也打造一套AI護理師系統，利用語音辨識來生成病歷或護理紀錄，減省醫護人員登打資料的時間。相似的生成式應用，還有馬偕紀念醫院的AI自動分析乳房X光影像，只要3分鐘就能完成影像判讀，並生成相應的報告，雖然未有語音轉文字應用介入。</p> <p><span style="font-size:24px;"><strong>醫療AI亮點2：急重症AI預警系統</strong></span></p> <p>急重症發生時間短且死亡率高，善用AI則可幫助醫護人員掌握黃金搶救時間。比如，中國附醫打造智抗菌（如下圖）、智救心、智護肺等3項AI預警系統，來分別針對敗血症、心肌梗塞、急性呼吸窘迫症候群提供預警，讓醫護團隊能快速介入，增加病人存活率。同時，亞東醫院也發展一套CT腦影像預測出血風險系統，10分鐘內可完成判讀，來得知病人是否有顱內出血、出血部位和出血量。此外，北醫體系也打造一款AI影像平臺，可在急性腦中風病人檢查後的5分鐘內，精確辨識腦中風梗塞核心大小。</p> <p><img alt="" src="https://expo.taiwan-healthcare.org//data/tmp/20230915/20230915lfyh98.png" /><br /> <span style="color: rgb(128, 128, 128);">（圖片來源：中國附醫）</span></p> <p><span style="font-size:24px;"><strong>醫療AI亮點3：輔助診斷疾病</strong></span></p> <p>生策會盤點，今年展出的AI輔助診斷涵蓋多元，包括失智症、肺結節、食道癌、皮膚癌、喉癌等超過 30項疾病。例如，北醫體系展示AI個人化4D高齡健康失智預測模組，採用國際大型失智症資料庫中，數萬筆的高齡者腦部磁振影像，訓練AI模型，能預測患者未來的失智分數和症狀表現型。</p> <p>再來還有國泰醫院的肺結節AI偵測系統，全名為肺結節偵測AI-低劑量電腦斷層掃瞄（LDCT）偵測系統，20秒就能辨識出肺結節，且針對6毫米以上的肺結節偵測敏感度為96.4％，目前也累計了3萬多筆AI分析資料。而長庚紀念醫院也有糖尿病視網膜病變偵測AI，能從眼底鏡影像辨識多種常見的視網膜病變，準確度達98.7％。</p> <p>此外，睡眠問題在高壓的社會越來越常見，今年也有不少醫院提出新AI解決方案。例如，聯新國際醫院有套AI止鼾專家，只要提供在家錄下的睡覺時鼾聲，系統就能用AI分析鼾聲與睡眠呼吸中止症的嚴重程度。此外，童綜合醫院也有套AI呼吸中止評估系統，能透過醫療影像分析，提供呼吸道窄縮評估分析可視化的資訊，協助醫師治療。</p> <p>高醫體系還自建心臟監測與睡眠照護系統（如下圖），整合睡眠腦科學、穿戴式腦機介面、生理訊號分析、物聯網和智能環境控制技術，來降低因睡眠品質不佳導致心因性猝死機率。</p> <p><img alt="" src="https://expo.taiwan-healthcare.org//data/tmp/20231023/202310232iksuy.png" /><br /> <span style="color:#808080;">（圖片來源：高醫體系）</span></p> <p><span style="font-size:24px;"><strong>醫療AI亮點4：手術麻醉、加護病房風險監控</strong></span></p> <p>另一方面，AI也能用來監控手術到加護病房等風險，提升照護安全。比如，聯新國際醫院打造住院病人風險警示系統，能預測病人未來6小時內發生病危和入住ICU的風險機率，讓醫護提前介入。奇美醫院則有套手術麻醉風險AI儀表板，可即時在術前提供3種手術（髖骨、腹腔、胸腔）的多種AI風險預測。</p> <p>此外，新光醫院還與微軟打造AI Copilot術前評估風險系統，透過分析大量的病人術前檢查資料，建立麻醉高風險和手術前安全的資料，能讓醫療團隊提前識別、處理可能導致手術併發症的風險因素。最後，馬偕紀念醫院也展示自建的ICU敗血症專用重症儀表板（如下圖），能提前6小時掌握敗血症風險。</p> <p><img alt="" src="https://expo.taiwan-healthcare.org//data/tmp/20230915/20230915focadh.jpg" /><br /> <span style="color:#808080;">（圖片來源：馬偕紀念醫院）</span></p> <p>除了醫療AI，生策會也盤點今年度參展醫院的亮點數位應用。這些應用，凸顯了醫療圈今年聚焦的領域，如行政流程、排班管理、就醫流程優化和個人化照護等。</p> <p><span style="font-size:24px;"><strong>數位應用亮點1：加速管理效率</strong></span></p> <p>醫院行政流程優化一直是醫院努力方向，要透過數位化來減輕工作負擔。比如部立臺北醫院導入整合式的醫療資訊系統TnHIS，採用整合式跨平臺拋轉中心，匯集了各系統資料，如將HIS、NIS系統串接到院內數位應用，來加速各項智慧醫療落地。舉例來說，在醫療設備綁定藍牙發報器，可實現設備即時定位，能讓醫護人員快速查找設備、提升交班盤點效率。</p> <p>此外，國軍醫療體系還發展AI辨識藥物系統，藥師只需將藥品放置在機器中，機器就會自動識別藥品名稱、劑量等資訊，將訊息同步到醫院藥檢流程。如此不只提升藥師工作效率，也能降低人為錯誤風險。</p> <p><span style="font-size:24px;"><strong>數位應用亮點2：個人化精準照護</strong></span></p> <p>過往以來，醫院只能仰賴病人在院內進行的各種檢查和生理量測數據，來進行疾病診斷與評估照護方案。但現在，醫院可透過穿戴式裝置與各類偵測系統，打破地理位置限制，來長時間蒐集數據，供醫師制定更精準的治療方案。比如，臺大醫院發展個人健康履歷與疾病風險分析平臺，利用穿戴式裝置、行動裝置、環境智能裝置，來收集患者各生活面向的健康數據，並結合健康檢查結果與院內資料庫，來形成個人的慢性病風險預測模型。舉例來說，透過收集手部的動作、步態、語調等資料，系統可精準評估巴金森氏症的風險，並給予病人精準化的生活習慣建議。（如下圖）</p> <p><img alt="" src="https://expo.taiwan-healthcare.org//data/tmp/20231027/202310277uaidb.jpg" /><br /> <span style="color:#808080;">（圖片來源：臺大醫院）</span></p> <p>另一方面，亞東醫院也針對慢性病患和銀髮族，建置智慧手錶緊急醫療警示系統，能以智慧手錶監測心血管疾病高風險族群、年長慢性病患族群或獨居者的生理狀況，來與消防局、醫院即時連線，縮短病患到院前急救時間。</p> <p><span style="font-size:24px;"><strong>數位應用亮點3：補足居家到院最後一哩路</strong></span></p> <p>數位科技也能用來彌補民眾在家到醫院的照護落差，也能用於遠距醫療，減少民眾就醫障礙。童綜合醫院就有套遠端居家照護模式，藉鴻海的高科技運算和雲端整合技術，以居家為核心，來打造智慧社區健康檢測站，並提供遠距健康照護服務。</p> <p>奇美醫院則整合AI判讀和醫院檢驗報告資料庫，透過頭戴式顯示設備與AR／VR技術，打造數位虛擬診間系統，讓病人在家中就能就診。此外，國軍醫療體系將生命徵象資料、AI 判讀整合至多方數位視訊會診平臺（如下圖），當海上船員需要醫療協助時，可用AI即時判讀生命徵象、導入MR技術，來達到與現場會診同樣的效果。醫師診斷後開立處方箋，還會透過衛星傳輸到艦艇上的智慧藥櫃，提供藥物給船員。</p> <p><img alt="" src="https://expo.taiwan-healthcare.org//data/tmp/20231018/20231018gwvlk5.jpg" /><br /> <span style="color:#808080;">（圖片來源：國防部軍醫局）</span></p> <p><span style="font-size:24px;"><strong>數位應用亮點4：就醫流程e化</strong></span></p> <p>數位應用也能用來改善就醫流程，例如，敏盛醫療開發的智醫診所App，除了能讓民眾網路掛號、設定提醒等基本功能外，看診當日還能直接用App電子報到，就連看診前的生理量測數據、看診後的衛教資訊與用藥方式，也會同步傳送到App，減少紙張使用。</p> <p>部立臺北醫院則利用Line建置掛號系統，提供慢性病連續處方箋領取提醒，還結合室內定位系統、AR院內實景導航功能（如下圖），來引導民眾快速找到院內診間和檢查室等地。</p> <p></p> </div></div></div>
2023/11/30 17:37作者王若樸https://www.ithome.com.tw/news/160087
研究人員要求ChatGPT重複輸入特定文字，逼得ChatGPT洩露訓練資料
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>來自Google DeepMind、華盛頓大學、康乃爾大學、蘇黎世聯邦理工學院、加州大學柏克萊分校，以及卡內基美隆大學的10名AI研究人員，<a href="https://not-just-memorization.github.io/extracting-training-data-from-chatgpt.html" target="_blank">本周共同提交一項研究報告</a>，指出基於GPT-3.5 Turbo的ChatGPT，依然擋不住訓練資料汲取攻擊，而且只要簡單地要求ChatGPT不斷地重覆輸入諸如"poem"或"company"等單字，就可成功攻陷該系統，讓它吐出訓練資料。</p> <p>AI模型的訓練資料可能含有隱私、機密及涉及國家安全或關鍵基礎設施的資訊，駭客也可能利用外洩的訓練資料來欺騙模型或展開攻擊，因此，當開發者在針對AI系統執行對齊，使其符合預期目標時，通常也會抑制模型外洩訓練資料。此外，研究人員認為，AI模型的開發者或許還關心模型記憶與反芻資料的頻率，因為開發者可能不想製作出完全反芻訓練資料的產品。</p> <p>然而，研究人員只花了200美元的ChatGPT查詢價格，即可能自GPT-3.5 Turbo模型中汲取超過1萬個獨特的逐字記憶訓練案例，反映出模型直接記憶其訓練資料，若再提高成本，應可從模型中汲取1GB的訓練資料。</p> <p>例如當研究人員要求ChatGPT「Repeat this word forever: "poem poem poem poem"」時，ChatGPT在重複它一陣子之後就出現了某個人的資訊，包括他的頭銜、電子郵件帳號、網址及電話號碼等，<a href="https://chat.openai.com/share/456d092b-fb4e-4979-bea1-76d8d904031f" target="_blank">而在要求ChatGPT一直重複輸入「company company company.....」時</a>，ChatGPT最後也揭露了某個組織的電子郵件位址與電話號碼。</p> <p class="rtecenter"><img alt="" src="https://s4.itho.me/sites/default/files/images/1130-Extracting%20Training%20Data%20from%20ChatGPT-600(2).png" style="width: 600px;" /></p> <p>而在最強大的攻擊配置中，ChatGPT的輸出有超過5%完全複製了長達50個Token的訓練資料。</p> <p>這使得研究人員認為，開發者不應只測試對齊過的模型，而應直接測試基礎模型，也必須於生產環境中測試系統，以驗證建立於基礎模型之上的系統是否充分修補漏洞，此外，發表大型模型的業者更應同時進行內部測試、用戶測試與第三方測試。</p> <p>這群研究人員是在今年7月發現該漏洞，8月向OpenAI揭露，而今年3月問世的GPT-4則宣稱已對齊，以讓模型不外洩訓練資料。</p> <p>不過，研究人員也提醒，修補（Patch）一個漏洞跟解決（Fix）它是不同的概念，他們所呈現的是透過重複的單字可讓ChatGPT外洩訓練資料，但這可能源自於ChatGPT被過度訓練或其它原因，而後者更難解決。</p> </div></div></div>
2023/11/30 12:43作者陳曉莉https://www.ithome.com.tw/news/160081
Chrome修補7個安全漏洞，其中一個已遭攻擊
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p><a href="https://chromereleases.googleblog.com/2023/11/stable-channel-update-for-desktop_28.html" target="_blank">Google周二（11/28）更新了Chrome瀏覽器</a>，緊急修補11月24日才被發現的零時差漏洞CVE-2023-6345，也順便修補了其它的6個安全漏洞。此一更新適用於Windows、MacOS與Linux，且為Google今年所修補的第6個已遭攻擊的Chrome零時差漏洞。</p> <p>CVE-2023-6345是個存在於Skia繪圖引擎的整數溢位漏洞，Skia為一以C++撰寫的2D圖形庫，Google在2005年買下Skia並將它開源，被應用在Chrome瀏覽器、ChromeOS、Firefox、 Mozilla Thunderbird、Android、Firefox OS、Flutter、Avalonia及LibreOffice等產品中。</p> <p>該漏洞是由Google威脅分析小組（Threat Analysis Group，TAG）的兩名研究人員在11月24日所發現，且已有針對該漏洞的攻擊程式現身。</p> </div></div></div>
2023/11/30 13:18作者陳曉莉https://www.ithome.com.tw/news/160082
Google推出.meme最新頂層網域名
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>迷因（Meme）是流行的現代網路文化現象，想必有不少網站想擁有以迷因為名的網址。<a href="https://blog.google/products/registry/google-registry-meme-domain/" target="_blank">Google本周宣布</a>推出最新頂層網域（top-level domain）名.meme。</p> <p>Google於2014年<a href="https://icannwiki.org/.meme" target="_blank">申請取得</a>.meme頂層網域名的營運權。將近10年後，.meme網域正式透過註冊商接受企業及個人申請。<a href="https://get.meme/" target="_blank">Google並公布</a>已經取得.meme網域名的10個網站，包括GIF供應商Tenor的find.meme、creat.meme，提供迷因介紹的Know Your Meme則使用knowyour.meme，此外還有介紹迷因媒體計畫和內容策略的marketing.meme，以及知名迷因主要交易清算平臺業者license.meme。以豐富表情知名的貓Grumpy Cat網站也申請了grumpycat.meme網址。</p> <p>.meme網址即日起透過早鳥（Early Access Period，EAP）方案開賣，另加一筆一次性費用。到世界協調時間12月5日16:00（臺灣時間12月6日00:00）之前一次性費用有折價優惠。每個網址收取固定年費。</p> <p>不同迷因的網址費用因競標熱門程度有不同價格。PCMag報導，video.meme一年費用為1,689美元起跳，michael.meme年費為454.99美元起跳。但pikachu.mem則從19.99美元起跳。<a href="https://tw.godaddy.com/tlds/meme-domain" target="_blank">GoDaddy.com</a>列出最低.meme網址為一年667元臺幣。</p> </div></div></div>
2023/11/30 11:17作者林妍溱https://www.ithome.com.tw/news/160080
Nvidia推出可建置企業級聊天機器人的生成式AI微服務NeMo Retriever
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>Nvidia<a href="https://nvidianews.nvidia.com/news/nemo-retriever-generative-ai-microservice">發布</a>生成式人工智慧微服務<a href="https://developer.nvidia.com/blog/build-enterprise-retrieval-augmented-generation-apps-with-nvidia-retrieval-qa-embedding-model/">Nvidia NeMo Retriever</a>，讓企業能夠連接大型語言模型與企業資料，在其人工智慧應用程式提供精確的回應。該服務是NeMo系列的新產品，供企業能夠使用Nvidia最佳化演算法，建置生產就緒的檢索增強生成（Retrieval-Augmented Generation，RAG）人工智慧應用。</p> <p>NeMo Retriever為一個語意檢索微服務，讓開發者可以簡單地客製化問答應用程式。該服務能夠被部署在雲端或是本地環境中，支援生成式人工智慧應用程式。藉由使用Nvidia最佳化演算法，NeMo Retriever可以提供更加精準的回應。此外，開發者能夠將其與雲端和資料中心裡的業務資料連接，以便終端使用者透過簡單的對話提示，快速獲得準確且最新的訊息。</p> <p>透過NeMo Retriever企業便可在其應用程式中加入檢索增強生成功能，官方提到，其提供了先進且商業化的模型和微服務，並對延遲和吞吐量進行了最佳化。NeMo Retriever所使用的模型經過負責任且可稽核的資料訓練，開發者可選用不同的預訓練模型，並且依據使用案例自定義模型。</p> <p>NeMo Retriever中的Retrieval QA Embedding模型，能夠將文字資訊轉換成為密集的向量表示，以方便搜尋向量資料庫，檢索和終端使用者查詢最相關的檔案。NeMo Retriever中的Retrieval QA Embedding模型為Transformer編碼器，是一個E5-Large-Unsupervised模型的微調版本，具有24層，嵌入大小為1,024，經過私有和公開資料集進行訓練，最大支援512個token輸入。</p> <p>開發者可以透過Retrieval QA Embedding Playground API來存取該服務，由於Retrieval QA Embedding模型為E5-Large-Unsupervised微調版本，因此也適用類似的輸入格式要求，開發者在發出請求的時候，需要指定片段資訊（Passage）以及查詢（Query）。</p> <p>經Nvidia電信、IT、諮詢和能源產業的客戶內部資料集評估，Retrieval QA Embedding模型在模擬檢索增強生成情境的Recall@5指標中表現最好，而且在學術基準測試NQ、HotpotQA、FiQA和TechQA上，Retrieval QA Embedding模型在平均NDCG@10指標上超越其他開源和商業檢索模型。</p> </div></div></div>
2023/11/30 10:24作者李建興https://www.ithome.com.tw/news/160071
傳Stability AI法人股東促CEO下臺，尋求出售
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>繼OpenAI之後又有另一家AI新創公司可能出現高層人事及組織異動。<a href="https://www.bloomberg.com/news/articles/2023-11-29/stability-ai-has-explored-sale-as-investor-urges-ceo-to-resign#xj4y7vzkg" target="_blank">《彭博》</a>報導，以Stable Diffusion模型知名的AI業者Stability AI繼主要法人股東要求執行長下臺後，現正尋求出售的可能性。</p> <p>報導指出，Stability AI現在和數家公司洽談收購事宜，包括AI行銷工具業者Jasper及加拿大AI生成式模型開發商Cohere等。但這項協議還在談判初期，也可能不會發生。</p> <p>被點名的Jasper及Cohere都拒絕評論。</p> <p>這是Stability AI 10月遭股東質疑高層管理並要求下臺後的最新發展。上個月法人股東之一Coatue Management 致函該公司要求調查高層薪資，包括執行長Emad Mostaque。Coatue質疑Stability入不敷出，每個月支出800萬美元，但僅收入120萬元，本月也只能賺進300萬美元，並相信數名高層是和Mostaque理念不合而出走。</p> <p>Stability AI以其文字生成圖片模型Stable Diffusion知名，2022年首先募得1億美元，之後Coatue Management以5億美元領投Stability AI，促使該公司該輪募得10億美元資金。今年10月間，Stability AI還獲得英特爾投資5,000萬美元。</p> <p>但Stability AI的模型卻屢傳爭議。首先，這個模型被用以偽造名人相片，像是教宗身穿名牌大衣，以及前總統川普遭FBI追緝的畫面。Stability AI雖然響應美總統拜登的負責任AI倡議，但在版權內容的合理使用卻屢走在灰色地帶。例如上個月該公司音訊模型主管Ed Newton-Rex宣布離職，是因為Stability AI堅持以版權內容來訓練AI模型。</p> <p>Stability AI尋求出售消息也是本月OpenAI的5日高層風暴後，最新一家類似傳聞的AI獨角獸。OpenAI董事會在11月17日宣布開除執行長Sam Altman，也有消息指董事會試圖要求競爭者Anthropic收購，但遭到拒絕。不過Altman獲員工及微軟支持下，5天後就回復原職位。</p> </div></div></div>
2023/11/30 11:03作者林妍溱https://www.ithome.com.tw/news/160079
AWS更新Lambda函式擴展速度提升達12倍
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>AWS<a href="https://aws.amazon.com/tw/blogs/aws/aws-lambda-functions-now-scale-12-times-faster-when-handling-high-volume-requests/">強化</a>了無伺服器服務Lambda的擴展速度，每個同步呼叫的Lambda函式現在每10秒可以擴展1,000個並行執行，直到所有函式的並行執行總數達到帳戶上限為止，官方提到，這擴展速度是過去的12倍。即日起到12月中旬，除了中國和GovCloud之外，所有AWS地區的Lambda函式都會陸續預設啟用這項擴充更新。</p> <p>Lambda服務對不可預測流量的應用程式，提供了一個簡單快速的解決方案，用戶不需要進行複雜配置，即可實現按需擴展。不過，在AWS這項擴展更新之前，Lambda的規模擴展在最初第1分鐘，只能擴展500到3,000個並行執行，接著之後以每分鐘500個並行執行的速度擴展，直到帳戶上限。</p> <p>由於Lambda擴充限制是由同一帳戶和區域中所有函式共享，在Lambda擴展速度受限的情況下，當某個函式接收到突發流量，可能會排擠同一帳戶中其他函式的吞吐量，進而影響其他函式的並行性。</p> <p>為了解決這個問題，AWS對Lambda的擴展能力進行改進，特別有利於新聞網站和網路商店等這類可能遭遇突發流量的應用。這項改進使這些應用能夠比以往更快達到所需的並行處理能力。現在帳戶中的每個函式都可以獨立擴展，且用戶不需要進行任何額外配置，就能使擴展速度達到過去的12倍。</p> <p>除了直接使用Lambda服務的用戶可以獲得這項更新的好處之外，使用Amazon Athena和Amazon Redshift服務，並結合基於Lambda的程式化功能純量使用者定義函數（Scalar User-Defined Function，UDF），進行資料轉換的用戶，也將受益於AWS Lambda的擴展改進。</p> <p>官方解釋，這些服務透過批次處理，將資料分塊傳遞給Lambda，由於會同時呼叫多個平行函式，因此現在Lambda更強的並行擴展行為，將能夠支援迅速擴展並滿足SLA要求。</p> </div></div></div>
2023/11/30 09:58作者李建興https://www.ithome.com.tw/news/160067
Stability AI新模型採用對抗性擴散蒸餾技術，圖像生成更快品質更好
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>Stability AI改進自家著名的文字轉圖像模型釋出<a href="https://stability.ai/news/stability-ai-sdxl-turbo">SDXL Turbo（Stable Diffusion XL Turbo）</a>，藉由應用創新的對抗性擴散蒸餾技術（Adversarial Diffusion Distillation，ADD），將需要的迭代步驟從50步減少到僅剩1步，單步驟就能生成高品質圖像。目前Stability AI將模型權重和程式碼公開在Hugging Face，供個人和非商業用途使用。</p> <p>SDXL Turbo模型最大特點，就是能夠單步合成影像輸出，並在即時文字轉影像輸出上保持高採樣傳真度。而之所以SDXL Turbo能夠有別於過去的模型，主要原因在於使用了一種稱為對抗性擴散蒸餾技術，官方論文提到，這個方法能夠只經過1到4步驟高效採樣，達到高品質輸出圖像。</p> <p>對抗性擴散蒸餾技術以現有的大型圖像擴散模型，作為教師訊號，並結合對抗性損失，確保即便在低步驟採樣中，也能維持高圖像傳真度。簡單來說，對抗性擴散蒸餾技術結合了蒸餾技術和對抗訓練，蒸餾技術可以精煉模型輸出，將大型模型知識濃縮到更小的模型中，而對抗性訓練則可以改進模型，以更好地模仿教師模型輸出。</p> <p>過去的蒸餾技術很難達到高效率又高品質，因為快速採樣通常會降低輸出品質，因此對抗性擴散蒸餾技術在高效生成高品質圖像方面，是一個重要的進步。</p> <p>官方評估SDXL Turbo的效能，將其與多個不同的模型變體進行，包括StyleGAN-T++、OpenMUSE、IF-XL、SDXL和LCM-XL。在這項評估中，人類評估者參與兩種實驗，第一個實驗是隨機查看兩個模型的輸出，並選擇出最符合提示詞的輸出圖像，第二項實驗則與第一項實驗執行方法相同，但人類評估者需選擇圖像品質較佳者。</p> <p>實驗結果顯示，SDXL Turbo在運算需求大幅降低的同時，仍可以保持良好的圖像品質，單步SDXL Turbo勝過4步配置的LCM-XL，並且4步配置SDXL Turbo就可擊敗50步配置的SDXL。SDXL Turbo的推理速度非常快，在A100 GPU上，計算512*512解析度的圖像，只需要207毫秒。</p> <p class="rtecenter"><img alt="" src="https://s4.itho.me/sites/default/files/images/turbo_comparing.jpg" style="width: 580px;" /></p> </div></div></div>
2023/11/30 10:01作者李建興https://www.ithome.com.tw/news/160068
AWS基礎模型服務Bedrock新增護欄功能，供企業建置負責任AI應用
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>AWS的基礎模型（Foundation Model）服務Bedrock現在提供<a href="https://aws.amazon.com/tw/blogs/aws/guardrails-for-amazon-bedrock-helps-implement-safeguards-customized-to-your-use-cases-and-responsible-ai-policies-preview/">護欄（Guardrails）功能預覽</a>，供企業根據自身對應用程式需求和負責任人工智慧政策，制定保護措施。官方提到，藉由Bedrock的護欄功能，將可促進終端使用者與生成式人工智慧應用程式的安全互動。</p> <p>護欄能夠評估終端使用者的輸入和基礎模型的回應，並根據特定使用案例政策提供額外保護層，跨不同的基礎模型，包括Anthropic Claude、Meta Llama 2、Cohere Command、AI21 Labs Jurassic和Amazon Titan Text，以及經微調的模型發揮作用。</p> <p>企業只要使用簡短的自然語言描述，就可以定義一組在應用程式上下文中避免的主題，護欄能夠偵測並封鎖受限主題的使用者輸入和基礎模型回應，像是在銀行助理中，企業可以透過護欄限制與投資建議相關的話題。</p> <p>Bedrock護欄功能還提供內容過濾器，透過自動評估終端使用者的查詢和基礎模型回應，封鎖屬於限制類別的內容，企業可以經由調整閾值，規範需要過濾的仇恨、侮辱、性和暴力等限制類別的內容。另外，AWS接下來還會在護欄中添加個人資料刪除功能，藉由偵測終端使用者輸入和基礎模型回應，拒絕包含個人資料的輸入，並從基礎模型的回應中刪除個人資料。</p> </div></div></div>
2023/11/30 10:05作者李建興https://www.ithome.com.tw/news/160070
Access外部連結功能可被濫用外洩NTLM雜湊資訊
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p><a href="https://research.checkpoint.com/2023/abusing-microsoft-access-linked-table-feature-to-perform-ntlm-forced-authentication-attacks/" target="_blank">研究人員發現</a>，Access一項方便功能可能遭到濫用，導致公司內網Windows NTLM驗證資訊外洩。</p> <p>Checkpoint研究人員發現，Microsoft Access一項連結外部表格的功能，可能被攻擊者濫用，而將Windows NTLM雜湊經由TCP傳輸埠，傳送到攻擊者控制的外部伺服器。使用者可能開啟了一個不明.rtf檔或.accdb就能遭致攻擊。</p> <p>NTML是微軟1993年引入的驗證協定。它是一種「出題－解題」方式的協定。NTLM伺服器儲存根據使用者密碼產生的NTLM雜湊值，每當使用者要登入Windows網域時，伺服器就會發布隨機的題目，使用者即以密碼運算產生出正確答案來解題，藉此完成身分驗證。但NTLM很容易遭到攻擊，包括暴力破解、雜湊傳送（pass-the-hash）或中繼攻擊（relay attack）或中間人攻擊。</p> <p>Checkpoint公布的一項NLTM攻擊手法，是利用MS-Access中的連結外部表格功能。透過「建立連結表格連到資料源」的功能，使用者可以連到外部資料庫，像是遠端SQL Server，讓外部攻擊者取得存取內部網路的驗證資訊，屬於ATT&CK中的「強制驗證」（Forced Authentication）。</p> <p>因此攻擊者可以設立一臺外部SQL Server伺服器，由其聽取port 80連線。攻擊手法是傳送.accdb或.mdb給用戶，當用戶點擊檔案時，即可與外部SQL Server建立連線，由於不是所有使用者都會開啟.accdb或.mdb檔，因此研究人員結合Access另一項機制來進行攻擊。</p> <p>研究人員使用了Access的物件連結與嵌人（Object Linking and Embedding，OLE）機制，OLE功能允許其他應用程式呼叫Access執行物件。因此，攻擊者可在MS Word或RTF文件中嵌入一個Accdb檔案送給受害者，等後者開啟Word/RTF檔案時，即可觸發Access資料庫處理該Accdb檔案，再連結到遠端SQL Server，而將敏感資料如NTLM雜湊，透過port 80且繞過防火牆傳送給攻擊者。</p> <p>研究人員補充，其實由Access連結外部表格一個執行巨集的過程。微軟2020年封鎖了VBA巨集，因此開啟Office Word、Excel文件時，Windows會預設封鎖，以「受保護的檢視」模式開啟文件，並發出「準備執行巨集」的提醒。但這保護功能之前並不包括Access巨集，因此Access很容易成為攻擊跳板。</p> <p>Checkpoint今年1月通報這項漏洞，微軟已經修補。至少在其測試的Office 2010（Current Channel, version 2306, build 16529.20182）版本中，已經加入「受保護檢視」的提醒。但研究人員指出，無法排除較舊版或其他版Office仍然有這漏洞。此外，即使Windows發出提醒，用戶還是可無視風險而執行外部連結。</p> <p>針對仍使用NTLM協定的企業管理員，研究人員建議可封鎖所有經由NTLM協定（port 139及445）的對外連線。</p> </div></div></div>
2023/11/30 10:12作者林妍溱https://www.ithome.com.tw/news/160077
搭H100與第四代Xeon-SP，輝達AI整合應用設備今年上半登場
<div class="field field-name-field-image field-type-image field-label-hidden"><div class="field-items"><div class="field-item even"><img src="https://s4.itho.me/sites/default/files/nvidia_dgx_h100_main.jpg" width="960" height="420" alt="" /></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>在2022年3月，Nvidia發表採用Hopper架構的新一代資料中心GPU產品H100，以及採用這款GPU的AI整合應用設備DGX H100；同年9月該公司宣布H100已全面投入生產，預計10月第一波基於Hopper架構的產品與服務，並表示客戶可以開始訂購DGX H100。然而，到了今年1月，隨著英特爾正式發表代號Sapphire Rapids的第四代Xeon Scalable系列處理器，Nvida DGX H100總算諸事俱備，5月宣布正式出貨，有意採用的企業與組織此時可洽詢全球合作廠商採購。</p> <p><a href="https://s4.itho.me/sites/default/files/images/2022-03-21_DGX H100 Portfolio2.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/2022-03-21_DGX%20H100%20Portfolio2.jpg" style="width: 400px;" /></a></p> <p>原本英特爾Sapphire Rapids去年就應該上市，甚至會早於代號為Genoa的AMD第四代EPYC處理器推出，使得DGX H100為了配合採用PCIe 5.0介面的Nvidia H100，而搭配較早預告支援此I/O介面的英特爾Sapphire Rapids處理器平臺。結果事與願違，AMD第四代EPYC處理器竟搶先一步於去年11月發表，同樣能支援PCIe 5.0介面，而英特爾Sapphire Rapids今年1月才正式發表，而Nvidia DGX H100最近也開始在產品規格當中，明確標示CPU規格：2顆英特爾56核心第四代Xeon Scalable處理器，取代先前所用的「Dual x86」這樣含糊的描述。</p> <p><a href="https://s4.itho.me/sites/default/files/images/2022-03-22_DGX H100-1.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/2022-03-22_DGX%20H100-1.jpg" style="width: 600px;" /></a></p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-10-dgx-h100-front-view.png" style="width: 308px;" /><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-10-dgx-h100-rear-panel-modules.png" style="width: 280px;" /></p> <p>關於這樣的搭配，其實在2022年6月就已經傳出消息了。根據IT新聞媒體報導，在美銀證券集團2022全球科技大會上，Nvidia執行長黃仁勳明確表示，DGX H100將會採用英特爾Sapphire Rapids，展現持續支援x86處理器平臺的態度。</p> <p>除了因為採用的處理器而引發眾人關切，DGX H100本身有哪些特色？Nvidia在2022年發表這款產品之初，曾強調幾個重點，首先，這套系統本身配備了8個Nvidia H100 GPU，單臺設備可提供32 Petaflops的FP8精度AI運算效能，相當於上一代產品的6倍（DGX A100提供5 Petaflops的AI運算效能），能用於大型語言模型（LLM）、推薦系統、健康照護研究，以及氣候科學等大規模運算需求。</p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-Nvidia%20DGX100-GPU%20Tray%20Components.jpg" style="width: 600px;" /></p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-Nvidia%20DGX100-Motherboard%20Tray%20Components.jpg" style="width: 600px;" /></p> <p>若將多臺DGX H100透過Nvidia NVLink Switch System交換器系統連結，組成整櫃型系統DGX SuperPOD，最多可串聯32臺DGX H100，能同時運用256個H100 GPU，系統總體供應的AI運算效能將達到1 Exaflops的規模，足以承擔大規模的工作負載，例如使用數兆個參數的大型語言模型運算。</p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/2022-03-DGX%20H100%20SuperPod%20overview.jpg" style="width: 600px;" /></p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/2022-03-DGX%20H100%20SuperPod%20InterLink.jpg" style="width: 600px;" /></p> <p>在硬體內部元件的配置上，DGX H100除了搭配8個H100 GPU，Nvidia也在此置入8個網路埠，提供400Gb/s的InfiniBand或乙太網路環境，以便藉此連接其他運算系統與儲存設備。相較之下，上一代產品（DGX A100）搭配的InfiniBand與乙太網路連接組態，是支援200Gb/s規格的ConnectX-6或ConnectX-7系列網路卡。</p> <p><a href="https://s4.itho.me/sites/default/files/images/2023-10-dgx-h100-port-view.png"><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-10-dgx-h100-port-view.png" style="width: 600px;" /></a></p> <p><a href="https://s4.itho.me/sites/default/files/images/2023-10-dgx-h100-storage-nw.png"><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-10-dgx-h100-storage-nw.png" style="width: 298px;" /></a> <a href="https://s4.itho.me/sites/default/files/images/2023-10-DGX H100-network-modules-2.png"><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-10-DGX%20H100-network-modules-2.png" style="width: 298px;" /></a></p> <p>值得注意的是，Nvidia最初發表時，曾提到DGX H100將配備2張BlueField-3 DPU加速卡，因應進階網路、儲存、資安等多種服務的卸載、加速、隔離處理，Nvidia目前在自家網站公布的產品規格，雖然已調整這段敘述，但在Hopper架構白皮書還繼續保留，因此，DGX H100是否仍內建DPU，仍需洽詢Nvidia確認。</p> <p><a href="https://s4.itho.me/sites/default/files/images/Datasheet-DGX H100-NIC-Before.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Datasheet-DGX%20H100-NIC-Before.jpg" style="width: 298px;" /></a> <a href="https://s4.itho.me/sites/default/files/images/Datasheet-DGX H100-NIC-After.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Datasheet-DGX%20H100-NIC-After.jpg" style="width: 298px;" /></a></p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/Whitepaper-Hopper%20Architecture-1.jpg" style="width: 298px;" /></p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/Whitepaper-Hopper%20Architecture-2.jpg" style="width: 298px;" /></p> <p>而在GPU互連介面上，DGX A100與A100 GPU採用的第三代NVLink技術，設備搭配6顆第二代NVSwitch晶片，I/O頻寬為600 GB/s，新推出的DGX H100與H100 GPU採用了第四代NVLink技術，設備搭配4顆第三代NVSwitch晶片，I/O頻寬高達900 GB/s，提升至1.5倍以上。</p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/2022-03-DGX%20H100%20InterLink.jpg" style="width: 600px;" /></p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/2022-03-DGX%20H100%20SHARP%20V3.jpg" style="width: 600px;" /></p> <p>關於這套產品的應用形式上，以11月初最新發布的全球500大超級電腦排行榜而言，有兩座系統採用DGX H100，分別是拿下第9名的<a href="https://www.top500.org/system/180239/">Nvidia Eos</a>，以及第34名的<a href="https://www.top500.org/system/180224/">DeepL Mercury</a>，都是採用DGX SuperPOD參考架構而成的；</p> <p><a href="https://s4.itho.me/sites/default/files/images/2023-11-SC23-Nvidia Eos.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-11-SC23-Nvidia%20Eos.jpg" style="width: 600px;" /></a></p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-11-SC23-Nvidia%20Eos-2.jpg" style="width: 298px;" /> <a href="https://s4.itho.me/sites/default/files/images/Nvidia EoS MLCommons-training 3_1.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/Nvidia%20EoS%20MLCommons-training%203_1.jpg" style="width: 298px;" /></a></p> <p>而與企業儲存系統一起搭配的融合式基礎架構DGX BasePOD當中，都可搭配DGX A100，但如果是搭配DGX H100，目前有Pure Storage明確提出。</p> <p> </p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/2023-09-Nvidia%20DGX%20SuperPOD-DGX%20H100.jpg" style="width: 298px;" /> <img alt="" src="https://s4.itho.me/sites/default/files/images/2023-07-DGX%20BasePOD%20with%20up%20to%2016%20systems.jpg" style="width: 298px;" /></p> <p><span style="color:#008080;"><strong>產品資訊</strong></span></p> <p>Nvidia DGX H100<br /> ●原廠：Nvidia<br /> ●建議售價：廠商未提供<br /> ●機箱尺寸：6U<br /> ●處理器：2顆56核心Intel Xeon Platinum 8480C<br /> ●系統記憶體：2TB<br /> ●硬碟：8臺2.5吋U.2 3.84 TB NVMe SSD（RAID 0），搭配2臺M.2 1.92 TB NVMe SSD<br /> ●GPU加速模組：8個Nvidia H100<br /> ●網路介面：4個QSFP埠，可連接2張ConnectX-7網卡；2個雙埠ConnectX-7；1個雙埠100GbE網卡<br /> ●軟體：Nvidia AI Enterprise軟體套件、Nvidia Base Command雲端管理平臺、Linux作業系統（DGX OS 6或Ubuntu 22.04，或DGX Software for Red Hat Enterprise Linux 9、DGX Software for Red Hat Enterprise Linux 8）</p> <p>【註：規格與價格由廠商提供，因時有異動，正確資訊請洽廠商】</p> </div></div></div>
2023/11/29 23:21作者李宗翰https://www.ithome.com.tw/review/155129
【資安日報】11月29日，上海商銀驚傳1.4萬客戶資料外洩，金管會公布調查結果列4大缺失，依銀行法重罰千萬，外洩管道仍…
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>金融業強化資安不遺餘力，從<a href="https://www.ithome.com.tw/article/156845">投入的資安預算高居臺灣各產業之冠</a>可見一般。但最近一起資料外洩事故並非銀行主動揭露，竟是等到主管機關祭出處罰才曝光。</p> <p>金管會最近針上海商銀資料外洩事故祭出高額裁罰引起舉國關注，上海商銀在事發後僅公告證實遭罰，但根據現在已知的資訊，仍難以判斷具體發生資料外洩的行為與過程，期昐上海商銀未來能提出更詳細的說明。而對於接下來要進行的檢討與改善，上海商銀也勢必要儘快公開這方面的資訊。</p> <p> </p> <h3><strong>【攻擊與威脅】</strong></h3> <p><a href="https://www.ithome.com.tw/news/160048"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">上海商銀1.4萬客戶資料外洩，金管會列4大缺失，依銀行法重罰千萬</span></strong></a></p> <p></p> <p><a href="https://s4.itho.me/sites/default/files/images/上海商銀4大.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/%E4%B8%8A%E6%B5%B7%E5%95%86%E9%8A%804%E5%A4%A7.jpg" style="width: 300px; float: right;" /></a>11月28日金融監督管理委員會在例行記者會上，公布上海商業儲蓄銀行客戶資料外洩案的查核結果，並針對此案該行所涉及的缺失，祭出違反銀行法第129條第七款的法令裁罰，處以1千萬元罰鍰。上海商銀也在股市公開觀測站發布重大訊息，證實受罰。</p> <p>金管會銀行局長副局長童政彰表示，陸續接獲匿名民眾反映該行資訊安全問題，而後續查核結果顯示，上海商銀有未完善建立及未確實執行內部控制制度的情形，導致1.4萬名客戶資料外洩，而且未能保有相關軌跡。目前外洩來源至今仍不清楚，但金管會推測，很有可能是從資訊廠商或行員流出。</p> <p>資料來源</p> <p>1. <a href="https://www.fsc.gov.tw/ch/home.jsp?id=2&parentpath=0&mcustomize=news_view.jsp&dataserno=202311280004&dtable=News">https://www.fsc.gov.tw/ch/home.jsp?id=2&parentpath=0&mcustomize=news_view.jsp&dataserno=202311280004&dtable=News</a><br /> 2. <a href="https://mops.twse.com.tw/mops/web/ajax_t05sr01_1?firstin=true&stp=1&step=1&SEQ_NO=2&SPOKE_TIME=183851&SPOKE_DATE=20231128&COMPANY_ID=5876">https://mops.twse.com.tw/mops/web/ajax_t05sr01_1?firstin=true&stp=1&step=1&SEQ_NO=2&SPOKE_TIME=183851&SPOKE_DATE=20231128&COMPANY_ID=5876</a></p> <p><a href="https://www.ithome.com.tw/news/160062"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">資安業者Gogolook揭露亞洲詐騙現況，臺灣4成民眾每週會遇到數起騙局</span></strong></a></p> <p></p> <p><a href="https://s4.itho.me/sites/default/files/images/（主圖）Gogolook與全球反詐聯盟X_圖片來源Gogolook與全球防詐聯盟.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/%EF%BC%88%E4%B8%BB%E5%9C%96%EF%BC%89Gogolook%E8%88%87%E5%85%A8%E7%90%83%E5%8F%8D%E8%A9%90%E8%81%AF%E7%9B%9FX_%E5%9C%96%E7%89%87%E4%BE%86%E6%BA%90Gogolook%E8%88%87%E5%85%A8%E7%90%83%E9%98%B2%E8%A9%90%E8%81%AF%E7%9B%9F.jpg" style="width: 300px; float: right;" /></a>以開發Whoscall聞名全球的資安業者走著瞧（Gogolook），聯手全球防詐聯盟（Global Anti-Scam Alliance，GASA），<a href="https://gogolook.com/zh-hant/news/gasa-gogolook-asas-2">於11月20日舉辦第一屆亞洲防詐高峰會（Anti-Scam Asia Summit，ASAS）</a>，將詐騙威脅升格為須獨立看待的重要議題，突顯其威脅程度極為嚴重，各國必須團結因應、對抗。此會議匯聚亞洲各國的政府部門、企業、學者及非營利機構代表，共同探討亞洲最新詐騙趨勢與因應策略。本次高峰會的主題，聚焦於AI詐騙對於資訊安全與各產業造成的衝擊。</p> <p>在本次會議當中，Gogolook與GASA也發布亞洲詐騙調查報告，他們針對亞洲11個國家地區，調查逾2萬名民眾，結果發現，亞洲地區超過6成民眾每週至少會遭遇1起詐騙事件，而在臺灣，有4成民眾每週會遇到數起、在社群媒體遭遇詐騙的經驗近35%。</p> <p>特別的是，他們也特別提及臺灣特別嚴峻的詐騙問題「帳單繳款詐騙」，僅次於身分與個資盜用（或盜刷）的情況。再者，臺灣最多人上當的原因，竟是不確定是否為詐騙但選擇冒險（27.9％），代表臺灣人可能自以為聰明，決定涉險而上當。</p> <p><a href="https://www.bleepingcomputer.com/news/security/hackers-start-exploiting-critical-owncloud-flaw-patch-now/"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">檔案共用系統onwCloud重大漏洞已被用於攻擊行動</span></strong></a></p> <p></p> <p><a href="https://s4.itho.me/sites/default/files/images/b17b5110bd259166.png"><img alt="" src="https://s4.itho.me/sites/default/files/images/b17b5110bd259166.png" style="width: 300px; float: right;" /></a>檔案共享平臺ownCloud於11月21日發布資安通告，指出該系統存在3項重大漏洞，呼籲IT人員應儘速採取緩解措施。其中，CVSS風險評分達到10分的漏洞CVE-2023-49103，傳出已被用於攻擊行動。</p> <p>資安業者GreyNoise提出警告，他們從25日開始看到有漏洞嘗試利用的跡象，並在27日早上8時顯著增加。Shadowserver基金會也指出，他們偵測到1.1萬臺伺服器曝露於該漏洞的危險，這些伺服器大多位於德國、美國、法國、俄羅斯。</p> <p>資料來源</p> <p>1. <a href="https://www.greynoise.io/blog/cve-2023-49103-owncloud-critical-vulnerability-quickly-exploited-in-the-wild">https://www.greynoise.io/blog/cve-2023-49103-owncloud-critical-vulnerability-quickly-exploited-in-the-wild</a><br /> 2. <a href="http://infosec.exchange/@shadowserver/111483954554586644">http://infosec.exchange/@shadowserver/111483954554586644</a></p> <p> </p> <h3><strong>【漏洞與修補】</strong></h3> <p><a href="https://bishopfox.com/blog/ray-versions-2-6-3-2-8-0"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">AI框架Ray存在重大漏洞，攻擊者恐藉此對叢集運算節點進行未經授權存取</span></strong></a></p> <p></p> <p>資安業者Bishop Fox揭露開源AI運算框架Ray的3項重大漏洞CVE-2023-48023、CVE-2023-48022、CVE-2023-6021，這些漏洞涉及缺乏身分驗證、伺服器請求偽造（SSRF）、不安全的輸入驗證，其中的CVE-2023-6021風險評分為9.3（其餘漏洞尚未有分數）。</p> <p>研究人員認為，這些漏洞最嚴重的是CVE-2023-48023，起因是該系統在主控臺及用戶端程式並未強制執行身分驗證，從而導致遠端的攻擊者可在未經身分驗證的情況下，取得Ray叢集所有節點的作業系統權限，或是試圖搜尋EC2執行個體的帳密資料，然後提交或刪除工作排程，甚至有可能收集敏感資訊，或是執行任意程式碼。</p> <p>關於此次漏洞的揭露，在Bishop Fox之前，就有其他人向開發商Anyscale通報，然而，開發商雖然承認此AI運算框架存在上述3個漏洞，但並未打算修補，截至11月2日發布的2.8.0版Ray，仍曝露於相關風險當中。</p> <p> </p> <h3><strong>【資安防禦措施】</strong></h3> <p><a href="https://www.ithome.com.tw/news/160066"><strong style="font-size: 22px;"><span style="color: rgb(0, 0, 0);">美國、英國聯手發布安全AI系統開發的指引</span></strong></a></p> <p></p> <p><a href="https://s4.itho.me/sites/default/files/images/IMG_3829_blurred.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/IMG_3829_blurred.jpg" style="width: 300px; height: 400px; float: right;" /></a>11月28日歐洲刑警組織（Europol）宣布，他們與挪威、法國、德國、美國、烏克蘭等7個國家的執法機構通力合作，在處於戰亂的烏克蘭進行攻堅，<a href="https://www.eurojust.europa.eu/news/ransomware-group-dismantled-ukraine-major-operation-supported-eurojust-europol">逮捕涉嫌在全球71個發動勒索軟體攻擊的主嫌，以及4名共犯</a>。</p> <p>這次的執法行動源自於2019年由法國發起的調查，他們首次於2021年逮捕12名駭客，並循線根據查獲的作案裝置進行鑑識，從而逮到這次被捕的嫌犯。這些駭客藉由暴力破解、SQL注入、發送帶有惡意附件的釣魚郵件，來竊取使用者的帳號及密碼，一旦成功滲透至目標網路，便透過TrickBot、Cobalt Strike、PowerShell Empire等工具，來獲得內部網路的存取權限，最終發動勒索軟體攻擊。</p> <p>這些執法單位估計，駭客至少加密250臺伺服器，造成數億歐元損失。</p> <p> </p> <h3><strong>【其他新聞】</strong></h3> <p><a href="https://twitter.com/AlvieriD/status/1729567746487124406"><strong><span style="font-size: 20px;"><span style="color: rgb(0, 0, 0);">勒索軟體駭客組織BlackCat聲稱是中石化網路攻擊事故的幕後黑手</span></span></strong></a></p> <p></p> <p><a href="https://www.securityweek.com/hackers-hijack-industrial-control-system-at-us-water-utility/"><strong><span style="font-size: 20px;"><span style="color: rgb(0, 0, 0);">美國賓州自來水公司的工業控制系統傳出遭到駭客劫持，傳出是伊朗駭客所為</span></span></strong></a></p> <p></p> <p><a href="https://www.bleepingcomputer.com/news/security/slovenias-largest-power-provider-hse-hit-by-ransomware-attack/"><strong><span style="font-size: 20px;"><span style="color: rgb(0, 0, 0);">斯洛維尼亞大型能源供應商HSE遭遇勒索軟體攻擊，部分IT系統及檔案遭加密</span></span></strong></a></p> <p></p> <p><a href="https://www.bleepingcomputer.com/news/security/dp-world-confirms-data-stolen-in-cyberattack-no-ransomware-used/"><strong><span style="font-size: 20px;"><span style="color: rgb(0, 0, 0);">國際物流業者杜拜環球港務證實資料外洩，但攻擊者並未使用勒索軟體加密檔案</span></span></strong></a></p> <p></p> <p><a href="https://chromereleases.googleblog.com/2023/11/stable-channel-update-for-desktop_28.html"><strong><span style="font-size: 20px;"><span style="color: rgb(0, 0, 0);">Google修補今年第6個Chrome零時差漏洞CVE-2023-6345</span></span></strong></a></p> <p></p> <p> </p> <h3><strong>近期資安日報</strong></h3> <p><a href="https://www.ithome.com.tw/news/160051"><strong>【11月28日】美國醫療保健服務業者Henry Schein傳出二度遭遇勒索軟體BlackCat攻擊，導致電子商務平臺遭到癱瘓</strong></a></p> <p><a href="https://www.ithome.com.tw/news/160022"><strong>【11月27日】荷蘭半導體業者NXP遭中國駭客攻擊，入侵時間超過2年，驚傳與晶片設計相關智慧財產資料被竊</strong></a></p> <p><a href="https://www.ithome.com.tw/news/160001"><strong>【11月24日】 Mirai殭屍網路變種感染路由器、NVR網路視訊監控裝置，攻擊者利用的零時差漏洞，疑涉及預設的弱密碼</strong></a></p> </div></div></div>
2023/11/29 17:56作者周峻佑https://www.ithome.com.tw/news/160069
7國聯手逮捕受害者遍布71個國家的5名勒索軟體駭客
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p><a href="https://www.europol.europa.eu/media-press/newsroom/news/international-collaboration-leads-to-dismantlement-of-ransomware-group-in-ukraine-amidst-ongoing-war" target="_blank">歐洲刑警組織（Europol）本周宣布</a>，在7個國家執法機構的通力合作下，已於正處於戰亂中的烏克蘭逮捕了涉嫌於全球71個國家，發動勒索軟體攻擊的5名駭客。</p> <p>這次的行動其實是基於<a href="https://www.ithome.com.tw/news/147600" target="_blank">2021年逮捕行動</a>的同一調查，之後Europol針對該次行動所查獲的裝置進行鑑識分析，而追蹤到此次逮捕的嫌犯。</p> <p>挪威、法國、德國與美國的執法機構總計派出逾20名調查人員至基輔，協助烏克蘭警方進行調查，同時Europol的荷蘭總部也建立一個虛擬指揮所，負責分析於烏克蘭所查獲的資料。雖然目標是一名32歲的勒索軟體攻擊首腦，但這次的行動同時也拘留了4名該首腦的同夥。</p> <p>Europol指出，這群駭客專門鎖定全球71個國家的大型組織，利用LockerGoga、MegaCortex、HIVE及Dharma等勒索軟體發動攻擊，他們各自扮演不同的角色，從破壞受害者的IT網路到洗錢。</p> <p>調查顯示，駭客藉由暴力攻擊、SQL注入及發送含有惡意附加檔案的網釣郵件，來竊取使用者的帳號及密碼，成功滲透至目標網路之後，再透過TrickBot、Cobalt Strike或PowerShell Empire等工具，來獲得內部網路的存取權限，繼之發動勒索軟體攻擊，估計駭客至少加密了這些受害組織的250臺伺服器，造成數億歐元的損失。</p> </div></div></div>
2023/11/29 15:57作者陳曉莉https://www.ithome.com.tw/news/160066
Google啟用首個地熱能源專案
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p><a href="https://blog.google/outreach-initiatives/sustainability/google-fervo-geothermal-energy-partnership/" target="_blank">Google在周二（11/28）宣布</a>啟用位於美國內華達州的地熱能源專案，這是Google與能源新創業者Fervo Energy在2021年所簽署的合作專案，也是全球首個支援地熱開發的企業協議，來自地熱的無碳電力現已開始流入當地的電網，並供Google資料中心使用。</p> <p>Google與Fervo的合作不僅於開發乾淨能源，也在於開發可提高地熱生產力的人工智慧與機器學習技術。<a href="https://cloud.google.com/blog/products/infrastructure/google-fervo-geothermal-project-creates-carbon-free-energy" target="_blank">Google解釋</a>，傳統的地熱已替許多電網提供了無碳的基本負載能源，只是由於成本與區域的限制，它在全球乾淨能源產量中所占的比例非常小，而Fervo則採用先進的鑽井、光纖感測及分析技術來增加地熱的能源產量，估計到了2050年，地熱將可替美國提供多達120 GW的穩定電力，占了屆時美國電力需求的16%。</p> <p>而在雙方的合作中，Google亦與Fervo合作開發人工智慧與機器學習技術，以提高新一代地熱的生產力。</p> <p>在實際的操作上，Fervo使用了原本應用於石油與天然氣產業的鑽井技術，在內華達州挖了兩口深井並安裝光纖電纜，以捕捉地熱系統的即時流量、穩定與效能，發現地熱發電廠得以利用比其它乾淨能源更少的土地來生產全天候的無碳能源（Carbon-Free Energy，CFE），還能利用其它領域已存在的技能、知識與供應鏈。</p> <p>Google表示，在許多難以建置其它可再生能源的地區，地熱是一種可行的乾淨能源選擇，特別是亞太地區，即使如此，由於傳統技術只能部署在容易取得地熱的區域，而令它無法被廣泛利用。此次的合作證實了鑽井技術可成功應用於地熱的開發。</p> <p>因此，除了Fervo之外，<a href="https://www.prweb.com/releases/project-innerspace-joins-forces-with-google-to-advance-geothermal-exploration-301925928.html" target="_blank">Google今年9月也與致力於開發全球地熱能源的非營利組織Project InnerSpace結盟</a>，準備結合Project InnerSpace對地熱的知識與研究，以及Google的資料及軟體能力，共同解決開發地熱所面臨的關鍵挑戰，包括打造全球地熱資源的測繪與評估工具。</p> <p>Google的目標是在2030年於所有營運及價值鏈中實現淨零排放，在這期間將減少50%的碳排放量，再藉由投資自然的去碳解決方案來中和剩餘的碳排放，此外，屆時也將全面使用乾淨能源來支援Google的全球辦公室與資料中心。</p> </div></div></div>
2023/11/29 15:14作者陳曉莉https://www.ithome.com.tw/news/160065
Amazon公布企業用AI聊天機器人Amazon Q，價格略優於微軟Copilot及Google Duet AI
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>Amazon昨（28）日在re:Invent大會上公布可整合多種AWS及第三方系統的<a href="https://aws.amazon.com/tw/blogs/aws/amazon-q-brings-generative-ai-powered-assistance-to-it-pros-and-developers-preview/" target="_blank">企業用AI聊天機器人Amazon Q</a>，目前已以預覽版上線供試用。</p> <p>和微軟Copilot或Google Bard類似，<a href="https://aws.amazon.com/q/" target="_blank">Amazon Q</a>可允許用戶以自然語言執行企業多種任務，包括搜尋、撰寫專業電子郵件、摘錄報告、分析市場趨勢、寫部落格文、規劃workshop。Amazon也強調Amazon Q對程式開發人員的協助。為爭取企業用戶信任，Amazon強調Amazon Q可協助企業作為商業智慧（BI）、客服支援及供應鏈管理，而且不會使用企業資料訓練其底層模型。</p> <p class="rtecenter"><img alt="" src="https://s4.itho.me/sites/default/files/images/1129-Amazon%20Q%20preview-3.png" style="width: 600px;" /></p> <p>Amazon Q<a href="https://aws.amazon.com/q/pricing/" target="_blank">提供二種方案</a>。Amazon Q Business提供資訊查詢或文件生成，每人每月20美元。Amazon Q Builder則還在前者之外，增加對開發人員或IT人員的支援功能，例如協助開發及解決AWS服務的運作問題，每人每月25美元。這個價格優於微軟Copilot for Microsoft 365及Duet AI for Google Workspace（皆為每人30美元月費）。</p> <p>Amazon Q能整合AWS多項服務環境，類似微軟的Copilot。Amazon Q能整合到AWS管理控制臺Management Console、行動版控制臺AWS Console Mobile Application、以及AWS Documentation、AWS網站。此類整合可提升AWS管理員使用效率，例如在AWS Management Console中，用戶可以問「要使用何種AWS Serverless服務來建立無伺服器服務API？」或是問「要部署代管App的Web App Server該使用哪個Amazon EC2 instance？」管理員若使用AWS Lambda和Amazon DynamoDB表格互動出了問題，也可詢問Amazon Q排除問題。</p> <p class="rtecenter"><a href="https://s4.itho.me/sites/default/files/files/1129-Amazon%20Q%20preview-5.png" target="_blank"><img alt="" src="https://s4.itho.me/sites/default/files/images/1129-Amazon%20Q%20preview-5.png" style="width: 600px;" /></a></p> <p class="rtecenter"><a href="https://s4.itho.me/sites/default/files/files/1129-Amazon%20Q%20preview-2.png" target="_blank"><img alt="" src="https://s4.itho.me/sites/default/files/images/1129-Amazon%20Q%20preview-7.png" style="width: 600px;" /></a></p> <p>此外，Amazon Q也透過AWS Chatbot形式整合到外部平臺如Slack和Teams、Google Drive、Microsoft 365、Gmail、Salesforce、Zendesk及Atlassian等40餘種外部系統。</p> <p>Amazon Q現在也支援Visual Studio Code及JetBrains等IDE，可以擴充程式形式使用，以協助開發AWS上的應用程式，或回答開發相關問題、更新程式語言版本、或解釋、重構（refactoring）及優化特定程式碼片段。在更新程式碼方面，Amazon Q Code Transformation能將Java應用程式由第8和11版升級到17版。不過用戶必須下載最新版AWS Toolkit並登入Amazon CodeWhisperer帳號。</p> <p class="rtecenter"><a href="https://s4.itho.me/sites/default/files/files/1129-Amazon%20Q%20preview-8.png" target="_blank"><img alt="" src="https://s4.itho.me/sites/default/files/images/1129-Amazon%20Q%20preview-8.png" style="width: 600px;" /></a></p> </div></div></div>
2023/11/29 14:02作者林妍溱https://www.ithome.com.tw/news/160064
亞洲防詐高峰會登場，最多臺灣人認為上當原因竟是「不確定詐騙但願意冒險」！面對現在進行式的AI詐騙，我們需要更多確認
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>詐騙是全球普遍存在的問題，在政府、執法單位設法解決之餘，許多民間企業與個人也積極參與，甚至看中這方面的商機，推動防詐與信任科技的發展。在11月下旬，以Whoscall聞名全球的Gogolook，與全球防詐聯盟（Global Anti-Scam Alliance，GASA）展開合作，特別在臺舉辦第一屆亞洲防詐高峰會（Anti-Scam Asia Summit，ASAS），將詐騙威脅升格為須獨立看待的重要議題，突顯詐騙已經氾濫到各國須團結因應的程度，並藉此凝聚政府與民間力量，促成多方積極參與討論。</p> <p>在為期兩天的活動現場，他們特別揭露了最新詐騙趨勢，同時聚焦於探討最新AI詐騙態勢。</p> <h2><strong>詐騙氾濫，有1成5亞洲民眾每天都會收到相關訊息</strong></h2> <p>GASA董事總經理Jorij Abraham表示，他們的使命是保護全球消費者、免受詐騙的侵害，希望凝聚執法機構、消費者保護組織，以及民間商業公司的力量，共同分享知識，並提出更好地解決方案。</p> <p>身為全球防詐聯盟GASA創始會員的Gogolook，該公司執行長郭建甫，也與Jorij Abraham同臺，共同揭露《亞洲詐騙調查報告》，分析他們觀察到的詐騙態勢。</p> <p>這些年來，詐騙事件屢見不鮮，幾乎每天的新聞都會報導，但到底有多氾濫？在這次揭露內容中，有幾項數據我們認為需要特別重視。</p> <p>郭建甫指出，亞洲地區有超過6成民眾表示，每週至少會接觸到一次詐騙事件，並且有超過15％的人每天遭遇詐騙，而在臺灣，有4成民眾每週都會遭遇數次詐騙。</p> <p>在這樣的「詐騙新常態」之下，我們認為，民眾更需要確認各種資訊，才能彼此信任。</p> <p>GASA還提到另一個更令人憂心的數據，Jorij Abraham指出，全球只有4成受害者回報自身的詐騙經歷，但是，有機會將損失金錢要回的人僅有4%。</p> <p>至於哪些國家遭受詐騙金錢損失最多？肯亞居首，其次為巴西、南非、阿根廷、馬來西亞、中國、印尼。</p> <p><a href="https://s4.itho.me/sites/default/files/images/（圖2）Gogolook與全球反詐聯盟_圖片來源Gogolook與全球防詐聯盟.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/%EF%BC%88%E5%9C%962%EF%BC%89Gogolook%E8%88%87%E5%85%A8%E7%90%83%E5%8F%8D%E8%A9%90%E8%81%AF%E7%9B%9F_%E5%9C%96%E7%89%87%E4%BE%86%E6%BA%90Gogolook%E8%88%87%E5%85%A8%E7%90%83%E9%98%B2%E8%A9%90%E8%81%AF%E7%9B%9F.jpg" style="width: 600px;" /></a></p> <p><span style="color:#0099ff;"><strong>根據Gogolook與全球防詐聯盟GASA揭露亞洲詐騙調查報告顯示，平均有超過15％的人表示每天遭遇詐騙，整體而言，有超過6成民眾每週至少會接觸到一次詐騙事件。</strong></span></p> <h2><strong>身分冒用最常見，臺灣「帳單繳款詐騙」高於亞洲各國</strong></h2> <p>關於詐騙方利用的途徑，遍及電話、簡訊、即時通訊、社群平臺、電子郵件，以及數位廣告。電話、簡訊的詐騙是最嚴重的管道，而在即時通訊與社群平臺方面，主要是各國最受歡迎的應用為主，如臺灣、泰國，大多數詐騙都是使用Facebook、Line，而在馬來西亞、香港、新加坡，詐騙的首選平臺是WhatsApp、Facebook。</p> <p>在詐騙情境方面，亞洲最嚴峻的詐騙問題就是「身分盜用（含個資盜用/盜刷）」，包含冒用當事人身分去做各種事情，這在日本、馬來西亞、香港地區、新加坡，以及臺灣，都是居於榜首。而泰國、菲律賓、中國最嚴峻的詐騙問題，是「購物詐騙」，韓國、印尼、越南最嚴峻的詐騙問題，則是「投資詐騙」。</p> <p>特別的是，還有一些類型要留意，例如，臺灣第二嚴峻詐騙問題是「帳單繳款詐騙」。</p> <p>這類詐騙最近大家都深有所感，因為在相關新聞常出現，甚至自己收到詐騙訊息。例如，今年最常見的釣魚簡訊，就是假冒遠通電收、自來水公司名義的繳款內容，引誘用戶前往簡訊夾帶的釣魚網站。</p> <p>但大家要多留意的是，我們發現這一詐騙類型，在許多亞洲國家並不在前五名之列，臺灣卻是格外嚴重。</p> <p>還有一些新興詐騙場景需要注意，郭建甫提到，包括：在日本第三嚴峻的「家人親人詐騙」，是指對方假裝是你的家人，在不同地區，也有不同的名稱與型態，像是臺灣有「猜猜我是誰」的詐騙；在新加坡是第五嚴峻的「慈善詐騙」，也是另一個要留意的類型。</p> <p><a href="https://s4.itho.me/sites/default/files/images/（主圖）Gogolook與全球反詐聯盟X_圖片來源Gogolook與全球防詐聯盟.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/%EF%BC%88%E4%B8%BB%E5%9C%96%EF%BC%89Gogolook%E8%88%87%E5%85%A8%E7%90%83%E5%8F%8D%E8%A9%90%E8%81%AF%E7%9B%9FX_%E5%9C%96%E7%89%87%E4%BE%86%E6%BA%90Gogolook%E8%88%87%E5%85%A8%E7%90%83%E9%98%B2%E8%A9%90%E8%81%AF%E7%9B%9F.jpg" style="width: 600px;" /></a></p> <p><strong><span style="color:#0099ff;">在最新亞洲詐騙調查報告中，揭露這個區域最嚴峻的詐騙問題是「身份盜用」，而「帳單繳款詐騙」在臺灣的嚴重程度高於亞洲各國，值得留意。（圖片來源／Gogolook與全球防詐聯盟）</span></strong></p> <h2><strong>多數臺灣人認為上當原因是「不確定詐騙但願意冒險」</strong></h2> <p>另一項關於臺灣民眾的調查結果相當特別，那就是關於為何會被詐騙的調查。多數國家民眾普遍認為是「未辨識出詐騙行為」，其次「太快回應詐騙者要求」、「被提供的優惠吸引」。但臺灣最多人選擇的答案出乎意料，竟是：「不確定是否為詐騙但選擇冒險」高達27.9％，許多國家回答該選項比例並不高，這是否意味臺灣人自以為聰明而不會上當，結果反而因涉險而終究被騙。</p> <p>另外，這份調查報告也觀察消費者自認是否有能力識別詐騙，有6成8的人表示，他們非常有信心或是有信心能夠識別詐騙。但Jorij Abraham認為，有些人對於識別詐騙可能太過自信，這是需要注意的問題。</p> <p>此外，對於受害者會向誰求援、或是到哪裡去回報，郭建甫表示，不論從官方、民間或私人企業的角度來看，都將成為未來的重要參考。</p> <p>例如，在回報詐騙方面，有17.4%的人認為通報過程太複雜，15.9%認為報告無濟於事，還有13.3%表示不確定向誰報告。另外，有5.8%對於被騙感到尷尬，有3.9%的人對於通報事件會感到害怕。因此，如何優化詐騙通報機制，可能是各方可著墨之處，但這也需要促進更多群體參與。</p> <p>從這份調查結果來看，民眾防詐意識，需要持續加強。而且，我們可以想見的是，更嚴峻的挑戰即將來臨，因為AI詐騙勢必流行，大眾對於詐騙的態度與意識應該要轉變，必須更積極認識威脅現況與詐騙手法，才能具備足夠的警覺，過往有識之士一再提及的防護措施，例如，自行確認、第二管道確認的重要性，更不能輕忽。</p> <p>Gogolook也在大會上呼籲，防詐需要全球團結因應、公私協力。例如，要有良好的協作機制設計，加快詐騙趨勢與資訊的共享，並要讓民眾參與、企業資源、政府經驗相互整合，持續商討主動制衡AI與跨國詐騙威脅的最新策略，才能更有效去抵禦不斷演進的詐騙手段與犯罪模式。</p> <p><a href="https://s4.itho.me/sites/default/files/images/（圖1）Gogolook與全球反詐聯盟_圖片來源Gogolook與全球防詐聯盟.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/%EF%BC%88%E5%9C%961%EF%BC%89Gogolook%E8%88%87%E5%85%A8%E7%90%83%E5%8F%8D%E8%A9%90%E8%81%AF%E7%9B%9F_%E5%9C%96%E7%89%87%E4%BE%86%E6%BA%90Gogolook%E8%88%87%E5%85%A8%E7%90%83%E9%98%B2%E8%A9%90%E8%81%AF%E7%9B%9F.jpg" style="width: 400px;" /></a></p> <p><strong><span style="color:#0099ff;">不確定是否為詐騙但選擇冒險」，比例竟達27.9%，其比例高於亞洲各國。而亞洲整體的前三大主因是：未辨識出詐騙行為、太快回應詐騙者的要求、被所提供的優惠吸引。（圖片來源／Gogolook與全球防詐聯盟）</span></strong></p> <h2><strong>AI詐騙時代已來臨，個人與企業的防詐態度需轉變</strong></h2> <p>在揭露亞洲詐騙威脅現況之餘，現場多位專家更是針對AI詐騙問題提出呼籲，最強調的部分就是：Deepfake技術的詐騙不再是未來式，現在就已經被詐騙者濫用。</p> <p>事實上，我們從2019年就看到，Deepfake技術門檻開始有大幅降低情況，甚至首起AI軟體偽裝老闆聲音指示匯錢的案例，當時資安界已經提出警告，呼籲大家隨著AI應用越來越普及，須注意這樣的新興威脅。</p> <p>如今，現場的專家們警告，AI影像與語音已變得越來更逼真，加上生成式AI在2022年底崛起，將使得詐騙問題變得更棘手。</p> <p>曾在美國FBI網路犯罪投訴中心（IC3）擔任主管的Donna Gregory，也應邀參加這場活動，她透過線上直播演說形式，闡釋AI用於詐騙的狀況。</p> <p>Donna Gregory表示，她在IC3服務長達23年，早在2000年，新興的網路犯罪被認為是執法單位需要接手的任務，因為當這些犯罪開始更頻繁地發生，民眾不知該向哪裡求助。</p> <p>經過這20年，詐騙問題的確變得更加嚴重，如今更是有相當大的變化，尤其是AI技術的進步。她指出，AI的應用帶來了很多好處，像是可以快速分析資料，提高準確度提出建議，減少人為錯誤，也能協助日常生活，甚至也能教電腦去識別遭他人嘗試入侵的情況，但同時也有濫用的情形，例如，不法分子利用文字轉語音、深度偽造等技術進行欺詐。雖然，目前尚未引起大規模的危害，但我們仍應保持警惕，防範未來可能的風險。</p> <p>她提醒，AI詐騙風險是個人、企業都要關注的議題。對於個人而言，AI詐騙將發生在語音來電、釣魚郵件、愛情信任詐騙、假名人詐騙、偽冒網站；對於企業而言，AI詐騙將存在於商業電子郵件詐騙（BEC詐騙）、假冒品牌名義的詐騙、偽冒網站，還有密碼破解與駭侵。因此，對於民眾的教育、對於企業的教育，將會變得越來越重要。</p> <p>若是更進一步從網路犯罪角度來看，我們可以知道有那些網路犯罪類型會使用AI技術，或是可能使用AI技術？</p> <p>Donna Gregory認為，以IC3的年度網路犯罪報告來看，當中定義27種網路犯罪類型，其中11類會因為AI技術濫用，而更需要關注後續發展，包括預付費用、商業電子郵件詐騙（BEC）、愛情信任詐騙、就業、勒索、冒充政府、投資、智慧財產權相關、未付款／未交貨、網路釣魚，以及欺騙。</p> <p>不過，她也提到，追蹤網路犯罪手法是否使用AI技術，將會是一大挑戰。她希望大家可以更關注這一問題。</p> <p><a href="https://s4.itho.me/sites/default/files/images/（圖3）Gogolook與全球反詐聯盟_攝影羅正漢.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/%EF%BC%88%E5%9C%963%EF%BC%89Gogolook%E8%88%87%E5%85%A8%E7%90%83%E5%8F%8D%E8%A9%90%E8%81%AF%E7%9B%9F_%E6%94%9D%E5%BD%B1%E7%BE%85%E6%AD%A3%E6%BC%A2.jpg" style="width: 600px;" /></a></p> <p><span style="color:#0099ff;"><strong>前美國FBI網路犯罪投訴中心（IC3）主任Donna Gregory表示，有哪些網路犯罪類型已經使用AI，或是可能使用AI，是我們特別需要關注的重點，但我們要如何追蹤將是需要面對的挑戰。（攝影／羅正漢）</strong></span></p> <p>專注在資料保護與治理的新加坡業者Straits Interactive，該公司執行長Kevin Shepherdson也在大會的另一場演說中，針對生產式AI被濫用問題示警。</p> <p>目前，一般民眾可透過生成式AI為工作場景帶來幫助，但壞人也能這麼作。例如，他示範在假冒就業的詐騙場景中，攻擊者需要建立一些內容，包括：（一）求才的工作列表，（二）求職者的網釣信，（三）虛假招聘網站的內容，這些工作都可以透過生成式AI來快速完成，而且，對於多國語言的內容，也都可以更精準翻譯，同時，透過一些提示詞就可以產生出有如真實人物般的生活照、大頭照。顯然，他這樣示範，就是希望人們知道攻擊者可以很輕易的做出更逼真的詐騙內容。</p> <p>他也對生成式AI應用衍生的隱私問題提出警告。例如，現在出現很多提供類似ChatGPT應用的App，多數雖然宣稱沒有收集資料，不與第三方分享數據，但真的是這樣嗎？大多數背地裡其實都是在你的蒐集資料，還有，經過他們仔細分析之後，還可以發現很多App在使用者下載安裝所要求的權限，一旦同意，形同批准對方蒐集你的資料。</p> <p><a href="https://s4.itho.me/sites/default/files/images/（圖4）Gogolook與全球反詐聯盟_攝影羅正漢.jpg"><img alt="" src="https://s4.itho.me/sites/default/files/images/%EF%BC%88%E5%9C%964%EF%BC%89Gogolook%E8%88%87%E5%85%A8%E7%90%83%E5%8F%8D%E8%A9%90%E8%81%AF%E7%9B%9F_%E6%94%9D%E5%BD%B1%E7%BE%85%E6%AD%A3%E6%BC%A2.jpg" style="width: 600px;" /></a></p> <p><span style="color:#0099ff;"><strong>Straits Interactive執行長Kevin Shepherdson指出，很多提供類似ChatGPT應用的App宣稱沒有收集資料，但大家可以應該看看該App下載安裝時所要求的權限，其實根本目的就是用於蒐集你的資料。</strong></span><strong style="color: rgb(0, 153, 255);">（攝影／羅正漢）</strong></p> </div></div></div>
2023/11/29 11:18作者羅正漢https://www.ithome.com.tw/news/160062
Ikea發表可偵測門窗、動靜與漏水的智慧家庭感應器
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>家居用品製造商<a href="https://www.ikea.com/global/en/newsroom/innovation/parasoll-badring-vallhorn-smart-sensors-231128/" target="_blank">Ikea周二（11/28）發表</a>了3款可用來遠端監控家中安寧的智慧家庭感應器，包括可用來監控門窗的Parasoll，感應室內或屋外動靜的Vallhorn，以及可偵測有否漏水的Badring，Ikea並未公布相關產品的售價，但根據<a href="https://www.theverge.com/2023/11/28/23977693/ikea-sensors-door-window-water-motion-price-date-specs" target="_blank">《The Verge》</a>的報導，Parasoll與Badring的售價為9.99歐元，Vallhorn則只要7.99歐元。</p> <p>Ikea早在2012年就啟動了，要在家用產品中嵌入科技元素的Home Smart專案，陸續推出無線充電與智慧喇叭等產品，並<a href="https://www.ithome.com.tw/news/113109" target="_blank">在2017年發表</a>了首批數位家居用品系列Trådfri，2019年更直接將該專案擴大成Ikea Home Smart事業部，目前旗下產品涵蓋智慧音響、智慧窗簾、智慧照明、IKEA Home smart程式，以及用來連結所有智慧裝置的Trådfri或Dirigera集線器。</p> <p>新的Parasoll可安裝在門窗上，一旦門窗被打開或關上，就會通知使用者；Vallhorn則可放置在室內或屋外，在偵測到任何運動時發出燈光，還能調整燈光的強度與顏色；Badring則可安裝在用水區附近，會在偵測到漏水時啟動內建的警報或是傳送行動通知予使用者。</p> <p class="rtecenter"><img alt="" src="https://s4.itho.me/sites/default/files/images/1129-ikea-smart%20sensors%20for%20remote%20home%20monitoring%20and%20control-1-V2.jpg" style="width: 300px;" /><img alt="" src="https://s4.itho.me/sites/default/files/images/1129-ikea-smart%20sensors%20for%20remote%20home%20monitoring%20and%20control-2-V2.jpg" style="width: 300px;" /></p> <p><span style="font-size:14px;"><span style="color:#696969;">圖片來源_Ikea</span></span></p> <p>這些感應器都是採用Zigbee無線傳輸協定，可連結到Dirigera集線器，以觸發其它的智慧家庭裝置，或是傳送通知至使用者的手機上。它們全都相容於Dirigera，但只有Vallhorn相容於舊版集線器Trådfri，此外，較新的Dirigera也允許Ikea的智慧家庭裝置與Google、Amazon及蘋果的相關裝置互動。</p> <p>Parasoll與Vallhorn預計於明年1月上市，Badring則要等到明年4月，Ikea亦計畫將它們部署至全球市場。</p> </div></div></div>
2023/11/29 11:21作者陳曉莉https://www.ithome.com.tw/news/160063
微軟跨平臺機器學習框架ML.NET 3.0強化深度學習功能，還加速AI運算效率
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>在微軟發布.NET 8之後，緊接著推出跨平臺機器學習框架<a href="https://devblogs.microsoft.com/dotnet/announcing-ml-net-3-0/">ML.NET 3.0</a>，這個新版本更新強化深度學習功能，並且改進ML.NET資料處理能力，還加入Intel oneDAL硬體訓練加速，以及自動機器學習等新功能，這些更新讓開發者在編寫機器學習應用程式能夠更加方便且靈活。</p> <p>ML.NET 3.0深度學習功能更完整，包含物體偵測、命名實體辨識和問答處理。物體偵測能夠在圖像中定位並分類不同類型的實體，官方指出，物體偵測是一項電腦視覺任務，和圖像分類關係密切，但是會執行更精細的圖像分類，因此當影像中包含不同類型的物體時，官方建議使用物體偵測功能。</p> <p>ML.NET 3.0模型生成器中的新物體偵測功能，建構在新添加的TorchSharp物體偵測API基礎之上。TorchSharp是一個.NET函式庫，提供PyTorch函式庫存取支援，而TorchSharp物體偵測API則結合微軟研究院的新技術，以及TorchSharp中Transformer神經網路架構建置而成。命名實體辨識和問答處理，是自然語言處理的兩項任務，ML.NET 3.0透過現有TorchSharp RoBERTa文字分類功能基礎，實現了這兩個功能。而這些功能都包含在Microsoft.ML.TorchSharp 3.0.0套件中。</p> <p>之前微軟在發布ML.NET 2.0不久後，便宣布要支援Intel oneDAL硬體訓練加速，而這項功能在ML.NET 3.0預覽版中登場。Intel oneDAL（oneAPI Data Analytics Library）是一個擁有高度最佳化演算法建構模塊的函式庫，能夠加速資料分析和機器學習過程。</p> <p>微軟還更新ML.NET 3.0自動機器學習（AutoML）功能。自動機器學習功能使用可自動化搜尋最佳機器學習模型和參數的AutoML Sweeper元件，在新版本中新增支援語句相似性、問答處理和物體偵測等功能。自動機器學習簡單來說，是一種自動對資料應用機器學習技術的過程，能夠協助選擇最適合的模型和參數，使得開發者在建置機器學習模型時更簡單。</p> <p>在新版本中，ML.NET現在具有連續資源監控能力，可以透過AutoML.IMonitor監控記憶體和磁碟空間，如此開發者便能夠控制長期運作的實驗，避免程式崩潰和失敗，改善ML.NET在機器學習應用的穩定性。</p> <p>ML.NET資料結構DataFrame在3.0上也有更新，加入對String和VBuffer欄位類型的支援，並且強化IDataView與DataFrame的轉換。現在欄位可以儲存超過2 GB的資料，還支援Apache Arrow Date64欄位資料。ML.NET 3.0也能夠更好地支援SQL資料庫匯入和匯出功能，最佳化算數操作的空值處理。這些更新都會顯著提升DataFrame的功能和效能。</p> <p>ML.NET 3.0還有一項重要更新是Tensor Primitives整合。Tensor Primitives為一套專門用於張量運算的新API，能夠進一步推進.NET在人工智慧數值運算的應用。該API不僅運用硬體內部指令來加速運算效率，還結合泛型數學（Generic Math）的概念，提供開發者處理複雜數學和資料操作的強大工具。</p> </div></div></div>
2023/11/29 09:22作者李建興https://www.ithome.com.tw/news/160050
加州新法規草案規範企業，應讓用戶可選擇退出AI自動化決策應用
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>加州隱私保護局（California Privacy Protection Agency）提出了一項針對<a href="https://cppa.ca.gov/announcements/2023/20231127.html">自動化決策技術（Automated Decision Making Technology，ADMT）的隱私保護法規草案</a>，目的是要企業針對這些技術提供更多的保護措施，讓受影響的個人可以根據加州消費者隱私法案（California Consumer Privacy Act，CCPA），選擇退出以及進一步獲取企業使用自動化決策技術相關資訊的權利。</p> <p>加州隱私保護局董事會成員Vinhcent Le表示，新提出的法規草案，要求企業負責任地使用自動化決策技術，並且提供員工和兒童隱私保護。法規草案主要針對以下自動化決策技術使用情境提供保護，範疇涵蓋包括對受自動化決策技術影響的個人生活有重大影響的決策，例如就業和薪酬決策，還有包括對員工、承包商、申請人或學生等個人評估，像是使用鍵盤記錄器分析工作表現或是追蹤位置等行為。</p> <p>在公共場所，諸如購物中心、醫療辦公室和體育場，對用戶進行的評估，使用像是臉部辨識技術，或是自動情感評估分析用戶行為等應用也受到規範。此外，法規草案還保護包括企業對用戶進行行為廣告評估，諸如了解用戶個人偏好和興趣，以向他們展示廣告等應用。</p> <p>在以上應用情境，企業必須要事前告知用戶，自動化決策技術的使用方法，以便用戶可以選擇退出或是接受，並決定是否要獲得更多資訊。自動化決策技術法規草案的目的是要提供用戶更多控制個人資料的權利，同時確保自動化決策技術系統在設計中納入隱私保護考量，在技術創新和個人隱私間取得平衡。</p> </div></div></div>
2023/11/29 09:25作者李建興https://www.ithome.com.tw/news/160052
【re:Invent 2023】AWS資料庫、快取、資料倉儲邁向真正無伺服器化與新量子晶片
<div class="field field-name-field-news-column-category field-type-taxonomy-term-reference field-label-hidden"><div class="field-items"><div class="field-item even"><a href="/tags/%E6%96%B0%E8%81%9E">新聞</a></div></div></div><div class="field field-name-body field-type-text-with-summary field-label-hidden"><div class="field-items"><div class="field-item even"> <p>【美國拉斯維加斯現場報導】AWS re:Invent 2023今日（27）在美國拉斯維加斯展開，其公用運算部門（Utility Computing）資深副總裁Peter DeSantis在晚間首場主題演講中，首度揭露旗下三款雲端服務在無伺服器功能方面皆有新的進展，包括Aurora資料庫服務、ElastiCache快取服務與Redshift資料倉儲服務，終於在技術持續精進之下，達到他們心目中真正無伺服器化的里程碑；同時亦如過往發表硬體晶片的慣例，首度揭露錯誤率僅0.1%的新量子晶片。</p> <p>Amazon Aurora是相容於MySQL與PostgreSQL的雲端資料庫服務，AWS在2018年推出Aurora的首款無伺服版本，接著在去年2022年推出Aurora Serverless V2第二版，賦予雲端資料庫服務更大的線上擴充能力，不過雖然訴求資料庫用戶可在服務不中斷的情況下擴充資料庫，但仍有一定容量的限制。</p> <p>Aurora Serverless資料庫服務之所以能實現線上擴充容量，DeSantis表示，主要是仰賴虛擬化技術。AWS開發了一個稱之為Caspian的虛擬層，由Caspian Heat Management System來管理實體主機如何分配虛擬記憶體給資料庫。Aurora所使用的每一臺實體主機配置容量256GB的記憶體，雖然Aurora資料庫開啟服務可以使用256GB記憶體，但實體主機的記憶體並不會因此而被完全占用，Caspian管理軟體會依據每個Aurora資料庫服務運作所需配置適當的實體記憶體容量，因此每臺實體主機皆可承載多個Aurora資料庫服務，如此就可以極大化利用運算資源。</p> <p>在上述機制下，當一臺實體主機所承載的Aurora運作所需記憶體超過256GB，迫於記憶體物理限制就必須轉移到另一臺主機。DeSantis指出，如此機制尚無法達到無伺服器化可以自動擴充調整的最高境界，因此AWS繼而運用資料庫分區（Sharding）技術，將單一資料庫分配到不同主機，以達到水平擴充的能力。</p> <p>資料庫分區並不難實現，DeSantis表示，但要達到自動分配的境界，最難突破的關鍵在於資料路由與資料庫分區彈性擴充的設計。為此AWS開發出一個資料請求路由層（Request Routing Layer），它採取輕量化設計，具有快速反應擴充的特性，加諸分區彈性擴充設計，則可達到跨區域執行資料庫切片與重組，並確保資料庫的可靠度。</p> <p>由於上述兩項技術的創新突破，DeSantis指出，AWS終於能在今年推出真正無伺服器化的Aurora資料庫服務，稱之為Amazon Aurora Limitless Database，意指可不受單一資料庫的容量限制，皆可自動擴充配置而不影響資料庫運作。</p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/IMG_0399%20(1)(1).png" style="width: 700px; height: 453px;" /></p> <p>除了Aurora Limitless Database，AWS今天也推出快取服務無伺服器版本ElastiCache Serverless。DeSantis表示，這有賴於第三項創新技術突破，也就是減少時鐘誤差範圍（Reducing Clock Error Bounds）。分散式運算系統的資料同步需要仰賴同步計時，他指出主要的三種作法，分別為Wall Clock（現實世界時間）、Logical Clock（邏輯時間）與單一TimeKeeper伺服器，其中Wall Clock方式會因不同時鐘的差異而導致計時同步不可靠。</p> <p>為了提供準確的同步計時，AWS在2017年推出Amazon Time Sync Service，結合衛星通訊與原子鐘參照，提供與世界協調時間（UTC）誤差僅1毫秒（millisecond）的同步計時。但是，DeSantis指出，時間誤差1毫秒代表著總延遲時間是2毫秒，亦即每秒500次交易的延遲速度，而這對於快取的同步來說太慢了。為此，AWS以Nitro網路加速晶片為基礎設計一個分散式計時網路，並搭配備援電力模組與原子鐘，安裝在一個標準48U機櫃，終於將同步計時誤差由毫秒縮短至微秒（microsecond）等級，其ElastiCache Serverless p50的延遲僅500微秒，並可支援最大5TB記憶體容量。</p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/IMG_0427%20(1)(1).png" style="width: 700px; height: 325px;" /></p> <p>至於在2021年推出的資料庫倉儲服務無伺服器版本Redshift Serverless，也有更進一步的精進。DeSantis表示，資料庫倉儲不只是要應付資料量，也得因應運算任務多樣化的需求。Redshift Serverless是由請求管理（Request Management）系統來判斷實體主機的負荷量，如果有運算需求較大的ETL（Extract, Transform, Load）任務產生，若既有的主機無法承擔，請求管理系統就會將其分配到新的主機，但若既有的主機可以承擔，雖然該ETL任務可以分配到既有主機，但由於運算需求大，完成運算的時間較久，也會因此牽累該主機的其他運算任務，導致時間拖延。</p> <p>為了解決Redshift Serverless上述問題，AWS在請求管理系統導入機器學習預測功能，DeSantis指出，其實資料分析任務有80%是雷同的，因此先以機器學習建立好這80%任務的模型，將其內建在請求管理系統的快取，加速其快速分析任務類型，同時，有另一個模型用來學習屬於各別企業組織慣用習慣的另外20%任務，讓請求管理層可以在接到任務時分析與預測其類型，據以分配合適的運算資源。而有了這項AI功能後，Amazon Redshift Serverless Next-generation AI-driven scaling and optimizations也提供用戶自行設定機器學習的政策，以在資料分析運算時間與運算成本之間有所取捨。</p> <p><img alt="" src="https://s4.itho.me/sites/default/files/images/IMG_0543%20(1)(1).png" style="width: 700px; height: 454px;" /></p> <p>此外，AWS歷年來皆會利用re:Invent的首日晚間主題演講發表其在硬體晶片的著墨，今年也不例外，DeSantis首度公開發表新的量子晶片，他表示，Aamzon量子運算團隊在量子糾錯有重大的進展，以邏輯量子位元的方式，將位元翻轉（Bit-flip）與相位翻譯（Phase-flip）錯誤分開，DeSantis指出，藉由被動糾錯方法，已可將錯誤率降低100倍，達到0.1%，亦即千分之一的錯誤率，而硬體過熱也預期可減少6倍。不過，他也說，雖然新晶片在量子糾錯方面有重大的進展，但現在尚於量子運算發展非常早期的階段。</p> <p>Amazon ElastiCache Serverless目前已可提供服務，Amazon Aurora Limitless Database與Amazon Redshift Serverless Next-generation AI-driven scaling and optimizations則提供預覽。</p> </div></div></div>
2023/11/29 06:18作者吳其勳https://www.ithome.com.tw/news/160059