你接到的老闆電話可能並不是真的,而是 AI 的新詐騙
<a href="https://www.ifanr.com/977830">還記得去年在色情行業掀起一陣風暴的 Deepfakes 嗎</a>,透過 AI 神經網路和演員的照片,反覆進行機器學習之後,就能讓 AI 自動辨識和替換掉影片裡某人的臉部資料。<aside></aside> <aside></aside> <article> <p>後來 bilibili 也掀起了一陣「萬物皆可徐錦江」的熱潮,比如雷神和海王,乃至很多的經典電影的片段都出現了徐錦江的臉,甚至其中還包括《新白娘子傳奇》裡的白素貞。</p> <p><img style="display: block; margin-left: auto; margin-right: auto;" src="https://s3.ifanr.com/wp-content/uploads/2019/07/WechatIMG277.png!720" sizes="(max-width: 870px) 100vw, 870px" srcset="https://s3.ifanr.com/wp-content/uploads/2019/07/WechatIMG277.png!720 870w, https://s3.ifanr.com/wp-content/uploads/2019/07/WechatIMG277-360x220.png 360w, https://s3.ifanr.com/wp-content/uploads/2019/07/WechatIMG277-768x469.png 768w" alt="你接到的老闆電話可能並不是真的,而是 AI 的新詐騙" width="600" height="366"><label class="caption" style="width: 600px; display: block; text-align: left; color: #555; line-height: 22px; padding: 0 3px 22px 3px; border-bottom: 2px solid #f0f0f0; margin: 5px auto 1rem auto;"><span style="color: #2382c5; padding-right: 5px;"> ▲ </span> AI 換臉徐錦江. 圖片來源:<a href="https://www.bilibili.com/video/av53924101?from=search&amp;seid=5431271053915405624">Bilibili</a></label></p> <p>這一次花式操作確實秀,也讓更多人瞭解了什麼是 Deepfakes 和 AI 換臉。</p> <p>現在,「Deepfakes」已經泛指那些被人工智慧改變過的媒體內容,只要是某人沒有做過的事被 AI 做出來都可以認為是 Deepfakes,而且不止是影片,音訊同樣也可以透過 AI 來偽造。</p> <p><img style="display: block; margin-left: auto; margin-right: auto;" src="https://s3.ifanr.com/wp-content/uploads/2019/07/WechatIMG276.png!720" sizes="(max-width: 773px) 100vw, 773px" srcset="https://s3.ifanr.com/wp-content/uploads/2019/07/WechatIMG276.png!720 773w, https://s3.ifanr.com/wp-content/uploads/2019/07/WechatIMG276-360x202.png 360w, https://s3.ifanr.com/wp-content/uploads/2019/07/WechatIMG276-768x431.png 768w" alt="你接到的老闆電話可能並不是真的,而是 AI 的新詐騙" width="600" height="337"><label class="caption" style="width: 600px; display: block; text-align: left; color: #555; line-height: 22px; padding: 0 3px 22px 3px; border-bottom: 2px solid #f0f0f0; margin: 5px auto 1rem auto;"><span style="color: #2382c5; padding-right: 5px;"> ▲ </span> 圖片來源:<a href="https://www.axios.com/the-coming-deepfakes-threat-to-businesses-308432e8-f1d8-465e-b628-07498a7c1e2a.html">axios</a></label></p> <p>但現在 Deepfakes 正在從過去的色情範圍進一步擴大到了犯罪的世界,現在有一些犯罪分子使用 Deepfakes 來冒充公司的高層進行詐騙,目前他們使用的是 Deepfakes 的音訊而非影片來進行詐騙。</p> <p>相關的技術其實早已經有所應用,比如網路上那些偽造的 Trump 講話,這一段喬登·皮爾「配音」的歐巴馬演講也堪稱經典案例。</p> <p><img style="display: block; margin-left: auto; margin-right: auto;" src="https://s3.ifanr.com/wp-content/uploads/2019/07/560393205.jpeg!720" sizes="(max-width: 720px) 100vw, 720px" srcset="https://s3.ifanr.com/wp-content/uploads/2019/07/560393205.jpeg!720 720w, https://s3.ifanr.com/wp-content/uploads/2019/07/560393205-360x203.jpeg 360w" alt="你接到的老闆電話可能並不是真的,而是 AI 的新詐騙" width="600" height="338"></p> <p>作為一家網路安全公司,賽門鐵克表示已經發生了至少三起對私營企業成功的聲音詐騙,都是將自己偽裝成 CEO 的聲音要求財務進行緊急匯款。</p> <p>當然,犯罪分子也為此做了很多訓練,用人工智慧偽裝聲音不必多說,他們還透過電話、Youtube 影片和 TED 演講影片來模仿該公司 CEO 說話習慣,在進行數小時的演練和計畫之後才會實施。</p> <p><img style="display: block; margin-left: auto; margin-right: auto;" src="https://s3.ifanr.com/wp-content/uploads/2019/07/poster-deepfake-business-threat.jpg!720" sizes="(max-width: 937px) 100vw, 937px" srcset="https://s3.ifanr.com/wp-content/uploads/2019/07/poster-deepfake-business-threat.jpg!720 937w, https://s3.ifanr.com/wp-content/uploads/2019/07/poster-deepfake-business-threat-360x202.jpg 360w, https://s3.ifanr.com/wp-content/uploads/2019/07/poster-deepfake-business-threat-768x432.jpg 768w" alt="你接到的老闆電話可能並不是真的,而是 AI 的新詐騙" width="600" height="337"><label class="caption" style="width: 600px; display: block; text-align: left; color: #555; line-height: 22px; padding: 0 3px 22px 3px; border-bottom: 2px solid #f0f0f0; margin: 5px auto 1rem auto;"><span style="color: #2382c5; padding-right: 5px;"> ▲ </span> 圖片來源:<a href="https://www.fastcompany.com/90379001/criminals-are-using-deepfakes-to-impersonate-ceos">fastcompany</a></label></p> <p>這三起詐騙讓每家公司都損失了數百萬美元,但公司的名稱目前並沒有被揭露,<a href="https://www.bbc.com/news/technology-48908736">BBC 最先報導了這些攻擊事件。</a></p> <p>顯然,Deepfakes 對企業的威脅是確實存在的,尤其是在已經有三起成功案例之後。但目前這樣的運用方法仍然只是「小兒科」的簡單手法,真正令人害怕的是這樣技術能用於更大的破壞。比如你想要拉低蘋果公司的股價怎麼辦,只要一份刻意偽造的音訊剪輯,並放出一些類似庫克私人談話等不利訊息,蘋果的股價恐怕很容易就能蒸發數十億美元。</p> <p><img style="display: block; margin-left: auto; margin-right: auto;" src="https://s3.ifanr.com/wp-content/uploads/2019/07/deepfakefeattt-800x420.jpg!720" sizes="(max-width: 800px) 100vw, 800px" srcset="https://s3.ifanr.com/wp-content/uploads/2019/07/deepfakefeattt-800x420.jpg!720 800w, https://s3.ifanr.com/wp-content/uploads/2019/07/deepfakefeattt-800x420-360x189.jpg 360w, https://s3.ifanr.com/wp-content/uploads/2019/07/deepfakefeattt-800x420-768x403.jpg 768w" alt="你接到的老闆電話可能並不是真的,而是 AI 的新詐騙" width="600" height="315"><label class="caption" style="width: 600px; display: block; text-align: left; color: #555; line-height: 22px; padding: 0 3px 22px 3px; border-bottom: 2px solid #f0f0f0; margin: 5px auto 1rem auto;"><span style="color: #2382c5; padding-right: 5px;"> ▲ </span> 圖片來源:<a tabindex="0" href="https://petapixel.com/2019/06/12/these-deepfakes-of-famous-people-are-testing-facebooks-policies/" target="_blank" rel="noopener" data-noload="" data-ved="2ahUKEwi_qPrs-cfjAhXPdHAKHYrPC5gQjB16BAgBEAQ"><span dir="ltr">PetaPixel</span></a></label></p> <p>然而目前並沒有非常好的方式去監測這些造假音訊,因為技術的越發成熟,這些 Deepfakes 的音影片製作正在變得越來越容易,同時破綻也越來越少。但絕大多數企業都對此沒有準備。</p> <p>更糟糕的是,從行業上說,對於 AI 造假的媒體來說,目前來看尚沒有高效的檢測和抵禦解決方案。</p> <p>技術方面,賽門鐵克表示他們正在開發檢測音訊造假的技術。購買第三方公司服務的話也同樣不便宜,New Knowledge 是一家幫助公司抵禦虛假訊息的公司,但它們的服務費用可能從 5 萬到數百萬美元不等。</p> <p>而最讓人頭疼的是,當這些 AI 造假的影片被揭穿時,通常損失已經造成了。</p> <ul> <li>本文授權轉載自:<a href="https://www.ifanr.com/1238917">ifanr</a> </li> </ul> </article><a href="https://www.facebook.com/TKbang">加入T客邦Facebook粉絲團</a><img src="http://feeds.feedburner.com/~r/techbang/~4/2Z-eN_3Uc_k" height="1" width="1" alt=""/>