隨著 AI 的發展，換臉等 Deepfake 深度偽造技術越來越發達，之前我們就寫過許多藝人的形象遭深度偽造，被濫用在廣告上的報導。不過現在深度偽造已經不只限於藝人的形象了，香港一名跨國公司的財務人員被深度偽造技術欺騙，將公司的 2500 萬美金轉給了詐騙集團。
眼見不一定為憑！國外財務人員遭 DeepFake 欺騙 將公司 2500 萬美金轉給詐騙集團
根據外媒報導，香港一間跨國公司的財務人員收到一封來自該跨國公司位於英國的財務長的訊息，郵件內容提到需要進行一項秘密交易，本來該員工有警覺認為是詐騙郵件。不過後來他參加了視訊會議後，發現會議裡的人有他認識的同事們，所以放下警惕並同意匯出總共 2 億港幣(約 2500 萬美金)的金額。該財務人員透過 15 筆轉賬將 2 億港幣分別轉入多個香港銀行帳戶。
該名財務人員更是在視訊會議發生的一週後聯繫跨國公司總部核對的時候才發現出了問題。目前香港警方沒有透露任何有關被騙 2500 萬美金的公司或員工名稱的詳細資料。不過根據報導該名員工因為視訊會議上的其他人長相、聲音都很像他認識的同事，理所當然認為其他的人也都是真人，因此他才同意匯出那麼多錢。但最後經驗證，視訊會議裡的「所有人」都是使用深度偽造技術所製作的。估計詐騙集團是使用公開的視訊和聲音片段來製作了視訊會議中 ” 所有 ” 參與者們的深度偽造品，所以只要你的形象和聲音出現在網路上，你就有可以被深度偽造。這也是現在 AI 深度偽造技術可怕的地方，不管是聲音還是長相都可以偽裝的出來，就算那些人並不是你真正的同事們，你可以都不會知道。
香港警方在週五的記者會上表示這起 2500 萬美金詐騙案件疑似為近期多起詐騙集團利用深度偽造技術修改公開影片騙財的事件之一。目前已經逮捕 6 位涉及此類詐騙案的嫌犯。警方更表示有 8 張在香港被登記遺失的身分證在去年 7 月 ~ 9 月間被用來辦理了 90 份貸款申請和 54 個銀行帳戶註冊，其中至少 20 次是利用 AI 深度偽造技術模仿身分證上的人物形象來欺騙面部辨識系統，這也讓各國當局越來越擔心深度偽造技術的精細程度以及未來被用在不法用途的更多可能性。