近日,中國內蒙包頭市警方發布了一起利用人工智能(AI)實施詐騙的典型案例,福州市某科技公司法人代表郭先生 10 分鐘內被騙人民幣 430 萬元(約合台幣 1,800 百萬)。

事發於 4 月 20 日中午,郭先生的好友突然通過微信視頻聯系他,自己的朋友在外地競標,需要 430 萬的保證金,且需要公對公賬戶過賬,想要借郭先生公司的賬戶走賬。基於對好友的信任,加上已經視訊聊天核實了身份,郭先生沒有核實錢款是否到賬,就分兩筆把 430 萬轉到了好友朋友的銀行卡上。待郭先生後續撥打好友電話,才知道被騙。騙子通過智能 AI 換臉擬聲技術,佯裝好友對他實施了詐騙。

值得注意的是,騙子並沒有使用一個仿真的好友微信添加郭先生為好友,而是直接用好友微信發起視訊聊天,這也是郭先生被騙的原因之一。騙子極有可能通過技術手段盜用了郭先生好友的微信。

在接到報警後,福州、包頭兩地警銀迅速啟動止付機制,成功止付攔截 336.84 萬元,但仍有 93.16 萬元(約合台幣四百萬)被轉移,目前正在全力追繳中。

現在使用 Deepfake(深偽技術)技術「換臉」已成為騙徒詐騙新手法。中國清華大學人工智能研究院基礎理論研究中心主任朱軍坦言,公眾對照片等易被篡改的靜態信息已有所警惕,但仍較為信任短片、聲音等動態信息內容,深度合成技術飛速演進,「眼見不再為實」,破解身份驗證的難度將愈來愈低、耗時愈來愈短。

專家擔心儘管針對深度合成技術的識別技術不斷迭代、檢測手段持續增強,但依然未能跑贏「偽造」技術升級的速度。特此提醒,民眾要提高防範意識,不要輕易提供人臉、指紋等個人生物信息給他人,也不要過度公開或分享動圖、短片等;網絡轉帳前要透過電話、視像等多種溝通方式驗證對方身份,一旦發現風險,及時報警求助。