近日，中國內蒙包頭市警方發布了一起利用人工智能（AI）實施詐騙的典型案例，福州市某科技公司法人代表郭先生 10 分鐘內被騙人民幣 430 萬元（約合台幣 1,800 百萬）。
事發於 4 月 20 日中午，郭先生的好友突然通過微信視頻聯系他，自己的朋友在外地競標，需要 430 萬的保證金，且需要公對公賬戶過賬，想要借郭先生公司的賬戶走賬。基於對好友的信任，加上已經視訊聊天核實了身份，郭先生沒有核實錢款是否到賬，就分兩筆把 430 萬轉到了好友朋友的銀行卡上。待郭先生後續撥打好友電話，才知道被騙。騙子通過智能 AI 換臉和擬聲技術，佯裝好友對他實施了詐騙。
值得注意的是，騙子並沒有使用一個仿真的好友微信添加郭先生為好友，而是直接用好友微信發起視訊聊天，這也是郭先生被騙的原因之一。騙子極有可能通過技術手段盜用了郭先生好友的微信。
在接到報警後，福州、包頭兩地警銀迅速啟動止付機制，成功止付攔截 336.84 萬元，但仍有 93.16 萬元（約合台幣四百萬）被轉移，目前正在全力追繳中。
現在使用 Deepfake（深偽技術）技術「換臉」已成為騙徒詐騙新手法。中國清華大學人工智能研究院基礎理論研究中心主任朱軍坦言，公眾對照片等易被篡改的靜態信息已有所警惕，但仍較為信任短片、聲音等動態信息內容，深度合成技術飛速演進，「眼見不再為實」，破解身份驗證的難度將愈來愈低、耗時愈來愈短。
專家擔心儘管針對深度合成技術的識別技術不斷迭代、檢測手段持續增強，但依然未能跑贏「偽造」技術升級的速度。特此提醒，民眾要提高防範意識，不要輕易提供人臉、指紋等個人生物信息給他人，也不要過度公開或分享動圖、短片等；網絡轉帳前要透過電話、視像等多種溝通方式驗證對方身份，一旦發現風險，及時報警求助。
