晚近深偽(deepfake)科技已經日益以假亂真,不僅能夠在俄軍入侵時變造澤倫斯基在電視上發表談話要烏克蘭軍民停止抵抗,也能用假主播在假媒體上播報假訊息。路透社(Reuters)報導,華為、阿里巴巴等百餘家中國企業已經向中華人民共和國國家互聯網信息辦公室 (CAC)提出申請,要求批准他們發展可用於操縱視覺和音頻數據的模型。
報導指出,中國國家互聯網信息辦公室 於去年12 月制定的深度偽造技術使用規則,本月1日公佈的申請案達110份。
報導指出,針對申請開發深偽技術的審批程序,與對尋求推出生成人工智能 (AI) 產品的中國科技公司的監管是分開的。後者包含百度和商湯科技等5家中國科技公司8月30日在獲得政府批准後向公眾推出了人工智能聊天機器人。
不同於聊天機器人根據用戶的提示生成全新的文本、圖像和音頻,深度造假使用人工智能技術生成與原始數據幾乎無法區分的視覺和音頻數據,並且很容易被用於操縱或提供假訊息。
中國發展深偽科技早已引起國際注意。社交媒體分析公司Graphika於2月7日便曾發表題為《深偽直到你辦到:親中國行動者在網路影響力行動中推廣 AI 生成的虛構人物影像片段》的報告,揭露一個名為 《狼新聞》(Wolf News)的虛構新聞媒體以AI深偽2個主播,播報親中國共產黨、貶抑美國的相關報導。