近年來因為深偽技術「Deepfake」的氾濫造成許多問題,也有惡意人士利用「Deepfake」進行非法活動。例如,去年知名台灣Youtuber小玉被爆利用「Deepfake」牟利千萬,如今遭起訴。為了防止「Deepfake」繼續擴散,多家科技公司計劃擬定標準,要求顯示竄改資訊。
深偽技術「Deepfake」是一種結合人工智慧和圖像合成的技術。此技術可以將圖像、影片等媒材疊加在別的圖像或影片當中。因為「Deepfake」技術現在已經相當成熟,大部分被有心人士利用在色情影片和復仇性媒體,透過此項技術賺取利潤。多數社交媒體平台已經禁止「Deepfake」的使用,阻止技術擴散。
橫跨軟體、晶片、社群媒體等科技公司組成「內容來源和真實性聯盟」(C2PA),Adobe、BBC、英特爾、推特等公司都是此聯盟的成員。根據《日經新聞》報導,C2PA計劃擬定一個新的通用標準打擊「Deepfake」,避免更多受害者被有心人士利用。C2PA希望未來只要是竄改、後製或編輯過的資訊都要公開透明化,驗證影片或圖片的真實性。
「Deepfake」的出現導致網路上流傳更多假新聞。為了打擊假新聞的氾濫,C2PA制定「顯示竄改資訊」的通用標準。像是烏克蘭總統澤倫斯基向俄羅斯投降的影片,就是利用「Deepfake」做的假影片。