近年來，人工智慧( AI )產業蓬勃發展，不斷擴大的應用範圍也讓相關技術徹底進入了人們的日常生活之中。然而，近期有美國媒體報導稱，在 AI 技術變的日漸普及的情況下，相關技術已經被廣泛用於創造真偽難辨的假新聞，大幅影響了民眾獲取資訊的可靠性。針對 AI 偽造資訊可能帶來的威脅，專家呼籲民眾應從可靠的媒體或新聞獲取真實資訊，並對網路上流傳的消息抱持著較高的警惕以免受騙。
根據美國《有線電視新聞網》報導，自從俄羅斯在 2022 年針對烏克蘭發起入侵戰爭以來，越來越多與俄烏戰爭相關的虛假資訊在各大社群平台上流傳。但由於相關資訊基本上都是經過 PS 的偽造圖片，或是從遊戲、電影、過去的其他事件或不相關的新聞報導中擷取的資料，一般民眾也能輕鬆地辨別資訊的真偽。
全站首選：全球軍力人數榜 ! 「它」203萬居首、美只排第三、「這國」預備役竟達500萬...
然而，在 AI 技術持續發展並廣泛應用的今天，利用 AI 生成虛假資訊的比例大幅提升。加州大學柏克萊分校教授哈尼．法里德 ( Hany Farid ) 稱，「十年前，市面上可能只存在一、兩個假新聞，且很快就會被揭穿；但現在網路上可能流傳成百上千個假新聞，甚至一個比一個還要逼真，並可能對部分政府單位的決策造成影響。它們不僅逼真，傳播範圍也遠比人們想得更加廣泛」。
針對 AI 偽造假新聞日漸氾濫的問題，《英國廣播公司》( BBC ) 的高級記者、戰爭相關虛假訊息揭露員沙揚．薩達里扎德 ( Shayan Sardarizadeh ) 在接受美國《有線電視新聞網》( CNN ) 專訪時表示，在過去一年的時間內，生成式 AI 變得更加普及，「人們可以透過相關技術製作出非常逼真的影片或照片，傳遞錯誤的戰爭相關資訊，且未經訓練的人幾乎無法用肉眼識別出來」。
該報導指出，雖然包含薩達里扎德在內的專家們每天都在努力闢謠，但假新聞的更新速度卻快得令專家們難以應對。且由於假資訊無法被徹底撲滅，部分社群媒體平台的營運公司也放棄了對相關內容進行審核的想法，進一步助長了虛假消息的擴散。
當前熱搜：WBC美國隊史上最大爆冷輸義大利！與台灣一起上數學課 墨義戰控分就能把美淘汰
該報導以 X 為例，稱 X 公司產品負責人尼基塔．比爾 ( Nikita Bier ) 曾於上周發布聲明，宣稱將針對傳播未經授權 AI 生成戰爭影片，且未披露相關影片由 AI 資訊的內容創作者實施停止付費 90 天的懲罰，並可能針對屢次違規的用戶實施永久性的封禁。然而，法里德指出，大多數傳播假資訊的創作者並未參與 X 的付費方案，「 X 旗下的 AI 語言模型 Grok 甚至可能向尋求事實核查的用戶傳遞虛假資訊，誤導用戶的認知」。
法里德總結認為，獲取準確資訊的最佳且唯一途徑，就是透過可信賴的新聞媒體接觸新資訊，「尤其是在全球衝突時期，社群媒體上『隨機帳號』發布的貼文，並不是一個獲取資訊的好地方」。另外，法里德也呼籲民眾在瀏覽社群媒體時提高警覺，「那怕只花幾秒鐘的時間進行搜索，也可能找出虛假資訊內容中存在的破綻」。
薩達里扎德也表示，民眾應該培養對 AI 生成內容的敏銳度，盡可能地自行分辨、排除社群媒體上流傳的假資訊。但薩達里扎德也坦承，在 AI 技術不斷發展的現在，辨別 AI 生成內容的難度也不斷提升，「辨別 AI 資訊的難度只會隨著時間經過持續提升，未來人們將更難以分辨 AI 偽造的假資訊」。
部分消息甚至宣稱美軍派遣營救部隊，準備救出被伊朗俘虜的三角洲特種部隊士兵。 圖：翻攝自 @EastAfricaGov X 帳號
甚至有有心人士利用 AI 技術，生成了「伊朗軍隊俘虜美軍三角洲特種部隊」的虛假照片。 圖：翻攝自 @AFGDefense X 帳號
