隨著AI技術的發達，世人越來越倚賴這種智能來搜尋資料，也讓有心人更容易散播刻意造假的資訊（disinformation）。《每日新聞》稍早刊登1篇分析報導，指出俄羅斯等國正在利用人工智慧打認知戰，而西方國家則紛紛加強媒體識讀教育。
報導指出，致力於監控虛假新聞的烏克蘭非政府組織StopFake人士德尼琴科（Ruslan Deinichenko）指出，「俄羅斯正以人工智慧代理為目標，傳播自身的思維方式和敘事。」
芬蘭研究公司CheckFirst和其他機構的分析顯示，俄羅斯組織首先建立大量名為「真理網絡」（Pravda Network）的假新聞網站，這些網站使用多種語言，然後在這些網站上發布大量炮製的宣傳和虛假新聞。
人工智慧系統「爬取」各種網站以學習數據並在線獲取資訊來回答問題，在此過程中，它們被灌輸了虛假資訊。這種技術稱為「LLM（邏輯推理模型）引導」。
美國智庫大西洋理事會的數位鑑識實驗室（DFRLab）於2025年發布了一份關於「真理網絡」（Pravda Network）的報告。報告的合著者之一、比利時研究員萊斯普朗加德（Amaury Lesprangard）指出：「尤其是在被稱為『數據空白』的領域（電視和報紙等新聞機構尚未報導的領域）被篡改的信息更有可能被納入聊天機器人的回復和搜索結果中。旨在操縱信息的勢力正是瞄準了這些空白領域。」
根據DFRLab和其他機構的研究，2025年，在44種語言的維基百科中發現了1907個指向「真理網路」相關網站的連結。萊斯普朗加德指出：「當沒有其他信息來源時，一些用戶在維基百科上撰寫內容時會參考『真理網絡』。維基百科已成為聊天機器人的主要信息來源，這會影響它們的回復和搜索結果。」
然而，監管此類「資訊傳播」本身就存在限制言論自由的風險。 2024年，美國國會拒絕延長國務院全球參與中心（GEC）的運作期限，該中心負責打擊假訊息和宣傳，最後GEC被關閉。此舉的背景是共和黨議員的批評，他們認為這「侵犯了言論自由」。
2025年1月，經營Facebook和Instagram等社群網站的美國公司Meta取消了在美國的「事實查核」功能，轉而採用「社群評論」系統，允許其他用戶對不實資訊進行註釋、更正或補充。 Meta聲稱此舉是為了“恢復言論自由”，但有些人認為這是出於對川普政府的迎合。
另一方面，雖然X（Twitter）也使用了社群評論系統一段時間，但其限制也已被指出。 「StopFake」組織的迪尼琴科表達了擔憂，他說：「社群筆記中的貼文有時會引用維基百科。如果維基百科上出現了錯誤信息，那麼它就有可能通過社區筆記被當作事實傳播。」
日本資訊經濟社會促進協會（JIPDEC）常務理事坂下哲也指出了另一個擔憂：「即使發布了正確的註釋，如果該註釋下有大量『無用』的評論，該註釋也可能消失。少數惡意評論者就可能使一些有用的註釋難以顯示。」這引發了人們對事實準確性無法得到保證的環境不斷擴大的擔憂。
報導指出，錯誤訊息的傳播部分原因是人們越來越傾向於使用社交媒體上來源不明的貼文作為「來源」。由路透新聞研究所和牛津大學聯合發布的2026年版《數位新聞報告》顯示，自2015年這項調查啟動以來，社群媒體和影音網絡首次超越報紙和電視等傳統媒體，成為人們獲取新聞的主要管道。此外，聊天機器人的使用也日益普及，尤其是在年輕人之間。
比利時研究員萊斯普朗加德指出，「人工智慧搜尋的風險在於，許多用戶會將搜尋結果視為權威訊息，而不再核實資訊的真實來源。」此外，「停止虛假資訊」（Stop Fake）組織的戴尼琴科表示，「在使用社群媒體和其他資訊來源時，人們很難分辨資訊的傳播者和風險是這種對假訊息所在的脆弱性正導致假資訊所在。
一個可能的解決方案是透過教育來提高大眾的媒體識讀能力。芬蘭作為一個長期遭受俄羅斯宣傳攻擊的北歐國家，尤其重視這個問題。近年來，隨著人們對安全環境惡化（包括俄羅斯的軍事擴張）的擔憂日益加劇，芬蘭面臨來自俄羅斯的社群媒體貼文數量激增的問題，這些貼文煽動反移民和反歐盟情緒。
為了因應這種宣傳，芬蘭政府從三歲起，也就是入學前，就開始讓兒童熟悉網路環境，並在小學及以上階段進行識別虛假資訊的培訓。學校與事實查核機構合作，培訓學生核實社群媒體貼文的來源和來源，並與其他來源進行交叉比對。該課程還將教授如何識別利用人工智慧精心製作的虛假新聞圖片和視頻，以及冒充西方主流媒體的網站。
在日本，計畫從2018年開始實施的下一階段課程指南旨在擴大媒體素養教育的範圍，目前相關討論仍在進行中。鑑於東亞認知戰不斷升級的跡象，必須認識到提高媒體素養作為國家安全的重要組成部分的重要性。