有研究發現，俄羅斯利用 AI 生成假影片試圖干預美國期中選舉。近期社群平台 X 出現大量冒用知名媒體名義發布的影片，不僅利用 AI 偽造好萊塢明星批評民主黨的畫面，還散播民主黨候選人貪汙、性侵等不實指控。這些影片的觀看次數動輒數萬至數十萬次，原來是來自大批人頭帳號「灌水」，刻意營造假消息廣受關注的假象。
《雪梨晨鋒報》（The Sydney Morning Herald） 報導，這場由俄羅斯官方支持的假訊息行動，被研究人員稱為「俄羅斯套娃行動」（Operation Matryoshka）。幕後操作者透過 AI 產出大量造謠美國民主黨的虛假影片，再利用社群平台上的機器人帳號廣傳，試圖影響美國期中選舉選情。
九月初，X 上開始出現一系列 AI 合成影片。畫面裡，好萊塢影星勞勃狄尼洛、茱莉亞羅勃茲都公開批評民主黨，部分影片甚至號召民眾加入「所有民主黨人都是罪犯」（#AllDemocratsAreCriminals）的網路話題活動。
除了冒用名人身分，這些影片也假扮成美國主流媒體，讓假訊息看起來像真實的新聞資訊。例如，網路流傳一段影片，掛著美國廣播公司（ABC News）的標誌，聲稱德州民主黨參議員候選人曾付費訂閱成人平台 OnlyFans 的模特；另一段影片冒用哥倫比亞廣播公司（CBS News）名義，指控美國國稅局發現喬治亞州民主黨參議員奧索夫持有八處未申報房產。
《彭博社》調查「俄羅斯套娃行動」的組織網路，發現這波行動的攻擊範圍相當廣泛，涵蓋全美多場選舉，包括 36 名州長候選人中的 29 名民主黨人，以及 35 名參議員候選人中的 20 名民主黨人。
研究人員指出，相較於過去挑撥不同政治陣營對立的手段，俄羅斯這次的假訊息行動更加集中攻擊民主黨，因為民主黨更傾向支持烏克蘭。俄羅斯早在 2016 年美國總統大選期間就曾透過社群媒體干預美國選舉，透過加深美國社會政治分歧、削弱民眾對選舉制度的信任，打擊民主黨總統候選人希拉蕊（Hillary Clinton）的聲勢。
更令人震驚的是，這些虛假影片的觀看次數都出現反常的暴增。長期追蹤俄羅斯網路活動的研究組織 Antibot4Navalny 發現，部分虛假影片發布不到一小時，觀看次數就飆升到 20 萬次，但隨後迅速停滯。
研究人員認為，這些影片的觀看次數很可能是由機器人帳號刻意灌水，實際上並沒有那麼多人關注。
除此之外，研究發現，「俄羅斯套娃行動」具有一套固定的運作模式。會在每天固定時段散播5 至 10 則時長一分鐘內的假訊息短影音，透過剪輯和字體編造成聳動的新聞。
此外，幕後操作者還會刻意標記主流媒體的社群帳號，甚至大量寄信給事實查核機構，要求它們調查這些不實指控，試圖誘使媒體或查核組織報導，進一步擴大假消息的曝光度。
這也是「俄羅斯套娃」的取名由來。前一天散布假訊息的帳號，隔天又會編造出新的故事，就像俄羅斯套娃一樣，一層接著一層，不斷製造新的資訊。
《雪梨晨鋒報》報導，「俄羅斯套娃行動」最早可追溯到 2023 年九月，當時主要透過散播不實訊息，削弱西方國家對烏克蘭的支持。不過，隨著美國期中選舉接近，火力轉向攻擊民主黨候選人。
面對源源不絕的假訊息攻擊，X 也採取行動。約有 80% 參與行動的假帳號已被停權。但研究人員指出，即使舊帳號遭到封鎖，新的帳號仍會不斷出現，讓這場假訊息攻防戰難以徹底結束。
假訊息介選的問題在 AI 的推波助瀾下更為棘手。《雪梨晨鋒報》報導，隨著生成式 AI 技術發展，製作假影片的成本越來越低、速度也越來越快。俄羅斯不必投入大量人力就能持續製造新的虛假故事，再透過機器人帳號大量散播，讓社群平台充斥真假難辨的資訊。