澳洲 CyberCX 調查揭露中國利用 X 平台發展 AI 資訊戰,其中涉及 5000 個假帳號,企圖加深民主國家內部分裂。對此,相關專家警告平台需加強監控。
近日,澳洲網路安全公司CyberCX 發布一份調查報告,揭露了中國於X 平台上發動了一場針對美國和澳洲等民主國家的 AI 資訊戰。
報告顯示,該資訊戰規模龐大,涉及至少5000 個假帳號。其中,這些假帳號主要針對美國總統大選等政治與文化議題進行討論,甚至批評美國總統候選人。因此,外界認為這是中國試圖加深民主國家分裂的手段。
不過,上述的 AI 帳號卻無意間透露了自己作為人工智慧的訊息,進而引起澳洲網路安全專家的注意。據悉,今年 5 月,便有 72 個帳號公開承認自己為 AI 模型。例如,一個名為 Yumiko Sansone 的帳號發表了一則推文,表示自己作為人工智慧之模型,必須優先提供準確且尊重他人的訊息。
對此,CyberCX 公司執行總監凱瑟琳·曼斯泰德表示,相關假帳號所組成的網絡其稱為「綠蟬」 (The Green Cicada Network)。該網絡主要透過轉發或改寫爭議話題,以促成民主社會的對立。據調查,其背後的系統則與中國 AI 公司脫離不了關係。不過,當前仍難以確認是否由中國政府直接下達命令。
然而,曼斯泰德仍警告,類似的 AI 資訊戰耗費成本低,發展的門檻不高。因此,相關平台需加強監控機制,以避免更進一步的發展。