在數位極權主義(Digital Authoritarianism)日益盛行的時代,人工智慧(AI)已不再只是技術革命的工具,而是成為最有力的政治武器之一。對極權政權而言,控制言論一直是維繫統治的核心要素,而 AI 的發展則讓這種控制變得前所未有地精確、高效且難以察覺。最近,一名 Reddit 用戶對 DeepSeek AI 進行的測試揭示了一種新的審查模式:AI 不再只是拒絕回答,而是先生成內容,隨後由監控機制覆蓋並刪除不符合官方敘事的回應。這一現象並非單一案例,而是極權國家如何運用 AI 監管言論的縮影,它展示了人工智慧如何成為數位極權體制中的核心工具,並預示了一個更加嚴密、難以逃避的監控未來。
在過去,極權國家的言論管控主要依賴於人力審查與傳統媒體的壟斷,這種方式雖然有效,但難以應對當前的數字化社會。在社交媒體與即時通訊軟體的時代,人民擁有比以往更多的管道來交換訊息、組織行動與挑戰官方敘事。這迫使極權國家必須尋找一種更強大、更具適應性的技術來維持資訊控制,而 AI 正好填補了這一需求。AI 監控技術的最大特點在於它的「無形性」——不同於以往封鎖網站或關閉新聞機構的明顯壓制,AI 能夠讓監控變得流暢且不易察覺,進而讓人民在不知不覺中接受政府的敘事,甚至產生一種「這些問題從未存在」的錯覺。
DeepSeek 的審查機制展現了一種值得深思的模式:當用戶詢問某些政治敏感問題時,AI 並非立即拒絕回答,而是先提供一個初步的、看似開放的回應,但隨後這段內容迅速被覆蓋,變成「這超出了我的範圍」之類的標準化回應。這與西方 AI 公司的內容限制方式有所不同——ChatGPT 或 Google Gemini 在面對敏感問題時,通常會選擇一開始就拒絕回答,而非先提供內容後再覆蓋。DeepSeek 的方式則顯示,它的基礎 AI 其實仍然具備完整的資訊存取能力,但有一個獨立的監管系統在其輸出層進行篩選與刪改。這意味著,極權政府已經不滿足於傳統的內容審查,而是進一步發展出一種更精密、更有欺騙性的 AI 監管技術,使人民誤以為 AI 仍然是客觀的知識來源,卻在潛移默化中接受了被過濾過的資訊。
這種模式與極權國家其他的數位監控機制形成了一種相互補強的系統。在 AI 言論控制之外,社會信用系統、網路監聽與深度偽造(Deepfake)等技術都正在被用來構建一個全方位的數字極權體制。在這樣的環境下,人民的行為、思想與社交關係不僅被監視,甚至能夠被 AI 精準預測與操控。舉例來說,AI 不僅能夠分析個人在社交媒體上的發言內容,還能夠將這些內容與其他數據(如購物紀錄、旅行路線、社交圈)結合,計算出個人的「政治風險指數」。這種機制已經在某些國家內部試行,它使得政府能夠在異議分子「真正行動之前」就採取預防措施,例如限制其社會信用分數,使其無法購買高鐵票或申請護照,甚至透過 AI 偵測「潛在威脅」,提前進行約談或拘捕。
這種監控體制的最終目標,並不只是壓制異議,而是塑造一種無需鎮壓的社會環境——人民在日常生活中逐漸內化審查機制,最終形成「自我審查」的習慣。當 AI 能夠即時糾正、刪除、甚至覆寫不符合官方敘事的言論時,人們會逐漸意識到,表達某些觀點是「沒有意義的」,因為它們永遠不會被記錄下來。這種「消失的歷史」將會形成一個近乎完美的資訊泡沫,讓人民失去對真相的追求,而只剩下 AI 提供的經過過濾的現實。
與此同時,AI 也在被運用來塑造輿論,透過深度偽造技術與自動化輿論機器人,極權政府可以製造海量的虛假資訊,用來稀釋真實報導,甚至顛倒事實。例如,一旦有大規模抗議活動爆發,政府可以立刻利用 AI 生成數百萬條社交媒體評論,聲稱這場抗議是由境外勢力煽動,甚至創造假新聞來「證明」抗議者的行動帶來社會混亂。當大量的虛假資訊與官方宣傳同時鋪天蓋地地湧入社交平台時,真實的報導將被淹沒,人民無法再辨別何為事實。
這樣的 AI 監控體制將會讓極權政權比歷史上任何時期都更為穩固,因為它已經不再依賴單純的武力鎮壓,而是建立了一個全方位的思想控制體系。在這個體系下,人民不僅被剝奪了發聲的權利,甚至被剝奪了對真相的記憶。歷史將不再是由勝利者書寫,而是由 AI 重新塑造,成為一個永遠符合政權需求的敘事。這是 Orwell 在《1984》中所描繪的極權社會的終極形態,但不同的是,這不再是小說,而是我們正在目睹的現實趨勢。
DeepSeek 只是這場數字極權革命的一個縮影,但它所展現的技術,將可能成為未來 AI 監控體系的標準。當 AI 成為國家審查機制的核心時,我們將進入一個全新的政治時代——一個由 AI 監視、規範與塑造思想的時代,在這個時代裡,最危險的並不是言論受到控制,而是人民甚至無法意識到言論正在被控制。
(文章僅代表作者觀點,不代表Newtalk新聞立場。)