人工智慧(AI)開發商 Anthropic 十日公布最新威脅情報報告,揭露過去 8 個月發現並封鎖的 Claude 濫用案例,包括中國行為者利用 AI 監視異議人士、蒐集台灣政治人物輿情,甚至規劃可能有助生物武器開發的研究。Anthropic 表示,相關案例涉及屈公病毒、高致病性禽流感病毒株、天花與 M 痘(Mpox)病毒家族,以及毒液、毒素等。

Anthropic 指出,報告共列出 5 起涉及生化武器風險的案例。其中一名位於 Anthropic 未提供服務地區的研究人員,透過「翻牆」工具及虛擬專用伺服器(VPS)使用 Claude 數週,規劃讓禽流感病毒適應哺乳動物的實驗。Anthropic 發現後立即封鎖帳號,並將相關案例納入模型安全防護機制。

延燒焦點:升息預期已提前反映!美股道瓊終止連4跌強彈509點、台積電ADR漲1.22%

Anthropic 強調,涉案研究人員目前仍從事科學研究,因此無法確認是否具有造成傷害的意圖,也未公布個人及研究機構身分。路透報導,Anthropic 目前不支援俄羅斯、中國及北韓等地區。

除了生化武器風險,報告也揭露 AI 遭濫用的新類別,包括開發槍枝、飛彈、武裝無人機、炸彈,以及操作相關武器的鎖定與控制系統。

其中一名中國行為者利用 Claude 設計並反覆修改中文電子戰軟體,包含 16 個模組,可分析敵方雷達、防空飛彈陣地、指揮所及通訊節點,評估偵測範圍與電子干擾效果,再依目標價值及弱點排列優先壓制順序,並模擬「愛國者」(Patriot)及「終端高空防禦系統」(THAAD)等防空系統的交戰範圍。

精選報導:烏克蘭:俄羅斯發動戰爭的能力將在 2028年徹底耗盡

一名中國行為者利用 Claude 設計並反覆修改中文電子戰軟體。 圖:翻攝自 X

Anthropic 表示,專案進行期間,該行為者將模擬情境改為台灣 12 個目標,包括指揮碉堡、預警雷達站、愛國者與「天弓」飛彈陣地、主要空軍基地及區域作戰指揮部。Anthropic 評估,對方可能是中國國防或軍工研究人員,並與中國軍方研究機構有關聯。

報告另指出,政府及立場相近的行為者正利用 AI 強化對少數族裔與異議人士的監視。Anthropic 發現並封鎖多起源自中國、伊朗及西部非洲的相關行動。

其中一起中國「輿情監控」行動利用 Claude 蒐集台灣及西方媒體報導,監控海外中國僑民、異議人士、少數族裔及台灣政治人物,並依政治敏感程度評分,整理成政府內部簡報。Anthropic 認為,這項行動較可能由替中國政府客戶工作的承包商執行。

此外,Anthropic 也點名中國「月之暗面」和「深度求索」,指控中國 AI 模型開發者偷偷利用 Claude 生成答案,用於回覆用戶提問,同時「蒸餾」相關資料,以改善自家開發的模型。

Anthropic 也點名中國「月之暗面」和「深度求索」,指控中國 AI 模型開發者偷偷利用 Claude 生成答案,用於回覆用戶提問。 圖:翻攝自 DeepSeek AI X 帳號