企業導入生成式 AI 的熱潮持續,但資安疑慮也跟著升溫。外媒報導,AI 晶片龍頭輝達(NVIDIA)、數據分析公司 Palantir 以及美國國防承包商 Booz Allen Hamilton,近期均對 Anthropic 旗下 AI 模型祭出不同程度的使用限制,主要擔憂企業內部程式碼、智慧財產權及敏感資料可能落入模型供應商手中。

《The Information》報導,輝達並未全面禁用 Anthropic,而是採「分級使用」策略,Claude Fable 仍可用於開源軟體等敏感度較低的工作,但涉及供應鏈監控等重要內部業務時,則改採輝達自家的 Nemotron 模型,降低核心資料交由外部 AI 模型處理的風險。

延燒焦點:高市陣營終結沖繩親中派執政!矢板明夫:讓台灣東北方防線更完整

這波企業疑慮的導火線,來自 Anthropic 今年 6 月調整資料政策。隨能力更強的 Claude Fable 推出,Anthropic 規定特定高能力模型的提示詞及輸出內容須保留 30 天,以偵測複雜攻擊及模型濫用等安全風險,相關規範也涵蓋部分原本採「零資料保留」(Zero Data Retention,ZDR)的企業使用情境。

Anthropic 解釋,高能力模型可能遭濫用於網路攻擊等用途,單靠個別對話難以辨識複雜攻擊,因此需要在一定期間內保留資料進行安全分析。不過,對高度重視營業秘密的企業而言,也意味著輸入 AI 的程式碼、商業資訊及敏感內容可能被第三方保存,引發資料控制權疑慮。

不只輝達踩煞車 Palantir 要求「不可撤銷」零留存

精選報導:科技巨擘籲放緩發展AI! 美股費半重挫近6%、台積電ADR跌3.52%

Palantir 態度更為強硬。據報導,該公司要求 Anthropic 提供「不可撤銷」的零資料留存保證,在相關條件獲得滿足前,限制透過自家軟體平台向客戶提供 Anthropic 模型。由於公司客戶涵蓋政府機構及大型企業,經手大量敏感資料,因此特別重視資料是否會離開客戶掌控範圍。

美國政府與國防顧問公司 Booz Allen Hamilton 同樣出手,限制員工在涉及客戶專有網路安全軟體的工作中使用 Anthropic 商業模型,以避免敏感程式碼落入資料留存範圍。

《路透社》指出,Anthropic 與 OpenAI 均表示,在企業客戶未主動選擇加入的情況下,不會預設使用客戶資料訓練模型。不過,隨著生成式 AI 深入企業核心業務,企業關注焦點已逐漸從「模型夠不夠強」,轉向資料由誰掌控、保存多久。

微軟趁機搶客 AI戰場轉向「資料主權」

企業對外部 AI 模型戒心升高,也讓微軟嗅到商機。外媒指出,微軟正向企業客戶推廣隔離式雲端環境及自家 AI 服務,試圖以資料治理及安全性作為賣點,爭取對第三方模型資料政策有所疑慮的客戶。

值得注意的是,微軟本身仍與 Anthropic 合作,Claude 模型目前已導入微軟的 Copilot、Foundry 等產品,但企業管理者可自行決定哪些使用者能存取 Anthropic 模型,甚至完全關閉相關功能。

這波爭議也凸顯企業 AI 市場競爭正出現轉折。輝達此次採分級使用,甚至在核心業務改用自家 Nemotron 模型,也反映當 AI 開始接觸企業程式碼、供應鏈、資安及營運資料後,除了模型能力及成本外,資料留存政策與「資料主權」也逐漸成為企業選擇 AI 供應商的重要考量。