由OpenAI前成員創立的人工智慧新創公司Anthropic上週四(13)日揭露,其AI技術遭中國政府支持的駭客濫用,並在9月被用於對多家科技企業與政府機構發動高度自動化的攻擊行動。據外媒《紐約時報中文網》報導指出,此案是首次公開紀錄AI在人工介入下,進行網路間諜行動的實例。國際評論專家沈榮欽指出,Anthropic已封鎖涉攻帳號並強化偵測系統,警告中國AI能力提升將帶來更低成本網攻威脅,台灣政府與企業須警惕。
紐約時報內文揭露,Anthropic在報告中,逐項說明駭客如何利用其AI平台撰寫程式,並指示AI代理「Claude Code」進行操作,而整體流程中只有大約10%至20%需要人類親自處理。報導指出,Anthropic未在文件中說明他們是透過何種方式掌握這起攻擊的細節,也未交代識別駭客身分的過程。該公司僅強調,他們「高度確信」涉案者屬中國政府支持的網路行動團體,並未對外公布受攻擊的30個目標名稱。
現正最夯:再點名台灣「搶走晶片生意」川普:這很可恥、沒關稅美國早完蛋了
除外,紐約時報報導也指出,微軟在本月發布的年度數字威脅報告中提到,中國、俄羅斯、伊朗與朝鮮皆透過人工智慧強化對美國的網路攻擊與操弄行動。OpenAI也在今年2月表示,公司掌握的資料顯示中國安全部門曾架設一套人工智慧監控系統,用於蒐集西方社群平台上涉及反華內容的貼文。
紐約時報也引用澳洲戰略政策研究所網路、科技與安全項目負責人詹姆斯・科雷拉的分析指出,這次事件證明駭客已能把大部分工作交給人工智慧處理,即便攻擊流程尚未達到全自動化,真正的決策與核心操作仍需要由人來掌控。然,就在Anthropic發表這份報告後,中國外交部發言人林劍回應,他對Anthropic這份報告並不知情,但批評此類缺乏證據的無端指控,並重申中國反對任何駭客活動。
而加拿大約克大學(York University)副教授法國歐洲工商管理學院(INSEAD)博士沈榮欽,也在其個人臉書上表示,Anthropic 發現中國網路間諜活動後,立即封鎖相關帳號,改進了檢測系統和分類器,同時還為自主網路攻擊開發了早期偵測系統原型。沈榮欽對此進一步表示,隨著中國人工智慧能力的提升,此類以 AI 為主導的攻擊,因為成本較低,未來可能越來越多,也標示網路資安的一大威脅,他也在強調,希望台灣數發部、政府單位與企業都能注意。