研究人員近日接連對人工智慧（AI）安全性提出強烈警告，引發外界廣泛討論。目前正在歐洲巡迴訪問的美國AI晶片大廠輝達（Nvidia）執行長黃仁勳表示，若客戶開發不安全的AI軟體，他會停止向對方供應晶片，但他認為目前外界對這項技術的憂慮程度並不合理。

黃仁勳在倫敦接受彭博主播張秀春（Emily Chang）專訪，被問及是否會停止向不負責任的開發者供應晶片時回答：「這是假設性的情況，但答案是肯定的。」這並非黃仁勳首次對AI開發者提出安全要求。他9月接受紐約時報Podcast主持人克萊因（Ezra Klein）訪問時曾說，若AI實驗室認定無法控制自身實驗、模型可能逸出造成傷害，應關閉實驗室。

黃仁勳接著提到：「不過，在採取這種做法之前，會先和對方談談。我們不會經營別人的公司，對於其他公司如何使用我們的技術，我們的判斷有其限度。我們的技術是通用型。」他也強調：「我們應該加快將這類限制與管控技術整合進AI系統，也應該加速監控技術的開發，而AI本身就能擔任監控者。因此我們應該加快AI技術發展。」

根據彭博等外媒報導，輝達在用於訓練AI模型及執行推論的專用晶片市場占據主導地位，這種地位也讓輝達捲入爭論，外界關注AI系統未來是否可能超越安全界線，進而變得無法控制。黃仁勳認為，對AI安全的擔憂，是這個快速擴張產業在成長過程中面臨的陣痛；他相信相關軟體能夠受到控制，並以安全的方式部署。

輝達13日宣布，未來5年將提供總值2.5億美元的運算資源，每年投入5千萬美元支援英國AI代理安全與資安研究。這項計畫將透過設於英國的輝達雲端合作夥伴提供運算資源支援當地研究社群，部分資源將用於牛津大學主導的BOLD實驗室、倫敦大學學院主導的SOFAIR實驗室及倫敦帝國學院的相關研究。支持形式是運算資源使用權，而非直接捐贈現金。

黃仁勳在公告中呼籲，AI能力與安全必須同步提升。相關研究將涵蓋AI代理防護、開放模型安全與實際威脅緩解，協助研究人員開發、測試及強化安全機制。此外，輝達已於7月27日與超過30家科技及資安業者共同成立「開放安全AI聯盟」(Open Secure AI Alliance)，

「開放安全AI聯盟」透過開發與共享開放工具、模型及技術，強化AI軟體與代理系統的安全防護，推動負責任的AI應用。聯盟指出，安全工具應具備開放性與可檢視性，讓開發者及資安團隊能驗證防護機制、共享研究成果，並共同改善抵禦AI相關攻擊的能力。依輝達9月公布的資料，參與組織已超過120個，聯盟由Linux基金會管理。