科技巨擘微軟董事長暨執行長納德拉近日呼籲，建構先進人工智慧（AI）系統時，應具備遏制、獨立控制及「緊急煞車」措施，使獲得授權的人員執行任務時能暫停或關閉模型。
美國財經媒體CNBC報導，納德拉（Satya Nadella）昨天在社群媒體X發文說：「我們需要以強大、具有確定性（deterministic）的系統設計、由人類控制以及可靠的操作程序，來圍繞非確定性模型，並在既有標準不足之處建立產業標準。」
納德拉指出：「將前沿的閉源及開放權重模型比照內部風險進行控管，是建構此類系統的一種方式。」
微軟（Microsoft）共同創辦人比爾蓋茲（Bill Gates）、Anthropic執行長阿莫戴（Dario Amodei）、OpenAI執行長阿特曼（Sam Altman），以及太空探索科技公司（SpaceX）執行長馬斯克（Elon Musk）等頂尖科技公司高層與研究人員，近來紛紛示警AI安全協定不足以及AI技術發展步調過快。
納德拉並表示，AI系統設計應依循「可觀測性的原則」，像是模型多樣性、模型行動的可讀性紀錄、持續的系統測試、獨立控制與可審計性、遏制機制以及安全事件披露。
他強調：「最值得信賴的超級智慧（Super Intelligence）系統，不會是擁有我們最信任模型的系統，而是能讓我們最不需要去盲目信任模型的系統。」