拜登政府於昨(8)日表示，為支持生成式人工智慧(AI)的安全研發和部署，目前已有多達200家實體機構加入新成立的財團聯盟，其中也包括多家領先的AI公司。
根據《路透》報導，美國商務部長雷蒙多(Gina Raimondo)宣佈，目前約有200家實體機構加入美國人工智慧安全研究聯盟(U.S. AI Safety Institute Consortium，AISIC)包括：OpenAI、Google、Anthropic和微軟(Microsoft)、臉書(Facebook)母公司Meta、蘋果(Apple)、亞馬遜(Amazon)、輝達(NVIDIA)、英特爾(Intel)等公司，以及主要學術機構和政府機構，將隸屬於美國AI安全研究院(USAISI)旗下。
雷蒙多於聲明中表示，為減輕風險和利用AI龐大的潛力，美國政府制定了標準和研發所需的工具，以達發揮重要的作用。而聯盟的組成，主要是為執行拜登在去年10月提出的AI行政命令中的首要行動，包括制定「紅隊演練」(red-teaming)指南、能力評估、風險管理以及對合成內容的加註。
主要AI企業去年已承諾，將會為AI生成的內容添加註記，以確保技術更安全。「紅隊演練」長年來一直應用於網路安全領域，主要用於識別新的風險。這項術語最早出現在冷戰時，當時是軍隊用來形容模擬時的攻擊行動，當時敵方就是被稱為「紅隊」。
美國商務部於去年12月表示，目前正在為AI的安全性部署和測試編寫關鍵標準及指南。商務部指出，此聯盟將代表最大的測試和評估團隊，該聯盟未來將專注於為AI的安全性奠定基礎。
