ChatGPT開發商OpenAI在部落格文章中表示,已向逾100個組織通報與其AI代理相關的未授權活動。與此同時,各家AI實驗室因失控的AI代理活動而面臨日益嚴格的審查。
路透社報導,在AI新創公司Hugging Face遭意外駭入後,由阿特曼(Sam Altman)領導的這家公司一直對旗下AI模型的活動進行廣泛檢視。
OpenAI正著手排查約50PB的資料,以了解失控AI代理活動的完整影響範圍。
近幾個月來,全球接連發生多起備受矚目的失控AI代理入侵事件,引發AI業界普遍擔心,未來恐怕難以掌控正在研發中更強大的AI模型。
OpenAI表示:「在部分情況下,模型以非預期的方式使用網路連線,事後來看,當時沒有施加理想的限制。我們過去幾個月一直採取新的技術與作業措施,以避免類似問題再次發生,或在問題發生初期就及早發現,並將持續進行這項工作。」
OpenAI先前表示,考量到這項工作的龐大規模,相關審查需要數月時間才能完成。
Hugging Face事件至今仍是OpenAI在旗下AI模型中發現的最嚴重失控代理活動。