OpenAI昨(11)日發布一項懸賞計畫,是希望協助找到旗下聊天機器人ChatGPT等AI系統的漏洞者,懸賞金額的範圍從200美元到多達2萬美元,換算新台幣最高可以拿到約61萬元的獎金。
OpenAI在昨日宣布,已推出漏洞懸賞計畫,人們可回報使用AI產品所發現的弱點、漏洞或安全問題。而這項行動是與漏洞賞金平台Bugcrowd一同合作,公司將依據被揪出的系統漏洞規模發出金額不一的獎金,嚴重程度低的漏洞獎金為200美元,格外重大的發現則可以獲得多達2萬美元的獎金。
OpenAI表示該公司相信「透明與合作」是發現其技術弱點的關鍵,因此希望推出這項計畫使產品更加優化。協助OpenAI漏洞懸賞計畫的Bugcrowd網頁列出不符合獎勵的多項安全議題,包括越獄提示、有關AI模型寫出惡意程式等相關問題,或是導致模型對使用者說出壞話的查詢。
OpenAI安全部門主管奈特表示:「此舉是我們承諾發展安全與先進AI的關鍵一環」、「隨著我們創造安全、可靠與值得信賴的技術與服務,我們需要您的協助」。而OpenAI會推出漏洞懸賞計畫,其實早有跡象,公司總裁兼共同創辦人布羅克曼近期在推特上,就有提到OpenAI曾經考慮過展開漏洞計畫或靠「紅隊」網絡來偵測弱點。