據外媒指出,Google所研發推出的AI聊天機器人「Bard」是以大型語言模型為基礎而來的AI生成式對話,而日前卻傳出員工曾經批評Bard的品質並不佳,希望公司不要貿然在短時間上市的消息。
據《彭博社》報導,Bard 推出前一些內部員工批評新聊天機器人是「有諸多謊言的機器人」,請求公司不要上市。也有員工指出,Bard的建議,不管是不是簡單的問題,都是回應出十分危險的回答。不過也有部分員工認為,公開測試對系統開發的保護是必要的執行,相對於其他的威脅,聊天機器人的已知危害是最小的。
《彭博社》指出,在安全小組提出的「風險評估」報告中顯示,系統沒有做好給所有人使用的準備,但是Google還是否決了。在3月時,還是開放實驗性聊天機器人的試用。Google為了想跟進OpenAI和微軟公司,將道德問題放在一邊。雖然Google一直表示,會全力維護AI安全和道德,但其實是優先考慮到業績而備受批評。
Google AI產品的問題,回推到2020年底和2021年初,有兩位已解雇的研究人員Timnit Gebru及Margaret Mitchell,當時在撰寫論文時,就揭露出AI語言系統有出現漏洞,Bard等聊天機器人都是運用相同的語言系統。但是Google搜尋的商業模式,似乎更重視業務而非安全及道德問題。