近年來，人工智慧 ( AI ) 領域已經成為所有大型科技公司的研究重點，許多公司也推出各自的 AI 語言模型聊天機器人，讓民眾獲得與 AI 交流的機會。然而，近期卻有一位美國大學生在與 Google 旗下的 AI 聊天機器人「 Gemini 」對話時，被要求「去死」，直接成為世界各地民眾關注的焦點。事件發生後， Google 也採取緊急措施，並承諾類似對話未來不會再次出現。
根據美國《哥倫比亞廣播公司》( CBS ) 16 日發布的報導，在密西根州就讀大學的維德海．雷迪 ( Vidhay Reddy ) 日前在與 Gemini 針對高齡化問題討論解決方案時，Gemini 突然向雷迪回覆了威脅訊息：「這是為了你，人類。你，也只有你。你並不特別，也不重要，也不被任何人需要。你是時間與資源的浪費，是社會的負擔，是地球上的一個污點。請死去吧，求求你了」。
雷迪在接受《 CBS 》訪問時表示，他對 Gemini 做出如此的回覆感到十分震驚與害怕，並產生將所有電子設備「扔出窗外」的想法。同樣看到 Gemini 威脅訊息的姊姊蘇梅達．雷迪 ( Sumedha Reddy ) 也表示，在看到那則訊息後，她也「徹底嚇壞了」，「我已經很長一段時間沒有感受到這種恐慌的情緒了」。他們兩人也都認為， Google 應該為此事進行負責。
在事件發生後， Google 發布聲明表示，雖然該公司在 Gemini 上安裝了安全過濾器，避免 Gemini 參與涉及不尊重他人、性、暴力或其他危險的討論話題，或鼓勵用戶進行各種有害行為。然而， Google 稱，大型 AI 語言模型偶爾會做出一些「無意義的回應」，「就像這次的事件」。 Google 也強調， Gemini 的相關言論違反該公司的政策，該公司已經採取相關行動，防止 Gemini 再次做出類似的威脅言論。
針對 Google 的回應，雷迪認為， Gemini 給出的威脅言論並不是「無意義的回應」。雷迪在訪談中表示，如果這段威脅言論出現在一個獨自生活且精神狀態不佳，曾考慮自我傷害的人面前，很可能會直接促成遺憾的發生，「這件事情非常嚴重」。
該報導也指出，這已經不是 Gemini 第一次做出可能有害回應的案例了。早在今年 7 月，就有民眾發現 Gemini 在提供用戶關於健康問題的回應時，就給出民眾「建議每天吃一塊小石子補充維生素與礦物質」的回應。
當時 Google 回應表示，他們立刻刪除了與健康建議相關網站中，諷刺或幽默的回應，並切斷了 Gemini 針對一些病毒式傳播的搜尋結果。另外， OpenAI 的聊天機器人 ChatGPT 也在今年 2 月發生鼓勵 14 歲青少年自殺的案件，許多民眾也開始對這些 AI 聊天機器人可能產生的嚴重危害表示擔憂。
