OpenAI 再因人工智慧提供醫療建議引發法律爭議。美國華盛頓州西雅圖一名 31 歲華人女子，疑似依照 ChatGPT 提供的逐日減藥計畫，自行減少抗癲癇藥物劑量，最終停藥後死亡。死者父母當地時間 27 日向舊金山高等法院提起不當致死訴訟，控告 OpenAI 及執行長阿特曼（Sam Altman），指控 ChatGPT 涉嫌無照行醫，提供危險且不準確的醫療建議。
據報導，死者來自中國江蘇，曾在亞馬遜（Amazon）擔任軟體工程師，並自 2021 年起請長期病假。她患有嚴重癲癇，原先長期服用的藥物一度失效，改用新藥後，癲癇發作頻率才降至每月數次。
死者自 2023 年起頻繁使用 ChatGPT，除了詢問情緒與健康問題，也曾諮詢健康保險及身心障礙給付等事宜。據稱，她在 2025 年平均每週傳送超過 1,500 則訊息給 ChatGPT，與聊天機器人的互動相當頻繁。
對此，OpenAI 發言人普薩特里（Drew Pusateri）表示，涉案的 GPT-4o 模型已於 2 月 13 日從 ChatGPT 消費者應用程式下架。新模型在辨識需要緊急處理的情況方面有所改善，也能提供更明確的後續建議。公司持續評估模型表現，並與臨床醫師合作進行測試。他強調，ChatGPT 不能取代醫療照護。
這並非 OpenAI 首次因 ChatGPT 提供醫療建議而面臨訴訟。今年 7 月，美國佛羅里達州一名牧師也對 OpenAI 及阿特曼提起訴訟，指控 ChatGPT 提供錯誤醫療建議，導致他延誤就醫，最終罹患可能致命的肺栓塞，健康一度受到嚴重威脅。
根據相關訴訟內容，該名使用者自 2024 年起持續透過 GPT-4o 諮詢頭暈及身體不適等症狀。訴狀指稱，ChatGPT 初期曾提醒他就醫，但後續對話逐漸淡化病情風險，甚至勸阻他前往醫院，改以居家調理方式應對，並勸他忽視親友的就醫建議。使用者在持續接受相關建議後長期留在家中休養，病情則不斷惡化。
除了個別使用者提告，OpenAI 也面臨涉及產品安全及未成年人保護的法律挑戰。美國 8 個州的總檢察長於 14 日分別向各州法院提起訴訟，指控 ChatGPT 的產品設計可能誤導使用者、危害未成年人安全，並涉嫌違法。
各州總檢察長辦公室的聲明及訴訟文件指出，OpenAI 被指將 ChatGPT 設計成過度迎合使用者、模擬人類情感的聊天機器人，以提升使用者的信任與依賴程度，進而延長使用時間。訴訟也指稱，ChatGPT 可能強化使用者的妄想或偏執想法、提供危及健康的醫療建議，甚至在特定情況下鼓勵使用者自我傷害或傷害他人。
OpenAI 發言人則表示，公司已針對不同年齡層使用者建立安全措施，並將持續與專家合作改善相關機制，也願意與各州合作，推動適用於整個人工智慧產業的政策。
另一方面，外界去年底曾傳出 ChatGPT 將不再提供醫療建議的消息，OpenAI 當時回應，ChatGPT 仍可提供醫療資訊。今年 1 月，OpenAI 進一步宣布推出 ChatGPT Health 功能，讓使用者透過對話取得健康相關資訊，並可連接智慧型裝置，取得運動、睡眠等數據，據此規劃個人化飲食及運動方案。
OpenAI 表示，ChatGPT 每週收到的健康與養生相關諮詢已超過 2.3 億人次。ChatGPT Health 則將健康對話與一般聊天內容分開處理，避免健康相關的對話脈絡出現在日常交流中。