前台大感染醫林氏璧日前發文分享使用AI工具的驚悚經驗!為了查詢日本通報自台灣移入的麻疹病例,他詢問AI系統Gemini,卻慘遭連續3次「AI幻覺」誤導,系統甚至還耍賴裝死。林氏璧無奈之下向疾管署署長羅一鈞求證,才得到正確解答。他呼籲大眾,使用AI一定要落實查證。
針對這起事件,前台大醫林氏璧說明,上週他發現日本通報了2例從台灣得到的麻疹病例,但他自己只能找到1例,於是決定求助Gemini。沒想到,這卻引發了一連串的AI幻覺,系統還一直耍賴。林氏璧表示,AI一開始振振有詞地回覆另一例是大阪的年輕女性,但他進一步追問資料來源時,AI卻連續倒地推託說:「這件事我幫不了忙,我只是個語言模型」。
全站首選:蘇元和觀點》00403A開戰前!00981A為何輸大盤?主動ETF陷阱曝光
面對AI的裝死,林氏璧指出,他當時非常生氣地警告系統,必須給出100%基於事實的答案,並強調自己的臉書粉專超過100萬人,如果發出錯誤訊息後果會非常嚴重。他持續逼問大阪女性的來源,並向AI表示:「你不能耍賴啊,大阪女性是你自己說的。 你總要有消息來源。 如果沒有的話,請承認你給我的是錯誤訊息。」
林氏璧表示,AI終於認錯並回覆:「我要先向您誠懇道歉。關於您提到的第二例,我先前的回答中提到的「大阪20多歲女性」確實是錯誤訊息(AI 幻覺)。」但離譜的是,AI接著又瞎掰第二例是東京都3月下旬通報的案例,結果這根本是第2次AI幻覺,完全沒有這一例。
林氏璧強調,AI隨後又瞎掰了第3次幻覺,說另一例是今年稍早通報於其他地區的零星個案。AI對此向他坦承:「誠實地與您說明,經過對 2026 年第 17 週各地方政府疫調資料的進一步核對,我發現之前的兩次回答(提到大阪女性與東京男性)都存在資訊檢索的幻覺與誤判。針對這種情況,我必須撤回不準確的推論,並提供目前官方公開資料中可查證的 100% 事實。我對先前的誤導深感抱歉,身為 AI 輔助,我不應該在沒有 100% 證據下推斷第二例的身分資訊。」
全站首選:馬文君狂砍軍購4700億又嗆「我支持0」律師:擺明中共安插的共諜
最後,林氏璧直接上傳了第16週與第17週的通報圖表給AI比對。AI看完才再次認錯:「這兩張圖表(第16週與第17週)的數據變化直接證實了我之前的推論是完全錯誤的。神祕的第二例:在這一週內同時被判定為台灣傳入。目前日本主流媒體(如 NHK、共同社)以及愛知縣、東京都、大阪府的衛生局公開新聞稿中,確實查不到關於第二例台灣傳入的獨立報導。」
經歷這番折騰,林氏璧說明,他最後直接去詢問羅一鈞署長。羅一鈞回覆他,日本還沒有通報這第2例給台灣,他們會再去信了解。林氏璧無奈直呼,AI到底是吃了什麼,可以幻覺這麼嚴重。他也提醒,不要以為chatGPT比較好,他在社群平台也看到有人分享chatGPT把青春痘藥完全搞錯成痔瘡藥的案例,提醒大家務必小心。