生成式人工智慧(Generative AI)技術能使業餘人士在毋須使用Photoshop等專業軟體的情況下,在短時間內生成以假亂真的照片。一張五角大廈爆炸的假照片22日迅速在網上瘋傳,美股聞訊崩跌10分鐘,引發各界探討生成式AI恐為人類社會帶來的問題。許多觀察家認為,這張疑為人工智慧生成的照片經由多個帳號散布出去,迫使美國國防部出面澄清五角大廈並未發生爆炸。

美國國防部發言人回應:「我們可以證實這是假消息,五角大廈今天並未遭到攻擊。」維吉尼亞州阿靈頓(Arlington)消防局也在社群媒體澄清,五角大廈附近並未發生爆炸或意外事件。在此之前,近期在網路造成轟動的假照片還包括美國前總統川普(Donald Trump)遭逮捕,以及天主教教宗方濟各(Pope Francis)身穿一件很潮的白色長版羽絨外套等。

法新社調查指出,五角大廈「爆炸」照片的來源雖不得而知,但最早釋出該照片的推文,來自先前散播過假消息、力挺川普的極右派陰謀論團體 「匿名者Q」(QAnon)宣傳帳號。這張假照片引發金融市場恐慌,導致美股短暫閃崩,標準普爾500指數(S&P 500 Index)一度下跌0.29%,隨後止跌回升。

根據美國有線電視新聞網(CNN)報導,許多擁有「藍勾勾」認證的推特帳號都分享了這張符合所有AI合成影像特徵的照片,其中包括一個謊稱與彭博(Bloomberg News)有關的帳號。億萬富豪馬斯克(Elon Musk)入主推特後,用戶只要付費即可獲得「藍勾勾」認證標章,因此藍勾勾如今已無法被用來證實用戶的真實身分。