現任美國總統拜登於當地時間 21 日宣布退出 2024 美國總統大選，並宣布由現任美國副總統賀錦麗 ( Kamala Harris ) 代表民主黨競爭總統的寶座。有網友在賀錦麗公布第一條競選廣告後，使用 AI 技術偽造賀錦麗的聲音並製作了一部影片。而身兼特斯拉執行長、 X 公司董事長的伊隆．馬斯克 ( Elon Musk ) 在 X 上分享該則影片後，引發一系列的爭議與討論。
根據美國《紐約時報》報導，在美國當地時間 26 日晚間，馬斯克在由他營運的社群平台 X 上，轉發了一則由推主「Mr Reagan」上傳，偽造賀錦麗聲音作為配音的影片。「Mr Reagan」在上傳該影片時，於推文中標註了「滑稽模仿」的標籤，表達他惡搞賀錦麗的立場。然而馬斯克在轉發貼文時，並未做出類似的標識，讓部分網友開始質疑馬斯克違反了 X 平台的用戶規定。
該報導稱，學者亞歷克斯．霍華德 ( Alex Howard ) 於當地時間 27 日發布推文指出，馬斯克帶頭違反了 X 平台用戶規定中，關於合成內容與誤導訊息的政策。根據 X 平台的用戶規定，使用者「不得分享可能欺騙、誤導甚至導致傷害的，經過合成、操縱或斷章取義的媒體內容」。霍華德也向馬斯克提出質疑，詢問他是否打算修改這些使用者條款，方便他個人在選舉的年份「違規」。
而根據《美聯社》的報導，有兩位美國大學研究 AI 生成內容的專家，針對相關影片進行審查、分析後，認定該影片中大部分音源都是使用 AI 技術生成的虛假資訊。加州大學柏克利分校的教授漢尼．法里德 ( Hany Farid ) 接受《美聯社》訪問時表示，這段影片展示了目前生成式人工智能以及深度偽造技術所具有的力量。法里德強調，開發生成式人工智能的公司應該確保他們提供的服務，不會遭到有心人士的「濫用」，進而傷害人民或民主的體制。
馬斯克本人則在當地時間 29 日凌晨，重新發布推文分享影片並開玩笑的表示，他向世界知名的法學權威西高玩教授 ( 一個英文的雙關語玩笑 ) 進行諮詢後，得到「模仿」影片在美國合法的結論。針對他自己可能違反 X 平台用戶規則一事，馬斯克並沒有做出相關回應。
馬斯克在當地時間 29 日凌晨重新發布推文並分享該 AI 生成影片，認為這種「模仿」影片在美國是合法的。 圖：翻攝自 @elonmusk X 帳號
