AI 的興起為人類生活提供極大便利，但同時一些不肖之徒將 AI 技術用於傷害他人，最近有美媒指出深度偽造技術正摧毀南韓人的現實生活。
根據美國《有線電視新聞網》（CNN）今（28）日的報導，南韓近年來網路性犯罪尤其嚴重，從公共設施中的隱藏攝影機到 Telegram 聊天室，婦女和女孩都被有辱人格的性內容脅迫和勒索。
深度偽造技術正對南韓構成新的威脅，這場危機在學校中尤其嚴重。根據南韓教育部的數據，去年 1 月至 11 月初，超過 900 名學生、教師和學校工作人員報告稱，他們成為了深度偽造犯罪的受害者。這些數字還不包括大學，大學同樣遭遇了一系列深度偽造色情攻勢。
作為應對，南韓教育部成立了一個緊急工作小組。 立法者 9 月也通過了一項修正案，規定持有和觀看深度偽造色情內容可判處最高 3 年監禁或最高 3 千萬韓元罰款。另外現在南韓製作和傳播未經同意的深度偽造露骨圖像的最高刑期為 7 年。
南韓國家警察廳也敦促警員，帶頭徹底根除深度偽造性犯罪，但成果有限。根據首爾國家警察的聲明，去年 1 月至 10 月報告的 964 起與深度偽造相關的性犯罪案件中，警方只逮捕了 23 人。
南韓立法委員金南熙（Kim Nam-hee）聲稱，迄今為止的調查和懲罰都過於被動，因此一些受害者選擇自己進行調查。
活動人士元女士表示，長期以來在南韓分享和觀看女性色情內容不被視為嚴重犯罪。雖然色情內容被禁止，但當局長期以來未能執行法律或懲罰違法者。
元女士認為，社會冷漠讓犯罪者更容易實施數位性犯罪，包括她所說的「熟人羞辱」。「熟人羞辱」指犯罪者在 Telegram 上分享他們認識的女性的照片和個人訊息，並主動創建深度偽造內容或要求其他人跟著做。
