近年來，人工智慧 ( AI ) 技術蓬勃發展，生成式 AI 相關的工具也逐漸走進人們的日常生活中。與此同時， AI 生成的色情內容也開始在網路上大規模傳播，並對世界各國的青少年們產生深遠的影響。有專家分析認為， AI 生成的色情內容可能扭曲青少年對性與身體形象的看法，呼籲家長或監護人持續進行開放式的溝通，進一步減緩相關問題可能造成的衝擊。
根據美國《有線電視新聞網》( CNN ) 報導，一項由美國非營利組織「Common Sense Media」公布的最新研究結果顯示，在超過 1,300 名受訪的美國青少年中，有接近 75% 的受訪者曾透過網路接觸過色情內容，承認自己在 12 歲以前就已透過網路看過色情內容的受訪者也超過 50% 。另外，有近半數青少年坦承，自己曾在使用網路或社群媒體時，看過那些很可能是由 AI 生成的色情影片或圖片。
全站首選：得標國防部「RDX海掃更」火藥標案未履約! 福麥裝修公司：沒違約
報導稱，雖然「Common Sense Media」自 2023 年起就持續關注網路色情內容可能對青少年造成的影響，但在最近幾年的時間內，青少年們獲取的色情內容發生了顯著的變化，越來越多由 AI 生成的虛假色情圖像、影片走進了他們的視野。
「Common Sense Media」的研究主管蘇普里特．曼恩 ( Supreet Mann ) 博士在接受《CNN》專訪時表示， AI 技術的發展讓青少年們更容易透過網路取得色情內容，且生成裸體化圖像、影片的 AI 工具也可能讓青少年們接觸到同儕的性內容，進而扭曲年輕人們對性與身體形象的看法，「我們討論的焦點不是商業或精選色情內容，而是那些剝奪人們自主權與自身形象能力的東西」。
曼恩博士認為，隨著 AI 生成色情內容的取得難易度不斷降低，青少年幾乎可以在不受政府過濾或監管的情況下，對性進行接觸或探索，「他們只須點擊一下按鈕，就可以輕鬆取得裸體化的 AI 應用程式」。
現正最夯：樹林機五在哪裡？新北大巨蛋落腳地點確定 未來萬大線就在旁邊
史丹佛大學人本 AI 研究所研究員亞娜．普費弗科恩 ( Riana Pfefferkorn ) 補充稱，雖然政府可以透過應用程式商店進行監管，但部分應用程式會透過「不宣傳自身全部功能」的方式蒙混過關，「目前已經有大量研究結果表明，應用程式商店以及社群媒體平台採取的『打地鼠』式應對措施已經無法跟上時代的步伐」。
曼恩博士指出，為了避免自己成為 AI 生成色情內容的受害者，越來越多青少年開始透過謹慎發布內容、將社群媒體帳號設為私密或徹底刪除帳號的方式保護自己，「但我認為，年輕人們不應該因為『害怕別人的行為』而『改變自己的行為』，他們並不應該為這些事情負責」。
面對 AI 生成色情內容可能帶來的衝擊，「Common Sense Media」呼籲家長與監護人提早並持續與孩子們進行開放式的溝通，在接觸相關技術前協助兒童建立健康的性認同基礎，並持續指導孩子們使用任何 AI 相關的程序。普費弗科恩也強調，學校、家長與家庭都應該發揮作用，「AI 生成色情內容實際上是一個需要全社會共同應對的問題，不是一件應該讓孩子們自己想辦法解決的事情」。
