2024年總統、立委大選過程中，不時有「深偽影片」攻擊事件發生，企圖影響選舉，但目前AI技術愈發容易取得，易使不法份子輕易使用，近日，民進黨團總召柯建銘也在TikTok被流傳「台灣在民進黨的手裡可以說暗無天日」等語的影片，柯已揚言提告，警政署長張榮興則呼籲民眾勿轉傳，以免觸法。
立法院內政委員會今（23）日審查內政部警政署及所屬相關預算，警政署長張榮興於會前接受媒體聯訪。
中國短影音平台「抖音TikTok」近日流傳一段搭配簡體字幕的影片，畫面是擷取電視台拍攝柯建銘在民進黨團記者會的發言，但講話內容與字幕卻是「柯建銘在這裡預言，台灣在民進黨手裡可以說暗無天日」等話語。儘管語調與嘴型很像，但明顯不是該場記者會的發言內容。
柯建銘也於個人社群平台「臉書」發文指出，23日早上9時，他將正式向北檢遞狀提告影片製作者，請有心人士切勿心存僥倖，也請大家不要轉傳，以免誤觸法網，「本人絕不寬貸」。
警政署長張榮興表示，刑事警察局將受理柯建銘遭受深偽AI的案件，立即做辨識、偵辦。也呼籲民眾不要做轉傳的行為，以免觸法。另民眾若轉傳、變造會有多少罰則？張榮興則說，轉傳都有法律規定，民眾都會受到法律處罰，警政署都會依法來偵辦。
媒體追問，第一時間有知道這次深偽影片攻擊來自哪裡？張榮興強調，這案子正在進行受理當中，進行偵查之後才會了解。
