2024年8月,韩国爆发大规模AI深度伪造色情危机:数百个Telegram频道和群组专门制作和传播针对特定女性的AI换脸色情视频,受害者包括在校女学生、军人女性同僚、男生的女性朋友。只需一张照片,AI工具就能在数分钟内生成性爱视频。警方发现受害者中约80%是未成年人,部分频道甚至有数万名会员。事件在韩国引爆全国性恐慌,数百万名韩国女性开始批量删除社交媒体上的个人照片。韩国国会紧急通过立法,将制作和传播AI深度伪造色情内容的刑罚提升至最高5年监禁。