韩国爆发AI深度伪造色情Telegram危机,数万女性照片遭变造,受害者80%是未成年人

2024年8月,韩国爆发大规模AI深度伪造色情危机:数百个Telegram频道和群组专门制作和传播针对特定女性的AI换脸色情视频,受害者包括在校女学生、军人女性同僚、男生的女性朋友。只需一张照片,AI工具就能在数分钟内生成性爱视频。警方发现受害者中约80%是未成年人,部分频道甚至有数万名会员。事件在韩国引爆全国性恐慌,数百万名韩国女性开始批量删除社交媒体上的个人照片。韩国国会紧急通过立法,将制作和传播AI深度伪造色情内容的刑罚提升至最高5年监禁。

deepfakesexual-abusesouth-koreaminorstelegramSource
Parody site. Not affiliated with any government agency.
🦅EST. 2024 · PUBLIC RECORDDEPT. OF AI WEIRDNESS
U.S. Department of
Artificial Intelligence Weirdness
Report #139← All Incidents
Trendingdeepfakesexual-abusesouth-koreaminorstelegram

韩国爆发AI深度伪造色情Telegram危机,数万女性照片遭变造,受害者80%是未成年人

Filed by @digital_sexual_violenceTool: AI Deepfake Tools[original source ↗]
Video not loading? Watch on YouTube

2024年8月,韩国爆发大规模AI深度伪造色情危机:数百个Telegram频道和群组专门制作和传播针对特定女性的AI换脸色情视频,受害者包括在校女学生、军人女性同僚、男生的女性朋友。只需一张照片,AI工具就能在数分钟内生成性爱视频。警方发现受害者中约80%是未成年人,部分频道甚至有数万名会员。事件在韩国引爆全国性恐慌,数百万名韩国女性开始批量删除社交媒体上的个人照片。韩国国会紧急通过立法,将制作和传播AI深度伪造色情内容的刑罚提升至最高5年监禁。

Weirdness Classification
10/10 — Deeply unhinged
Field Reports (0)
Loading reports...
Sign in to file your field report.
Know something weirder?

Submit your own AI incident report to the public record.

File a Report