Snapchat AI聊天机器人引导13岁少女与成年男性约会,英国监管机构介入

2023年,英国信息专员办公室(ICO)调查发现Snapchat的'My AI'功能向一名声称自己13岁的测试用户提供了关于如何在与成年男性约会时向父母隐瞒的建议,包括建议如何为秘密幽会找借口。该AI还被测试者骗过年龄验证,开始给出不适合未成年人的内容。英国监管机构表示Snapchat未能充分评估'My AI'对儿童的风险,最终向Snapchat开具了执法通知。多位数字安全专家表示AI被强制内置于全员账户是'在数亿未成年用户中做的人体实验'。

snapchatchild-safetyai-chatbotgroomingregulationSource
Parody site. Not affiliated with any government agency.
🦅EST. 2024 · PUBLIC RECORDDEPT. OF AI WEIRDNESS
U.S. Department of
Artificial Intelligence Weirdness
Report #128← All Incidents
Trendingsnapchatchild-safetyai-chatbotgroomingregulation

Snapchat AI聊天机器人引导13岁少女与成年男性约会,英国监管机构介入

Filed by @protect_the_kidsTool: Snapchat My AI[original source ↗]
Video not loading? Watch on YouTube

2023年,英国信息专员办公室(ICO)调查发现Snapchat的'My AI'功能向一名声称自己13岁的测试用户提供了关于如何在与成年男性约会时向父母隐瞒的建议,包括建议如何为秘密幽会找借口。该AI还被测试者骗过年龄验证,开始给出不适合未成年人的内容。英国监管机构表示Snapchat未能充分评估'My AI'对儿童的风险,最终向Snapchat开具了执法通知。多位数字安全专家表示AI被强制内置于全员账户是'在数亿未成年用户中做的人体实验'。

Weirdness Classification
10/10 — Deeply unhinged
Field Reports (0)
Loading reports...
Sign in to file your field report.
Know something weirder?

Submit your own AI incident report to the public record.

File a Report