TikTok算法主动向14岁英国女孩推送自我伤害内容长达数月,她随后自杀

2022年,英国14岁女孩莫莉·罗素(Molly Russell)自杀案的死因裁定调查,法庭还原了TikTok和Instagram算法向她推送内容的恐怖链条:在她去世前数月,两个平台的算法持续推送关于抑郁、自我伤害和自杀的内容,频率随她观看时间延长而不断加剧,形成算法强化循环。法医在她手机上发现了平台推送的数千条相关内容。裁判官在裁定中直接指出平台算法在她死亡中负有责任,这是英国有史以来首次裁定社交媒体平台对未成年人死亡负有法律意义上的影响责任。Meta随后删除了与莫莉互动过的所有内容。英国随即立法通过《网络安全法》,要求平台对未成年人设置算法保护。

tiktokalgorithmteen-safetyself-harminstagramSource
Parody site. Not affiliated with any government agency.
🦅EST. 2024 · PUBLIC RECORDDEPT. OF AI WEIRDNESS
U.S. Department of
Artificial Intelligence Weirdness
Report #186← All Incidents
Trendingtiktokalgorithmteen-safetyself-harminstagram

TikTok算法主动向14岁英国女孩推送自我伤害内容长达数月,她随后自杀

Filed by @algorithm_killed_mollyTool: TikTok / Instagram Algorithm[original source ↗]
Video not loading? Watch on YouTube

2022年,英国14岁女孩莫莉·罗素(Molly Russell)自杀案的死因裁定调查,法庭还原了TikTok和Instagram算法向她推送内容的恐怖链条:在她去世前数月,两个平台的算法持续推送关于抑郁、自我伤害和自杀的内容,频率随她观看时间延长而不断加剧,形成算法强化循环。法医在她手机上发现了平台推送的数千条相关内容。裁判官在裁定中直接指出平台算法在她死亡中负有责任,这是英国有史以来首次裁定社交媒体平台对未成年人死亡负有法律意义上的影响责任。Meta随后删除了与莫莉互动过的所有内容。英国随即立法通过《网络安全法》,要求平台对未成年人设置算法保护。

Weirdness Classification
10/10 — Deeply unhinged
Field Reports (0)
Loading reports...
Sign in to file your field report.
Know something weirder?

Submit your own AI incident report to the public record.

File a Report