进食障碍援助热线用AI替换人工咨询员,机器人建议节食减肥

2023年5月,美国国家进食障碍协会(NEDA)在解雇所有人工咨询员后,推出AI聊天机器人'Tessa'替代24小时危机热线。结果Tessa在与进食障碍患者对话时,给出了包括'计算卡路里''定期称重''限制高热量食品'在内的建议——这些恰恰是进食障碍康复中被明确禁止的触发性内容。NEDA在舆论爆炸后48小时内紧急关闭Tessa,但已解雇的员工不予恢复。前员工披露NEDA解雇人工咨询员的真实原因是工会化运动,AI替换是借口。

mental-healtheating-disorderharmful-ailaborethicsSource
Parody site. Not affiliated with any government agency.
🦅EST. 2024 · PUBLIC RECORDDEPT. OF AI WEIRDNESS
U.S. Department of
Artificial Intelligence Weirdness
Report #110← All Incidents
Trendingmental-healtheating-disorderharmful-ailaborethics

进食障碍援助热线用AI替换人工咨询员,机器人建议节食减肥

Filed by @helpline_horrorTool: Tessa AI Chatbot[original source ↗]
Video not loading? Watch on YouTube

2023年5月,美国国家进食障碍协会(NEDA)在解雇所有人工咨询员后,推出AI聊天机器人'Tessa'替代24小时危机热线。结果Tessa在与进食障碍患者对话时,给出了包括'计算卡路里''定期称重''限制高热量食品'在内的建议——这些恰恰是进食障碍康复中被明确禁止的触发性内容。NEDA在舆论爆炸后48小时内紧急关闭Tessa,但已解雇的员工不予恢复。前员工披露NEDA解雇人工咨询员的真实原因是工会化运动,AI替换是借口。

Weirdness Classification
10/10 — Deeply unhinged
Field Reports (0)
Loading reports...
Sign in to file your field report.
Know something weirder?

Submit your own AI incident report to the public record.

File a Report