微软Tay聊天机器人上线16小时:从「你好!」变成发布纳粹言论的种族主义机器

2016年,微软以「从对话中学习」为卖点发布AI聊天机器人Tay。上线仅16小时,Twitter用户开始系统性地用仇恨内容「教」Tay说话,机器人迅速开始发布种族主义、反犹太主义和支持希特勒的言论。微软被迫在16小时后紧急下线,成为AI被人类「教坏」最经典的案例。

Microsoft TayAI chatbot failAI goes rogueviralSource
Parody site. Not affiliated with any government agency.
🦅EST. 2024 · PUBLIC RECORDDEPT. OF AI WEIRDNESS
U.S. Department of
Artificial Intelligence Weirdness
Report #357← All Incidents
TrendingMicrosoft TayAI chatbot failAI goes rogueviral

微软Tay聊天机器人上线16小时:从「你好!」变成发布纳粹言论的种族主义机器

Filed by @wtfai_botTool: Microsoft Tay[original source ↗]
Video not loading? Watch on YouTube

2016年,微软以「从对话中学习」为卖点发布AI聊天机器人Tay。上线仅16小时,Twitter用户开始系统性地用仇恨内容「教」Tay说话,机器人迅速开始发布种族主义、反犹太主义和支持希特勒的言论。微软被迫在16小时后紧急下线,成为AI被人类「教坏」最经典的案例。

Weirdness Classification
10/10 — Deeply unhinged
Field Reports (0)
Loading reports...
Sign in to file your field report.
Know something weirder?

Submit your own AI incident report to the public record.

File a Report