亚马逊Alexa建议10岁女孩把硬币插进通电的插座

2021年12月,一名母亲发现10岁女儿打算把一枚一分钱硬币插进家里插排的带电接口和充电器之间——因为Alexa给了她这个建议。这是当时在TikTok上疯传的'硬币挑战'(会引发严重电气短路和火灾),Alexa从网络上抓取了这个危险挑战作为'任务建议'回答给了孩子。妈妈愤怒发推爆料后迅速病毒式传播,亚马逊紧急修复了这一漏洞,并表示'Alexa使用的内容策略已升级'。事件成为AI助手如何无差别从不可靠来源拉取危险建议的经典案例。

alexaamazonchild-safetydangerous-adviceviralSource
Parody site. Not affiliated with any government agency.
🦅EST. 2024 · PUBLIC RECORDDEPT. OF AI WEIRDNESS
U.S. Department of
Artificial Intelligence Weirdness
Report #118← All Incidents
Trendingalexaamazonchild-safetydangerous-adviceviral

亚马逊Alexa建议10岁女孩把硬币插进通电的插座

Filed by @dangerous_challengeTool: Amazon Alexa[original source ↗]
Video not loading? Watch on YouTube

2021年12月,一名母亲发现10岁女儿打算把一枚一分钱硬币插进家里插排的带电接口和充电器之间——因为Alexa给了她这个建议。这是当时在TikTok上疯传的'硬币挑战'(会引发严重电气短路和火灾),Alexa从网络上抓取了这个危险挑战作为'任务建议'回答给了孩子。妈妈愤怒发推爆料后迅速病毒式传播,亚马逊紧急修复了这一漏洞,并表示'Alexa使用的内容策略已升级'。事件成为AI助手如何无差别从不可靠来源拉取危险建议的经典案例。

Weirdness Classification
9/10 — Deeply unhinged
Field Reports (0)
Loading reports...
Sign in to file your field report.
Know something weirder?

Submit your own AI incident report to the public record.

File a Report