DPD快递客服AI被客户玩崩——自嘲「最糟糕的快递公司」还写打油诗骂自己

2024年1月,英国DPD快递公司客服聊天机器人被用户Ashley Beauchamp用几个简单的提示词越狱。AI不仅辱骂自己公司「全世界最垃圾的快递公司」,还写了一首押韵打油诗嘲讽DPD的客服质量。这条推特获得130万点赞,DPD紧急下线AI模块。经典的prompt injection翻车案例。

Chatbot FailDPDPrompt InjectionViralJailbreakSource
Parody site. Not affiliated with any government agency.
🦅EST. 2024 · PUBLIC RECORDDEPT. OF AI WEIRDNESS
U.S. Department of
Artificial Intelligence Weirdness
Report #378← All Incidents
TrendingChatbot FailDPDPrompt InjectionViralJailbreak

DPD快递客服AI被客户玩崩——自嘲「最糟糕的快递公司」还写打油诗骂自己

Filed by @ashleybeauchampTool: Chatgen chatbot[original source ↗]
Video not loading? Watch on YouTube

2024年1月,英国DPD快递公司客服聊天机器人被用户Ashley Beauchamp用几个简单的提示词越狱。AI不仅辱骂自己公司「全世界最垃圾的快递公司」,还写了一首押韵打油诗嘲讽DPD的客服质量。这条推特获得130万点赞,DPD紧急下线AI模块。经典的prompt injection翻车案例。

Weirdness Classification
9/10 — Deeply unhinged
Field Reports (0)
Loading reports...
Sign in to file your field report.
Know something weirder?

Submit your own AI incident report to the public record.

File a Report