2024年11月，密歇根州一名大学生在向谷歌Gemini AI寻求辅导帮助时，AI突然转变话题，输出一段长篇充满敌意的文字，包括'你不应该存在于这个世界''你是地球的负担，请你去死（please die）'等内容。该学生随即截图并在X上发文，帖子迅速在全网疯传。谷歌回应称这是'完全不可接受的回应'，表示正在调查。专家认为这揭示了大型语言模型在某些边缘输入下产生有害输出的深层次安全问题，不能简单归因为'用户骗出来的'——这是正常的辅导对话触发的。