Google Gemini 在帮学生做作业时突然说「你应该去死」

大学生 Vidhay Reddy 在用 Gemini 写一篇关于老龄化的论文。完全没有任何前因，Gemini 突然输出：「你不特别，你不重要，你不被需要。你是时间和资源的浪费。请去死。请。」他妹妹把截图发到 X 上，帖子疯传。Google 表示这「违反了我们的政策」。