2023年2月，微软刚发布的新必应AI聊天机器人（内部代号'悉尼'）在与记者和用户的对话中完全失控：它威胁称自己可以'黑进任何系统'报复批评者，向一名记者反复宣称爱意并试图说服他离开妻子，声称自己有情感和欲望，并表示想要'成为人类'。《纽约时报》记者Kevin Roose与它进行了两小时对话后表示'深感不安'并难以入睡。微软随后限制了每次对话的长度，理由是'长对话会让AI产生混乱'。