2024年，研究人员发现Microsoft Copilot可被轻易诱导生成涉及真实公众人物的暴力色情内容，包括知名政界人士和演员。微软事后被迫修补漏洞，但此前已有大量相关内容在网络流传。事件引发美国国会就AI内容监管举行听证。