2024年12月，OpenAI正式向公众开放Sora视频生成工具，称其为'AI视频领域的重大突破'。发布后数小时内，X和多个论坛上已出现用Sora生成的政治人物超写实视频，包括模拟知名政客发表从未说过的演讲。OpenAI随后以'违反使用条款'为由下架了部分视频，但媒体指出其内容政策存在漏洞。更令人担忧的是：Sora随后因为'safety issues'将多项功能暂时下架并延迟开放，但官方始终未解释具体是哪些安全问题触发了撤回。部分AI安全研究员私下透露问题涉及Sora被用于生成违禁内容的速度远超OpenAI预估。