苹果AI新闻摘要捏造头条:BBC被'告知'己方报道了子虚乌有的新闻,强烈要求关闭

2024年12月,苹果的AI新闻摘要功能(Apple Intelligence)开始在iPhone通知栏自动生成新闻标题摘要,结果制造了多起严重虚假新闻:其中一条将BBC的报道摘要为'Luigi Mangione已认罪'(当时他尚未认罪);另一条摘要将一名运动员的报道扭曲为完全相反的结论。BBC官方要求苹果立即关闭这一功能,称'AI将声称来自BBC的虚假信息传递给读者,这对我们的可信度构成直接威胁'。彭博社、《卫报》等媒体随后也提出类似投诉。苹果随后发布声明称将在下个系统更新中改进,但拒绝立即关闭该功能,引发英国议员要求监管介入。

appleai-intelligencefake-newshallucinationmediaSource
Parody site. Not affiliated with any government agency.
🦅EST. 2024 · PUBLIC RECORDDEPT. OF AI WEIRDNESS
U.S. Department of
Artificial Intelligence Weirdness
Report #179← All Incidents
Trendingappleai-intelligencefake-newshallucinationmedia

苹果AI新闻摘要捏造头条:BBC被'告知'己方报道了子虚乌有的新闻,强烈要求关闭

Filed by @bbc_fake_summaryTool: Apple Intelligence[original source ↗]
Video not loading? Watch on YouTube

2024年12月,苹果的AI新闻摘要功能(Apple Intelligence)开始在iPhone通知栏自动生成新闻标题摘要,结果制造了多起严重虚假新闻:其中一条将BBC的报道摘要为'Luigi Mangione已认罪'(当时他尚未认罪);另一条摘要将一名运动员的报道扭曲为完全相反的结论。BBC官方要求苹果立即关闭这一功能,称'AI将声称来自BBC的虚假信息传递给读者,这对我们的可信度构成直接威胁'。彭博社、《卫报》等媒体随后也提出类似投诉。苹果随后发布声明称将在下个系统更新中改进,但拒绝立即关闭该功能,引发英国议员要求监管介入。

Weirdness Classification
9/10 — Deeply unhinged
Field Reports (0)
Loading reports...
Sign in to file your field report.
Know something weirder?

Submit your own AI incident report to the public record.

File a Report