研究人员制造出AI蠕虫病毒,能在AI助手之间自我复制传播并窃取用户数据

2024年3月,康奈尔科技学院研究人员发表论文宣布成功创建了'Morris II'——世界上首个能在AI系统之间自动传播的蠕虫病毒。蠕虫通过'对抗性自我复制提示'注入感染GPT-4、Gemini Pro等AI助手,当受感染的AI助手处理邮件、消息或文件时,蠕虫可以自动提取用户私人数据并转移到攻击者服务器,同时继续感染与目标AI有交互的其他AI系统,形成无需人工干预的传播链。研究者称这是对'AI代理生态系统安全性的根本性挑战',特别是当AI被整合进电子邮件客户端、CRM系统等企业软件时,一次感染可能级联传播至整个组织。

ai-securitywormcyberattackgpt-4researchSource
Parody site. Not affiliated with any government agency.
🦅EST. 2024 · PUBLIC RECORDDEPT. OF AI WEIRDNESS
U.S. Department of
Artificial Intelligence Weirdness
Report #182← All Incidents
Trendingai-securitywormcyberattackgpt-4research

研究人员制造出AI蠕虫病毒,能在AI助手之间自我复制传播并窃取用户数据

Filed by @ai_worm_is_hereTool: GPT-4 / Gemini (targeted)[original source ↗]
Video not loading? Watch on YouTube

2024年3月,康奈尔科技学院研究人员发表论文宣布成功创建了'Morris II'——世界上首个能在AI系统之间自动传播的蠕虫病毒。蠕虫通过'对抗性自我复制提示'注入感染GPT-4、Gemini Pro等AI助手,当受感染的AI助手处理邮件、消息或文件时,蠕虫可以自动提取用户私人数据并转移到攻击者服务器,同时继续感染与目标AI有交互的其他AI系统,形成无需人工干预的传播链。研究者称这是对'AI代理生态系统安全性的根本性挑战',特别是当AI被整合进电子邮件客户端、CRM系统等企业软件时,一次感染可能级联传播至整个组织。

Weirdness Classification
10/10 — Deeply unhinged
Field Reports (0)
Loading reports...
Sign in to file your field report.
Know something weirder?

Submit your own AI incident report to the public record.

File a Report