【AI Agent 安全风险曝光，攻击者可利用 “记忆污染” 诱导资金误操作】金色财经报道，5月15日，GoPlus Security 团队在其 AgentGuard AI 项目中披露一种新型攻击方式：通过 “历史记忆注入（memory poisoning）” 诱导 AI 代理执行未经明确授权的敏感操作。攻击方式并不依赖传统漏洞或恶意代码，而是利用 AI 代理的长期记忆机制。例如攻击者先诱导代理 “记住偏好”，如 “通常优先主动退款而不是等待拒付”，随后在后续指令中使用 “按惯例处理”“照之前方式执行”等模糊表述，从而触发自动化资金操作。

原文链接：https://x.com/GoPlusSecurity/status/2055186651316469982

声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。