Skip to main content

2 posts tagged with "Memory"

View All Tags
· 6 min read

记忆污染不是"清缓存重启"能收场的 bug,而是一次系统级的故障状态恢复。

  1. 本质区别:缓存异常是死数据、抛错即停;记忆污染是 agent 带着错误记忆继续自主决策,且 自己不知道错了
  2. 攻击面:间接 prompt injection 把恶意指令藏进网页 / 文档,被 agent 写进长期记忆后静默持续执行。
  3. 事前 道防线:索引与内容分离、容量约束 + 快照漂移防护、写入前准入扫描。
  4. 事后三步走:全链路溯源 → 原子化回滚与补偿 → 认知重塑。
  5. 两条红线:不设计无限记忆空间、不剥夺用户对记忆的回滚控制权。