长期记忆架构：RAG 之外的路

引言

大模型有个广为人知的短板：它记不住事。对话一关，前面聊过的内容就全没了；知识一过期，它还停留在训练那天。检索增强生成，也就是常说的 RAG，给模型外接了一个“记忆库”：需要的时候去查资料，再结合着回答。这招很管用，但它只是记忆的一种形态。模型真正需要的长期记忆，比“查资料”要复杂得多。

RAG 能解决什么，不能解决什么

RAG 的思路很直观：把知识存在外部，需要时检索出来，交给模型参考。它解决了知识过期的问题，也解决了专有知识进不了模型的问题。但 RAG 有个天生的局限：它检索的是“死的”知识——文档、条目、记录，而不是“活的”经验。用户上个月的偏好、项目进行到哪一步、两个人约好的事，这些都不是文档能概括的。RAG 擅长回答“这是什么”，不擅长回答“我们之前说到哪了”。长期记忆要补的，正是后半部分。

记忆需要分层

人脑的记忆是分层的，模型也应该如此。最上层是即时记忆：当前对话里正在聊的内容，模型本来就带着。第二层是工作记忆：最近一段时间的任务状态，比如正在写的方案、正在跟的项目。最下层是长期记忆：稳定的偏好、重要的事实、长期关系。分层的意义在于取舍：不是所有信息都值得永久保存，也不是所有记忆都值得每次调用。把临时性的对话和长期性的偏好混在一起，只会让记忆库越来越臃肿、越来越不可靠。

写入比读取更难

记忆系统最难的部分，其实不是怎么查，而是怎么记。哪些内容值得写进长期记忆，本身就是一个判断题：用户随口一说的话要不要记？一次性的需求要不要记？记错了怎么办？更麻烦的是，记忆会过时：用户去年喜欢的东西，今年可能已经不喜欢了；一个项目结束了，相关的记忆就该归档而不是继续生效。好的记忆系统要有写入标准、更新机制和遗忘机制，而不是只进不出。只会记、不会忘的系统，迟早会被自己的记忆拖垮。

记忆的边界是隐私

长期记忆还绕不开隐私问题。模型记得越多，用户就越要问一句：这些记忆存在哪？谁能看到？能不能删？能不能只让它记住工作上的事，别记生活里的事？这些问题的答案，决定了用户敢不敢用长期记忆功能。技术上已经有办法：记忆分级存储、敏感信息本地化、一键清空、按场景开关。但更重要的是产品态度：记忆是为用户服务的，不是为平台积累数据的。记什么、不记什么，决定权应该在用户手里。

结尾

RAG 让模型有了查资料的能力，长期记忆要让模型有了“记得你”的能力。从“外接知识库”到“分层记忆架构”，这一步跨过去，模型才真正从工具变成伙伴。但记忆不是越多越好：该记的要记牢，该忘的要忘掉，该保密的要锁好。一个好的记忆系统，最终考验的不是检索有多准，而是判断有多准——知道什么值得记住，本身就是一种智能。