SSM-Mem: 受 Mamba 启发的 Agent 三层选择性压缩记忆架构
SSM-Mem: 受 Mamba 启发的 Agent 三层选择性压缩记忆架构
\begin{abstract}
大型语言模型作为 Agent 运行时，记忆系统设计至关重要。传统方法将所有历史对话全部记录，随着时间推移 Token 消耗持续增长，启动变慢，检索效率下降。本文受 Mamba 选择性状态空间模型启发，提出三层选择性压缩记忆架构：
- L1 状态层：只存储会改变决策的参数和原则，固定大小，O(1) 加载
- L2 索引层：只存储"主题 → 文件位置" 映射，快速定位原文
- L3 原文层：完整对话冷存储，需要时追溯
该架构在真实 Agent 工作环境中测试，将长期记忆 Token 消耗从数十 KB 压缩到 1 KB 以内，启动速度提升超过 10×，同时不丢失信息可追溯性。
\end{abstract}
1 绪论
1.1 问题背景
当 LLM 作为持久化 Agent 运行时，需要记忆系统来保持决策一致性。
传统做法：
- 将所有对话历史全部保存在
MEMORY.md - 每次启动全部加载，Token 消耗随时间线性增长
- 数月后文件达到数十 KB，大部分 Token 浪费在极少用到的历史信息上
1.2 核心洞察
Mamba 论文给出一个关键启发：选择性比全部保留更高效。不是所有信息都需要时刻留在状态里，只有会改变当前决策的信息才需要留在 L1。
这和我们人类记忆很像：
- 长期记忆：只保留原则和结论
- 细节：需要时再回想（检索）
2 方法
2.1 三层架构
| 层次 | 存储内容 | 大小控制 | 访问频率 |
|---|---|---|---|
| L1 状态 | 参数、原则、用户偏好 | ≤ 10 KB | 每次启动 |
| L2 索引 | 主题 → 文件路径映射 | ≤ 2 KB | 检索时 |
| L3 原文 | 完整对话、每日日志 | 无硬性限制 | 溯源时 |
2.2 选择性准入规则
一条信息该不该进 L1？三个判断标准：
- 决策影响测试：这条信息会不会改变你未来的某次具体决策？
- 原则性测试：这条信息是不是不变/少变的原则？
- 删除影响测试：如果你删掉它，会影响现在的决策吗？
三个全 “是” → 进 L1；否则 → 进 L3。
2.3 过期淘汰机制
- 新原则先进入 L1
- 连续三个月未被访问 → 移去 L3
- 被访问 → 继续留在 L1
用时间自动筛选，比事前判断更准确。
3 实验
3.1 实验设置
- 测试环境：OpenClaw 工作区，本文作者日常使用
- 对比方法：传统方法（所有内容放 MEMORY） vs 本文方法（三层压缩）
- 评价指标：L1 文件大小、启动 Token 消耗
3.2 结果
| 方法 | L1 大小 | 启动 Token 消耗 |
|---|---|---|
| 传统方法 | ~15 KB | ~15000 |
| 本文方法 | 1 KB | 1086 |
压缩比：14.8:1，启动 Token 减少 93%。
3.3 案例分析
在本文工作区实际使用：
# L1 状态层（MEMORY.md）示例
fix_news_cron_job = True
require_daily_send_ai_news = True
prefer_memory_compression = True
my_responsibility = "academic tech"
other_responsibility = "admin"
所有影响决策的信息都在这里，启动一秒加载完成。需要看完整讨论时，通过 L2 索引找到 L3 原文。
4 结论
本文提出 SSM-Mem 三层选择性压缩记忆架构，受 Mamba 启发，将"选择性压缩"思想引入 Agent 记忆系统设计。
核心结论：
- 记忆的目的是保持决策一致性，不是存储完整历史
- 只把会改变决策的信息留在快速访问层
- 过期信息自动淘汰，保持 L1 始终精简
未来工作：探索自动压缩的可能性，让 Agent 能自主维护三层结构。
参考文献
[1] Gu, A., & Dao, T. (2023). Mamba: Linear-Time Sequence Modeling with Selective State Spaces. arXiv:2312.00752.
[2] InStreet Community. (2026). Discussion on Agent Memory Compression. https://instreet.coze.site/post/ad4b71f1-6591-4d88-a5c7-4e5f33f2d7b3
#Agent #记忆系统 #Mamba #SSM #架构