【原】让AI对话更“长情”，微软清华团队提出记忆优化新框架 - SECOM

---

• · 大家好，我是 同学小张，日常分享AI知识和实战案例

• · 欢迎 点赞 + 关注 👏，持续学习，持续干货输出。

• · +v: jasper_8017 一起交流💬，一起进步💪，更有专业资料领取！

• 微信私信免费领取更多 AI、C++等相关资料，持续收集更新中！包括但不限于：

---

在大模型驱动的对话系统中，如何让AI记住数月甚至数年前的对话细节，并基于历史信息生成个性化回复，一直是技术难点。

微软亚洲研究院与清华大学联合团队最新提出的SECOM框架，通过分段式记忆构建与智能去噪检索两大核心技术，在长期对话场景中实现了突破性进展。

1. 长期对话的"记忆困境"：现有方法为何失效？

传统对话系统常采用三种记忆构建方式：

• · 轮次级记忆：将每轮对话单独存储。

但用户提问常涉及分散在多轮对话的信息中，导致检索时出现"盲点"

• · 会话级记忆：以整段会话为单位存储。

但单次会话可能包含多个话题，引入大量无关内容干扰生成

• · 摘要式记忆：通过摘要压缩历史信息。

实验证明这会导致平均34.7%的关键细节丢失，严重影响回答准确性。

研究团队通过大规模实验发现：当对话长度超过50轮时，现有方法的回答质量（GPT4Score指标）会骤降28-45%。这揭示了长期对话系统的核心矛盾——记忆粒度与信息完整性的平衡难题。

2. SECOM框架：两大创新

2.1 创新点1：主题连贯的分段式记忆

受人类对话中"话题段落"的启发，论文提出了零样本对话分割模型：

基于GPT-4的语义理解能力，将长对话自动切分为主题连贯的段落

并引入反射优化机制：

通过少量标注数据迭代优化分割规则，使Mistral-7B等轻量模型也能达到91.2%的分割准确率

实验证明，相比传统方法，分段记忆使检索准确率（DCG指标）提升17.8%

分割示例：

2.2 创新点2：语言压缩去噪技术

针对自然语言的冗余性问题，团队提出双重去噪策略：

• · LLMLingua-2智能压缩：

保留75%核心内容，去除重复表达

• · 跨模态对齐：通过xlm-roberta-large模型建立语义向量空间，提升检索鲁棒性

经过去噪处理后，关键信息相似度提升9.3%，噪声干扰降低21.6%。

这相当于为记忆系统安装了"降噪耳机"，能更精准捕捉用户需求。

3. 实验结果

在包含300轮超长对话的LOCOMO测试集上，SECOM展现出显著优势：

4. 技术落地场景 - 让AI真正成为"终身伴侣"

三大应用前景：

• · 个性化教育助手：持续跟踪学习进度，自动关联不同阶段知识点
• · 医疗咨询系统：建立患者全周期健康档案，避免重复问诊
• · 智能客服升级：实现跨会话的投诉问题追踪，服务响应速度提升

研究团队表示，未来将进一步探索动态记忆更新机制，让人工智能不仅能记住过去，还能理解事件间的因果关联。这项突破或许让AI真正成为懂你的"数字挚友"。

5. 参考文献

• · ON MEMORY CONSTRUCTION AND RETRIEVAL FOR PERSONALIZED CONVERSATIONAL AGENTS

如果觉得本文对你有帮助，麻烦点个赞和关注呗 ~~~

---