记忆能力是AI智能体构建高质量对话和个性化服务的核心。随着对话轮数的增加,如何让智能体保持对过去信息的理解能力,同时控制计算成本,是实现高效AI的关键。
如果忽视记忆策略设计,会出现两个主要问题:
- 早期信息被遗忘,导致智能体理解偏差
- 对话长度增加,模型处理成本和响应延迟显著上升
尽管开源框架如Mem0提供了便利,我们依然有必要理解不同记忆策略的原理,以便在项目中选择最适合的方案。本文将解析8种常用记忆策略,并结合模拟代码说明实现思路。
01 全量记忆:保留所有上下文
全量记忆是最直观的策略——每轮对话全部保留,供后续使用。
history = []
def add_message(user_input, ai_response):
history.append({"user": user_input, "assistant": ai_response})
def get_context():
return "\n".join([f"{h['user']} -> {h['assistant']}" for h in history])
特点分析
- 优点:实现简单,信息完整
- 缺点:对话增长快,会触发上下文限制;成本高
- 适用场景:短对话或一次性问答
02 滑动窗口:仅保留近期信息
通过固定长度窗口,只保留最近N轮对话,避免上下文无限膨胀。
WINDOW_SIZE = 3
memory = []
def add_message(user_input, ai_response):
memory.append({"user": user_input, "assistant": ai_response})
if len(memory) > WINDOW_SIZE:
memory.pop(0)
def get_context():
return "\n".join([f"{m['user']} -> {m['assistant']}" for m in memory])
特点分析
- 优点:低开销、实现简单
- 缺点:早期信息遗忘快,无法长期记忆
- 适用场景:FAQ、闲聊机器人等短对话场景
03 相关性过滤:智能筛选重要信息
为每条记忆打分,保留重要内容,丢弃次要信息。
MAX_ITEMS = 25
memory = []
def add_message(user_input, ai_response):
score = evaluate_importance(user_input, ai_response)
memory.append({"user": user_input, "assistant": ai_response, "score": score})
if len(memory) > MAX_ITEMS:
memory.remove(min(memory, key=lambda x: x["score"]))
特点分析
- 优点:关键内容不丢失,智能化管理
- 缺点:评分算法复杂,可能误判
- 适用场景:知识型对话或信息密集型场景
04 摘要/压缩:浓缩核心信息
将冗长对话压缩为摘要,只保留关键信息。
memory = []
summary = None
MAX_LEN = 10
def add_message(user_input, ai_response):
memory.append({"user": user_input, "assistant": ai_response})
if len(memory) > MAX_LEN:
old_turns = memory[:-5]
summary_text = summarize(old_turns)
summary = merge(summary, summary_text)
memory.clear()
memory.append({"summary": summary})
memory.extend(memory[-5:])
特点分析
- 优点:节省上下文空间,保留要点
- 缺点:摘要质量依赖模型,可能遗漏信息
- 适用场景:长对话、连续性用户交互
05 向量数据库:语义检索记忆
将对话内容向量化存储,基于语义进行检索,实现长期记忆。
memory = VectorStore()
def add_message(user_input, ai_response):
embedding = embed({"user": user_input, "assistant": ai_response})
memory.add(embedding, {"user": user_input, "assistant": ai_response})
def get_context(query):
q_embedding = embed({"query": query})
results = memory.search(q_embedding, top_k=3)
return "\n".join([f"{r['user']} -> {r['assistant']}" for r in results])
特点分析
- 优点:语义检索,支持长期存储
- 缺点:依赖向量质量,需额外数据库维护
- 适用场景:个性化助手、跨会话记忆
06 知识图谱:结构化记忆
通过构建实体-关系图谱,实现信息的结构化存储与推理。
graph = KnowledgeGraph()
def add_message(user_input, ai_response):
triples = extract_triples(f"User: {user_input}\nAI: {ai_response}")
for s, r, o in triples:
graph.add_edge(s, o, r)
def get_context(query):
entities = extract_entities(query)
context = []
for e in entities:
context += graph.query(e)
return context
特点分析
- 优点:可做推理,信息可追溯
- 缺点:构建维护成本高
- 适用场景:科研、法律、企业客户服务等复杂场景
07 分层记忆:短期与长期结合
结合短期窗口与长期可检索记忆,实现类似人脑的分层管理。
short_term = SlidingWindow(max_turns=2)
long_term = VectorDatabase(k=2)
def add_message(user_input, ai_response):
short_term.add(user_input, ai_response)
if contains_key_info(user_input):
long_term.add(embed(user_input + ai_response), summarize(user_input + ai_response))
def get_context(query):
recent = short_term.get_context()
related = long_term.search(embed(query))
return f"【长期】\n{related}\n\n【短期】\n{recent}"
特点分析
- 优点:短期快速响应,长期记忆可检索
- 缺点:实现复杂,需要多模块协调
- 适用场景:个性化助理、跨天日程管理、企业客服
08 类OS内存管理:模拟Swap机制
参考操作系统内存管理,将近期对话视为“RAM”,历史信息视为“Disk”,需要时进行Page In。
active_memory = Deque(maxlen=2)
passive_memory = {}
turn_id = 0
def add_message(user_input, ai_response):
global turn_id
turn = f"User: {user_input}\nAI: {ai_response}"
if len(active_memory) >= 2:
old_id, old_turn = active_memory.popleft()
passive_memory[old_id] = old_turn
active_memory.append((turn_id, turn))
turn_id += 1
def get_context(query):
context = "\n".join([x[1] for x in active_memory])
paged_in = ""
for id, turn in passive_memory.items():
if any(word in turn.lower() for word in query.lower().split() if len(word) > 3):
paged_in += f"\n(Paged in from Turn {id}): {turn}"
returnf"### Active Memory\n{context}\n\n### Paged-In\n{paged_in}"
特点分析
- 优点:冷热分层管理,节省资源
- 缺点:Page策略设计复杂,拼接逻辑需谨慎
- 适用场景:低延迟对话、高容量长期记忆需求
以上8种记忆策略涵盖了从简单到复杂、短期到长期、非结构化到结构化的多种实现思路。
通过理解这些原理,开发者可以根据业务需求选择最合适的记忆机制,实现高效、个性化和可扩展的AI智能体。
人工智能测试开发学习交流群
推荐学习
行业首个「知识图谱+测试开发」深度整合课程【人工智能测试开发训练营】,赠送智能体工具。提供企业级解决方案,人工智能的管理平台部署,实现智能化测试,落地大模型,实现从传统手工转向用AI和自动化来实现测试,提升效率和质量。