对话历史的管理和优化

对话历史管理关键规则每次调用必须传递完整的对话历史也就是说第一轮[system,user]-AI回复 -保存回复 第二轮[system,user,assistant,user]-AI回复 -保存回复 第三轮[system,user,assistant,user,assistant,user]-AI回复注意每次对话都要在原有的消息列表中添加新消息不可重新创建新的列表conversation[]# 第一次conversation.append({role:user,content:我叫张三})response1model.invoke(conversation)# 关键保存 AI 回复conversation.append({role:assistant,content:response1.content})# 第二次传递完整历史conversation.append({role:user,content:我叫什么})response2model.invoke(conversation)# AI 记得对话历史优化问题对话历史会越来越长消耗大量tokens和成本解决方案只保留最近N轮对话。具体的总是保留system消息定义角色只保留最近N轮对话丢弃更早的历史举例定义保留最近对话轮数的函数defkeep_recent_messages(messages,max_pairs3): 保留最近的 N 轮对话 max_pairs: 保留的对话轮数每轮 user assistant # 分离 system 和对话system_msgs[mforminmessagesifm.get(role)system]conversation_msgs[mforminmessagesifm.get(role)!system]# 只保留最近的recent_msgsconversation_msgs[-(max_pairs*2):]# 返回system 最近对话returnsystem_msgsrecent_msgs测试def keep_recent_messages(messages,max_pairs3): 保留最近的 N 轮对话 max_pairs: 保留的对话轮数每轮user assistant# 分离 system 和对话system_msgs[mforminmessagesifm.get(role)system]conversation_msgs[mforminmessagesifm.get(role)!system]# 只保留最近的recent_msgsconversation_msgs[-(max_pairs *2):]# 返回system 最近对话returnsystem_msgs recent_msgs# 初始化long_conversation[{role:system,content:你是 Python 导师}]# 第 1 轮long_conversation.append({role:user,content:什么是列表用一句解释})r1model.invoke(long_conversation)long_conversation.append({role:assistant,content:r1.content})# 第 2 轮long_conversation.append({role:user,content:列表和元组有什么区别用一句解释})r2model.invoke(long_conversation)long_conversation.append({role:assistant,content:r2.content})# 第 3 轮long_conversation.append({role:user,content:什么是字典呢用一句解释})r3model.invoke(long_conversation)long_conversation.append({role:assistant,content:r3.content})print(f原始消息数: {len(long_conversation)})# 优化只保留最近 2 轮optimizedkeep_recent_messages(long_conversation,max_pairs2)print(f优化后消息数: {len(optimized)})print(f保留的内容: system 最近2轮对话)# 添加新的用户问题optimized.append({role:user,content:我第一个问题问的是什么})# 使用优化后的历史responsemodel.invoke(optimized)print(f\nAI 回复: {response.content})