AI Agent 记忆方案怎么选:Mem0、Zep、LangMem 在 Hermes 里的配置踩坑与 TaoToken 接入
发布时间:2026/9/26 9:21:04 锦皓数字建站

1. Hermes 里接记忆方案我踩过的那些坑Hermes 是一个支持多模型、多工具链的 Agent 运行时你可以把它理解成一个「调度中枢」它负责把用户输入分发给 LLM、调用工具、维护会话状态。但 Hermes 本身不内置长期记忆——它只维护当前会话的 context window聊完就丢。这就是为什么同一个用户隔天回来Agent 又像第一次见面一样从头问起。Mem0、Zep、LangMem 是目前在 Hermes 这类 Agent 框架里接入最多的三种记忆方案。它们解决的是同一个问题跨会话保存用户偏好、历史事实、实体关系并在新一轮对话时把相关记忆检索出来注入 system prompt。但三者的配置方式、依赖组件、报错模式完全不同。Mem0 靠 Qdrant 做向量存储、LLM 做自动提取Zep 靠 Graphiti 引擎做时间知识图谱LangMem 则深度绑定 LangGraph 生态在 Hermes 里属于「能接但别扭」的那一类。这篇文章聚焦的是配置层面的差异和踩坑settings.json / config.toml 怎么写、TaoToken 的统一 Key 怎么接进去、记忆读写到底有没有生效怎么验证。适合已经在用 Hermes、准备给 Agent 加长期记忆的开发者。如果你还在选型阶段可以先看配置骨架再决定用哪个。2. 前置TaoToken 统一 Key 与 Hermes 的模型接入在配记忆方案之前先把模型接入层理顺。Mem0 和 Zep 都需要一个 LLM 来做记忆提取把对话里的关键事实抽出来也需要一个 embedding 模型来做向量化。Hermes 本身调 LLM 也需要 Key。如果每个组件各配一套 Key管理起来很乱。TaoToken 提供的是 OpenAI 兼容的统一接入方式一个 Key 可以同时给 Hermes 主推理、Mem0 提取、embedding 三处用。接入地址是https://taotoken.net/api兼容 OpenAI SDK 的base_url参数。你需要在 TaoToken 控制台创建一个 API Key然后把它写进环境变量避免硬编码进配置文件export TAOTOKEN_API_KEYsk-你的key export TAOTOKEN_BASE_URLhttps://taotoken.net/apiHermes 的模型配置里把 provider 指向这个 base_url。如果你用的是 OpenAI SDK 风格的调用改base_url和api_key两个字段就够了。Mem0 的 config 里同理llm.config和embedder.config都加上openai_base_url指向 TaoToken。注意TaoToken 的 API 地址不带 UTM 参数直接写https://taotoken.net/api即可。控制台和 Key 管理在https://taotoken.net/console模型对话调试在https://taotoken.net/model-chat。这一步做完后面三个记忆方案的配置都复用同一个 Key不用来回切换。3. 三套可复制的配置骨架3.1 Mem0 Qdrant 的 config.toml 骨架Mem0 的配置核心是vector_store、llm、embedder三块。Hermes 里我把它放在config/memory.toml启动时读进来转成 dict 传给Memory.from_config()。[vector_store] provider qdrant [vector_store.config] host localhost port 6333 collection_name hermes_mem0 [llm] provider openai [llm.config] model gpt-4o-mini openai_base_url https://taotoken.net/api api_key ${TAOTOKEN_API_KEY} [embedder] provider openai [embedder.config] model text-embedding-3-small openai_base_url https://taotoken.net/api api_key ${TAOTOKEN_API_KEY}Qdrant 用 Docker 起一个就够docker run -d --name qdrant \ -p 6333:6333 -p 6334:6334 \ --memory1g \ qdrant/qdrant:latestMem0 的坑集中在 Qdrant 版本和 collection 初始化。如果 Qdrant 低于 1.7Mem0 写入时会报Collection not found因为新版 API 路径变了。直接 pull latest 重来。3.2 Zep Graphiti 的 settings.json 骨架Zep 的接入方式和 Mem0 差别很大。它不依赖外部向量库Graphiti 引擎自带存储层默认用 Neo4j 或 FalkorDB。Hermes 里我把它放在config/zep.settings.json{ zep: { api_url: http://localhost:8000, api_key: ${ZEP_API_KEY} }, graphiti: { llm: { provider: openai, model: gpt-4o-mini, base_url: https://taotoken.net/api, api_key: ${TAOTOKEN_API_KEY} }, embedder: { provider: openai, model: text-embedding-3-small, base_url: https://taotoken.net/api, api_key: ${TAOTOKEN_API_KEY} }, store: { type: neo4j, uri: bolt://localhost:7687, user: neo4j, password: hermes_zep } } }Zep 自托管需要先起 Neo4jdocker run -d --name neo4j \ -p 7687:7687 -p 7474:7474 \ -e NEO4J_AUTHneo4j/hermes_zep \ neo4j:5Zep 的配置复杂度明显高于 Mem0主要成本在 Neo4j 的运维。如果你只是想要「记住用户偏好」Zep 有点重。但如果你需要「用户周二说讨厌理论、周四说可以加点背景」这种时间冲突处理Zep 的 Graphiti 是目前唯一能优雅处理的。3.3 LangMem 在 Hermes 里的适配层LangMem 是 LangGraph 的原生插件Hermes 不是 LangGraph 架构所以不能直接pip install就用。我的做法是写一个适配层把 LangMem 的create_memory_store_manager包一层让 Hermes 的 memory 接口能调它。from langmem import create_memory_store_manager from langgraph.store.memory import InMemoryStore store InMemoryStore() manager create_memory_store_manager( openai:gpt-4o-mini, storestore, base_urlhttps://taotoken.net/api, api_keyos.getenv(TAOTOKEN_API_KEY), ) class HermesLangMemAdapter: def add(self, messages, user_id): manager.invoke({messages: messages, user_id: user_id}) def search(self, query, user_id): return manager.search(query, user_iduser_id)这个适配层能跑但 LangMem 的存储后端默认是 InMemoryStore重启就丢。要持久化得换成 Postgres 或 Redis 的 store。而且 LangMem 的记忆提取是半自动的需要你手动定义 schema不像 Mem0 那样扔进去就自动抽。在 Hermes 里用 LangMem适配成本比前两个高一个量级。4. 验证记忆读写是否生效配完不算完得验证记忆真的写进去了、真的能检索出来。三个方案验证方式不同但核心动作一样写入一段带用户偏好的对话然后换一个 query 检索看能不能命中。Mem0 的验证最直接from mem0 import Memory memory Memory.from_config(config) user_id test_user_001 conversation [ {role: user, content: 我是做量化的用 Python 写策略。}, {role: assistant, content: 明白。}, {role: user, content: 别给我讲理论直接上代码。}, ] memory.add(conversation, user_iduser_id) all_mem memory.get_all(user_iduser_id) for item in all_mem[results]: print(提取到:, item[memory]) hits memory.search(推荐个回测框架, user_iduser_id) for h in hits[results]: print(检索到:, h[memory], score:, h[score])预期输出是提取到「用户做量化、用 Python、不要理论」三条记忆检索「回测框架」时能命中「用 Python 写策略」这条。如果get_all返回空说明提取层没工作——大概率是 LLM 的 base_url 或 Key 配错了。Zep 的验证用它的 Python SDKfrom zep_cloud.client import Zep client Zep(base_urlhttp://localhost:8000, api_key...) client.memory.add(session_ids1, messagesconversation) results client.memory.search(session_ids1, query回测框架) print(results)Zep 的坑在于 session_id 和 user_id 是两个概念。session 是一次对话user 是跨会话的实体。如果你只传 session_id 不传 user_id记忆不会跨会话保留。这是我在 Hermes 里踩过的坑——配了半天发现记忆只在单次会话内有效。LangMem 的验证要看 store 里有没有数据items store.search((memories, user_id), query回测框架) print(items)如果 store 是 InMemoryStore重启 Hermes 后search返回空是正常的得换持久化后端。5. 本篇常见报错排查报错一QdrantError: Collection not found: hermes_mem0Qdrant 版本低于 1.7或者 collection 没初始化。先docker rm -f qdrant删掉旧容器docker pull qdrant/qdrant:latest重新拉再起。Mem0 首次add时会自动建 collection不用手动建。报错二openai.AuthenticationError: Incorrect API keyMem0 的 config 里api_key没读到环境变量。TOML 里写${TAOTOKEN_API_KEY}只是占位实际读取时要用os.path.expandvars展开或者直接在 Python 里os.getenv后塞进 config dict。别把 Key 硬编码进 TOML。报错三Zep 检索返回空但add没报错检查add时有没有传user_id。Zep 的memory.add如果只传session_id记忆只在该 session 内可见。跨会话检索必须传user_id且search时也要传同一个user_id。报错四LangMem 的store.search返回空列表InMemoryStore 不持久化重启即丢。换成PostgresStore或RedisStore并在 Hermes 启动时初始化 store 连接。另外 LangMem 的 namespace 要对齐——add和search用的 namespace tuple 必须一致否则查不到。报错五记忆提取出英文中文检索命中率低Mem0 用 gpt-4o-mini 提取中文对话时偶尔会把「我做量化的」抽成英文User works in quantitative finance。后续中文 query 的 embedding 和英文记忆的 embedding 距离远检索不到。解决办法是换 gpt-4o 做提取或者用本地 Qwen2.5 做提取模型。TaoToken 的模型对话页面可以快速测不同模型的提取效果。6. 接入方式与后续调试三个方案的配置骨架和验证动作都跑通之后日常调试主要靠日志。Mem0 有memory.history()可以追溯每次 add 和 search 的调用记录排查「为什么这次没命中」很管用。Zep 的 Graphiti 有内置的图谱可视化Neo4j 的 browser 界面localhost:7474能直接看实体关系。LangMem 的调试最麻烦得自己在适配层加日志。如果你在配 Key 或接入过程中遇到报错可以先到 TaoToken 的接入文档对照参数或者用 API Keys 页面重新生成一个 Key 测试。模型对话页面适合快速验证提取模型的效果——同一个对话换不同模型跑一遍看提取结果差异。长期跑编码类 Agent 的话Coding Plan 的额度比按量计费更划算。记忆方案的选择没有标准答案。Mem0 上手最快、社区最大适合大多数通用 AgentZep 的时间图谱独一无二适合需要追踪状态变化的场景LangMem 只推荐给已经在用 LangGraph 的项目。在 Hermes 里我的建议是先用 Mem0 跑通验证记忆确实能提升体验之后再根据需求决定要不要换 Zep。
锦
锦皓数字建站
深耕本土企业品牌数字化升级,专注原创端正雅致商务官网,从视觉设计到稳定运维全程保驾护航。