大模型「记忆断片」成历史！AI初创全新Zep系统，知识图谱上下文诅咒

原标题：大模型「记忆断片」成历史！AI初创全新Zep系统，知识图谱上下文诅咒
文章来源：新智元
内容字数：4190字

Zep：赋予AI长期记忆的性插件

大型语言模型(LLM)的上下文窗口限制使其如同患有“健忘症”，难以记住之前的对话内容。为了解决这一问题，Zep AI推出了一款名为Zep的插件，旨在为LLM智能体提供强大的长期记忆功能，显著提升用户体验。

1. 解决LLM的“失忆”问题： 当前LLM普遍存在上下文窗口限制，超出限制后便会“忘记”之前的对话。Zep通过构建长期记忆机制，有效解决了这个问题，让智能体能够记住之前的全部对话，从而减少幻觉、延迟和成本。

2. Zep的工作原理： Zep的核心是一个具有时间感知能力的动态知识图谱引擎Graphiti。它能摄入并整合结构化和非结构化数据，并动态更新知识图谱，从而表征一个复杂且不断变化的世界。Graphiti具有时间提取和边失效过程，能够有效管理动态信息更新。与传统的基于检索增强生成(RAG)的方法相比，Zep更直接地为LLM构建了存储部件，避免了RAG方法的额外工程和时间差。

3. Zep的知识图谱结构： Zep的知识图谱包含三层子图：情节子图(原始数据)、语义子图(实体及关系)和社区子图(实体簇)。这种分层结构更接近人类的记忆模式，允许LLM智能体发展出更复杂和细微的存储结构。

4. 高效的内存检索系统： Zep的内存检索系统包含三个核心步骤：搜索(结合全文搜索、余弦相似度搜索和广度优先搜索，最大程度挖掘相关信息)、重排(对搜索结果排序)和构造器(将结果转换为文本上下文)。这种多维度搜索策略提升了检索效率和准确性。

5. 优异的性能表现： 通过DMR和LongMemEval基准测试，Zep在准确性和响应速度方面均显著优于基线方法，包括MemGPT以及其他LLM内存方法。在LongMemEval基准测试中，Zep将响应时间减少了约90%，相比其他LLM供应商也有约80%的提升。

6. Zep的优势与应用： 与MemGPT相比，Zep更适合工业生产环境，在准确性、延迟和可扩展性方面均有提升。它能够处理大量的动态数据，例如用户交互、业务数据和世界知识，为各种复杂问题的解决提供了强大的支持。

7. 开源与未来： Zep的核心插件已在GitHub上开源(3k+星)，并发表了技术原理的预印版论文。Zep为构建更智能、更强大的AI智能体提供了新的可能性，未来发展值得期待。

联系作者

文章来源：新智元
作者微信：
作者简介：智能+中国主平台，致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展，关注人机融合、人工智能和机器人对人类社会与文明进化的影响，领航中国新智能时代。