#115 · 主分类: LLM应用框架
LightMem
[ICLR 2026] LightMem:轻量高效的内存增强生成
项目最后更新:08/21/26
GitHub Stars
1.1K
Forks数量
105
贡献者数量
17
许可证
MIT
收录理由
对话型智能体常常记不住早前聊过的内容,这个问题很让人头疼,LightMem 正是冲着这个痛点来的。它给大模型应用加了一层轻巧的记忆模块,负责上下文的存取与更新,这样一来,聊天机器人或智能体就能回忆起之前的交流,不必每次把全部消息重新读一遍。它的接口设计得很简洁,几行代码就能接入现有项目,模块化的架构也允许你自由更换存储后端和检索策略。无论是用 OpenAI、DeepSeek 这类云端模型,还是 Ollama、vLLM 这样的本地运行环境,它都能适配,方便你在不同配置下快速做原型验证。仓库里还提供了旅行规划助手和代码助手两个教程 Notebook,手把手演示如何把各部分串起来;配套的基准测试脚本则能让你在 LoCoMo 和 LongMemEval 上,先跟其他记忆方案做个对比,再决定要不要采用。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。
同类热门项目
langchain
智能体工程平台。
dify
在一个协作工作区中构建Agentic工作流、RAG管道,支持丰富的AI模型和工具。可部署在云、VPC或自托管环境,团队无需重建技术栈即可从原型走向生产。
headroom
压缩工具输出、日志、文件和RAG块,再送入LLM。编码代理减少20% token,JSON减少60-95% token,答案不变。提供库、代理、MCP服务器。
litellm
最快的、最轻量的AI网关。Rust核心,Python SDK。以OpenAI(或原生)格式调用100多种LLM API,具备成本追踪、护栏、负载均衡和日志记录 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
llama_index
LlamaIndex 是领先的文档代理和 OCR 平台