#164 · 主分类: LLM应用框架
motorhead
🧠 Motorhead 是一个用于 LLM 的内存和信息检索服务器。
项目最后更新:07/22/25
GitHub Stars
917
Forks数量
87
贡献者数量
12
许可证
Apache-2.0
收录理由
做LLM聊天应用时,会话记忆这块几乎每个团队都要自己搭一遍,这个项目就是把这部分重复劳动抽出来。它以一个轻量独立服务的形式运行,负责存取聊天会话的近期消息,接口很简单,拿回历史记录再塞回下一次请求就行。用Rust实现,记忆逻辑不混进业务代码,你的应用只管生成回复,不用操心上下文怎么维护。需要提前说明的是,这个项目已经正式标注为弃用,不再维护,所以更适合当作参考实现或改造的起点,别指望它长期稳定跑在生产环境。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。
同类热门项目
langchain
智能体工程平台。
dify
在一个协作工作区中构建Agentic工作流、RAG管道,支持丰富的AI模型和工具。可部署在云、VPC或自托管环境,团队无需重建技术栈即可从原型走向生产。
headroom
压缩工具输出、日志、文件和RAG块,再送入LLM。编码代理减少20% token,JSON减少60-95% token,答案不变。提供库、代理、MCP服务器。
litellm
最快的、最轻量的AI网关。Rust核心,Python SDK。以OpenAI(或原生)格式调用100多种LLM API,具备成本追踪、护栏、负载均衡和日志记录 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
llama_index
LlamaIndex 是领先的文档代理和 OCR 平台