#151 · 主分类： LLM应用框架
langcorn
使用 FastApi 自动化地服务 LangChain LLM 应用和代理。LLMops
项目最后更新：07/15/24
GitHub Stars
938
Forks数量
69
贡献者数量
4
许可证
MIT
收录理由
当LangChain的链或代理在笔记本里跑通后，下一步往往是怎么把它变成HTTP接口。LangCorn的做法是直接读取你的链定义，自动生成一个FastAPI服务，自带路由、交互式文档和可选的令牌认证，其他前端或服务几分钟就能调用模型。它还顺手处理了团队通常要手写的服务层杂活，比如异步处理、在同一个服务上挂多条链、按请求传递模型参数、通过请求体传入聊天记忆等。对于想把LangChain成果快速交付为干净且文档完备的API、又不想从零搭建服务层的小团队来说，这是个很实用的中转方案。不过项目已经有一段时间没更新了，使用前最好确认它的实现方式与你当前的LangChain版本仍然兼容。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。
同类热门项目
langchain
智能体工程平台。
dify
在一个协作工作区中构建Agentic工作流、RAG管道，支持丰富的AI模型和工具。可部署在云、VPC或自托管环境，团队无需重建技术栈即可从原型走向生产。
headroom
压缩工具输出、日志、文件和RAG块，再送入LLM。编码代理减少20% token，JSON减少60-95% token，答案不变。提供库、代理、MCP服务器。
litellm
最快的、最轻量的AI网关。Rust核心，Python SDK。以OpenAI（或原生）格式调用100多种LLM API，具备成本追踪、护栏、负载均衡和日志记录 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
llama_index
LlamaIndex 是领先的文档代理和 OCR 平台