#126 · 主分类： LLM应用框架
WilmerAI
WilmerAI 是一个 LLM 语义路由器，利用多层提示路由和基于节点的工作流，在您的应用与多个 LLM API 之间编排复杂任务。
项目最后更新：08/09/26
GitHub Stars
830
Forks数量
49
贡献者数量
8
许可证
GPL-3.0
收录理由
WilmerAI 位于你的应用和后端大模型 API 之间，它并不只看最新一条消息，而是结合整段对话历史来为每个请求选择路由。这种上下文感知很关键：比如用户问“你觉得这意味着什么？”，系统会把它当作刚才讨论内容的延续，而不是一个孤立的新问题。它的路由逻辑本身是一个基于节点的 JSON 工作流，每个节点可以调用不同的模型、执行工具或脚本，也可以转交给另一个工作流，而整个多步过程对前端来说只是一个普通的 API 调用。如果你希望混合使用本地模型和云端 API，并精细控制提示词在链路中的改写方式，这个项目会很有价值。目前它仍在积极开发中，更适合作为有潜力的工具来尝试，而非成熟稳定的产品。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。
同类热门项目
langchain
智能体工程平台。
dify
在一个协作工作区中构建Agentic工作流、RAG管道，支持丰富的AI模型和工具。可部署在云、VPC或自托管环境，团队无需重建技术栈即可从原型走向生产。
headroom
压缩工具输出、日志、文件和RAG块，再送入LLM。编码代理减少20% token，JSON减少60-95% token，答案不变。提供库、代理、MCP服务器。
litellm
最快的、最轻量的AI网关。Rust核心，Python SDK。以OpenAI（或原生）格式调用100多种LLM API，具备成本追踪、护栏、负载均衡和日志记录 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
llama_index
LlamaIndex 是领先的文档代理和 OCR 平台