#132 · 主分类: LLM应用框架
fit-framework
FIT: 企业级AI开发框架,提供多语言函数引擎(FIT)、流式编排引擎(WaterFlow)及Java生态的LangChain替代方案(FEL)。原生/Spring双模运行,支持插件热插拔与智能聚散部署,无缝统一大模型与业务系统。
项目最后更新:03/13/26
GitHub Stars
2.1K
Forks数量
335
贡献者数量
31
许可证
MIT
收录理由
Java团队苦于Python生态在AI工具链上长期占优,而FIT是JVM阵营迄今最完整的回应。它实际是三件套:FIT Core提供Java、Python、C++多语言函数运行时,插件可热插拔;WaterFlow编排流式业务逻辑;FEL则把模型、向量库和工具调用封装成标准原语,让RAG流水线和Agent直接长在Java代码库里,不必另起一个独立服务。文档里给的检索和Agent示例读起来就是普通的Java流式API,团队照着写就能搭起一个检索器或Agent循环,不用学新语言。部署细节也被它接管了——按单体还是分布式运行,调用会自动走本地或RPC。对于想在Java或Spring体系里内嵌LLM能力、而不是在旁挂一个Python副车的团队,这个框架值得拿来和现有方案仔细比一比。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。
同类热门项目
langchain
智能体工程平台。
dify
在一个协作工作区中构建Agentic工作流、RAG管道,支持丰富的AI模型和工具。可部署在云、VPC或自托管环境,团队无需重建技术栈即可从原型走向生产。
headroom
压缩工具输出、日志、文件和RAG块,再送入LLM。编码代理减少20% token,JSON减少60-95% token,答案不变。提供库、代理、MCP服务器。
litellm
最快的、最轻量的AI网关。Rust核心,Python SDK。以OpenAI(或原生)格式调用100多种LLM API,具备成本追踪、护栏、负载均衡和日志记录 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
llama_index
LlamaIndex 是领先的文档代理和 OCR 平台