#136 · 主分类： LLM应用框架
ollama4j
一个用于与Ollama服务器交互的简单Java库。
项目最后更新：08/08/26
GitHub Stars
507
Forks数量
83
贡献者数量
32
许可证
MIT
收录理由
ollama4j 将 Ollama 服务器的调用封装成简洁的 Java 库，让 JVM 团队不必手写 HTTP 请求就能连接本地大语言模型。它提供了类型化的方法，涵盖模型拉取、单轮与多轮对话、令牌流式输出以及向量嵌入请求，还内置了对图片输入、工具（函数）调用和基于 MCP 外部工具的支持。由于 Ollama 服务由开发者自己运行，模型数据流量始终停留在自有硬件或私有端点，应用的其他部分则保持普通 Java 风格。对于后端 JVM 服务来说，想融入生成式能力，又不想对着 Ollama 原始 API 手工维护 REST 胶水代码，这个库是个务实的选择。类型安全的选项构建器让请求配置清晰易读，超时、认证和日志钩子也让集成代码保持整洁，测试起来很方便。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。
同类热门项目
langchain
智能体工程平台。
dify
在一个协作工作区中构建Agentic工作流、RAG管道，支持丰富的AI模型和工具。可部署在云、VPC或自托管环境，团队无需重建技术栈即可从原型走向生产。
headroom
压缩工具输出、日志、文件和RAG块，再送入LLM。编码代理减少20% token，JSON减少60-95% token，答案不变。提供库、代理、MCP服务器。
litellm
最快的、最轻量的AI网关。Rust核心，Python SDK。以OpenAI（或原生）格式调用100多种LLM API，具备成本追踪、护栏、负载均衡和日志记录 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
llama_index
LlamaIndex 是领先的文档代理和 OCR 平台