#141 · 主分类: 推理与本地部署

ollama-docker

docker docker-compose ollama

欢迎使用Ollama Docker Compose设置!此项目简化了使用Docker Compose部署Ollama的过程,使您能够轻松地在容器化环境中运行Ollama及其所有依赖项。

项目最后更新:05/26/26

GitHub Stars

1.4K

Forks数量

254

贡献者数量

8

许可证

Other

收录理由

这个项目把 Ollama 打包进一套 Docker Compose 配置里,启动后模型服务和浏览器端的 Web 界面会一起跑起来,你拉一个模型进去,几分钟就能开始对话。仓库里还附带了一堆 LangChain 示例,适合想在 Ollama 之上做二次开发的人,而不只是简单聊天。GPU 用户有专门的 compose 文件,NVIDIA Container Toolkit 的安装步骤也写得很清楚;没有 GPU 的机器用默认配置也能正常跑。因为所有东西都留在本地,用它来快速验证自托管推理或者搭个应用原型都很顺手,而且 devcontainer 让你能在同一套环境里开发。它本质上只是把现有工具包了一层壳,算不上新软件,但作为部署模板,确实省掉了不少麻烦的细节。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目