#64 · 主分类: 推理与本地部署

ODS

ai-agents amd comfyui docker llama-cpp llm local-ai n8n nvidia open-webui rag self-hosted speech-to-text strix-halo text-to-speech workflow-automation

将您的PC、Mac或Linux设备变成AI服务器。支持LLM推理、聊天界面、语音、智能体、工作流、RAG和图像生成。

项目最后更新:08/30/26

GitHub Stars

4.9K

Forks数量

741

贡献者数量

65

许可证

Apache-2.0

收录理由

如果你想让自己的电脑或服务器变成一台私有的AI服务器,又不想花一整个周末手动把Ollama、聊天前端、自动化工具、图像生成器和文档检索这些零散组件拼在一起,ODS就是为此准备的。它用一条命令完成安装和运行,把所有服务打包进一个基于Compose的统一栈里,本地推理、浏览器里的聊天界面、语音、智能体、工作流、RAG和图像生成全都有了,不用再挨个维护。顶上的控制面板能集中管理模型、服务、GPU状态和扩展。默认一切都在本地跑,你的提示词和数据留在自己机器上;需要时也可以选择云端或混合API模式。对于想在自己可控的硬件上搭建可复现AI环境的家庭实验室用户和小团队,ODS能一次搞定,省掉了以往东拼西凑的麻烦。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目