#86 · 主分类: AI 桌面工具箱

llamafarm

ai aiproject chatgpt claude edge edge-computing finetuning-llms gemma grok llama3 llama4 mistral mlops models openai prompt-engineering qwen rag sora

在几分钟内本地或远程部署任何AI模型、代理、数据库、RAG和流水线。

项目最后更新:06/10/26

GitHub Stars

837

Forks数量

57

贡献者数量

18

许可证

Apache-2.0

收录理由

LlamaFarm 是一款把大量 AI 工作留在本机完成的桌面应用。你可以直接导入 PDF 和文档做 RAG 问答,用少量标注样本训练文本分类器,还能跑 OCR 或命名实体识别,全程数据不出设备。它兼容 Ollama、OpenAI 兼容接口、vLLM 以及本地 GGUF 文件等多种模型后端,切换运行环境时无需重搭流程。通过 MCP 协议,模型还能调用外部工具,异常检测和文档处理能力也远超普通聊天。对于想在 Apple Silicon、NVIDIA 或 AMD 硬件上获得离线可用起点的小团队来说,这是个很实在的选择。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目