#86 · 主分类: AI 桌面工具箱
llamafarm
ai
aiproject
chatgpt
claude
edge
edge-computing
finetuning-llms
gemma
grok
llama3
llama4
mistral
mlops
models
openai
prompt-engineering
qwen
rag
sora
在几分钟内本地或远程部署任何AI模型、代理、数据库、RAG和流水线。
项目最后更新:06/10/26
GitHub Stars
837
Forks数量
57
贡献者数量
18
许可证
Apache-2.0
收录理由
LlamaFarm 是一款把大量 AI 工作留在本机完成的桌面应用。你可以直接导入 PDF 和文档做 RAG 问答,用少量标注样本训练文本分类器,还能跑 OCR 或命名实体识别,全程数据不出设备。它兼容 Ollama、OpenAI 兼容接口、vLLM 以及本地 GGUF 文件等多种模型后端,切换运行环境时无需重搭流程。通过 MCP 协议,模型还能调用外部工具,异常检测和文档处理能力也远超普通聊天。对于想在 Apple Silicon、NVIDIA 或 AMD 硬件上获得离线可用起点的小团队来说,这是个很实在的选择。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。