#97 · 主分类: 知识库与企业搜索

llm-applications

anyscale fine-tuning llama2 llms machine-learning openai ray serving

构建生产级基于RAG的LLM应用的全面指南。

项目最后更新:08/15/26

GitHub Stars

1.9K

Forks数量

257

贡献者数量

5

许可证

Other

收录理由

这个项目来自 Ray 团队,因此它把 RAG 管线当作一个必须在负载下稳定运行的系统来对待,而不是一次性跑完的笔记本。它覆盖了从文档加载、切分,到嵌入、索引、服务的完整流程,并且包含了那些教程通常略过的部分:分别度量各组件(如检索质量)和整体性能,从而在提交之前比较不同配置。同时,它给出了一个具体的例子,说明如何在成本或质量更优时,在开源模型和 OpenAI 等托管 API 之间路由查询。对于已经过了原型阶段、需要面对扩展决策的团队来说,这本书提供了切实的参考,而不仅仅是理想路径。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目