#153 · 主分类： LLM应用框架
generative_ai_project
一个生产级模板，助您快速启动生成式AI项目，注重结构化和可扩展性。
项目最后更新：02/27/26
GitHub Stars
907
Forks数量
274
贡献者数量
2
许可证
Apache-2.0
收录理由
生成式AI项目刚起步时，最常见的问题往往集中在几个地方：提示词该放在哪里、怎么在不同模型提供商之间切换、模型调用失败了怎么办。这个模板把这些常见决策提前处理好了，在写业务逻辑之前就搭好了清晰的工程骨架，把代理、记忆、检索、流水线、提示词链和多模态输入拆分成独立的模块。它还覆盖了通常要到后期才会暴露的可靠性问题，比如PII过滤、输出校验、LLM出错时的回退路由、缓存、限流和token计数。对于想把自己的时间花在核心功能上，而不是纠结目录结构和脚手架搭建的开发者或小团队来说，这是一个很实用的起点，很容易根据自己的技术栈进行调整。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。
同类热门项目
langchain
智能体工程平台。
dify
在一个协作工作区中构建Agentic工作流、RAG管道，支持丰富的AI模型和工具。可部署在云、VPC或自托管环境，团队无需重建技术栈即可从原型走向生产。
headroom
压缩工具输出、日志、文件和RAG块，再送入LLM。编码代理减少20% token，JSON减少60-95% token，答案不变。提供库、代理、MCP服务器。
litellm
最快的、最轻量的AI网关。Rust核心，Python SDK。以OpenAI（或原生）格式调用100多种LLM API，具备成本追踪、护栏、负载均衡和日志记录 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
llama_index
LlamaIndex 是领先的文档代理和 OCR 平台