#117 · 主分类: LLM应用框架
GenAIExamples
生成式AI示例集合,如ChatQnA、Copilot,展示企业AI开放平台(OPEA)项目的流水线能力。
项目最后更新:08/20/26
GitHub Stars
741
Forks数量
341
贡献者数量
120
许可证
Apache-2.0
收录理由
这套示例库把常见的生成式AI应用做成了可直接运行的参考项目,从带检索增强的聊天机器人、文档摘要、代码生成到文生图,每个例子都基于同一套可复用的OPEA微服务组件搭建,并附带了Docker Compose和Kubernetes部署文件。开发者可以清楚看到同一个架构如何适配Intel Gaudi、Xeon、AMD EPYC以及NVIDIA GPU等不同硬件。对于正在规划首次部署或想对比不同参考架构的团队来说,这些示例提供了可复制的蓝图,展示了检索、安全护栏和遥测监控如何在实际流水线中协同工作,省去了从零摸索的麻烦。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。
同类热门项目
langchain
智能体工程平台。
dify
在一个协作工作区中构建Agentic工作流、RAG管道,支持丰富的AI模型和工具。可部署在云、VPC或自托管环境,团队无需重建技术栈即可从原型走向生产。
headroom
压缩工具输出、日志、文件和RAG块,再送入LLM。编码代理减少20% token,JSON减少60-95% token,答案不变。提供库、代理、MCP服务器。
litellm
最快的、最轻量的AI网关。Rust核心,Python SDK。以OpenAI(或原生)格式调用100多种LLM API,具备成本追踪、护栏、负载均衡和日志记录 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
llama_index
LlamaIndex 是领先的文档代理和 OCR 平台