GitHub Stars
3.5K
Forks数量
216
贡献者数量
12
许可证
MIT
收录理由
与 GPT 类模型打交道，往往要先啃一堆 SDK 的样板代码；这个包把整个交互压缩到寥寥几行，用干净的 Python 接口封装了 ChatGPT 和 GPT-4。它并没有牺牲实际应用里需要的那些能力：注重 token 消耗的工作流能压低成本和延迟，支持并发会话、异步调用、流式输出，还能调用工具。代码库刻意保持精简，你可以顺着代码看清每次请求的完整路径，这在生产环境中追求稳定行为时尤其有用。附带的示例笔记本也很实在，比如一个会裁剪多余输出、让生成速度提高数倍且成本降为三分之一的编程助手，以及一个能同时发起大量对话的异步模式，都是你自己动手搭建类似功能的良好起点。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。
同类热门项目
langchain
智能体工程平台。
dify
在一个协作工作区中构建Agentic工作流、RAG管道，支持丰富的AI模型和工具。可部署在云、VPC或自托管环境，团队无需重建技术栈即可从原型走向生产。
headroom
压缩工具输出、日志、文件和RAG块，再送入LLM。编码代理减少20% token，JSON减少60-95% token，答案不变。提供库、代理、MCP服务器。
litellm
最快的、最轻量的AI网关。Rust核心，Python SDK。以OpenAI（或原生）格式调用100多种LLM API，具备成本追踪、护栏、负载均衡和日志记录 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
llama_index
LlamaIndex 是领先的文档代理和 OCR 平台