#131 · 主分类： LLM应用框架
magentic
将LLM无缝集成到Python函数中
项目最后更新：03/11/26
GitHub Stars
2.4K
Forks数量
127
贡献者数量
12
许可证
MIT
收录理由
magentic 把大模型调用封装成普通 Python 函数，开发者只需在函数上加上 @prompt 或 @chatprompt 装饰器，再声明返回类型（比如 pydantic 模型或内置的 list），剩下的提示词模板、模型请求和结构化输出解析都由库自动完成。装饰后的函数仍然像普通函数一样可调用，因此可以轻松串联、作为参数传给其他提示词，或者借助 @prompt_chain 把函数调用解析成多步工作流。它支持流式输出、异步操作和 OpenTelemetry 追踪，方便在生产环境中实时获取部分结果并监控模型行为。如果你已经在用 pydantic，并且习惯类型检查和 IDE 提示，这个库的设计会让你感觉很顺手；在 OpenAI、Anthropic 和 Ollama 之间切换时，也无需重写已有的函数代码。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。
同类热门项目
langchain
智能体工程平台。
dify
在一个协作工作区中构建Agentic工作流、RAG管道，支持丰富的AI模型和工具。可部署在云、VPC或自托管环境，团队无需重建技术栈即可从原型走向生产。
headroom
压缩工具输出、日志、文件和RAG块，再送入LLM。编码代理减少20% token，JSON减少60-95% token，答案不变。提供库、代理、MCP服务器。
litellm
最快的、最轻量的AI网关。Rust核心，Python SDK。以OpenAI（或原生）格式调用100多种LLM API，具备成本追踪、护栏、负载均衡和日志记录 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
llama_index
LlamaIndex 是领先的文档代理和 OCR 平台