GitHub Stars
12.4K
Forks数量
966
贡献者数量
68
许可证
Apache-2.0
收录理由
Simon Willison 把几十种语言模型统一收进一个命令行工具和 Python 库,你只要接好一个服务商,然后在终端里敲下 llm,就能用同一种方式调用 OpenAI、Anthropic 或者本地自管的模型。每次提问和回答都会写进 SQLite,之后翻看历史、提取嵌入向量或者做结构化输出都很方便。这对写脚本、跑批处理任务的人来说特别顺手,也省去了在聊天窗口里翻找旧实验的麻烦。如果团队经常在不同模型服务之间切换,又不想反复改自己的胶水代码,它的插件机制让切换成本变得很低。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。
同类热门项目
langchain
智能体工程平台。
dify
在一个协作工作区中构建Agentic工作流、RAG管道,支持丰富的AI模型和工具。可部署在云、VPC或自托管环境,团队无需重建技术栈即可从原型走向生产。
headroom
压缩工具输出、日志、文件和RAG块,再送入LLM。编码代理减少20% token,JSON减少60-95% token,答案不变。提供库、代理、MCP服务器。
litellm
最快的、最轻量的AI网关。Rust核心,Python SDK。以OpenAI(或原生)格式调用100多种LLM API,具备成本追踪、护栏、负载均衡和日志记录 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
llama_index
LlamaIndex 是领先的文档代理和 OCR 平台