#39 · 主分类： LLM应用框架
PaddleNLP
易用且强大的LLM和SLM库，拥有丰富的模型库。
项目最后更新：05/23/26
GitHub Stars
13.0K
Forks数量
3.0K
贡献者数量
382
许可证
Apache-2.0
收录理由
PaddleNLP 把大模型开发的整条链路都收拢在飞桨框架之内：从四维并行的预训练，到算子优化和 LoRA 类方法的微调，再到无损压缩与高性能推理，都能在同一个代码库里完成。团队选好模型之后，不必东拼西凑多个独立工具就能直接上线服务。模型库覆盖了 BERT、ERNIE 这类编码器模型，也包含 LLaMA 和 Qwen 系列等生成式模型，Auto API 只需几行代码就能加载权重和分词器。如果你本来就基于飞桨开发，或者需要在国内加速卡（如昇腾、昆仑、海光）上与 NVIDIA GPU 混合部署，这款套件的价值会更加明显。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。
同类热门项目
langchain
智能体工程平台。
dify
在一个协作工作区中构建Agentic工作流、RAG管道，支持丰富的AI模型和工具。可部署在云、VPC或自托管环境，团队无需重建技术栈即可从原型走向生产。
headroom
压缩工具输出、日志、文件和RAG块，再送入LLM。编码代理减少20% token，JSON减少60-95% token，答案不变。提供库、代理、MCP服务器。
litellm
最快的、最轻量的AI网关。Rust核心，Python SDK。以OpenAI（或原生）格式调用100多种LLM API，具备成本追踪、护栏、负载均衡和日志记录 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
llama_index
LlamaIndex 是领先的文档代理和 OCR 平台