#50 · 主分类： LLM应用框架
Guardrails
NeMo Guardrails是一个开源工具包，用于轻松为基于LLM的对话系统添加可编程护栏。
项目最后更新：08/27/26
GitHub Stars
7.0K
Forks数量
813
贡献者数量
127
许可证
Other
收录理由
把大模型助手真正放进生产环境，单靠一段系统提示词往往不够可靠。NeMo Guardrails 用 Colang 语言把对话流程显式写出来，再挂上具名的护栏，对用户输入和模型输出都能拦截。它既能挡住跑题或恶意的请求，也能把模型往敏感话题外引，还能校验回答，甚至在不该放行前先改写内容。护栏以代码形式存在，因此可以测试，也能在不同底层大模型之间迁移，比只靠提示词约束更容易审计。对于需要策略驱动、而不是依赖某条脆弱提示词的安全控制，这是一套很实用的工具。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。
同类热门项目
langchain
智能体工程平台。
dify
在一个协作工作区中构建Agentic工作流、RAG管道，支持丰富的AI模型和工具。可部署在云、VPC或自托管环境，团队无需重建技术栈即可从原型走向生产。
headroom
压缩工具输出、日志、文件和RAG块，再送入LLM。编码代理减少20% token，JSON减少60-95% token，答案不变。提供库、代理、MCP服务器。
litellm
最快的、最轻量的AI网关。Rust核心，Python SDK。以OpenAI（或原生）格式调用100多种LLM API，具备成本追踪、护栏、负载均衡和日志记录 [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
llama_index
LlamaIndex 是领先的文档代理和 OCR 平台