agent-safe-pipeline

收录理由

通常AI代理会自己判断自身动作是否安全，这个项目却反其道而行之。它是一套参考架构和库，把提议动作与授权彻底分开：代理的预期动作先被捕获成不可变的哈希意图，独立的Decionis策略服务给出ALLOW、ESCALATE或BLOCK的判定，SafeExecutor只执行那些与一次性、绑定意图的授权相符的动作。人工审批走的是另一条已核验的路径，策略引擎会重新评估，所以赋予代理自主权不等于把钥匙直接交给模型。仓库里带有可运行的演示，覆盖退款、部署、采购等场景，还提供MCP工具门和威胁模型文档。需要明确的是，这是一个库，不是托管服务，生产环境仍要求提供方侧的身份管理、最小权限、网络隔离和事件响应能力。