#127 · 主分类: MLOps与评测

Tracely-ai

agent agent-observability ai-agents ci-cd clickhouse evals evaluation llm llm-as-judge llm-evaluation llm-observability llm-ops llmops mcp monitoring opentelemetry python self-hosted tracing

面向AI代理的基于追踪的CI/CD——生产故障自动转为回归测试,阻塞PR。自动检测、聚类、冻结为隔离用例,在CI中零成本重放。

项目最后更新:08/29/26

GitHub Stars

1.2K

Forks数量

104

贡献者数量

7

许可证

MIT

收录理由

大多数智能体可观测性工具止步于告诉你哪里出了问题,而Tracely会直接对问题采取行动。它通过OTLP接入智能体的运行轨迹,用LLM作为裁判结合结构检查为每条轨迹打分,把反复出现的失败归拢成问题,再将被判失败的那次运行固化为可复现的回归用例——这些用例在CI中重放时不消耗任何API密钥,也不产生模型调用费用。一旦某次改动会让旧故障重现,对应的拉取请求就会被拦下,同时通知会推送到Slack、邮件或者你自己定义的Webhook。它还提供按会话分组的瀑布视图和每个智能体的独立指标,让维护多智能体系统的团队能一眼看清究竟是哪个智能体出错,以及某个修复是否真正生效。整个技术栈支持自托管,依托Postgres、ClickHouse、Redis和MinIO运行,因此希望评测与遥测数据留在自家基础设施内的团队,可以完全掌控这些数据。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目