openllmetry

收录理由

跑大模型应用的时候，模型调用内部到底发生了什么，往往像黑盒一样看不清：一次请求烧了多少token，哪个供应商响应变慢，自动重试是不是让账单翻倍，这些问题在出故障前很难察觉。OpenLLMetry 的做法是直接给现有 SDK 加上 OpenTelemetry 埋点，提示词、token 计数、延迟和供应商调用的遥测数据就能自动产生，不用自己写 exporter。由于输出的是标准 OpenTelemetry 格式，这些数据可以流进 Datadog、Grafana、Honeycomb 或 Sentry，不必为了看监控而换一套新面板。小团队想保留原有监控体系、同时看清线上模型调用的真实状况，或者工程师想定位慢响应和异常 token 消耗，这个工具都挺顺手。