Agent 可观测性是指在不确定的运行行为中,仍能理解"Agent 为何这么做"的能力,是 Agent 工程上线后的"诊断引擎",区别于传统仅关注延迟与错误率的 APM。
它要求在每次运行中记录层级化追踪(Trace / Span):从会话根节点,到每一轮用户交互,再到内部的 LLM 调用、工具调用与检索步骤,每层携带时间戳、Token 数、模型 ID、工具参数与结果、错误状态与总成本。
除追踪外还要叠加"质量打分":将人类反馈、规则校验或 LLM 评委分数挂到对应追踪上,使可观测不仅是"快不快",更是"对不对"。这里的关键在于耦合——若分数无法回溯到具体轨迹,监控产出的就只是无人能据以行动的数据流。
主流工具包括 LangSmith、Langfuse、Arize Phoenix、Datadog LLM Observability、Helicone 等;行业正加速收敛到 OpenTelemetry 的 GenAI 语义约定(GenAI Semantic Conventions),以避免厂商锁定。