Agent 链路追踪 + 成本可观测:账单与根因从哪来
Agent Trace 不是传统分布式追踪换皮:继承 OTel 的 Span/Trace 模型,但记录单位从"HTTP 调用/DB 查询"变成"LLM 决策/工具执行",根因从"超时栈"变成"选错工具/Prompt 歧义"。而Agent 成本大头不在单次推理,在 Prompt Cache 命中率——命中部分单价只有未命中的 10%,按此计价命中率 90% vs 50% 的成本比值约 2.9 倍(不是 3–5 倍;把 2.9 写成 3–5 倍是把不同计价假设混在了一起)。
1x2x
0/15 · 待播放
Agent 循环 → Span 生成(step/decision/token) → Trace 存储 → 成本归因三级 → Cache 命中率监控 → 告警+模型路由降本
Agent 循环
Reason/Act/Observe
Span 生成
step/decision/token
光点 = 当前环节 · 根因从"超时栈"变成"选错工具/Prompt 歧义"
Trace 视图:每轮 ReAct 三个 Span
REASONLLM 决策:decision=tool_call · tool=read_filestep 3
ACT工具执行:toolSuccess=true · 230msstep 3
OBSERVE观察结果:文件内容已读入上下文step 3
按 AgentAgent A(编程): 150K tok → $0.45
按用户User 1: 500K tok → $1.50
按任务"重构 UserService": 80K tok → $0.24
就绪点 ▶ 播放,看 Agent 如何被观测:Trace 记录 + 成本归因 + Cache 监控。链路追踪+成本
⚡ 运行时动作:正在发生什么💡 知识讲解:为什么这么设计
知识点一句话总结:Agent 可观测两块:① 链路追踪——不是传统 Trace 换皮,记录单位从 HTTP/DB 变成LLM 决策/工具执行,每轮 ReAct 生成 REASON/ACT/OBSERVE 三个 Span,最小字段决定可回溯性:prompt_hash / context_ref / error_class 缺一个事后就补不回来,根因从"超时栈"变成"选错工具/Prompt 歧义"(事件序列 NODE_START→LLM_START→LLM_END→TOOL_START→TOOL_END→NODE_END→COMPLETE)。② 成本可观测——Agent 成本大头不在单次推理,在 Prompt Cache 命中率(命中 10% 价、未命中全价),按此计价命中率 90% vs 50% 比值约 2.9 倍——不是 3-5 倍,3–5 倍只在命中价明显低于 10%(如 5%,约 3.6 倍)时近似成立;三级归因(按 Agent 谁花最多/按用户谁在花/按任务哪种最贵=优化方向);监控阈值:命中率 >80% 正常 / <70% 黄(MCP 抖动)/ <50% 红(System 结构变);异常检测:单任务 >基线 3×、Completion 占比 >50% 死循环、Prompt 占比 >95% 上下文爆炸;降本靠模型路由(意图要快 Haiku / 推理均衡 Sonnet / 代码生成强 Opus)。