为什么 Agent 越用越贵？Claude 场景下 3 类 Token 漏损与工程化止损实践

在很多 AI 应用落地项目中，前期关注点通常是“效果能不能跑通”，中后期问题会变成“成本为什么越来越难解释”。

最常见的现象是：

• 业务产出变化不大，但 token 成本持续抬升
• 月账单能看到总额，却难以快速定位到异常来源
• 成本问题往往在月底复盘时才被发现，缺少当场止损能力

这篇文章不讨论平台选型，也不讨论商业化方案，只聚焦一个工程问题：
在 Claude + Agent 常见调用链路中，token 为什么会“隐性漏损”，以及如何用最小改造把它控住。

一、先明确问题边界：不是“调用变多”，而是“单位有效产出成本变高”

很多团队和个人在看成本时，只盯“总 token”或“总金额”。

但在工程实践里，更有意义的指标是：

• 单次有效任务平均 token（Avg Token per Useful Task）
• 单位有效产出成本（Cost per Useful Output）
• 异常调用占比（Anomalous Calls Ratio）

如果总调用上涨的同时，有效产出也同步上涨，成本并不一定异常。
真正需要治理的是：无效或低效调用的比例上升。

二、最常见的 3 类 Token 漏损路径

1）重复调用：结果没变，成本先翻倍

典型触发

• 手动触发 + 自动任务重复触发
• 同一任务在多个 Agent 窗口并行执行
• 某步骤失败后整链重跑，而不是局部重跑

可观测信号

• 短时间内出现高相似请求（Prompt 高重复）
• 请求次数增加明显，但有效结果数增长有限
• 相同任务 ID 对应多次近似输出

止损动作

• 增加任务幂等键（Idempotency Key）
• 把“整链重跑”改为“失败节点重试”
• 设置短窗口去重策略（例如 30~120 秒）

2）上下文膨胀：每次请求都背着历史包袱

典型触发

• 长会话不截断，历史上下文无限累积
• 过度追求稳妥，长期全量携带背景信息
• 模板不断叠加，系统提示词与任务提示词冗余

可观测信号

• 输入 token 占比持续上升
• 同类任务后续轮次成本显著高于首轮
• 输出质量提升不明显，但单次开销持续增加

止损动作

• 会话分段：按任务边界重开会话
• 定期摘要：每 N 轮生成结构化摘要替代全量历史
• Prompt 分层：固定规则、任务目标、最小上下文三层拆分

3）重试风暴：几分钟消耗掉平时一天配额

典型触发

• 上游波动时配置了无上限重试
• 超时阈值过短导致连环重发
• 错误分级不清，把不可重试错误也纳入重试

可观测信号

• 单位时间请求数出现尖峰
• 错误码在短时窗口内集中爆发
• 成本峰值明显，但主观使用强度并未同步上升

止损动作

• 指数退避（Exponential Backoff）+ 抖动（Jitter）
• 设置最大重试次数与最大重试时长
• 错误分级：可重试 / 不可重试 / 可降级

三、可落地的最小观测字段（建议先做这 8 个）

如果你希望低成本启动治理，先采这 8 个字段就够用：

• timestamp（时间戳）
• trace_id / request_id（链路标识）
• task_id / conversation_id（任务或会话标识）
• model / provider（模型与来源）
• input_tokens / output_tokens
• status_code / error_type
• retry_count
• latency_ms

这组字段能支持三件关键事：

• 快速识别是重复调用、上下文膨胀还是重试风暴
• 在异常发生后 5~10 分钟内完成初步归因
• 为后续限额、告警、路由策略提供基础数据

四、从“月底复盘”到“当场止损”的 4 步流程

第一步：先止损，不先大改

先做可逆、低风险的动作：

• 下调重试上限
• 缩短上下文窗口
• 关闭可疑自动触发链路

目标是先把成本曲线拉平。

第二步：再归因，定位主矛盾

按“异常贡献度”排序：

• 哪类任务贡献了最多异常 token
• 哪类错误触发了最多重试
• 哪个环节输入 token 增长最快

优先处理贡献最大的 20% 问题。

第三步：固化规则，防止回弹

把临时动作变成长期规则：

• 幂等键与去重规则
• 重试边界与熔断阈值
• 会话分段与摘要策略

第四步：做轻量周报，不做重报表

每周只看 5 个核心指标：

• token 总量与环比
• 输入/输出 token 结构
• 重复请求率
• 重试异常率
• 单位有效产出成本

用少量高质量指标替代大而全看板，治理效率更高。

五、常见误区（实践里最容易踩）

• 误区 1：只看总账单
  总账单适合财务核对，不适合工程排障。

• 误区 2：一上来做全链路重构
  成本治理优先“止损”，不是优先“重构”。

• 误区 3：把降本等同于降质量
  治理目标是减少无效消耗，不是盲目降低模型能力。

• 误区 4：缺少效果口径
  如果没有“有效产出”的定义，成本优化会失焦。

六、结论

在 Claude + Agent 场景里，成本上升很多时候不是模型本身变贵，而是调用链路中的隐性漏损在累积。
从实践经验看，先抓住三类问题——重复调用、上下文膨胀、重试风暴——通常就能把大部分异常成本拉回可控区间。

可以把这件事理解为一条工程化路径：

可观测（看见问题）→ 可归因（定位问题）→ 可控制（持续止损）。

当这条路径跑通后，成本讨论就会从“经验判断”转向“证据驱动”，这也是 AI 应用进入稳定运营阶段的关键一步。