从“能跑通”到“敢上线”:AI Agent 工程化的五个真实约束

举报
yd_275638200 发表于 2026/11/17 00:16:45 2026/11/17
【摘要】 2026 年的 AI Agent 叙事已经足够热闹。SWE-bench Verified 的成绩在一年内从约五分之一跃升到五分之四,操作系统交互任务的成功率从 12% 爬到了 72% 以上。单看这些数字,Agent 似乎已经准备好接管真实工作了。但同一批系统在真实接口和延长的时间窗口上,只完成了 7% 到 50% 的任务;长程分析中的准确率在前期轮次与后期轮次之间会衰减接近 47 个百分点。...

2026 年的 AI Agent 叙事已经足够热闹。SWE-bench Verified 的成绩在一年内从约五分之一跃升到五分之四,操作系统交互任务的成功率从 12% 爬到了 72% 以上。单看这些数字,Agent 似乎已经准备好接管真实工作了。

但同一批系统在真实接口和延长的时间窗口上,只完成了 7% 到 50% 的任务;长程分析中的准确率在前期轮次与后期轮次之间会衰减接近 47 个百分点。更直白的工程侧数据是:生产环境中 Agent 的失败率普遍落在 70% 到 95% 的区间,而 Algolia 2026 年的企业部署复盘指出,其中 60% 的失败可以归因于数据质量、上下文缺口和治理缺失,而不是模型能力本身。

这组数字指向同一个判断:AI Agent 的核心矛盾已经不在“能不能做”,而在“做了之后能不能可信地重复做”。本文不打算罗列又一个架构图,而是从工程视角拆解五个在真实系统中反复出现的约束,并给出可落地的应对思路与代码骨架。

约束一:长链路中的错误会以乘法方式累积

Agent 与单轮 LLM 最根本的区别在于它维护状态、分解目标、顺序执行多步动作。这个“顺序”本身就是最大的可靠性敌人。

一个被反复引用的工程经验是:每一步的准确率即使达到 95%,十步链路的整体成功率也不足 60%。更精确的建模来自 2026 年的一篇结构化综述:该文用单参数复合模型复现了基准分数与真实环境成功率之间的巨大落差,结论是长程脆弱性不需要诉诸额外的失败机制来解释,它本身就是顺序依赖的期望后果。

这意味着 Agent 的错误不是均匀分布的噪声,而是沿着链路正向放大的信号畸变。第一步一个轻微的指代消解错误,到第五步可能已经让整个计划偏离了目标域。传统软件中“每一步都测试过”的保证,在有状态、自然语言驱动、动作空间开放的 Agent 中并不自动成立。

工程上的应对不是追求单步完美,而是承认错误必然发生,并在架构中内置可检测的中间锚点。具体做法包括:在关键决策节点插入确定性校验(schema 验证、业务规则断言、外部事实回查),而不是让 LLM 的自由文本一路裸奔到终点;让 Agent 在每一步输出结构化的“意图 + 参数 + 预期结果”,使偏离可以在参数层面被捕获,而不是等到最终输出才暴露。LangGraph 这类状态图框架的价值正在于此:节点是可测试的函数,边是显式的条件,重试和回退可以挂在边上,而不是藏在提示词的祈使句里。

约束二:工具调用是一个分布式系统问题,不是提示词问题

工具调用的早期讨论集中在“怎么让模型选对函数”。MCP 在 2026 年 7 月的修订(无状态核心、强制 OAuth 2.1)以及 A2A 1.0 的 GA,已经把这个层面的事情从 prompt engineering 推向了协议层基础设施:工具只需实现一次标准接口,Agent 通过协议发现和调用。协议收敛是真实的进步,但它解决的是互操作性,不是可靠性。

工具调用在生产中的失败面远比“选错函数”宽:描述不清晰导致参数构造错误,网络波动和接口超时导致调用悬挂,异常返回值没有被 Agent 正确解释,重试策略与外部系统的幂等语义冲突。一个 Agent 在一个会话里调用工具数十次,任何一次的非预期返回都可能污染后续的推理上下文。

工程上需要把工具调用当作外部依赖来对待,而不是当作 LLM 的一个“能力”。这意味着:为每个工具定义严格的输入/输出 schema,并在框架层强制校验,而不是依赖模型自觉;区分可重试错误(超时、限流)与不可重试错误(参数语义错误、权限拒绝),只对前者启用有界退避重试;对写操作默认要求幂等键,并在 Agent 侧维护“已执行动作”的去重记录。更根本的一条原则是:尽量让确定性逻辑留在工具内部,LLM 的职责收敛到意图理解和参数提取,把“算对”交给代码,“决定做什么”才交给模型。

约束三:记忆不是“存得越多越好”,而是“该忘的能忘,该信的能区分”

记忆系统是 Agent 从“无状态问答机”变成“持续工作者”的关键组件。但 2026 年的记忆研究正在纠正一个早期直觉:记忆的质量不取决于存储容量,而取决于检索的选择性和信念与事实的分离。

ACL 2026 的 Hindsight 系统做了一个有代表性的设计:它把长期记忆组织成世界、经验、观察、意见四个逻辑网络,将客观事实与主观信念分开存储,并用 retain / recall / reflect 三个操作分别处理摄入、检索和推理。在 LongMemEval 和 LoCoMo 上,Hindsight 搭配 20B 开源模型分别达到 83.6% 和 83.2% 的准确率,超过了全上下文 GPT-4o 和此前所有记忆系统;搭配 Gemini-3 Pro 时 LongMemEval 达到 91.4%。这个结果说明的不是“记忆越大越好”,而是结构化的检索管线(向量 + 关键词 + 图遍历 + 时间过滤的并行融合)比把所有历史塞进上下文更有效。

工程侧还有一个容易忽略的维度:记忆需要有意的衰减和反射。长期保留所有中间状态不仅推高存储与检索成本,还会让过时的、低置信度的信息持续污染后续决策。一个可操作的策略是区分短期会话记忆与长期知识:短期记忆用带 TTL 的存储(如 Redis)承载,会话结束后只将经过验证或显式总结的内容沉淀为长期条目;长期条目携带置信度分数和来源时间戳,检索时按时间衰减加权。Mem8 这类本地持久化库提供了 BM25 + 向量 + RRF 融合检索的参考实现,其设计原则——Markdown 作为事实源、数据库承担索引、混合检索而非单模检索——值得借鉴。

约束四:协议收敛之后,治理还没有默认答案

MCP 和 A2A 的成熟确实降低了“连接”的成本,但它们刻意或无意地留下了一个空白:授权、异议和审议不在协议原语之中。MCP 告诉你如何安全地调用一个工具,A2A 告诉你如何安全地调用另一个 Agent,但“这个 Agent 是否应该被允许执行这个写操作”“当两个 Agent 给出矛盾结论时谁有最终裁决权”“一次自主决策的审计追踪应该长什么样”,这些仍然需要在应用层自行设计。

国内监管的演进也在印证这一点:2026 年多部门联合印发的智能体规范意见实行分类分级与权限三分(本人决策、授权决策、自主决策),企业上线 Agent 需要可审批的合规依据。安全从“建议”变成了“门槛”。

工程上的务实做法是渐进式自主:把 Agent 的动作空间按风险分级,读操作和低风险查询可以完全自主,中风险动作要求结构化确认,高风险写操作强制 human-in-the-loop 节点。这不是对 Agent 能力的不信任,而是对“可靠性尚未达到可忽略监督”这一现实的工程承认。LangGraph 的 interrupt 机制、条件边和检查点持久化,使得这种分级可以在状态图层面显式表达:在需要人工确认的节点前暂停,把决策上下文(工具名、参数、预期影响)呈现给操作者,收到确认后再恢复执行。

约束五:可观测性不是日志,是理解 Agent 的“思考轨迹”

传统应用的可观测性围绕请求、响应和异常堆栈展开。Agent 的行为单元是“一次模型调用 + 一次工具选择 + 一段推理文本”,它的失败模式是“在第三步选了一个看起来合理但语义错误的参数”,而不是抛出一个异常。如果只记录输入输出,事后复盘时面对的是一个不透明的黑盒。

可观测性需要下沉到决策粒度:每一次 LLM 调用、每一次工具调用、每一次状态转移都应产生一个可关联的 span,携带模型输入输出的摘要、工具参数、返回状态和延迟。OpenTelemetry 生态已经在向这个方向收敛:LangGraph agent 可以通过 instrumentor 发出兼容 OTel 的 trace,覆盖图步骤、工具调用和模型调用。微软 Foundry 也将 GenAI tracing 作为生产级 Agent 运行时的标配能力。

但 trace 本身不够。有效的可观测性还需要回归基线与在线评估:为关键工作流建立一小批带有期望行为的测试用例,在每次提示词、工具定义或模型版本变更后重放;在线侧对 Agent 的输出进行轻量级质量评分(结构合规性、工具调用成功率、任务完成信号),一旦偏离基线就触发告警而不是静默降级。没有基线,trace 只是一堆事后才能解读的数据。

一个最小可用的 LangGraph 骨架

下面的代码不是完整应用,而是一个把上述约束落进结构里的最小骨架:状态图显式管理循环、条件路由和重试边界,工具调用通过结构化消息传递,记忆持久化挂在检查点上,人工确认作为一个可中断的节点存在。

from typing import Annotated, Literal, TypedDict
from langgraph.graph import StateGraph, END
from langgraph.checkpoint.redis import RedisSaver
from langgraph.types import interrupt

class AgentState(TypedDict):
    messages: Annotated[list, "add_messages"]
    step_count: int
    pending_action: dict | None

def reason(state: AgentState) -> dict:
    """LLM 决定下一步:调用工具、请求人工确认、或结束。"""
    response = llm.invoke(state["messages"], tools=[search, write_record])
    return {"messages": [response], "step_count": state["step_count"] + 1}

def route(state: AgentState) -> Literal["tool", "confirm", "end"]:
    last = state["messages"][-1]
    if last.tool_calls:
        if any(tc["name"] == "write_record" for tc in last.tool_calls):
            return "confirm"       # 写操作强制人工确认
        return "tool"
    return "end"

def execute_tool(state: AgentState) -> dict:
    """带 schema 校验和有界重试的工具执行。"""
    tc = state["messages"][-1].tool_calls[0]
    validated = tool_schemas[tc["name"]].model_validate(tc["args"])
    for attempt in range(3):
        try:
            result = tool_registry[tc["name"]](validated)
            return {"messages": [ToolMessage(result, tool_call_id=tc["id"])]}
        except TransientError:
            if attempt == 2:
                return {"messages": [ToolMessage("tool_failed_transient", tool_call_id=tc["id"])]}
    # unreachable

def confirm(state: AgentState) -> dict:
    """中断点:呈现参数与影响,等待人工决策。"""
    decision = interrupt({
        "action": state["messages"][-1].tool_calls[0]["name"],
        "args": state["messages"][-1].tool_calls[0]["args"],
        "message": "确认执行写操作?"
    })
    if decision == "approve":
        return {"messages": [ToolMessage("approved", tool_call_id=...)]}
    return {"messages": [ToolMessage("rejected_by_human", tool_call_id=...)]}

builder = StateGraph(AgentState)
builder.add_node("reason", reason)
builder.add_node("tool", execute_tool)
builder.add_node("confirm", confirm)
builder.set_entry_point("reason")
builder.add_conditional_edges("reason", route, {"tool": "tool", "confirm": "confirm", "end": END})
builder.add_edge("tool", "reason")
builder.add_edge("confirm", "reason")

checkpointer = RedisSaver.from_conn_string("redis://localhost:6379")
graph = builder.compile(checkpointer=checkpointer, interrupt_before=["confirm"])

这个骨架刻意不把“重试”“确认”“回退”藏在提示词里,而是让它们成为图上的一等公民。route 函数是长链路中可插入确定性校验的位置:你可以在进入 tool 之前检查 step_count 是否超过预算,在 confirm 节点注入业务规则引擎的判断,或者在 reason 的提示词之外用独立的代码逻辑校验模型输出的结构合规性。图的边定义的就是约束,而不是建议。

结语:工程下限决定 Agent 能否成为工具

2026 年的 Agent 生态在协议层已经收敛,在模型能力上持续爬升,但生产系统的失败率仍然高得不容粉饰。把失败归因于“模型还不够强”是一种舒适但危险的叙事,因为它推迟了真正需要做的事:把 Agent 当做一个有状态、有外部依赖、有安全边界、有成本预算的分布式系统来设计和运维。

长链路的错误累积需要用中间锚点和条件路由来吸收,而不是用更大的模型来覆盖;工具调用的脆弱性需要用 schema、幂等和重试边界来约束,而不是用更长的提示词来祈祷;记忆需要用检索结构和置信度管理来治理,而不是用更大的向量库来堆砌;协议之上仍然需要应用层的授权、审计和渐进式自主;可观测性需要下沉到决策轨迹和回归基线,而不是停留在请求日志。

这些工作不产生 Demo 视频里的惊艳瞬间,但它们决定了 Agent 是从“看起来能跑”的演示,变成“每天都能可靠交付”的工具。

【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0)

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。