NOTE 005 智能体 2026.08.30

Agent 的边界:
什么时候该让模型自己规划

第一次让模型“自己调用工具完成任务”时,我很容易高估它:演示很顺,真实任务里却经常在第三步走偏。

9 分钟阅读 关键词:Agent / 工具调用 / 失败恢复

01先看任务形状

适合交给智能体的任务,通常有三个特征:

  • 步骤大致可枚举,但顺序需要根据中间结果调整。
  • 每一步的结果可以被检查,对错有明确标准。
  • 出错可以回退,或者至少不会造成不可逆的后果。

反过来,目标模糊、评价标准主观、操作不可逆的任务,先不要交给它。让模型自由规划,通常不会把模糊的目标变清楚,只会把模糊放大。

02工具要少而稳

每多一个工具,就多一条失败路径。刚开始做智能体时,我总想一次给全所有能力,结果模型在工具之间反复横跳,任务迟迟不收敛。

后来我把工具压到三五个,每个工具只做一件事。工具返回结构化结果和明确的错误码,比返回一大段自然语言更好处理。删除、付款、发送这类危险操作,默认需要人工确认。

03设计失败路径

演示的时候,任务是顺的;真实环境里,超时、空结果、格式错误才是常态。失败路径必须提前设计:

  • 重试设上限,连续失败就停下来报告,而不是无限循环。
  • 关键步骤保留检查点,失败时能从中间恢复。
  • 准备人工接管,交接时把进度、已执行操作和待确认事项写清楚。

04先跑人工流程

在自动化之前,我会自己按步骤做几遍,记下每一步的判断依据。这些依据就是提示词里的规则,也是后续评估的标准。

如果人工流程都说不清“这一步为什么这么判断”,交给智能体只会把混乱放大。先有一个能复述的流程,再谈自主规划。

智能体不是更聪明的模型,而是一个需要被设计、被约束、被观测的系统。 A NOTE TO MYSELF

05观测比演示重要

我会记录每一步的输入、输出、耗时和错误。定期回看失败轨迹,区分两种问题:是模型判断错了,还是工具设计本身不合理。

演示成功一次不算数,连续跑通 20 次才算。只有在日志里能解释清楚每一次失败,才敢把它放进真实流程。

这篇笔记来自我的学习记录,内容仅供学习参考。技术变化很快,结论会随新的实验更新。