NOTE 005 智能体 2026.08.30
Agent 的边界:
什么时候该让模型自己规划
第一次让模型“自己调用工具完成任务”时,我很容易高估它:演示很顺,真实任务里却经常在第三步走偏。
01先看任务形状
适合交给智能体的任务,通常有三个特征:
- 步骤大致可枚举,但顺序需要根据中间结果调整。
- 每一步的结果可以被检查,对错有明确标准。
- 出错可以回退,或者至少不会造成不可逆的后果。
反过来,目标模糊、评价标准主观、操作不可逆的任务,先不要交给它。让模型自由规划,通常不会把模糊的目标变清楚,只会把模糊放大。
02工具要少而稳
每多一个工具,就多一条失败路径。刚开始做智能体时,我总想一次给全所有能力,结果模型在工具之间反复横跳,任务迟迟不收敛。
后来我把工具压到三五个,每个工具只做一件事。工具返回结构化结果和明确的错误码,比返回一大段自然语言更好处理。删除、付款、发送这类危险操作,默认需要人工确认。
03设计失败路径
演示的时候,任务是顺的;真实环境里,超时、空结果、格式错误才是常态。失败路径必须提前设计:
- 重试设上限,连续失败就停下来报告,而不是无限循环。
- 关键步骤保留检查点,失败时能从中间恢复。
- 准备人工接管,交接时把进度、已执行操作和待确认事项写清楚。
04先跑人工流程
在自动化之前,我会自己按步骤做几遍,记下每一步的判断依据。这些依据就是提示词里的规则,也是后续评估的标准。
如果人工流程都说不清“这一步为什么这么判断”,交给智能体只会把混乱放大。先有一个能复述的流程,再谈自主规划。
智能体不是更聪明的模型,而是一个需要被设计、被约束、被观测的系统。 A NOTE TO MYSELF
05观测比演示重要
我会记录每一步的输入、输出、耗时和错误。定期回看失败轨迹,区分两种问题:是模型判断错了,还是工具设计本身不合理。
演示成功一次不算数,连续跑通 20 次才算。只有在日志里能解释清楚每一次失败,才敢把它放进真实流程。