每个 agent demo 都能成功一次。真正有意思的问题是第五次运行:输入是真实的,工具很慢,用户不关心架构。
我见到的大多数失败不是推理失败,而是循环失败:找到答案后还在搜;因为能用就调用工具;没读文件就编辑;没验证就总结;做完不可逆的事才问权限。模型常常是有能力的,循环没有审美。
第五次运行
第一次运行是彩排。prompt 很干净,工具秒回,happy path 很清楚。第五次运行会有一个格式错误的输入、一个不稳定的 API、一个过期缓存,以及一个昨天就想要结果的用户。设计就住在这里。
我在意的是能被中断、检查、恢复的 agent。不是因为中断优雅,而是因为真实工作本来就会被打断。一个连工具暂停都活不过的循环,只是一个绑了大模型的脚本。
Demo 证明模型能行动。产品证明循环能停下来。
工具带的陷阱
加工具感觉像加能力。实际上,每个工具都增加一个分支、一个 schema、一种错误模式,以及一种新的自信犯错方式。搜索空间比有用行为增长得更快。一个有二十个工具的 agent,在聚焦任务上经常不如三个工具加一条清楚的指令。
工具带还掩盖了真正的瓶颈:上下文。一长串工具描述会和任务、历史、检索文档、约束抢注意力。模型花在决定用哪个工具上的注意力,比花在“任务是不是已经完成”上的还多。
我的默认做法是从能完成循环的最小集合开始:一个读工具、一个写工具、一个向人求助的方式。等到某条 trace 证明没有它循环就推进不了,再加第四个。
循环是产品
一个有用的 agent 循环和其他产品界面有相同的部分:
- 入口状态。 开始前 agent 知道什么?缺什么?绝不能假设什么?
- 观察。 什么算证据?工具结果、截图、测试通过、人的确认?
- 动作。 什么能改变世界?哪些可逆?哪些需要检查?
- 出口。 完成长什么样?谁决定?预算耗尽时发生什么?
大多数团队写了 prompt,跳过了出口。然后惊讶 agent 一直不停。出口不是最后加上的护栏,它是规格说明。
加工具之前,先写出循环停止的条件。写不出来,说明你还没有任务,只有探索。
审美是停止函数
Agent 的审美不是什么神秘的美感天赋,而是一组关于“够了”的判断:这个证据够了,这个结果够好了,这条路不值得再来一个 token。它是在正确时刻停下来的能力,也是区分“完成”和“预算耗尽”的能力。
这种判断至少可以部分编码。三个机制干掉了大部分工作:
- 预算。 token、时间、尝试次数、工具调用都有上限。到上限时,agent 报告它有什么、没做什么。它不静默循环。
- 成功检查。 测试、schema、diff、引用或人的确认。模型之外的东西决定循环是否完成。
- 循环检测。 重复动作、重复搜索,或者两轮没有状态变化。停下来解释,而不是永远重试。
这些都不需要更聪明的模型,需要一个编辑对“这场戏什么时候结束”的感觉。
该测什么
Agent 评测经常被报成一个成功率。这个数字藏起了最有意思的部分。我想看:
- 固定任务上的成功。 每次相同输入,有清楚的通过条件。
- 每次成功的成本。 token、工具调用、墙钟时间。便宜的失败还是失败,昂贵的成功是设计异味。
- 失败模式。 答错、循环、过早停止、不安全动作、输出不可读。每种指向不同的修法。
- 恢复能力。 工具报错或人纠正后,agent 能不能不从头开始?
- trace 的可读性。 人能不能两分钟解释发生了什么?不能,说明循环不够可观察,也不够可改进。
trace 不是日志堆。它是一个叙事:agent 相信什么、尝试什么、什么变了、为什么停。如果 trace 撑不起这个叙事,agent 还没准备好处理任何重要的事。
交接
一个严肃 agent 最重要的工具是交接。循环说:“我做了能做的;这是状态,这是不确定性,这是我要你做的。”这不是自主性的失败,这是让自主性安全到可用的特性。
好的交接很具体。不是“出错了”,而是“部署在第 3 步失败;迁移已执行,但应用还在旧镜像;我没有碰生产流量。”人能立刻行动。坏的交接倒出堆栈,然后叫它透明。
我先设计交接,再在循环赢得信任的地方移除它。顺序很重要。信任靠证据授予,不靠 demo。
清单
- 一个任务,一个成功条件。 写 prompt 前先写这两个。
- 最少工具。 只有 trace 证明缺能力时才加。
- 硬预算。 token、时间、尝试、工具调用。让 agent 看得见上限。
- 行动前先有状态。 读后写;迁移前快照;不可逆前先问。
- 重复就停。 状态没变,不要用同样方式再来一次。
- 给人类看 trace。 可读叙事,不是原始日志。
- 干净交接。 状态、不确定性、下一步。
模型会继续变好,循环仍然需要编辑。一个感觉聪明的 agent 和一个感觉累人的 agent,差别很少在模型,而在知道工作什么时候结束的审美。
语境 / 来自构建工具型 agent 和验证 harness 的笔记,包括六道门的 Photoreal Game Harness。这里不声称任何模型 benchmark;论点关于循环设计和评测实践。