我越来越警惕一种很顺的工作状态。
我把需求交给 AI，它调查、写代码、跑测试，最后递回来一份结构完整的总结。所有东西看起来都很专业。我点开 diff，能看懂每一行，却说不清它为什么选择这个结构；测试都是绿的，我却不知道这些测试有没有验证真正重要的行为；当我想继续改系统时，我发现自己还得先问 AI：我们刚才到底做了什么？
工作完成了，理解却没有留下。
这和忘记一个事实不一样。搜索引擎替我们保存事实，AI 开始替我们完成“把事实连接起来、作出取舍、形成方案”的过程。心理学把前一种现象称为认知卸载。Agent 时代又多了一层：我们卸载的不只是记忆和推理，还包括行动。
这当然不是拒绝 AI 的理由。更强的模型本来就应该承担更难、更长、更完整的任务。问题是：当预测和行动都被外包以后，人怎样退出执行，又不退出理解、判断和责任？
我后来意识到，这个问题不能靠一句“human in the loop”解决。人留在回路里，不代表人仍然掌控回路。一个只负责点 Accept 的人也在回路里，但他可能已经不再参与。
真正值得设计的，是一个能同时交付两种产物的回路：一份完成的工作，以及一个判断力比开始时更强的人。
生产变便宜之后，稀缺品会迁移
Agrawal、Gans 和 Goldfarb 在 《Prediction Machines》 中把一项任务拆成五个部分：数据、预测、判断、行动和结果。
图源：《Prediction Machines》，Figure 7-1，Anatomy of a Task。
这本书在 2018 年提出了一个清晰的经济学判断：AI 降低了预测成本，而一种东西变便宜，它的互补品就会升值。预测必须和“我想要什么”结合，才能成为决策，所以预测越便宜，判断越重要。
Agent 时代又向前走了一步。模型不只预测，它还会写代码、调用 API、操作浏览器、部署服务、并行调度其他 Agent。行动也在变便宜。
当预测和行动都廉价时，人仍然承担三件不容易被一起外包的事：
- 提供上下文：这个问题发生在什么现实里；
- 行使判断：什么结果值得追求，冲突怎样排序；
- 承担结果：如果决定错了，谁失去时间、金钱、信誉和机会。
我更愿意把原书里的“数据”展开成“上下文”。数据可以被检索，真正稀缺的是数据周围的现实：用户为什么会这样做，团队以前踩过什么坑，资源边界在哪里，什么风险可以接受，哪个看似普通的指标其实关系到一条业务的生死。
模型可以拥有一百万 token 的窗口，却仍然不知道什么对你重要。它可以收到“测试通过”“收入下降 2%”这样的反馈，却不会自然知道后者是噪声、季节波动，还是公司必须立即处理的危机。
这不是模型缺少某项知识，而是它没有处在承担后果的位置上。
因此，人真正不能轻易外包的，不是某种神秘的聪明，而是三种关系：你与问题历史的关系，你与价值取舍的关系，你与结果责任的关系。
判断决定方向，掌控保证你仍能驾驶
这里需要区分两个经常混在一起的词：判断和掌控。
判断不是在 AI 给出答案后说“对”或“不对”。它发生得更早，也覆盖得更广：从意图中定义真正的问题，在冲突目标之间排序，决定系统应该复杂到什么程度，划出不能越过的边界，选择什么证据足以放行，以及最后由谁宣布“这件事真的完成了”。
换句话说，预测回答“接下来可能发生什么”，判断回答“我们希望什么发生，以及愿意为此付出什么”。它不是对答案的评分，而是给结果赋值。
掌控建立在判断之上，却不等于判断。你可能很清楚自己想要什么，却无法看懂 Agent 做了什么、无法在它偏航时改变方向，也无法证明它已经抵达。这样的判断没有进入系统，仍然只是一种愿望。
我现在会用三个条件检查自己是否真的掌控了一次 AI 协作：
- 可理解：我能脱离 Agent 的总结，讲清楚产出的整体结构、关键决策和支撑假设；
- 可干预：我能把偏好和边界写进工作流，并在承重节点暂停、驳回或改变方向；
- 可验证：我不必相信模型的语气，而能用测试、日志、用户行为或独立审查确认它的声明。
三者缺一不可。只有理解而不能干预，人只是一个清醒的乘客；只有干预而不能理解，人是在随机拨动方向盘；只有模型自己提供的验证，则可能只是让同一个误解重复证明自己。
这也是 AI 自动化与传统自动化一个很不一样的地方。传统机器遇到异常，往往会报警、停机，把控制权明确交还给人。生成式 AI 不一定会失败得这么响亮。它可以带着错误继续工作，稳定地输出结构完整、语气自信的结果。控制权没有在某个清楚的瞬间丢失，而是在一次次“继续”和“接受”中悄悄滑走。
所以掌控感不能来自“每一步都是我提示的”，也不能来自“最后是我点的 Accept”。真正的掌控是：我知道什么对这个问题重要，能看见决定方向的关键节点，能在那里改变系统的行为，并愿意对放行后的结果负责。
判断决定该往哪里走，掌控保证你仍有能力驾驶，验证告诉你是否真的到了，责任则让这一切不只是纸面游戏。
判断力不是存量
把判断力称为 AI 时代的护城河很诱人。这个比喻的问题在于，护城河是一种存量：挖好、蓄水、守住，好像它会一直在那里。
判断力不会。
1983 年，认知心理学家 Lisanne Bainbridge 在《自动化的反讽》中指出：自动化越先进，留给操作员的情况越少，却越复杂；而高级技能恰恰需要频繁练习。自动化接管日常以后，人变成监视者，最需要接管的时刻反而可能最没有能力接管。
AI 把这个悖论从操作能力推进到了判断能力。
过去，一个工程师会亲自经历需求误解、设计犹豫、实现失败和修复过程。每一次摩擦都在训练他的直觉。Agent 接管执行以后，中间过程消失，人只看到包装良好的结果。接着发生四件事：
- 角色从生产者变成成品审阅者，而评价通常比执行更需要经验；
- 错误的后果被稀释，坑不是你踩的，修复也未必经你的手；
- 过程逐渐黑箱化，流畅的总结制造了掌控感，却没有制造理解；
- 初学者开始用 AI 完成自己尚未理解的工作，失去了原本用来长出判断力的练习路径。
最危险的状态不是 AI 偶尔犯错，而是 AI 持续产出“足够像正确答案”的东西，人则逐渐失去发现错误的能力。
所以判断力不是一条需要守住的河，而是一种需要持续代谢的能力。上下文不更新会过期，规则不校准会僵化，经验不复盘会退化成无法解释的感觉。
真正能经营的不是判断力的存量，而是判断力的再生速度。
这才是水源。
人不应该留在每一步，而应该留在承重节点
这里很容易走向另一个极端：既然人需要练习判断，那就坚持读每一行代码、看每一个工具调用、批准每一个动作。
这同样不对。
当多个 Agent 并行工作时，人类注意力会立刻成为单点瓶颈。如果每个 Agent 都要等待人澄清需求、审实现、确认下一步，并行只是把排队改成同时排队。人被困在所有细节里，也不等于获得了高质量反馈；更多时候，他只是疲惫地盖更多章。
健康的退出方式不是离开回路，也不是留在每一步，而是把人移动到那些真正承载判断的位置：
- 在实现前确认问题和边界，而不是在实现中不断补需求；
- 审核测试计划和成功标准，而不是默认逐行审查所有实现；
- 比较几条真实可行的路线，而不是只给唯一方案点头；
- 裁决冲突证据和架构取舍，而不是替 Agent 做机械检查；
- 在交付后重新理解系统，而不是只看“已完成”的总结。
例行执行可以交给模型，价值判断不能顺便跟着交出去。
这也解释了为什么更强的模型反而需要更短的提示词。目标、现实上下文、不可妥协的边界和完成证据应该说清楚；模型有能力自行决定的实现细节，不必由人提前锁死。过度规定不仅限制模型，也让人误以为“我写了很多要求，所以我掌控了过程”。
掌控不是写了多少指令，而是你能否在关键时刻改变方向，并说明为什么。
一个健康回路必须有两个输出
我现在用一个更简单的标准判断 AI 工作流是否健康：它结束时交付了什么？
如果只有代码、文档、图表或结论，回路提高了产能，但可能正在消耗人。
如果它还留下了可检查的决策、失败过的假设、对系统的理解，以及能改变下次行为的规则，那么回路同时也在训练人和系统。
第一类输出是工作成果，第二类输出是判断力基础设施。
很多团队只优化第一类：更快完成、更多并行、更少人工。真正可持续的优势来自第二类：每次工作以后，未知更少，测试更好，规则更准，参与者更理解问题。
判断力的水源，就是把每一次便宜的 AI 执行，转化成一次高密度的人类学习样本。
判断力的水循环
模型训练依靠先验和反馈。人的学习结构并没有本质不同：阅读、案例和他人的经验建立先验；行动、结果和复盘更新策略。
人的优势是样本效率。模型需要大量偏好数据，一个人只要认真摊开几次关键决策，就可能更新对“什么是好”的直觉。问题在于，大多数 AI 工作流把决策过程压缩成了一份顺滑总结，把最值钱的训练样本扔掉了。
我希望保留的是下面这条水循环。
1. 先让地图接触领地
提示词、计划和已有认知只是一张地图，代码库、用户行为和现实约束才是领地。地图与领地之间的差，就是未知。
在开始执行以前，先告诉模型你处在什么位置：你对问题熟悉到什么程度，哪些事实已经确认，哪些只是猜测，什么结果绝不能接受。然后让它扫描盲区，而不是立刻迎合你的第一版方案。
未知可以粗略分成四类：
- 已知的已知：你已经能说清楚的目标和事实；
- 已知的未知：你知道仍需决定的问题；
- 未知的已知：你说不出标准，但看到方案就能判断好坏的偏好；
- 未知的未知：你不知道应该问什么，也不知道好结果能到哪里。
盲区调查、研究、访谈、参考和原型的作用，不是让 AI 替你作判断，而是让你更早获得作判断所需的对象。
每一个被发现的未知，都是一次便宜的提前失败。
2. 生成真正不同的选择
如果模型只给一个方案，人很容易把“第一个完整答案”误认为“正确答案”。判断需要比较对象。
让模型提出几条机制上真正不同的路线，说明每条路线优化什么、牺牲什么、在什么条件下会失败。说不清偏好时，不要继续堆形容词，先做原型，让自己对具体产物产生反应。
高质量参考也比属性清单更有价值。一段成熟源码、一个完整产品或一种准确的专业范式，往往携带了你无法逐项描述的结构。参考不是为了复制表面，而是为了显露你真正看重的关系、节奏和边界。
发散的目标不是拥有更多选项，而是把原本隐藏在直觉里的判断标准逼出来。
3. 把偏好变成可检验的承诺
选择一条路线时，不只记录“选了 A”，还要记录：为什么选 A，放弃了什么，哪些假设支撑它，什么新证据会让我们改选 B。
接着把判断翻译成测试、验收标准和风险边界。
这一步很关键。模糊的品味只有在被转化成可失败的断言以后，才能进入反馈循环。否则，成功时大家都觉得理所当然，失败时也无法定位是哪项判断出了问题。
测试不只测试代码，也可以测试判断：
- 这个方案是否真的减少用户步骤；
- 这项抽象是否降低了上层复杂度；
- 这条评审规则能否挡住同类缺陷；
- 这项证据是否足以支持上线，而不是仅仅支持“看起来能跑”。
4. 让执行自主，让验证独立
边界和验收确定后，模型应该拥有足够工具端到端执行：读代码、运行服务、操作浏览器、查看日志、调试和修复。人不需要盯着它写。
执行者不应垄断对自己工作的解释权。同一个 Agent 如果同时理解需求、设计测试、完成实现和宣布通过，一项误解可能污染整条链路。
更可靠的做法是引入独立验证：一个新上下文的 Agent 只拿需求、测试计划和结果挑问题；高风险处再由人裁决业务边界与架构取舍。验证者的任务不是再讲一遍方案，而是寻找什么证据会推翻它。
进度和完成声明也必须落在工具证据上。测试失败就说失败，步骤跳过就说跳过，没有验证就不要用完成时态。可验证不是“模型解释得很有把握”，而是每项承重结论都能指回一个真实结果。
5. 通过解释重新进入系统
理解不是交付后的装饰，也不只是检查对错。理解决定你能否参与下一轮设计。
逐行读 diff 并非唯一方式。对长程 Agent 工作，我更需要一份按逻辑组织的 walkthrough：先补齐必要背景，再解释关键决策和系统变化，最后指出仍然存在的假设与风险。文件路径只是索引，真正需要恢复的是系统的概念模型。
我还喜欢在结尾加一个测验。规则很简单：如果我无法用自己的话回答关键问题，就还没有资格合并。
测验是执行速度与理解速度之间的调速器。它不是为了证明我记住了细节，而是检查我是否仍有能力想象系统下一步怎样演进。
6. 把一次裁决沉淀成未来行为
最后，记录本轮真正值得保留的东西：哪个假设失败，哪里偏离计划，某条评审为什么成立或为什么是误报，哪项方法被验证有效。
能稳定拦截同类错误的判断，写成规则、测试或 Skill；已经存在于代码和文档里的事实，不重复保存；后来被证明错误的经验要删除；规则开始僵化时重新校准。
沉淀不是收集更多文字，而是让下一次行动发生可观察变化。
如果同类错误继续出现，说明规则没有进入真实工作流；如果规则开始阻止本来合理的改变，说明判断本身需要修正。
一条规则进入仓库，品味才拥有版本历史。
怎样判断一个回路是否健康
Loop Engineering 把工程对象从单次提示扩展成整个循环：系统发现任务、分配工作、调用 Agent、记录状态、检查结果，再决定下一步。
图源：LangChain, The Art of Loop Engineering。
但能自动运行的循环不一定健康。前面用来判断个人是否仍有掌控的三个条件，也适用于整个工作流：它是否可理解、可干预、可验证。我把它们缩写为 CCV（Comprehensible、Controllable、Verifiable）。如果决策藏在黑箱里，边界不能随新证据调整，完成声明又没有独立证据，那么循环跑得越快，人失去掌控的速度也越快。
还可以再加一个更长期的问题：这次循环有没有改变下一次循环？
如果没有留下新测试、新规则、新理解或更准确的问题定义，那么它可能只是一次高效外包。高效外包当然有价值，但不要把它误认为能力积累。
并行 Agent 放大的不是空闲，而是判断密度
当单个 Agent 能自主完成工作以后，自然会同时启动多个 Agent。执行吞吐上升，人的工作也随之改变：不再写每一段代码，而是连续判断需求稿是否正确、测试计划是否完整、几种实现如何取舍、哪项发现值得升级。
这不会自动让人更轻松。它把“动手加思考”的工作变成了高浓度思考。三个 Agent 同时产出，很快就能把一个人的注意力填满。
因此，规模化不能只优化 Agent 的并发数，还要优化判断的入口：
- 需求对齐串行完成，执行再并行；
- 独立任务交给不同 Agent，最终语义判断集中；
- 低价值结果批量归并，不让每条消息即时打断人；
- 只有真正需要价值取舍的事项才升级；
- 审查强度与风险匹配，而不是对所有产物一视同仁。
衡量并行系统的指标也不该只是完成了多少任务，而应包括：每个 Agent 完成工作前需要打断人几次，多少完成声明有证据，多少错误转化成了可复用规则，以及人在结束后是否仍然理解系统。
高吞吐不等于高杠杆。只有当产出和判断力一起增长时，规模才是可持续的。
回路可以复制，被回路训练的人不能
任何工作流最终都会被写成文本、Skill、工具和代码。只要能写出来，就能被复制。模型越强，需要的脚手架越少，一套今天稀缺的 Agent 回路，明天可能变成默认能力。
所以回路本身也不是永久护城河。
真正留下差异的是回路在参与者身上产生了什么。一个人经过几年高密度的盲区发现、方案比较、证据裁决和后果复盘，会形成更好的问题感、更快的模式识别和更准确的取舍。别人可以复制他的规则，却不能瞬间复制规则背后的训练历史。
环会越来越容易抄，人会越来越难追。
因此，有竞争力的从来不只是 human in the loop，而是 expert in the loop。更准确地说，是一个能够持续把自己训练成专家的人，处在一个不会剥夺他理解和责任的回路里。
如果有一天，模型连专家判断也逐步吸收了呢？我没有确定答案，但有一个方向越来越清楚：解法会持续贬值，问题不会。
判断的最深一层不是“怎样解决”，而是“什么值得解决，什么结果值得承担”。这不是单纯的能力，而是一种位置。谁拥有问题，谁代表某种价值作取舍，谁承受结果，决定了谁最终有权说“这件事完成了”。
也许未来最持久的优势，不在某项技能，而在你与问题的关系。
在那之前，先把回路造好。但不要只让它生产更多东西。
让它也持续生产一个更有判断力的你。