自主智能体：让模型在环境反馈里自己推进任务
自主智能体：让模型在环境反馈里自己推进任务：让模型在开放问题中依据真实环境反馈自主推进，同时保留沙箱、预算和人工检查点，通过架构、轨迹和故障重放完成验收。
学习目标
- 能解释“自主智能体：让模型在环境反馈里自己推进任务”如何让模型在开放问题中依据真实环境反馈自主推进，同时保留沙箱、预算和人工检查点
- 能区分自治 Agent、沙箱、检查点、误差累积、恢复策略，并指出控制权、数据与副作用边界
- 能固定输入与版本，沿以下证据定位首个分叉：计划、工具参数、权限、环境结果、检查点、成本、首错位置、恢复与最终状态
- 能注入“Agent 在生产权限下反复尝试不可逆操作，错误随轮次累积且无人能暂停”，完成阻断、恢复、复位和同输入重放
来源、课程编排与适用边界
“自主智能体：让模型在环境反馈里自己推进任务”以Anthropic 公开全文《Building effective agents》为总纲，并用Anthropic《Building effective agents》核对本单元机制；涉及 MCP 的控制权边界再由MCP 2025-06-18 官方规范交叉检查。
这不是 Anthropic 出版的“19 章教材”。平台把公开文章、官方工具文档与协议规范重组为 19 个应用单元；下列 152 个节点是站内课程地图，不冒充原文目录。正文、代码、图表、实验和练习均为独立教学重写；产品接口、模型行为或协议版本变化时必须重新验证。
本单元的八个课程坐标
- 自主智能体：让模型在环境反馈里自己推进任务：这是“让模型在开放问题中依据真实环境反馈自主推进，同时保留沙箱、预算和人工检查点”的第 1 个课程坐标；必须进入机制解释、实验观察或练习证据，不能只停在目录。
- 先打个比方：这是“让模型在开放问题中依据真实环境反馈自主推进，同时保留沙箱、预算和人工检查点”的第 2 个课程坐标；必须进入机制解释、实验观察或练习证据，不能只停在目录。
- 先分清：固定工作流和自主智能体不是同一件事：这是“让模型在开放问题中依据真实环境反馈自主推进，同时保留沙箱、预算和人工检查点”的第 3 个课程坐标；必须进入机制解释、实验观察或练习证据，不能只停在目录。
- 自主智能体靠什么往前走：反馈，而不是自言自语：这是“让模型在开放问题中依据真实环境反馈自主推进，同时保留沙箱、预算和人工检查点”的第 4 个课程坐标；必须进入机制解释、实验观察或练习证据，不能只停在目录。
- 什么时候才值得放权给它：这是“让模型在开放问题中依据真实环境反馈自主推进，同时保留沙箱、预算和人工检查点”的第 5 个课程坐标；必须进入机制解释、实验观察或练习证据，不能只停在目录。
- 放权之前要先装刹车：这是“让模型在开放问题中依据真实环境反馈自主推进，同时保留沙箱、预算和人工检查点”的第 6 个课程坐标；必须进入机制解释、实验观察或练习证据，不能只停在目录。
- 动手看：什么时候固定步骤够用，什么时候进入 agent loop？：这是“让模型在开放问题中依据真实环境反馈自主推进，同时保留沙箱、预算和人工检查点”的第 7 个课程坐标；必须进入机制解释、实验观察或练习证据，不能只停在目录。
- 代码对照：固定工作流 vs agent loop：这是“让模型在开放问题中依据真实环境反馈自主推进，同时保留沙箱、预算和人工检查点”的第 8 个课程坐标；必须进入机制解释、实验观察或练习证据，不能只停在目录。
术语与运行合同
↡自治 Agent：模型在多轮环境反馈中动态决定过程和工具使用的系统；在“自主智能体：让模型在环境反馈里自己推进任务”中按以下证据核对：计划、工具参数、权限、环境结果、检查点、成本、首错位置、恢复与最终状态。、↡沙箱：限制代码、文件、网络和系统调用影响范围的环境；在“自主智能体：让模型在环境反馈里自己推进任务”中按以下证据核对：计划、工具参数、权限、环境结果、检查点、成本、首错位置、恢复与最终状态。、↡检查点：暂停自动推进并允许人审查、批准或纠偏的位置；在“自主智能体：让模型在环境反馈里自己推进任务”中按以下证据核对：计划、工具参数、权限、环境结果、检查点、成本、首错位置、恢复与最终状态。、↡误差累积：早期错误经后续决策放大为更大偏离的现象；在“自主智能体：让模型在环境反馈里自己推进任务”中按以下证据核对：计划、工具参数、权限、环境结果、检查点、成本、首错位置、恢复与最终状态。、↡恢复策略：遇到工具错误、阻塞或低置信时的重试、回退和接管规则；在“自主智能体：让模型在环境反馈里自己推进任务”中按以下证据核对：计划、工具参数、权限、环境结果、检查点、成本、首错位置、恢复与最终状态。。
本页不变量是：每轮行动都在最小权限内执行，可观察、可停止，并能把真实结果送回下一轮。任何“成功”结论都要保存以下证据：计划、工具参数、权限、环境结果、检查点、成本、首错位置、恢复与最终状态，模型生成的计划或自信不能替代环境事实。
关键机制与可推翻实验
开放路径才值得自治
若步骤可预写，工作流通常更便宜、更稳定；Agent 适合步骤数量和内容难以预测的任务。
动手验证：对同一任务先尝试固定方案，记录其失败边界。
环境反馈是 ground truth
模型自评不能证明代码、订单或数据库已改变，必须读取真实环境。
动手验证：让执行器拒绝一次动作，确认下一轮能看到并处理拒绝。
沙箱阻止错误扩散
广泛权限与多轮尝试组合会放大风险，应限制路径、网络、资源和动作类型。
动手验证：尝试越界写入，确认在工具边界阻断。
检查点处理不可逆动作
付款、发送、删除与发布应在预览后等待明确授权。
动手验证：验证批准前后副作用计数分别为零和一。
先预测，再操作三类证据
1. 架构与复杂度边界
在“自主智能体：让模型在环境反馈里自己推进任务”中切换简单基线、受控工作流与自主循环，先预测“让模型在开放问题中依据真实环境反馈自主推进，同时保留沙箱、预算和人工检查点”在哪个阶段需要增加控制权，再比较延迟、成本、可观测性和自主性。
Architecture decision laboratory
自主智能体：让模型在环境反馈里自己推进任务
让模型在开放问题中依据真实环境反馈自主推进，同时保留沙箱、预算和人工检查点
不变量：每轮行动都在最小权限内执行，可观察、可停止，并能把真实结果送回下一轮
最小可运行实现
for (let step = 0; step < budget.maxSteps; step += 1) {
const action = await planNext(goal, trace);
const preview = await sandbox.preview(action);
if (preview.irreversible) await requireHumanApproval(preview);
const observation = await sandbox.execute(action);
trace.push({ action, observation });
if (acceptance.isSatisfied(observation, trace)) return done(trace);
}
return blocked("budget", trace);这段切片只暴露“让模型在开放问题中依据真实环境反馈自主推进，同时保留沙箱、预算和人工检查点”的最小运行合同。交付版本还要补齐超时、密钥隔离、结构化日志、幂等和批量评测；缺少计划、工具参数、权限、环境结果、检查点、成本、首错位置、恢复与最终状态时，代码能运行也不代表本章结论成立。
练习与答案
练习
问题 1：最小证明。 怎样用最少样本证明“每轮行动都在最小权限内执行，可观察、可停止，并能把真实结果送回下一轮”？
问题 2：课程覆盖。 自主智能体：让模型在环境反馈里自己推进任务、先打个比方、先分清：固定工作流和自主智能体不是同一件事、自主智能体靠什么往前走：反馈，而不是自言自语、什么时候才值得放权给它、放权之前要先装刹车、动手看：什么时候固定步骤够用，什么时候进入 agent loop？、代码对照：固定工作流 vs agent loop如何进入可操作验证？
问题 3：恢复闭环。 怎样证明“Agent 在生产权限下反复尝试不可逆操作，错误随轮次累积且无人能暂停”已经修复？
本章回顾
- “自主智能体：让模型在环境反馈里自己推进任务”的主问题是让模型在开放问题中依据真实环境反馈自主推进，同时保留沙箱、预算和人工检查点。
- 核心不变量是每轮行动都在最小权限内执行，可观察、可停止，并能把真实结果送回下一轮。
- 首要反例是Agent 在生产权限下反复尝试不可逆操作，错误随轮次累积且无人能暂停。
- 最小证据包包含计划、工具参数、权限、环境结果、检查点、成本、首错位置、恢复与最终状态。
名词解释
本章出现的专业名词，用大白话再讲一遍。
- 自治 Agent
模型在多轮环境反馈中动态决定过程和工具使用的系统。在“自主智能体：让模型在环境反馈里自己推进任务”中必须能按以下证据重新定位：计划、工具参数、权限、环境结果、检查点、成本、首错位置、恢复与最终状态。
- 沙箱
限制代码、文件、网络和系统调用影响范围的环境。在“自主智能体：让模型在环境反馈里自己推进任务”中必须能按以下证据重新定位：计划、工具参数、权限、环境结果、检查点、成本、首错位置、恢复与最终状态。
- 检查点
暂停自动推进并允许人审查、批准或纠偏的位置。在“自主智能体：让模型在环境反馈里自己推进任务”中必须能按以下证据重新定位：计划、工具参数、权限、环境结果、检查点、成本、首错位置、恢复与最终状态。
- 误差累积
早期错误经后续决策放大为更大偏离的现象。在“自主智能体：让模型在环境反馈里自己推进任务”中必须能按以下证据重新定位：计划、工具参数、权限、环境结果、检查点、成本、首错位置、恢复与最终状态。
- 恢复策略
遇到工具错误、阻塞或低置信时的重试、回退和接管规则。在“自主智能体：让模型在环境反馈里自己推进任务”中必须能按以下证据重新定位：计划、工具参数、权限、环境结果、检查点、成本、首错位置、恢复与最终状态。