智能体解剖图
把模型、指令、工具、状态和运行时拆成可追踪部件,明确决策、执行、观察与权限责任。
学习目标
- 能解释“智能体解剖图”如何按责任边界拆解智能体而不是把全部行为归因于模型
- 能区分模型、运行时、工具注册表、状态、权限边界,并指出它们在请求、状态或执行边界中的位置
- 能固定输入,沿以下证据定位首个分叉:指令版本、工具表、状态标识、模型请求、校验结果、执行日志、权限判定与环境变化
- 能注入“模型生成的函数名和参数被直接 eval,绕过注册表、权限和参数校验”,在同一预算和权限下完成故障、恢复与重放
来源、课程编排与适用边界
“智能体解剖图”以Anthropic 公开全文《Building effective agents》为总纲,并用Anthropic《Building effective agents》核对本单元机制;工具与外部能力的角色再由MCP 官方规范交叉检查。
这不是一本具有“官方九章目录”的纸质书。平台把公开文章中的 augmented LLM、工作流、智能体、上下文和工具工程重组为 9 个教学单元;下列 72 个节点是站内课程地图,不冒充 Anthropic 原文目录。正文、代码、图表和练习均为独立教学重写,产品或模型版本变化时应重新验证。
本单元的八个课程坐标
- 智能体解剖图:作为“按责任边界拆解智能体而不是把全部行为归因于模型”的第 1 个课程坐标,必须进入正文解释、交互观察或练习证据。
- 模型:作为“按责任边界拆解智能体而不是把全部行为归因于模型”的第 2 个课程坐标,必须进入正文解释、交互观察或练习证据。
- 指令:作为“按责任边界拆解智能体而不是把全部行为归因于模型”的第 3 个课程坐标,必须进入正文解释、交互观察或练习证据。
- 工具:作为“按责任边界拆解智能体而不是把全部行为归因于模型”的第 4 个课程坐标,必须进入正文解释、交互观察或练习证据。
- 状态:作为“按责任边界拆解智能体而不是把全部行为归因于模型”的第 5 个课程坐标,必须进入正文解释、交互观察或练习证据。
- 运行时:作为“按责任边界拆解智能体而不是把全部行为归因于模型”的第 6 个课程坐标,必须进入正文解释、交互观察或练习证据。
- 权限边界:作为“按责任边界拆解智能体而不是把全部行为归因于模型”的第 7 个课程坐标,必须进入正文解释、交互观察或练习证据。
- 可观测轨迹:作为“按责任边界拆解智能体而不是把全部行为归因于模型”的第 8 个课程坐标,必须进入正文解释、交互观察或练习证据。
术语与状态合同
↡模型:根据上下文生成决策候选的概率系统;在“智能体解剖图”中按以下证据核对:指令版本、工具表、状态标识、模型请求、校验结果、执行日志、权限判定与环境变化。、↡运行时:管理循环、校验、执行、预算和日志的确定性程序;在“智能体解剖图”中按以下证据核对:指令版本、工具表、状态标识、模型请求、校验结果、执行日志、权限判定与环境变化。、↡工具注册表:把允许的工具名绑定到实现与策略的映射;在“智能体解剖图”中按以下证据核对:指令版本、工具表、状态标识、模型请求、校验结果、执行日志、权限判定与环境变化。、↡状态:影响后续决策的消息、任务与环境事实;在“智能体解剖图”中按以下证据核对:指令版本、工具表、状态标识、模型请求、校验结果、执行日志、权限判定与环境变化。、↡权限边界:限制主体可执行动作和资源范围的确定性规则;在“智能体解剖图”中按以下证据核对:指令版本、工具表、状态标识、模型请求、校验结果、执行日志、权限判定与环境变化。。
本页不变量是:任何输出和副作用都能追溯到模型请求、运行时校验、工具执行和环境观察。任何“成功”结论都要保存以下证据:指令版本、工具表、状态标识、模型请求、校验结果、执行日志、权限判定与环境变化,不能把模型口头确认当作环境事实。
关键机制与可推翻实验
模型负责提出决策,不直接执行副作用
模型输出文本或结构化工具请求;真正的文件、网络和数据库操作由运行时验证后执行。把两者混为一谈会失去权限控制。
动手试:让模型请求一个未注册工具,确认运行时拒绝而不是动态执行字符串。
指令与工具共同定义行动空间
系统指令描述目标和边界,工具 schema 描述可用动作。仅靠提示禁止危险操作不够,运行时权限必须形成第二道确定性门禁。
动手试:在提示允许、权限拒绝的冲突样本中,验证确定性权限优先。
状态区分上下文与环境
消息历史是模型当轮可见状态,任务台账和真实资源是外部环境状态。两者需要稳定标识关联,不能用模型生成的摘要替代权威事实。
动手试:比较消息中的订单状态与数据库状态,确认最终行动以数据库为准。
运行时拥有循环和审计责任
轮数、预算、重试、超时、幂等键、日志与人工审批属于运行时。模型可以建议下一步,但不能自行取消这些控制。
动手试:注入超时和重复请求,检查幂等与停止证据是否完整。
先预测,再操作三类证据
1. 模型与结构边界
在“智能体解剖图”中先画出责任、数据或候选空间,再预测“按责任边界拆解智能体而不是把全部行为归因于模型”会在哪个节点改变结果。
最小可运行实现
class Runtime:
def __init__(self, model, tools, policy):
self.model = model
self.tools = tools
self.policy = policy
def invoke(self, request, context):
call = self.model.decide(request, context, self.tools.schemas())
self.policy.check(call)
result = self.tools.execute(call)
return {"call": call, "result": result}这段实现只负责暴露“按责任边界拆解智能体而不是把全部行为归因于模型”的最小合同。交付版本还要补齐超时、日志、权限、密钥隔离和可重复评测;缺少以下证据时,代码能运行也不代表本章结论成立:指令版本、工具表、状态标识、模型请求、校验结果、执行日志、权限判定与环境变化。
练习与答案
练习
问题 1:系统边界。 怎样用最小输入证明“任何输出和副作用都能追溯到模型请求、运行时校验、工具执行和环境观察”?
问题 2:课程坐标。 智能体解剖图、模型、指令、工具、状态、运行时、权限边界、可观测轨迹如何进入可操作验证?
问题 3:故障恢复。 怎样证明“模型生成的函数名和参数被直接 eval,绕过注册表、权限和参数校验”已经修复?
本章回顾
- “智能体解剖图”的主问题是按责任边界拆解智能体而不是把全部行为归因于模型。
- 核心不变量是任何输出和副作用都能追溯到模型请求、运行时校验、工具执行和环境观察。
- 首要反例是模型生成的函数名和参数被直接 eval,绕过注册表、权限和参数校验。
- 最小证据包包含指令版本、工具表、状态标识、模型请求、校验结果、执行日志、权限判定与环境变化。
名词解释
本章出现的专业名词,用大白话再讲一遍。
- 模型
根据上下文生成决策候选的概率系统。在“智能体解剖图”中必须能按以下证据重新定位:指令版本、工具表、状态标识、模型请求、校验结果、执行日志、权限判定与环境变化。
- 运行时
管理循环、校验、执行、预算和日志的确定性程序。在“智能体解剖图”中必须能按以下证据重新定位:指令版本、工具表、状态标识、模型请求、校验结果、执行日志、权限判定与环境变化。
- 工具注册表
把允许的工具名绑定到实现与策略的映射。在“智能体解剖图”中必须能按以下证据重新定位:指令版本、工具表、状态标识、模型请求、校验结果、执行日志、权限判定与环境变化。
- 状态
影响后续决策的消息、任务与环境事实。在“智能体解剖图”中必须能按以下证据重新定位:指令版本、工具表、状态标识、模型请求、校验结果、执行日志、权限判定与环境变化。
- 权限边界
限制主体可执行动作和资源范围的确定性规则。在“智能体解剖图”中必须能按以下证据重新定位:指令版本、工具表、状态标识、模型请求、校验结果、执行日志、权限判定与环境变化。