智能体解剖图

把模型、指令、工具、状态和运行时拆成可追踪部件,明确决策、执行、观察与权限责任。

学习目标

  • 能解释“智能体解剖图”如何按责任边界拆解智能体而不是把全部行为归因于模型
  • 能区分模型、运行时、工具注册表、状态、权限边界,并指出它们在请求、状态或执行边界中的位置
  • 能固定输入,沿以下证据定位首个分叉:指令版本、工具表、状态标识、模型请求、校验结果、执行日志、权限判定与环境变化
  • 能注入“模型生成的函数名和参数被直接 eval,绕过注册表、权限和参数校验”,在同一预算和权限下完成故障、恢复与重放

来源、课程编排与适用边界

“智能体解剖图”以Anthropic 公开全文《Building effective agents》为总纲,并用Anthropic《Building effective agents》核对本单元机制;工具与外部能力的角色再由MCP 官方规范交叉检查。

这不是一本具有“官方九章目录”的纸质书。平台把公开文章中的 augmented LLM、工作流、智能体、上下文和工具工程重组为 9 个教学单元;下列 72 个节点是站内课程地图,不冒充 Anthropic 原文目录。正文、代码、图表和练习均为独立教学重写,产品或模型版本变化时应重新验证。

本单元的八个课程坐标

  • 智能体解剖图:作为“按责任边界拆解智能体而不是把全部行为归因于模型”的第 1 个课程坐标,必须进入正文解释、交互观察或练习证据。
  • 模型:作为“按责任边界拆解智能体而不是把全部行为归因于模型”的第 2 个课程坐标,必须进入正文解释、交互观察或练习证据。
  • 指令:作为“按责任边界拆解智能体而不是把全部行为归因于模型”的第 3 个课程坐标,必须进入正文解释、交互观察或练习证据。
  • 工具:作为“按责任边界拆解智能体而不是把全部行为归因于模型”的第 4 个课程坐标,必须进入正文解释、交互观察或练习证据。
  • 状态:作为“按责任边界拆解智能体而不是把全部行为归因于模型”的第 5 个课程坐标,必须进入正文解释、交互观察或练习证据。
  • 运行时:作为“按责任边界拆解智能体而不是把全部行为归因于模型”的第 6 个课程坐标,必须进入正文解释、交互观察或练习证据。
  • 权限边界:作为“按责任边界拆解智能体而不是把全部行为归因于模型”的第 7 个课程坐标,必须进入正文解释、交互观察或练习证据。
  • 可观测轨迹:作为“按责任边界拆解智能体而不是把全部行为归因于模型”的第 8 个课程坐标,必须进入正文解释、交互观察或练习证据。

术语与状态合同

本页不变量是:任何输出和副作用都能追溯到模型请求、运行时校验、工具执行和环境观察。任何“成功”结论都要保存以下证据:指令版本、工具表、状态标识、模型请求、校验结果、执行日志、权限判定与环境变化,不能把模型口头确认当作环境事实。

关键机制与可推翻实验

模型负责提出决策,不直接执行副作用

模型输出文本或结构化工具请求;真正的文件、网络和数据库操作由运行时验证后执行。把两者混为一谈会失去权限控制。

动手试:让模型请求一个未注册工具,确认运行时拒绝而不是动态执行字符串。

指令与工具共同定义行动空间

系统指令描述目标和边界,工具 schema 描述可用动作。仅靠提示禁止危险操作不够,运行时权限必须形成第二道确定性门禁。

动手试:在提示允许、权限拒绝的冲突样本中,验证确定性权限优先。

状态区分上下文与环境

消息历史是模型当轮可见状态,任务台账和真实资源是外部环境状态。两者需要稳定标识关联,不能用模型生成的摘要替代权威事实。

动手试:比较消息中的订单状态与数据库状态,确认最终行动以数据库为准。

运行时拥有循环和审计责任

轮数、预算、重试、超时、幂等键、日志与人工审批属于运行时。模型可以建议下一步,但不能自行取消这些控制。

动手试:注入超时和重复请求,检查幂等与停止证据是否完整。

先预测,再操作三类证据

分步1 / 3

1. 模型与结构边界

在“智能体解剖图”中先画出责任、数据或候选空间,再预测“按责任边界拆解智能体而不是把全部行为归因于模型”会在哪个节点改变结果。

智能体解剖图、模型、指令、工具、状态、运行时、权限边界、可观测轨迹
一个智能体 = 模型(大脑)+ 围着它的四件配件🧠 模型(大脑)失忆天才本人 · 负责决策、动脑会幻觉 · 记不住 · 动不了手提示 Prompt🗒 塞进去的纸条怎么跟它说话:把任务写清楚工具 Tools📞 伸出屋外的电话替它出屋做事:搜索·算账·读写记忆 Memory📓 笔记本 + 资料库治失忆:该记的存下来、要用时取回规划 Planning✅ 待办清单拆解多步任务、做完回头自检
智能体的五大件:中心是「模型」这颗大脑,四周是提示(纸条)、工具(电话)、记忆(笔记本+资料库)、 规划(待办清单)——把这位失忆天才缺的能力一件件补齐,他才成了能干活的智能体。

最小可运行实现

class Runtime:
    def __init__(self, model, tools, policy):
        self.model = model
        self.tools = tools
        self.policy = policy
 
    def invoke(self, request, context):
        call = self.model.decide(request, context, self.tools.schemas())
        self.policy.check(call)
        result = self.tools.execute(call)
        return {"call": call, "result": result}

这段实现只负责暴露“按责任边界拆解智能体而不是把全部行为归因于模型”的最小合同。交付版本还要补齐超时、日志、权限、密钥隔离和可重复评测;缺少以下证据时,代码能运行也不代表本章结论成立:指令版本、工具表、状态标识、模型请求、校验结果、执行日志、权限判定与环境变化。

练习与答案

练习

问题 1:系统边界。 怎样用最小输入证明“任何输出和副作用都能追溯到模型请求、运行时校验、工具执行和环境观察”?

问题 2:课程坐标。 智能体解剖图、模型、指令、工具、状态、运行时、权限边界、可观测轨迹如何进入可操作验证?

问题 3:故障恢复。 怎样证明“模型生成的函数名和参数被直接 eval,绕过注册表、权限和参数校验”已经修复?

本章回顾

  • “智能体解剖图”的主问题是按责任边界拆解智能体而不是把全部行为归因于模型。
  • 核心不变量是任何输出和副作用都能追溯到模型请求、运行时校验、工具执行和环境观察。
  • 首要反例是模型生成的函数名和参数被直接 eval,绕过注册表、权限和参数校验。
  • 最小证据包包含指令版本、工具表、状态标识、模型请求、校验结果、执行日志、权限判定与环境变化。

名词解释

本章出现的专业名词,用大白话再讲一遍。

模型

根据上下文生成决策候选的概率系统。在“智能体解剖图”中必须能按以下证据重新定位:指令版本、工具表、状态标识、模型请求、校验结果、执行日志、权限判定与环境变化。

运行时

管理循环、校验、执行、预算和日志的确定性程序。在“智能体解剖图”中必须能按以下证据重新定位:指令版本、工具表、状态标识、模型请求、校验结果、执行日志、权限判定与环境变化。

工具注册表

把允许的工具名绑定到实现与策略的映射。在“智能体解剖图”中必须能按以下证据重新定位:指令版本、工具表、状态标识、模型请求、校验结果、执行日志、权限判定与环境变化。

状态

影响后续决策的消息、任务与环境事实。在“智能体解剖图”中必须能按以下证据重新定位:指令版本、工具表、状态标识、模型请求、校验结果、执行日志、权限判定与环境变化。

权限边界

限制主体可执行动作和资源范围的确定性规则。在“智能体解剖图”中必须能按以下证据重新定位:指令版本、工具表、状态标识、模型请求、校验结果、执行日志、权限判定与环境变化。

阅读导航

← 大模型:智能体的大脑 · 提示工程基础 →

资料与写作方式声明

本章以Building effective agents(站内九单元课程改编)权威目录界定学习范围,并结合正文列出的技术资料独立重写;不宣称复现原书正文,也不沿用原作表述。

原作版权归作者与出版社所有;本站原创教学结构与表述仅供学习交流。

讨论

评论区加载中…