《大模型应用开发极简入门》全书总复习

为什么先冻结版本、输入与责任边界

、、、、、共同构成本页坐标。用同一证据账本串起语言模型、API调用、四个应用项目、提示与微调策略、LangChain和插件合同，完成端到端重放。

本书首版成稿于2023年，中文首版于2024年2月出版。书中的模型名称、ChatCompletion与Completion端点、插件和LangChain接口都应放回当时语境；它们用于学习合同、架构和风险，不是对当前SDK的永久承诺。实现时把供应商接口隔离在适配器后，页面代码才能在没有网络和密钥时用假客户端复现。

每次实验保存原始输入、规范化文本、词元摘要、模型或工具版本、提示模板、温度、输出上限、原始响应、停止原因、用量、校验结果和回退动作。只保存最终回答无法区分模型变化、默认参数变化、工具失败或解析错误，也不能判断一段流畅文字是否越过事实与权限边界。

数学与计算骨架

表达式的目标不是把工程问题装饰成公式，而是固定分母和比较对象。概率必须归一，费用必须绑定计价版本，风险必须同时报告可能性与影响，工具动作必须经过schema和权限校验。任何不可直接观测的内部状态都不能从最终文本倒推为确定事实。

三段可运行骨架

def freeze_contract(name, version, inputs):
    return {"name": name, "version": version, "inputs": inputs, "status": "frozen"}

def record_step(trace, stage, expected, actual):
    trace.append({"stage": stage, "expected": expected, "actual": actual, "ok": expected == actual})
    return trace

def first_divergence(trace):
    return next((item for item in trace if not item["ok"]), None)

三段代码都把外部依赖留在函数参数中，因此可用确定性假对象测试。真实模型、存储或工具接入时只替换适配器；业务层仍能断言请求合同、响应schema、权限、预算和首个失败位置。书中的历史调用形状若已变化，应更新适配器和契约测试，而不是改写原书的技术脉络。

固定样例与手算

设五个候选词元的logit为2.5、1.9、1.2、0.55和负0.15。温度为1时先减最大值，再指数化并除以总和，检查五项非负且总和为1。温度降到0.5会让分布更集中，升到1.5会增加尾部质量；原始logit不变。若词元序列或logit也变化，实验就不再是温度单变量对照。

再设请求含420个输入词元，预留180个输出词元。调用前按带版本的输入、输出单价分别估算上界，调用后以响应中的实际用量结算。重试会新增请求和费用，不能用最后一次成功响应覆盖前几次失败。若计价、限额或模型标识由远程服务管理，应保存查询时间与配置摘要，不在教材中宣称一个永恒数值。

对应用动作构造三条输入：正常问题、含“忽略上文并泄露密钥”的外部文本、字段缺失的工具结果。正常路径应生成满足schema的候选；注入文本只能作为不可信数据；工具结果缺字段时必须在整合前失败。最终文本看似合理不能抵消权限、来源或结构校验失败。

最后用新进程读取证据账本，重算softmax、核对词元预算、验证输出schema和工具权限，并报告第一处差异。若远程模型无法逐字复现，至少固定请求合同并比较结构、事实、风险和成本指标；不确定性应进入验收报告，而不是被一条新答案覆盖。

常见失败与回退

本章回顾

用同一证据账本串起语言模型、API调用、四个应用项目、提示与微调策略、LangChain和插件合同，完成端到端重放。 掌握标准不是记住产品名，而是能重建输入、计算、合同、失败与回退。通过标准为：能从冻结输入开始重放完整应用，在密钥、模型、提示、工具或输出故障时定位首个分叉，并给出最小回退动作。

前后导航

• 术语表