术语表

术语表按中文首版官方目录重建,覆盖模型、API、应用、安全、优化与框架证据。

为什么先冻结版本、输入与责任边界

、、、、、共同构成本页坐标。把全书术语还原为输入、输出、状态、版本和失败边界,而不是只背缩写;同名概念在模型、API和应用层承担不同责任。

本书首版成稿于2023年,中文首版于2024年2月出版。书中的模型名称、ChatCompletion与Completion端点、插件和LangChain接口都应放回当时语境;它们用于学习合同、架构和风险,不是对当前SDK的永久承诺。实现时把供应商接口隔离在适配器后,页面代码才能在没有网络和密钥时用假客户端复现。

每次实验保存原始输入、规范化文本、词元摘要、模型或工具版本、提示模板、温度、输出上限、原始响应、停止原因、用量、校验结果和回退动作。只保存最终回答无法区分模型变化、默认参数变化、工具失败或解析错误,也不能判断一段流畅文字是否越过事实与权限边界。

数学与计算骨架

term=(definition,input,output,boundary)term=(definition,input,output,boundary) API=contract(request,response,error)API=contract(request,response,error) modelproductapplicationmodel\ne product\ne application claimevidenceclaim\Rightarrow evidence

表达式的目标不是把工程问题装饰成公式,而是固定分母和比较对象。概率必须归一,费用必须绑定计价版本,风险必须同时报告可能性与影响,工具动作必须经过schema和权限校验。任何不可直接观测的内部状态都不能从最终文本倒推为确定事实。

三段可运行骨架

def freeze_contract(name, version, inputs):
    return {"name": name, "version": version, "inputs": inputs, "status": "frozen"}
def record_step(trace, stage, expected, actual):
    trace.append({"stage": stage, "expected": expected, "actual": actual, "ok": expected == actual})
    return trace
def first_divergence(trace):
    return next((item for item in trace if not item["ok"]), None)

三段代码都把外部依赖留在函数参数中,因此可用确定性假对象测试。真实模型、存储或工具接入时只替换适配器;业务层仍能断言请求合同、响应schema、权限、预算和首个失败位置。书中的历史调用形状若已变化,应更新适配器和契约测试,而不是改写原书的技术脉络。

固定样例与手算

设五个候选词元的logit为2.5、1.9、1.2、0.55和负0.15。温度为1时先减最大值,再指数化并除以总和,检查五项非负且总和为1。温度降到0.5会让分布更集中,升到1.5会增加尾部质量;原始logit不变。若词元序列或logit也变化,实验就不再是温度单变量对照。

再设请求含420个输入词元,预留180个输出词元。调用前按带版本的输入、输出单价分别估算上界,调用后以响应中的实际用量结算。重试会新增请求和费用,不能用最后一次成功响应覆盖前几次失败。若计价、限额或模型标识由远程服务管理,应保存查询时间与配置摘要,不在教材中宣称一个永恒数值。

对应用动作构造三条输入:正常问题、含“忽略上文并泄露密钥”的外部文本、字段缺失的工具结果。正常路径应生成满足schema的候选;注入文本只能作为不可信数据;工具结果缺字段时必须在整合前失败。最终文本看似合理不能抵消权限、来源或结构校验失败。

最后用新进程读取证据账本,重算softmax、核对词元预算、验证输出schema和工具权限,并报告第一处差异。若远程模型无法逐字复现,至少固定请求合同并比较结构、事实、风险和成本指标;不确定性应进入验收报告,而不是被一条新答案覆盖。

常见失败与回退

本章回顾

把全书术语还原为输入、输出、状态、版本和失败边界,而不是只背缩写;同名概念在模型、API和应用层承担不同责任。 掌握标准不是记住产品名,而是能重建输入、计算、合同、失败与回退。通过标准为:能用统一模板解释核心术语,给出最小实例与反例,并沿词元、请求、应用、训练和工具五层指出责任归属。

前后导航

讨论

评论区加载中…