一次只添加一个词

用条件分布、token和解码规则解释逐步续写；用上下文合同、计算轨迹与证据门交付上下文快照、候选分布、解码轨迹与重复性反例

学习目标

  • 解释下一个token、温度、贪心与随机采样中的输入、状态、变换与输出，而不只复述结论
  • 用单一反例“把token说成完整单词，并把贪心选择或温度当成模型内部理解”定位一次只添加一个词的首个错误状态
  • 交付上下文快照、候选分布、解码轨迹与重复性反例，并区分2023年原书主张与当前事实

为什么从这个问题开始

一次只添加一个词围绕“同一上下文如何经过候选分布与采样规则生成下一个token？”建立贯穿任务：在固定的2023年原书语境与独立事实来源下重放下一个token、温度、贪心与随机采样。先写下哪个输入、表示、分布、训练信号、工具状态或评估结果会最先变化，再运行参考、故障和恢复路径；只有守住“一次只添加一个词的输入版本、条件分布或工具状态、输出证据与适用边界始终可追溯”并交付上下文快照、候选分布、解码轨迹与重复性反例，流畅输出或成功演示才可能成为机制证据。

原文、版本与事实边界

一次只添加一个词以Stephen Wolfram作者公开完整文章核对正文论证，以Wolfram Media原版产品页核对作者Stephen Wolfram、2023年3月9日出版、112页、纸书ISBN 978-1-57955-081-3以及前言、两篇正文、20个分节、致谢和补充资源。

一次只添加一个词以Wolfram Media翻译页确认中文译本《这就是ChatGPT》，并以人民邮电出版社页面核对WOLFRAM传媒汉化小组译、2023年7月、134页和ISBN 9787115618085；全书正式分母是25个目录层级，课程采用学习地图、22个正文单元和总复习共24页承载。

一次只添加一个词把作者文章视为可访问的完整一手材料，但可访问不等于开放许可；本站不复制、逐段翻译或近似改写原文、图片、代码与示例，所有中文机制解释、交互、反例、练习和答案均为独立教学重写。书中关于GPT-3、早期ChatGPT、参数量和接口形态的陈述属于2023年历史快照，不能冒充2026年当前产品规格。

本页独立事实来源

  • 作者公开完整文章：在一次只添加一个词中，核对本页在作者论证链中的位置、示例目的和原始时间边界。
  • GPT-3原始论文：在一次只添加一个词中，独立核对书中使用的GPT-3历史参照、规模与少样本语境。

正式目录坐标逐项解释

What Is ChatGPT Doing ... and Why Does It Work? / ChatGPT在做什么，为什么有效？

坐标 1/2：What Is ChatGPT Doing ... and Why Does It Work? / ChatGPT在做什么，为什么有效？。 一次只添加一个词把What Is ChatGPT Doing ... and Why Does It Work? / ChatGPT在做什么，为什么有效？放入输入、变换、输出和独立评估四层合同，并用一个单故障反例确定首个偏离点。 这里的验收不是“读过”或“能复述”，而是能保存输入快照、运行参考路径、只注入把token说成完整单词，并把贪心选择或温度当成模型内部理解、定位首个分岔，并用上下文快照、候选分布、解码轨迹与重复性反例说明恢复结果与不适用边界。

It's Just Adding One Word at a Time / 一次只添加一个词

坐标 2/2：It's Just Adding One Word at a Time / 一次只添加一个词。 一次只添加一个词冻结同一上下文，先比较经验计数与模型条件分布，再分别运行贪心和随机采样；输出差异只能归因于被切换的解码规则。 这里的验收不是“读过”或“能复述”，而是能保存输入快照、运行参考路径、只注入把token说成完整单词，并把贪心选择或温度当成模型内部理解、定位首个分岔，并用上下文快照、候选分布、解码轨迹与重复性反例说明恢复结果与不适用边界。

先预测，再运行三个交互视图

先预测：只注入“把token说成完整单词，并把贪心选择或温度当成模型内部理解”时，一次只添加一个词在哪个阶段最先偏离参考路径？请写下会变化的输入、表示、条件分布、工具状态或评估信号，再操作视图；看到结果后补写的理由不能算预注册预测。

分步1 / 3

上下文合同：选择坐标与阶段

语料—上下文—输出合同

一次只添加一个词

选择正式目录坐标，再比较参考合同与单一反例如何改变同一条模型链。

阶段 1/4

一次只添加一个词 · 来源与输入

输入
在固定的2023年原书语境与独立事实来源下重放下一个token、温度、贪心与随机采样
操作
冻结下一个token、温度、贪心与随机采样所需的文本、数据、模型或工具版本
输出证据
一次只添加一个词的来源快照、输入合同与版本边界
裁决
一次只添加一个词没有把历史示意、产品名称或演示结果冒充当前规格

最小可复现实验协议

  1. 为一次只添加一个词冻结作者材料、技术论文、模型或工具版本、输入、随机性和成功标准，并把未知的当前产品细节明确标为未知。
  2. 运行参考路径，逐阶段保存上下文快照、候选分布、解码轨迹与重复性反例；若只能看到最终自然语言输出，就还没有机制证据。
  3. 保持其余条件不变，只注入“把token说成完整单词，并把贪心选择或温度当成模型内部理解”，记录首个偏离参考状态的位置以及它向后传播的方式。
  4. 撤销故障，从同一快照重放；只有状态与独立评估都恢复，才允许把异常归因给该故障。

小结与上架门

一次只添加一个词的核心不是记住一句“ChatGPT逐token生成”，而是把下一个token、温度、贪心与随机采样放进可复算链：来源与版本决定能说什么，输入和表示决定模型看到什么，训练或工具计算决定状态怎样变化，独立评估与反例决定结论能否成立。最终交付上下文快照、候选分布、解码轨迹与重复性反例，并同时报告通过项、失败项、未知项和适用边界。

练习与答案

练习

问题 1：What Is ChatGPT Doing ... and Why Does It Work? / ChatGPT在做什么，为什么有效？

为一次只添加一个词设计一个最小输入和一个单一反例，说明What Is ChatGPT Doing ... and Why Does It Work? / ChatGPT在做什么，为什么有效？会改变哪个中间状态、应保存什么证据，以及结论不能外推到哪里。

问题 2：It's Just Adding One Word at a Time / 一次只添加一个词

为一次只添加一个词设计一个最小输入和一个单一反例，说明It's Just Adding One Word at a Time / 一次只添加一个词会改变哪个中间状态、应保存什么证据，以及结论不能外推到哪里。

问题 3：原书与当前事实

指出一次只添加一个词中至少一个必须标成2023年历史快照的主张，并写出重新验证当前事实需要的一手来源类型。

问题 4：恢复为什么必要

为什么一次只添加一个词发现故障后还必须撤销故障并从同一快照重放？

术语与可观测量

在一次只添加一个词中，、、、、、共同组成证据合同。术语只有绑定输入、状态、输出和失败条件才有解释力；把标签换成更时髦的词，不会提升结论可信度。

名词解释

本章出现的专业名词，用大白话再讲一遍。

生成目标

一次只添加一个词实际优化或执行的可观测目标，而不是拟人化意图。

条件分布

一次只添加一个词在给定上下文与版本后对候选输出建立的相对权重。

表示空间

一次只添加一个词把离散输入转换为可计算状态的坐标系统。

训练证据

一次只添加一个词的数据、目标、更新过程、留出评估与版本记录。

单一反例

一次只添加一个词只改变一个条件以定位首个机制分岔的测试。

适用边界

一次只添加一个词没有运行、无法核对或不能外推的模型与情境。

复习本章（6 题）

讨论

评论区加载中…