第7章 基于RNN生成文本
复核RNN文本生成、Encoder/Decoder、Reverse与Peeky seq2seq实验，并逐项覆盖第7章 基于RNN生成文本、7.1 使用语言模型生成文本、7.1.1 使用RNN生成文本的步骤、7.1.2 文本生成的实现、7.1.3 更好的文本生成、7.2 seq2seq模型、7.2.1 seq2seq的原理、7.2.2 时序数据转换的简单尝试、7.2.3 可变长度的时序数据、7.2.4 加法数据集、7.3 seq2seq的实现、7.3.1 Encoder类、7.3.2 Decoder类、7.3.3 Seq2seq类、7.3.4 seq2seq的评价、7.4 seq2seq的改进、7.4.1 反转输入数据（Reverse）、7.4.2 偷窥（Peeky）、7.5 seq2seq的应用、7.5.1 聊天机器人、7.5.2 算法学习、7.5.3 自动图像描述、7.6 小结；用表示账本、单故障序列轨迹和独立评价验收门完成复核。
学习目标
- 能说明“第7章 基于RNN生成文本”如何复核RNN文本生成、Encoder/Decoder、Reverse与Peeky seq2seq实验，并逐项覆盖第7章 基于RNN生成文本、7.1 使用语言模型生成文本、7.1.1 使用RNN生成文本的步骤、7.1.2 文本生成的实现、7.1.3 更好的文本生成、7.2 seq2seq模型、7.2.1 seq2seq的原理、7.2.2 时序数据转换的简单尝试、7.2.3 可变长度的时序数据、7.2.4 加法数据集、7.3 seq2seq的实现、7.3.1 Encoder类、7.3.2 Decoder类、7.3.3 Seq2seq类、7.3.4 seq2seq的评价、7.4 seq2seq的改进、7.4.1 反转输入数据（Reverse）、7.4.2 偷窥（Peeky）、7.5 seq2seq的应用、7.5.1 聊天机器人、7.5.2 算法学习、7.5.3 自动图像描述、7.6 小结，并区分2018年原版、2020年中文译本与当前扩展
- 能先预测“怎样让训练时目标、推理时自回归输入和可变长序列使用同一编码合同？ 本章各目录坐标如何汇合为同一证据链？”“第7章 基于RNN生成文本”会改变哪个词ID、表示、时序状态、梯度、采样或评价结果，再逐步复核
- 能注入“推理偷看目标序列、padding进入损失，或用不同随机采样比较结构改进；在第7章 基于RNN生成文本验收中只注入这一处”，用“词表、起止符、Encoder状态、Decoder输入、mask、采样策略与评价集一致；第7章 基于RNN生成文本的结论不得越过原版目录与数据边界”决定接受、回退或拒绝NLP结论
为什么从这个NLP问题开始
“第7章 基于RNN生成文本”必须把表示、序列状态和评价条件写成可重放合同，不能用最终指标替代中间机制。 “第7章 基于RNN生成文本”的贯穿任务是：为“第7章 基于RNN生成文本”冻结语料/数据、词表、shape、时序切分、随机种子与代码版本，再对照参考路径和单故障路径。 动手前先写下哪个词ID、表示、shape、时序状态、梯度、采样或评价结果会变化；运行后补理由不算预测。
围绕“怎样让训练时目标、推理时自回归输入和可变长序列使用同一编码合同？ 本章各目录坐标如何汇合为同一证据链？”“第7章 基于RNN生成文本”建立参考、故障与恢复路径。只有它守住“词表、起止符、Encoder状态、Decoder输入、mask、采样策略与评价集一致；第7章 基于RNN生成文本的结论不得越过原版目录与数据边界”并交付dna-07语料与词表快照、张量/时序账本、前向缓存、梯度轨迹、评价结果、反例与失败复现，近邻、序列输出、注意力图或指标才构成NLP证据。
书目、191个原版层级与版本边界
“第7章 基于RNN生成文本”以O’Reilly Japan原版官方书页核对斋藤康毅著《ゼロから作るDeep Learning ❷ ―自然言語処理編》于2018年7月21日出版、432页、ISBN 9784873118369。对“第7章 基于RNN生成文本”而言，出版社同页给出的8章与附录A至C构成完整目录边界；本站逐项统计8个章标题、46个一级节、125个二级节、3个附录标题和9个附录节，共191个正式目录层级。“第7章 基于RNN生成文本”再以出版社官方代码仓库核对ch01至ch08实现，以官方勘误识别已知错误。
“第7章 基于RNN生成文本”没有使用未获授权的原书完整正文，只以出版社完整目录、官方代码和勘误限定范围；中文解释、代码实验、交互、练习与答案均为独立教学重写。“第7章 基于RNN生成文本”的中文授权书目页仅用于核对陆宇杰译《深度学习进阶：自然语言处理》、人民邮电出版社2020年10月、ISBN 9787115547644，不用来证明日文原版正文。“第7章 基于RNN生成文本”以2018年日文原版与2020年中文译本目录为内容边界；当前大模型、现代Transformer变体与依赖兼容修正只作带时间标签的独立核验。
“第7章 基于RNN生成文本”另以技术核对 1、技术核对 2、技术核对 3核对算法定义、实现语义或数值诊断；这些外部资料能验证本页技术事实，不能反向证明原书采用了本站表述。
原版目录层级与实现机制
第7章 基于RNN生成文本
↡基于RNN生成文本对应原版目录坐标“第7章 基于RNN生成文本”，在“第7章 基于RNN生成文本”中用于声明本章在表示—序列—评价链中的职责与范围，并受语料/数据、词表、dtype/shape、时序状态、梯度、评价协议与版本边界约束。原版坐标 1/23。 在“第7章 基于RNN生成文本”的坐标1中，目录项「第7章 基于RNN生成文本」用于声明本章在表示—序列—评价链中的职责与范围；先冻结语料/数据、词表、时序与shape，再以原版坐标、输入数据、核心状态、下游接口、反例和时间边界复核，出现用当前热点重排原版或只罗列术语时撤回结论。
7.1 使用语言模型生成文本
↡使用语言模型生成文本对应原版目录坐标“7·1 使用语言模型生成文本”，在“第7章 基于RNN生成文本”中用于沿时间展开隐藏状态并在明确边界执行截断反向与语言模型评价，并受语料/数据、词表、dtype/shape、时序状态、梯度、评价协议与版本边界约束。原版坐标 2/23。 目录项「7·1 使用语言模型生成文本」进入“第7章 基于RNN生成文本”后要回答第2个NLP问题：它怎样沿时间展开隐藏状态并在明确边界执行截断反向与语言模型评价、改变哪个词ID、表示、时序状态、梯度或评价结果、由哪些时间索引、batch偏移、hidden状态、截断窗口、梯度范数、损失token数和困惑度证明，并如何排除序列打散、状态泄漏或困惑度分母错误。
7.1.1 使用RNN生成文本的步骤
↡使用RNN生成文本的步骤对应原版目录坐标“7·1·1 使用RNN生成文本的步骤”，在“第7章 基于RNN生成文本”中用于沿时间展开隐藏状态并在明确边界执行截断反向与语言模型评价，并受语料/数据、词表、dtype/shape、时序状态、梯度、评价协议与版本边界约束。原版坐标 3/23。 围绕“怎样让训练时目标、推理时自回归输入和可变长序列使用同一编码合同？ 本章各目录坐标如何汇合为同一证据链？”“第7章 基于RNN生成文本”在原版层级3把「7·1·1 使用RNN生成文本的步骤」落实为沿时间展开隐藏状态并在明确边界执行截断反向与语言模型评价；复核者先读取时间索引、batch偏移、hidden状态、截断窗口、梯度范数、损失token数和困惑度，不能接受序列打散、状态泄漏或困惑度分母错误。
7.1.2 文本生成的实现
↡文本生成的实现对应原版目录坐标“7·1·2 文本生成的实现”，在“第7章 基于RNN生成文本”中用于把目录坐标转为有语料、表示、序列状态、梯度和评价的NLP实验合同，并受语料/数据、词表、dtype/shape、时序状态、梯度、评价协议与版本边界约束。原版坐标 4/23。 对“第7章 基于RNN生成文本”而言，目录项「7·1·2 文本生成的实现」的最小NLP实验合同是把目录坐标转为有语料、表示、序列状态、梯度和评价的NLP实验合同，第4次检查保存原版范围、输入输出、词ID/shape、缓存、状态、梯度、指标、反例和时间边界；若产生只复述模型名称或最终指标，就返回同一语料与词表快照。
7.1.3 更好的文本生成
↡更好的文本生成对应原版目录坐标“7·1·3 更好的文本生成”，在“第7章 基于RNN生成文本”中用于把目录坐标转为有语料、表示、序列状态、梯度和评价的NLP实验合同，并受语料/数据、词表、dtype/shape、时序状态、梯度、评价协议与版本边界约束。原版坐标 5/23。 第5个正式坐标「7·1·3 更好的文本生成」服务于复核RNN文本生成、Encoder/Decoder、Reverse与Peeky seq2seq实验，并逐项覆盖第7章 基于RNN生成文本、7.1 使用语言模型生成文本、7.1.1 使用RNN生成文本的步骤、7.1.2 文本生成的实现、7.1.3 更好的文本生成、7.2 seq2seq模型、7.2.1 seq2seq的原理、7.2.2 时序数据转换的简单尝试、7.2.3 可变长度的时序数据、7.2.4 加法数据集、7.3 seq2seq的实现、7.3.1 Encoder类、7.3.2 Decoder类、7.3.3 Seq2seq类、7.3.4 seq2seq的评价、7.4 seq2seq的改进、7.4.1 反转输入数据（Reverse）、7.4.2 偷窥（Peeky）、7.5 seq2seq的应用、7.5.1 聊天机器人、7.5.2 算法学习、7.5.3 自动图像描述、7.6 小结，需要以原版范围、输入输出、词ID/shape、缓存、状态、梯度、指标、反例和时间边界呈现把目录坐标转为有语料、表示、序列状态、梯度和评价的NLP实验合同；只复述模型名称或最终指标会破坏“词表、起止符、Encoder状态、Decoder输入、mask、采样策略与评价集一致；第7章 基于RNN生成文本的结论不得越过原版目录与数据边界”。
7.2 seq2seq模型
↡seq2seq模型对应原版目录坐标“7·2 seq2seq模型”，在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，并受语料/数据、词表、dtype/shape、时序状态、梯度、评价协议与版本边界约束。原版坐标 6/23。 在“第7章 基于RNN生成文本”的坐标6中，目录项「7·2 seq2seq模型」用于以编码器状态和自回归解码器完成可变长序列转换；先冻结语料/数据、词表、时序与shape，再以词表、起止符、padding/mask、Encoder状态、Decoder输入、采样策略和序列级评价复核，出现训练/推理输入不一致、目标泄漏或padding进入损失时撤回结论。
7.2.1 seq2seq的原理
↡seq2seq的原理对应原版目录坐标“7·2·1 seq2seq的原理”，在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，并受语料/数据、词表、dtype/shape、时序状态、梯度、评价协议与版本边界约束。原版坐标 7/23。 目录项「7·2·1 seq2seq的原理」进入“第7章 基于RNN生成文本”后要回答第7个NLP问题：它怎样以编码器状态和自回归解码器完成可变长序列转换、改变哪个词ID、表示、时序状态、梯度或评价结果、由哪些词表、起止符、padding/mask、Encoder状态、Decoder输入、采样策略和序列级评价证明，并如何排除训练/推理输入不一致、目标泄漏或padding进入损失。
7.2.2 时序数据转换的简单尝试
↡时序数据转换的简单尝试对应原版目录坐标“7·2·2 时序数据转换的简单尝试”，在“第7章 基于RNN生成文本”中用于沿时间展开隐藏状态并在明确边界执行截断反向与语言模型评价，并受语料/数据、词表、dtype/shape、时序状态、梯度、评价协议与版本边界约束。原版坐标 8/23。 围绕“怎样让训练时目标、推理时自回归输入和可变长序列使用同一编码合同？ 本章各目录坐标如何汇合为同一证据链？”“第7章 基于RNN生成文本”在原版层级8把「7·2·2 时序数据转换的简单尝试」落实为沿时间展开隐藏状态并在明确边界执行截断反向与语言模型评价；复核者先读取时间索引、batch偏移、hidden状态、截断窗口、梯度范数、损失token数和困惑度，不能接受序列打散、状态泄漏或困惑度分母错误。
7.2.3 可变长度的时序数据
↡可变长度的时序数据对应原版目录坐标“7·2·3 可变长度的时序数据”，在“第7章 基于RNN生成文本”中用于沿时间展开隐藏状态并在明确边界执行截断反向与语言模型评价，并受语料/数据、词表、dtype/shape、时序状态、梯度、评价协议与版本边界约束。原版坐标 9/23。 对“第7章 基于RNN生成文本”而言，目录项「7·2·3 可变长度的时序数据」的最小NLP实验合同是沿时间展开隐藏状态并在明确边界执行截断反向与语言模型评价，第9次检查保存时间索引、batch偏移、hidden状态、截断窗口、梯度范数、损失token数和困惑度；若产生序列打散、状态泄漏或困惑度分母错误，就返回同一语料与词表快照。
7.2.4 加法数据集
↡加法数据集对应原版目录坐标“7·2·4 加法数据集”，在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，并受语料/数据、词表、dtype/shape、时序状态、梯度、评价协议与版本边界约束。原版坐标 10/23。 第10个正式坐标「7·2·4 加法数据集」服务于复核RNN文本生成、Encoder/Decoder、Reverse与Peeky seq2seq实验，并逐项覆盖第7章 基于RNN生成文本、7.1 使用语言模型生成文本、7.1.1 使用RNN生成文本的步骤、7.1.2 文本生成的实现、7.1.3 更好的文本生成、7.2 seq2seq模型、7.2.1 seq2seq的原理、7.2.2 时序数据转换的简单尝试、7.2.3 可变长度的时序数据、7.2.4 加法数据集、7.3 seq2seq的实现、7.3.1 Encoder类、7.3.2 Decoder类、7.3.3 Seq2seq类、7.3.4 seq2seq的评价、7.4 seq2seq的改进、7.4.1 反转输入数据（Reverse）、7.4.2 偷窥（Peeky）、7.5 seq2seq的应用、7.5.1 聊天机器人、7.5.2 算法学习、7.5.3 自动图像描述、7.6 小结，需要以词表、起止符、padding/mask、Encoder状态、Decoder输入、采样策略和序列级评价呈现以编码器状态和自回归解码器完成可变长序列转换；训练/推理输入不一致、目标泄漏或padding进入损失会破坏“词表、起止符、Encoder状态、Decoder输入、mask、采样策略与评价集一致；第7章 基于RNN生成文本的结论不得越过原版目录与数据边界”。
7.3 seq2seq的实现
↡seq2seq的实现对应原版目录坐标“7·3 seq2seq的实现”，在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，并受语料/数据、词表、dtype/shape、时序状态、梯度、评价协议与版本边界约束。原版坐标 11/23。 在“第7章 基于RNN生成文本”的坐标11中，目录项「7·3 seq2seq的实现」用于以编码器状态和自回归解码器完成可变长序列转换；先冻结语料/数据、词表、时序与shape，再以词表、起止符、padding/mask、Encoder状态、Decoder输入、采样策略和序列级评价复核，出现训练/推理输入不一致、目标泄漏或padding进入损失时撤回结论。
7.3.1 Encoder类
↡Encoder类对应原版目录坐标“7·3·1 Encoder类”，在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，并受语料/数据、词表、dtype/shape、时序状态、梯度、评价协议与版本边界约束。原版坐标 12/23。 目录项「7·3·1 Encoder类」进入“第7章 基于RNN生成文本”后要回答第12个NLP问题：它怎样以编码器状态和自回归解码器完成可变长序列转换、改变哪个词ID、表示、时序状态、梯度或评价结果、由哪些词表、起止符、padding/mask、Encoder状态、Decoder输入、采样策略和序列级评价证明，并如何排除训练/推理输入不一致、目标泄漏或padding进入损失。
7.3.2 Decoder类
↡Decoder类对应原版目录坐标“7·3·2 Decoder类”，在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，并受语料/数据、词表、dtype/shape、时序状态、梯度、评价协议与版本边界约束。原版坐标 13/23。 围绕“怎样让训练时目标、推理时自回归输入和可变长序列使用同一编码合同？ 本章各目录坐标如何汇合为同一证据链？”“第7章 基于RNN生成文本”在原版层级13把「7·3·2 Decoder类」落实为以编码器状态和自回归解码器完成可变长序列转换；复核者先读取词表、起止符、padding/mask、Encoder状态、Decoder输入、采样策略和序列级评价，不能接受训练/推理输入不一致、目标泄漏或padding进入损失。
7.3.3 Seq2seq类
↡Seq2seq类对应原版目录坐标“7·3·3 Seq2seq类”，在“第7章 基于RNN生成文本”中用于把目录坐标转为有语料、表示、序列状态、梯度和评价的NLP实验合同，并受语料/数据、词表、dtype/shape、时序状态、梯度、评价协议与版本边界约束。原版坐标 14/23。 对“第7章 基于RNN生成文本”而言，目录项「7·3·3 Seq2seq类」的最小NLP实验合同是把目录坐标转为有语料、表示、序列状态、梯度和评价的NLP实验合同，第14次检查保存原版范围、输入输出、词ID/shape、缓存、状态、梯度、指标、反例和时间边界；若产生只复述模型名称或最终指标，就返回同一语料与词表快照。
7.3.4 seq2seq的评价
↡seq2seq的评价对应原版目录坐标“7·3·4 seq2seq的评价”，在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，并受语料/数据、词表、dtype/shape、时序状态、梯度、评价协议与版本边界约束。原版坐标 15/23。 第15个正式坐标「7·3·4 seq2seq的评价」服务于复核RNN文本生成、Encoder/Decoder、Reverse与Peeky seq2seq实验，并逐项覆盖第7章 基于RNN生成文本、7.1 使用语言模型生成文本、7.1.1 使用RNN生成文本的步骤、7.1.2 文本生成的实现、7.1.3 更好的文本生成、7.2 seq2seq模型、7.2.1 seq2seq的原理、7.2.2 时序数据转换的简单尝试、7.2.3 可变长度的时序数据、7.2.4 加法数据集、7.3 seq2seq的实现、7.3.1 Encoder类、7.3.2 Decoder类、7.3.3 Seq2seq类、7.3.4 seq2seq的评价、7.4 seq2seq的改进、7.4.1 反转输入数据（Reverse）、7.4.2 偷窥（Peeky）、7.5 seq2seq的应用、7.5.1 聊天机器人、7.5.2 算法学习、7.5.3 自动图像描述、7.6 小结，需要以词表、起止符、padding/mask、Encoder状态、Decoder输入、采样策略和序列级评价呈现以编码器状态和自回归解码器完成可变长序列转换；训练/推理输入不一致、目标泄漏或padding进入损失会破坏“词表、起止符、Encoder状态、Decoder输入、mask、采样策略与评价集一致；第7章 基于RNN生成文本的结论不得越过原版目录与数据边界”。
7.4 seq2seq的改进
↡seq2seq的改进对应原版目录坐标“7·4 seq2seq的改进”，在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，并受语料/数据、词表、dtype/shape、时序状态、梯度、评价协议与版本边界约束。原版坐标 16/23。 在“第7章 基于RNN生成文本”的坐标16中，目录项「7·4 seq2seq的改进」用于以编码器状态和自回归解码器完成可变长序列转换；先冻结语料/数据、词表、时序与shape，再以词表、起止符、padding/mask、Encoder状态、Decoder输入、采样策略和序列级评价复核，出现训练/推理输入不一致、目标泄漏或padding进入损失时撤回结论。
7.4.1 反转输入数据（Reverse）
↡反转输入数据（Reverse）对应原版目录坐标“7·4·1 反转输入数据（Reverse）”，在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，并受语料/数据、词表、dtype/shape、时序状态、梯度、评价协议与版本边界约束。原版坐标 17/23。 目录项「7·4·1 反转输入数据（Reverse）」进入“第7章 基于RNN生成文本”后要回答第17个NLP问题：它怎样以编码器状态和自回归解码器完成可变长序列转换、改变哪个词ID、表示、时序状态、梯度或评价结果、由哪些词表、起止符、padding/mask、Encoder状态、Decoder输入、采样策略和序列级评价证明，并如何排除训练/推理输入不一致、目标泄漏或padding进入损失。
7.4.2 偷窥（Peeky）
↡偷窥（Peeky）对应原版目录坐标“7·4·2 偷窥（Peeky）”，在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，并受语料/数据、词表、dtype/shape、时序状态、梯度、评价协议与版本边界约束。原版坐标 18/23。 围绕“怎样让训练时目标、推理时自回归输入和可变长序列使用同一编码合同？ 本章各目录坐标如何汇合为同一证据链？”“第7章 基于RNN生成文本”在原版层级18把「7·4·2 偷窥（Peeky）」落实为以编码器状态和自回归解码器完成可变长序列转换；复核者先读取词表、起止符、padding/mask、Encoder状态、Decoder输入、采样策略和序列级评价，不能接受训练/推理输入不一致、目标泄漏或padding进入损失。
7.5 seq2seq的应用
↡seq2seq的应用对应原版目录坐标“7·5 seq2seq的应用”，在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，并受语料/数据、词表、dtype/shape、时序状态、梯度、评价协议与版本边界约束。原版坐标 19/23。 对“第7章 基于RNN生成文本”而言，目录项「7·5 seq2seq的应用」的最小NLP实验合同是以编码器状态和自回归解码器完成可变长序列转换，第19次检查保存词表、起止符、padding/mask、Encoder状态、Decoder输入、采样策略和序列级评价；若产生训练/推理输入不一致、目标泄漏或padding进入损失，就返回同一语料与词表快照。
7.5.1 聊天机器人
↡聊天机器人对应原版目录坐标“7·5·1 聊天机器人”，在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，并受语料/数据、词表、dtype/shape、时序状态、梯度、评价协议与版本边界约束。原版坐标 20/23。 第20个正式坐标「7·5·1 聊天机器人」服务于复核RNN文本生成、Encoder/Decoder、Reverse与Peeky seq2seq实验，并逐项覆盖第7章 基于RNN生成文本、7.1 使用语言模型生成文本、7.1.1 使用RNN生成文本的步骤、7.1.2 文本生成的实现、7.1.3 更好的文本生成、7.2 seq2seq模型、7.2.1 seq2seq的原理、7.2.2 时序数据转换的简单尝试、7.2.3 可变长度的时序数据、7.2.4 加法数据集、7.3 seq2seq的实现、7.3.1 Encoder类、7.3.2 Decoder类、7.3.3 Seq2seq类、7.3.4 seq2seq的评价、7.4 seq2seq的改进、7.4.1 反转输入数据（Reverse）、7.4.2 偷窥（Peeky）、7.5 seq2seq的应用、7.5.1 聊天机器人、7.5.2 算法学习、7.5.3 自动图像描述、7.6 小结，需要以词表、起止符、padding/mask、Encoder状态、Decoder输入、采样策略和序列级评价呈现以编码器状态和自回归解码器完成可变长序列转换；训练/推理输入不一致、目标泄漏或padding进入损失会破坏“词表、起止符、Encoder状态、Decoder输入、mask、采样策略与评价集一致；第7章 基于RNN生成文本的结论不得越过原版目录与数据边界”。
7.5.2 算法学习
↡算法学习对应原版目录坐标“7·5·2 算法学习”，在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，并受语料/数据、词表、dtype/shape、时序状态、梯度、评价协议与版本边界约束。原版坐标 21/23。 在“第7章 基于RNN生成文本”的坐标21中，目录项「7·5·2 算法学习」用于以编码器状态和自回归解码器完成可变长序列转换；先冻结语料/数据、词表、时序与shape，再以词表、起止符、padding/mask、Encoder状态、Decoder输入、采样策略和序列级评价复核，出现训练/推理输入不一致、目标泄漏或padding进入损失时撤回结论。
7.5.3 自动图像描述
↡自动图像描述对应原版目录坐标“7·5·3 自动图像描述”，在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，并受语料/数据、词表、dtype/shape、时序状态、梯度、评价协议与版本边界约束。原版坐标 22/23。 目录项「7·5·3 自动图像描述」进入“第7章 基于RNN生成文本”后要回答第22个NLP问题：它怎样以编码器状态和自回归解码器完成可变长序列转换、改变哪个词ID、表示、时序状态、梯度或评价结果、由哪些词表、起止符、padding/mask、Encoder状态、Decoder输入、采样策略和序列级评价证明，并如何排除训练/推理输入不一致、目标泄漏或padding进入损失。
7.6 小结
↡小结对应原版目录坐标“7·6 小结”，在“第7章 基于RNN生成文本”中用于声明本章在表示—序列—评价链中的职责与范围，并受语料/数据、词表、dtype/shape、时序状态、梯度、评价协议与版本边界约束。原版坐标 23/23。 围绕“怎样让训练时目标、推理时自回归输入和可变长序列使用同一编码合同？ 本章各目录坐标如何汇合为同一证据链？”“第7章 基于RNN生成文本”在原版层级23把「7·6 小结」落实为声明本章在表示—序列—评价链中的职责与范围；复核者先读取原版坐标、输入数据、核心状态、下游接口、反例和时间边界，不能接受用当前热点重排原版或只罗列术语。
先预测，再操作三个章节专属NLP实验
1. 语料、表示与shape账本
固定“为“第7章 基于RNN生成文本”冻结语料/数据、词表、shape、时序切分、随机种子与代码版本，再对照参考路径和单故障路径。”，在参考与反例间切换，逐阶段查看“编码输入、压缩状态、自回归解码、应用改进、隔离评价”的输入词ID、表示/算子动作、输出和shape检查。
NLP 表示与shape账本
选择运行情形，逐步核对词ID、表示、时序状态与输出
怎样让训练时目标、推理时自回归输入和可变长序列使用同一编码合同？ 本章各目录坐标如何汇合为同一证据链？
输入设置
为“第7章 基于RNN生成文本”冻结语料/数据、词表、shape、时序切分、随机种子与代码版本，再对照参考路径和单故障路径。 固定数据、词表、输入、shape、时间顺序、容差和种子。
事前预测
沿“编码输入 → 压缩状态 → 自回归解码 → 应用改进 → 隔离评价”得到可复核NLP证据链。
适用边界
全过程必须满足“词表、起止符、Encoder状态、Decoder输入、mask、采样策略与评价集一致；第7章 基于RNN生成文本的结论不得越过原版目录与数据边界”。
进入本阶段的数据与状态
第7章 基于RNN生成文本：锁定语料/数据、词表、切分与运行版本，保持其余表示、序列与评价合同不变
表示、序列或评价动作
冻结数据哈希、token/ID映射、dtype/shape、时间窗口和允许读取的信息，并持续满足“词表、起止符、Encoder状态、Decoder输入、mask、采样策略与评价集一致；第7章 基于RNN生成文本的结论不得越过原版目录与数据边界”
离开本阶段的证据状态
编码输入产生可追溯NLP实验前置状态
词ID、shape、状态、梯度与指标检查
可追溯NLP实验前置状态、词ID/shape/状态/梯度/指标断言；出现“推理偷看目标序列、padding进入损失，或用不同随机采样比较结构改进；在第7章 基于RNN生成文本验收中只注入这一处”时停止
原版坐标：第7章 基于RNN生成文本、7.1 使用语言模型生成文本、7.1.1 使用RNN生成文本的步骤、7.1.2 文本生成的实现、7.1.3 更好的文本生成、7.2 seq2seq模型、7.2.1 seq2seq的原理、7.2.2 时序数据转换的简单尝试、7.2.3 可变长度的时序数据、7.2.4 加法数据集、7.3 seq2seq的实现、7.3.1 Encoder类、7.3.2 Decoder类、7.3.3 Seq2seq类、7.3.4 seq2seq的评价、7.4 seq2seq的改进、7.4.1 反转输入数据（Reverse）、7.4.2 偷窥（Peeky）、7.5 seq2seq的应用、7.5.1 聊天机器人、7.5.2 算法学习、7.5.3 自动图像描述、7.6 小结
第7章 基于RNN生成文本的可重放实现协议
| 阶段 | 允许动作 | 必留证据 | 拒绝条件 |
|---|---|---|---|
| 编码输入 | 在“第7章 基于RNN生成文本”执行编码输入，只改变声明的表示、序列、梯度、采样或评价状态 | 语料/数据哈希、词表、切分、dtype/shape与版本 | 语料、词表或切分不可追溯 |
| 压缩状态 | 在“第7章 基于RNN生成文本”执行压缩状态，只改变声明的表示、序列、梯度、采样或评价状态 | 词ID、输入输出shape、表示/隐藏状态、缓存、梯度、采样与损失 | 推理偷看目标序列、padding进入损失，或用不同随机采样比较结构改进；在第7章 基于RNN生成文本验收中只注入这一处 |
| 自回归解码 | 在“第7章 基于RNN生成文本”执行自回归解码，只改变声明的表示、序列、梯度、采样或评价状态 | 词ID、输入输出shape、表示/隐藏状态、缓存、梯度、采样与损失 | 推理偷看目标序列、padding进入损失，或用不同随机采样比较结构改进；在第7章 基于RNN生成文本验收中只注入这一处 |
| 应用改进 | 在“第7章 基于RNN生成文本”执行应用改进，只改变声明的表示、序列、梯度、采样或评价状态 | 词ID、输入输出shape、表示/隐藏状态、缓存、梯度、采样与损失 | 推理偷看目标序列、padding进入损失，或用不同随机采样比较结构改进；在第7章 基于RNN生成文本验收中只注入这一处 |
| 隔离评价 | 在“第7章 基于RNN生成文本”执行隔离评价，只改变声明的表示、序列、梯度、采样或评价状态 | 独立评价、反例、随机性、2018/当前边界与复现 | 无法重放或缺少独立评价 |
unit: "dna-07"
question: "怎样让训练时目标、推理时自回归输入和可变长序列使用同一编码合同？ 本章各目录坐标如何汇合为同一证据链？"
scenario: "为“第7章 基于RNN生成文本”冻结语料/数据、词表、shape、时序切分、随机种子与代码版本，再对照参考路径和单故障路径。"
stages: ["编码输入", "压缩状态", "自回归解码", "应用改进", "隔离评价"]
invariant: "词表、起止符、Encoder状态、Decoder输入、mask、采样策略与评价集一致；第7章 基于RNN生成文本的结论不得越过原版目录与数据边界"
fault: "推理偷看目标序列、padding进入损失，或用不同随机采样比较结构改进；在第7章 基于RNN生成文本验收中只注入这一处"
evidence: "dna-07语料与词表快照、张量/时序账本、前向缓存、梯度轨迹、评价结果、反例与失败复现"
reset: restore_case_stage_trace_mode_step_gates_and_artifact该协议要求“第7章 基于RNN生成文本”在相同语料/数据、词表、切分、dtype/shape、初值、时间顺序、容差和种子下重放。重置后若案例、阶段、轨迹模式、步骤、评价门或证据包没有回到基线，交互状态已经污染比较。
本页回顾
掌握“第7章 基于RNN生成文本”不是背诵模型名称或最终指标，而是能围绕“怎样让训练时目标、推理时自回归输入和可变长序列使用同一编码合同？ 本章各目录坐标如何汇合为同一证据链？”重建语料/数据、词表、表示、时序状态、梯度、采样与评价证据，并用“词表、起止符、Encoder状态、Decoder输入、mask、采样策略与评价集一致；第7章 基于RNN生成文本的结论不得越过原版目录与数据边界”拒绝“推理偷看目标序列、padding进入损失，或用不同随机采样比较结构改进；在第7章 基于RNN生成文本验收中只注入这一处”。最终交付为dna-07语料与词表快照、张量/时序账本、前向缓存、梯度轨迹、评价结果、反例与失败复现
练习与答案
练习
- 问题 1：NLP实验合同。 “第7章 基于RNN生成文本”为什么必须先冻结语料/数据、词表、切分、dtype/shape、初值、时间顺序、容差和种子？
- 问题 2：目录逐项覆盖。 怎样证明原版目录坐标已经进入机制、交互和练习？
- 问题 3：故障恢复。 怎样证明“推理偷看目标序列、padding进入损失，或用不同随机采样比较结构改进；在第7章 基于RNN生成文本验收中只注入这一处”已经被修正？
名词解释
名词解释
本章出现的专业名词，用大白话再讲一遍。
- 基于RNN生成文本
检索键 dna-A 对应目录坐标「第7章 基于RNN生成文本」；在“第7章 基于RNN生成文本”中用于声明本章在表示—序列—评价链中的职责与范围，需要连接原版范围、语料/词表、shape、时序/梯度轨迹、采样与评价证据。
- 使用语言模型生成文本
检索键 dna-B 对应目录坐标「7·1 使用语言模型生成文本」；在“第7章 基于RNN生成文本”中用于沿时间展开隐藏状态并在明确边界执行截断反向与语言模型评价，需要连接原版范围、语料/词表、shape、时序/梯度轨迹、采样与评价证据。
- 使用RNN生成文本的步骤
检索键 dna-C 对应目录坐标「7·1·1 使用RNN生成文本的步骤」；在“第7章 基于RNN生成文本”中用于沿时间展开隐藏状态并在明确边界执行截断反向与语言模型评价，需要连接原版范围、语料/词表、shape、时序/梯度轨迹、采样与评价证据。
- 文本生成的实现
检索键 dna-D 对应目录坐标「7·1·2 文本生成的实现」；在“第7章 基于RNN生成文本”中用于把目录坐标转为有语料、表示、序列状态、梯度和评价的NLP实验合同，需要连接原版范围、语料/词表、shape、时序/梯度轨迹、采样与评价证据。
- 更好的文本生成
检索键 dna-E 对应目录坐标「7·1·3 更好的文本生成」；在“第7章 基于RNN生成文本”中用于把目录坐标转为有语料、表示、序列状态、梯度和评价的NLP实验合同，需要连接原版范围、语料/词表、shape、时序/梯度轨迹、采样与评价证据。
- seq2seq模型
检索键 dna-F 对应目录坐标「7·2 seq2seq模型」；在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，需要连接原版范围、语料/词表、shape、时序/梯度轨迹、采样与评价证据。
- seq2seq的原理
检索键 dna-G 对应目录坐标「7·2·1 seq2seq的原理」；在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，需要连接原版范围、语料/词表、shape、时序/梯度轨迹、采样与评价证据。
- 时序数据转换的简单尝试
检索键 dna-H 对应目录坐标「7·2·2 时序数据转换的简单尝试」；在“第7章 基于RNN生成文本”中用于沿时间展开隐藏状态并在明确边界执行截断反向与语言模型评价，需要连接原版范围、语料/词表、shape、时序/梯度轨迹、采样与评价证据。
- 可变长度的时序数据
检索键 dna-I 对应目录坐标「7·2·3 可变长度的时序数据」；在“第7章 基于RNN生成文本”中用于沿时间展开隐藏状态并在明确边界执行截断反向与语言模型评价，需要连接原版范围、语料/词表、shape、时序/梯度轨迹、采样与评价证据。
- 加法数据集
检索键 dna-J 对应目录坐标「7·2·4 加法数据集」；在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，需要连接原版范围、语料/词表、shape、时序/梯度轨迹、采样与评价证据。
- seq2seq的实现
检索键 dna-K 对应目录坐标「7·3 seq2seq的实现」；在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，需要连接原版范围、语料/词表、shape、时序/梯度轨迹、采样与评价证据。
- Encoder类
检索键 dna-L 对应目录坐标「7·3·1 Encoder类」；在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，需要连接原版范围、语料/词表、shape、时序/梯度轨迹、采样与评价证据。
- Decoder类
检索键 dna-M 对应目录坐标「7·3·2 Decoder类」；在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，需要连接原版范围、语料/词表、shape、时序/梯度轨迹、采样与评价证据。
- Seq2seq类
检索键 dna-N 对应目录坐标「7·3·3 Seq2seq类」；在“第7章 基于RNN生成文本”中用于把目录坐标转为有语料、表示、序列状态、梯度和评价的NLP实验合同，需要连接原版范围、语料/词表、shape、时序/梯度轨迹、采样与评价证据。
- seq2seq的评价
检索键 dna-O 对应目录坐标「7·3·4 seq2seq的评价」；在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，需要连接原版范围、语料/词表、shape、时序/梯度轨迹、采样与评价证据。
- seq2seq的改进
检索键 dna-P 对应目录坐标「7·4 seq2seq的改进」；在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，需要连接原版范围、语料/词表、shape、时序/梯度轨迹、采样与评价证据。
- 反转输入数据（Reverse）
检索键 dna-Q 对应目录坐标「7·4·1 反转输入数据（Reverse）」；在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，需要连接原版范围、语料/词表、shape、时序/梯度轨迹、采样与评价证据。
- 偷窥（Peeky）
检索键 dna-R 对应目录坐标「7·4·2 偷窥（Peeky）」；在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，需要连接原版范围、语料/词表、shape、时序/梯度轨迹、采样与评价证据。
- seq2seq的应用
检索键 dna-S 对应目录坐标「7·5 seq2seq的应用」；在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，需要连接原版范围、语料/词表、shape、时序/梯度轨迹、采样与评价证据。
- 聊天机器人
检索键 dna-T 对应目录坐标「7·5·1 聊天机器人」；在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，需要连接原版范围、语料/词表、shape、时序/梯度轨迹、采样与评价证据。
- 算法学习
检索键 dna-U 对应目录坐标「7·5·2 算法学习」；在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，需要连接原版范围、语料/词表、shape、时序/梯度轨迹、采样与评价证据。
- 自动图像描述
检索键 dna-V 对应目录坐标「7·5·3 自动图像描述」；在“第7章 基于RNN生成文本”中用于以编码器状态和自回归解码器完成可变长序列转换，需要连接原版范围、语料/词表、shape、时序/梯度轨迹、采样与评价证据。
- 小结
检索键 dna-W 对应目录坐标「7·6 小结」；在“第7章 基于RNN生成文本”中用于声明本章在表示—序列—评价链中的职责与范围，需要连接原版范围、语料/词表、shape、时序/梯度轨迹、采样与评价证据。