《深度学习入门2:自制框架》275个原版目录层级学习地图

沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进;用计算图合同、单故障反向轨迹和框架增量验收门完成独立复核。

学习目标

  • 能说明“《深度学习入门2:自制框架》275个原版目录层级学习地图”如何沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,并区分2020年原版、2023年中文译本与当前扩展
  • 能先预测“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”会改变哪个对象、图边、梯度、资源或模式状态,再逐步复核
  • 能注入“按主题合并步骤,或直接展示最终框架而隐去中间设计决策、失败模式和兼容回归”,用“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”决定接受、回退或拒绝框架增量

为什么从这个框架问题开始

学习地图强调60步的顺序依赖:每一步都只增加一种能力,并证明旧能力没有回归。 “《深度学习入门2:自制框架》275个原版目录层级学习地图”的贯穿任务是:从空包开始,用60次小提交构建DeZero,并为每步保留参考与故障轨迹。 动手前先写下哪个对象、图边、shape、梯度、资源或模式状态会变化;运行后补理由不算预测。

围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”建立参考、故障与恢复路径。只有它守住“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”并交付275层覆盖矩阵、60步依赖图、每步代码差分、计算图快照、梯度测试、资源/设备状态和最终框架复现包,代码、对象图或训练结果才构成自制框架证据。

书目、275个原版层级与版本边界

“《深度学习入门2:自制框架》275个原版目录层级学习地图”以O’Reilly Japan原版官方书页核对斋藤康毅著《ゼロから作るDeep Learning ❸ ―フレームワーク編》于2020年4月20日出版、552页、ISBN 9784873119069。对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,出版社同页给出的5个阶段、60个步骤与编号小节构成完整目录边界;本站逐项统计5个阶段标题、60个步骤、207个编号小节和附录A至C,共275个正式目录层级。“《深度学习入门2:自制框架》275个原版目录层级学习地图”再以出版社官方代码仓库核对逐步实现,以作者公开样章核对教学顺序,以官方勘误识别已知错误。

“《深度学习入门2:自制框架》275个原版目录层级学习地图”没有使用未获授权的原书完整正文,只以出版社完整目录、官方代码、作者公开样章和勘误限定范围;中文解释、代码实验、交互、练习与答案均为独立教学重写。“《深度学习入门2:自制框架》275个原版目录层级学习地图”的中文译本书目信息仅用于核对郑明智译《深度学习入门2:自制框架》、人民邮电出版社2023年3月、ISBN 9787115607515,不用来证明日文原版正文。原版出版于2020年,中文版书目为2023年;当前Python/NumPy/CuPy兼容修正和后续框架只作时间化扩展。

“《深度学习入门2:自制框架》275个原版目录层级学习地图”另以技术核对 1技术核对 2技术核对 3核对算法定义、实现语义或数值诊断;这些外部资料能验证本页技术事实,不能反向证明原书采用了本站表述。

原版目录层级与实现机制

第1阶段 自动微分

原版坐标 1/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标1中,目录项「第1阶段 自动微分」用于声明本步相对上一快照新增的框架能力与依赖;先冻结代码快照、对象图与shape,再以前置API、代码差分、对象/边快照、回归用例和回退点复核,出现把后续完整实现倒灌到当前步骤时撤回结论。

步骤1 作为“箱子”的变量

原版坐标 2/275。 目录项「步骤1 作为“箱子”的变量」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第2个框架问题:它怎样声明本步相对上一快照新增的框架能力与依赖、改变哪个对象、图边、梯度或资源状态、由哪些前置API、代码差分、对象/边快照、回归用例和回退点证明,并如何排除把后续完整实现倒灌到当前步骤。

1.1 什么是变量

原版坐标 3/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级3把「1·1 什么是变量」落实为用Variable与Function对象记录前向边并按链式法则传播梯度;复核者先读取对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数,不能接受边丢失、对象覆盖或错误拓扑顺序。

1.2 实现Variable类

原版坐标 4/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「1·2 实现Variable类」的最小框架增量合同是用Variable与Function对象记录前向边并按链式法则传播梯度,第4次检查保存对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数;若产生边丢失、对象覆盖或错误拓扑顺序,就返回上一步快照。

1.3 (补充)NumPy的多维数组

原版坐标 5/275。 第5个正式坐标「1·3 (补充)NumPy的多维数组」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界呈现把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;只复述代码或模型名称会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

步骤2 创建变量的函数

原版坐标 6/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标6中,目录项「步骤2 创建变量的函数」用于声明本步相对上一快照新增的框架能力与依赖;先冻结代码快照、对象图与shape,再以前置API、代码差分、对象/边快照、回归用例和回退点复核,出现把后续完整实现倒灌到当前步骤时撤回结论。

2.1 什么是函数

原版坐标 7/275。 目录项「2·1 什么是函数」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第7个框架问题:它怎样把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同、改变哪个对象、图边、梯度或资源状态、由哪些代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界证明,并如何排除只复述代码或模型名称。

2.2 Function类的实现

原版坐标 8/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级8把「2·2 Function类的实现」落实为用Variable与Function对象记录前向边并按链式法则传播梯度;复核者先读取对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数,不能接受边丢失、对象覆盖或错误拓扑顺序。

2.3 使用Function类

原版坐标 9/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「2·3 使用Function类」的最小框架增量合同是用Variable与Function对象记录前向边并按链式法则传播梯度,第9次检查保存对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数;若产生边丢失、对象覆盖或错误拓扑顺序,就返回上一步快照。

步骤3 函数的连续调用

原版坐标 10/275。 第10个正式坐标「步骤3 函数的连续调用」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以前置API、代码差分、对象/边快照、回归用例和回退点呈现声明本步相对上一快照新增的框架能力与依赖;把后续完整实现倒灌到当前步骤会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

3.1 Exp函数的实现

原版坐标 11/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标11中,目录项「3·1 Exp函数的实现」用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;先冻结代码快照、对象图与shape,再以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界复核,出现只复述代码或模型名称时撤回结论。

3.2 函数的连续调用

原版坐标 12/275。 目录项「3·2 函数的连续调用」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第12个框架问题:它怎样用Variable与Function对象记录前向边并按链式法则传播梯度、改变哪个对象、图边、梯度或资源状态、由哪些对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数证明,并如何排除边丢失、对象覆盖或错误拓扑顺序。

步骤4 数值微分

原版坐标 13/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级13把「步骤4 数值微分」落实为声明本步相对上一快照新增的框架能力与依赖;复核者先读取前置API、代码差分、对象/边快照、回归用例和回退点,不能接受把后续完整实现倒灌到当前步骤。

4.1 什么是导数

原版坐标 14/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「4·1 什么是导数」的最小框架增量合同是以中心差分和自动测试反证反向传播实现,第14次检查保存差分步长、数值/解析梯度、相对误差、输入种子和失败定位;若产生只测一个幸运输入或差分步长不稳定,就返回上一步快照。

4.2 数值微分的实现

原版坐标 15/275。 第15个正式坐标「4·2 数值微分的实现」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以差分步长、数值/解析梯度、相对误差、输入种子和失败定位呈现以中心差分和自动测试反证反向传播实现;只测一个幸运输入或差分步长不稳定会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

4.3 复合函数的导数

原版坐标 16/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标16中,目录项「4·3 复合函数的导数」用于以中心差分和自动测试反证反向传播实现;先冻结代码快照、对象图与shape,再以差分步长、数值/解析梯度、相对误差、输入种子和失败定位复核,出现只测一个幸运输入或差分步长不稳定时撤回结论。

4.4 数值微分存在的问题

原版坐标 17/275。 目录项「4·4 数值微分存在的问题」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第17个框架问题:它怎样以中心差分和自动测试反证反向传播实现、改变哪个对象、图边、梯度或资源状态、由哪些差分步长、数值/解析梯度、相对误差、输入种子和失败定位证明,并如何排除只测一个幸运输入或差分步长不稳定。

步骤5 反向传播的理论知识

原版坐标 18/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级18把「步骤5 反向传播的理论知识」落实为声明本步相对上一快照新增的框架能力与依赖;复核者先读取前置API、代码差分、对象/边快照、回归用例和回退点,不能接受把后续完整实现倒灌到当前步骤。

5.1 链式法则

原版坐标 19/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「5·1 链式法则」的最小框架增量合同是用Variable与Function对象记录前向边并按链式法则传播梯度,第19次检查保存对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数;若产生边丢失、对象覆盖或错误拓扑顺序,就返回上一步快照。

5.2 反向传播的推导

原版坐标 20/275。 第20个正式坐标「5·2 反向传播的推导」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数呈现用Variable与Function对象记录前向边并按链式法则传播梯度;边丢失、对象覆盖或错误拓扑顺序会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

5.3 用计算图表示

原版坐标 21/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标21中,目录项「5·3 用计算图表示」用于用Variable与Function对象记录前向边并按链式法则传播梯度;先冻结代码快照、对象图与shape,再以对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数复核,出现边丢失、对象覆盖或错误拓扑顺序时撤回结论。

步骤6 手动进行反向传播

原版坐标 22/275。 目录项「步骤6 手动进行反向传播」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第22个框架问题:它怎样声明本步相对上一快照新增的框架能力与依赖、改变哪个对象、图边、梯度或资源状态、由哪些前置API、代码差分、对象/边快照、回归用例和回退点证明,并如何排除把后续完整实现倒灌到当前步骤。

6.1 Variable类的功能扩展

原版坐标 23/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级23把「6·1 Variable类的功能扩展」落实为用Variable与Function对象记录前向边并按链式法则传播梯度;复核者先读取对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数,不能接受边丢失、对象覆盖或错误拓扑顺序。

6.2 Function类的功能扩展

原版坐标 24/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「6·2 Function类的功能扩展」的最小框架增量合同是用Variable与Function对象记录前向边并按链式法则传播梯度,第24次检查保存对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数;若产生边丢失、对象覆盖或错误拓扑顺序,就返回上一步快照。

6.3 Square类和Exp类的功能扩展

原版坐标 25/275。 第25个正式坐标「6·3 Square类和Exp类的功能扩展」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界呈现把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;只复述代码或模型名称会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

6.4 反向传播的实现

原版坐标 26/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标26中,目录项「6·4 反向传播的实现」用于用Variable与Function对象记录前向边并按链式法则传播梯度;先冻结代码快照、对象图与shape,再以对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数复核,出现边丢失、对象覆盖或错误拓扑顺序时撤回结论。

步骤7 反向传播的自动化

原版坐标 27/275。 目录项「步骤7 反向传播的自动化」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第27个框架问题:它怎样声明本步相对上一快照新增的框架能力与依赖、改变哪个对象、图边、梯度或资源状态、由哪些前置API、代码差分、对象/边快照、回归用例和回退点证明,并如何排除把后续完整实现倒灌到当前步骤。

7.1 为反向传播的自动化创造条件

原版坐标 28/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级28把「7·1 为反向传播的自动化创造条件」落实为用Variable与Function对象记录前向边并按链式法则传播梯度;复核者先读取对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数,不能接受边丢失、对象覆盖或错误拓扑顺序。

7.2 尝试反向传播

原版坐标 29/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「7·2 尝试反向传播」的最小框架增量合同是用Variable与Function对象记录前向边并按链式法则传播梯度,第29次检查保存对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数;若产生边丢失、对象覆盖或错误拓扑顺序,就返回上一步快照。

7.3 增加backward方法

原版坐标 30/275。 第30个正式坐标「7·3 增加backward方法」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数呈现用Variable与Function对象记录前向边并按链式法则传播梯度;边丢失、对象覆盖或错误拓扑顺序会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

步骤8 从递归到循环

原版坐标 31/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标31中,目录项「步骤8 从递归到循环」用于声明本步相对上一快照新增的框架能力与依赖;先冻结代码快照、对象图与shape,再以前置API、代码差分、对象/边快照、回归用例和回退点复核,出现把后续完整实现倒灌到当前步骤时撤回结论。

8.1 现在的Variable类

原版坐标 32/275。 目录项「8·1 现在的Variable类」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第32个框架问题:它怎样用Variable与Function对象记录前向边并按链式法则传播梯度、改变哪个对象、图边、梯度或资源状态、由哪些对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数证明,并如何排除边丢失、对象覆盖或错误拓扑顺序。

8.2 使用循环实现

原版坐标 33/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级33把「8·2 使用循环实现」落实为把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;复核者先读取代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界,不能接受只复述代码或模型名称。

8.3 代码验证

原版坐标 34/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「8·3 代码验证」的最小框架增量合同是把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,第34次检查保存代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界;若产生只复述代码或模型名称,就返回上一步快照。

步骤9 让函数更易用

原版坐标 35/275。 第35个正式坐标「步骤9 让函数更易用」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以前置API、代码差分、对象/边快照、回归用例和回退点呈现声明本步相对上一快照新增的框架能力与依赖;把后续完整实现倒灌到当前步骤会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

9.1 作为Python函数使用

原版坐标 36/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标36中,目录项「9·1 作为Python函数使用」用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;先冻结代码快照、对象图与shape,再以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界复核,出现只复述代码或模型名称时撤回结论。

9.2 简化backward方法

原版坐标 37/275。 目录项「9·2 简化backward方法」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第37个框架问题:它怎样用Variable与Function对象记录前向边并按链式法则传播梯度、改变哪个对象、图边、梯度或资源状态、由哪些对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数证明,并如何排除边丢失、对象覆盖或错误拓扑顺序。

9.3 只支持ndarray

原版坐标 38/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级38把「9·3 只支持ndarray」落实为把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;复核者先读取代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界,不能接受只复述代码或模型名称。

步骤10 测试

原版坐标 39/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「步骤10 测试」的最小框架增量合同是声明本步相对上一快照新增的框架能力与依赖,第39次检查保存前置API、代码差分、对象/边快照、回归用例和回退点;若产生把后续完整实现倒灌到当前步骤,就返回上一步快照。

10.1 Python的单元测试

原版坐标 40/275。 第40个正式坐标「10·1 Python的单元测试」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以差分步长、数值/解析梯度、相对误差、输入种子和失败定位呈现以中心差分和自动测试反证反向传播实现;只测一个幸运输入或差分步长不稳定会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

10.2 square函数反向传播的测试

原版坐标 41/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标41中,目录项「10·2 square函数反向传播的测试」用于用Variable与Function对象记录前向边并按链式法则传播梯度;先冻结代码快照、对象图与shape,再以对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数复核,出现边丢失、对象覆盖或错误拓扑顺序时撤回结论。

10.3 通过梯度检验来自动测试

原版坐标 42/275。 目录项「10·3 通过梯度检验来自动测试」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第42个框架问题:它怎样以中心差分和自动测试反证反向传播实现、改变哪个对象、图边、梯度或资源状态、由哪些差分步长、数值/解析梯度、相对误差、输入种子和失败定位证明,并如何排除只测一个幸运输入或差分步长不稳定。

10.4 测试小结

原版坐标 43/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级43把「10·4 测试小结」落实为以中心差分和自动测试反证反向传播实现;复核者先读取差分步长、数值/解析梯度、相对误差、输入种子和失败定位,不能接受只测一个幸运输入或差分步长不稳定。

第2阶段 用自然的代码表达

原版坐标 44/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「第2阶段 用自然的代码表达」的最小框架增量合同是声明本步相对上一快照新增的框架能力与依赖,第44次检查保存前置API、代码差分、对象/边快照、回归用例和回退点;若产生把后续完整实现倒灌到当前步骤,就返回上一步快照。

步骤11 可变长参数(正向传播篇)

原版坐标 45/275。 第45个正式坐标「步骤11 可变长参数(正向传播篇)」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以前置API、代码差分、对象/边快照、回归用例和回退点呈现声明本步相对上一快照新增的框架能力与依赖;把后续完整实现倒灌到当前步骤会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

11.1 修改Function类

原版坐标 46/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标46中,目录项「11·1 修改Function类」用于用Variable与Function对象记录前向边并按链式法则传播梯度;先冻结代码快照、对象图与shape,再以对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数复核,出现边丢失、对象覆盖或错误拓扑顺序时撤回结论。

11.2 Add类的实现

原版坐标 47/275。 目录项「11·2 Add类的实现」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第47个框架问题:它怎样把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同、改变哪个对象、图边、梯度或资源状态、由哪些代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界证明,并如何排除只复述代码或模型名称。

步骤12 可变长参数(改进篇)

原版坐标 48/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级48把「步骤12 可变长参数(改进篇)」落实为声明本步相对上一快照新增的框架能力与依赖;复核者先读取前置API、代码差分、对象/边快照、回归用例和回退点,不能接受把后续完整实现倒灌到当前步骤。

12.1 第1项改进:使函数更容易使用

原版坐标 49/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「12·1 第1项改进:使函数更容易使用」的最小框架增量合同是把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,第49次检查保存代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界;若产生只复述代码或模型名称,就返回上一步快照。

12.2 第2项改进:使函数更容易实现

原版坐标 50/275。 第50个正式坐标「12·2 第2项改进:使函数更容易实现」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界呈现把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;只复述代码或模型名称会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

12.3 add函数的实现

原版坐标 51/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标51中,目录项「12·3 add函数的实现」用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;先冻结代码快照、对象图与shape,再以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界复核,出现只复述代码或模型名称时撤回结论。

步骤13 可变长参数(反向传播篇)

原版坐标 52/275。 目录项「步骤13 可变长参数(反向传播篇)」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第52个框架问题:它怎样声明本步相对上一快照新增的框架能力与依赖、改变哪个对象、图边、梯度或资源状态、由哪些前置API、代码差分、对象/边快照、回归用例和回退点证明,并如何排除把后续完整实现倒灌到当前步骤。

13.1 支持可变长参数的Add类的反向传播

原版坐标 53/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级53把「13·1 支持可变长参数的Add类的反向传播」落实为用Variable与Function对象记录前向边并按链式法则传播梯度;复核者先读取对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数,不能接受边丢失、对象覆盖或错误拓扑顺序。

13.2 修改Variable类

原版坐标 54/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「13·2 修改Variable类」的最小框架增量合同是用Variable与Function对象记录前向边并按链式法则传播梯度,第54次检查保存对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数;若产生边丢失、对象覆盖或错误拓扑顺序,就返回上一步快照。

13.3 Square类的实现

原版坐标 55/275。 第55个正式坐标「13·3 Square类的实现」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界呈现把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;只复述代码或模型名称会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

步骤14 重复使用同一个变量

原版坐标 56/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标56中,目录项「步骤14 重复使用同一个变量」用于声明本步相对上一快照新增的框架能力与依赖;先冻结代码快照、对象图与shape,再以前置API、代码差分、对象/边快照、回归用例和回退点复核,出现把后续完整实现倒灌到当前步骤时撤回结论。

14.1 问题的原因

原版坐标 57/275。 目录项「14·1 问题的原因」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第57个框架问题:它怎样把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同、改变哪个对象、图边、梯度或资源状态、由哪些代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界证明,并如何排除只复述代码或模型名称。

14.2 解决方案

原版坐标 58/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级58把「14·2 解决方案」落实为把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;复核者先读取代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界,不能接受只复述代码或模型名称。

14.3 重置导数

原版坐标 59/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「14·3 重置导数」的最小框架增量合同是以中心差分和自动测试反证反向传播实现,第59次检查保存差分步长、数值/解析梯度、相对误差、输入种子和失败定位;若产生只测一个幸运输入或差分步长不稳定,就返回上一步快照。

步骤15 复杂的计算图(理论篇)

原版坐标 60/275。 第60个正式坐标「步骤15 复杂的计算图(理论篇)」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以前置API、代码差分、对象/边快照、回归用例和回退点呈现声明本步相对上一快照新增的框架能力与依赖;把后续完整实现倒灌到当前步骤会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

15.1 反向传播的正确顺序

原版坐标 61/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标61中,目录项「15·1 反向传播的正确顺序」用于用Variable与Function对象记录前向边并按链式法则传播梯度;先冻结代码快照、对象图与shape,再以对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数复核,出现边丢失、对象覆盖或错误拓扑顺序时撤回结论。

15.2 当前的DeZero

原版坐标 62/275。 目录项「15·2 当前的DeZero」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第62个框架问题:它怎样把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同、改变哪个对象、图边、梯度或资源状态、由哪些代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界证明,并如何排除只复述代码或模型名称。

15.3 函数的优先级

原版坐标 63/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级63把「15·3 函数的优先级」落实为扩展自然API同时维护梯度累加、拓扑顺序和资源生命周期;复核者先读取多输入输出、累加次数、generation队列、weakref释放、模式栈和分派优先级,不能接受易用性改动破坏共享梯度或形成内存环。

步骤16 复杂的计算图(实现篇)

原版坐标 64/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「步骤16 复杂的计算图(实现篇)」的最小框架增量合同是声明本步相对上一快照新增的框架能力与依赖,第64次检查保存前置API、代码差分、对象/边快照、回归用例和回退点;若产生把后续完整实现倒灌到当前步骤,就返回上一步快照。

16.1 增加“辈分”变量

原版坐标 65/275。 第65个正式坐标「16·1 增加“辈分”变量」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数呈现用Variable与Function对象记录前向边并按链式法则传播梯度;边丢失、对象覆盖或错误拓扑顺序会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

16.2 按照“辈分”顺序取出元素

原版坐标 66/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标66中,目录项「16·2 按照“辈分”顺序取出元素」用于扩展自然API同时维护梯度累加、拓扑顺序和资源生命周期;先冻结代码快照、对象图与shape,再以多输入输出、累加次数、generation队列、weakref释放、模式栈和分派优先级复核,出现易用性改动破坏共享梯度或形成内存环时撤回结论。

16.3 Variable类的backward

原版坐标 67/275。 目录项「16·3 Variable类的backward」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第67个框架问题:它怎样用Variable与Function对象记录前向边并按链式法则传播梯度、改变哪个对象、图边、梯度或资源状态、由哪些对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数证明,并如何排除边丢失、对象覆盖或错误拓扑顺序。

16.4 代码验证

原版坐标 68/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级68把「16·4 代码验证」落实为把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;复核者先读取代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界,不能接受只复述代码或模型名称。

步骤17 内存管理和循环引用

原版坐标 69/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「步骤17 内存管理和循环引用」的最小框架增量合同是声明本步相对上一快照新增的框架能力与依赖,第69次检查保存前置API、代码差分、对象/边快照、回归用例和回退点;若产生把后续完整实现倒灌到当前步骤,就返回上一步快照。

17.1 内存管理

原版坐标 70/275。 第70个正式坐标「17·1 内存管理」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以多输入输出、累加次数、generation队列、weakref释放、模式栈和分派优先级呈现扩展自然API同时维护梯度累加、拓扑顺序和资源生命周期;易用性改动破坏共享梯度或形成内存环会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

17.2 引用计数方式的内存管理

原版坐标 71/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标71中,目录项「17·2 引用计数方式的内存管理」用于扩展自然API同时维护梯度累加、拓扑顺序和资源生命周期;先冻结代码快照、对象图与shape,再以多输入输出、累加次数、generation队列、weakref释放、模式栈和分派优先级复核,出现易用性改动破坏共享梯度或形成内存环时撤回结论。

17.3 循环引用

原版坐标 72/275。 目录项「17·3 循环引用」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第72个框架问题:它怎样扩展自然API同时维护梯度累加、拓扑顺序和资源生命周期、改变哪个对象、图边、梯度或资源状态、由哪些多输入输出、累加次数、generation队列、weakref释放、模式栈和分派优先级证明,并如何排除易用性改动破坏共享梯度或形成内存环。

17.4 weakref模块

原版坐标 73/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级73把「17·4 weakref模块」落实为扩展自然API同时维护梯度累加、拓扑顺序和资源生命周期;复核者先读取多输入输出、累加次数、generation队列、weakref释放、模式栈和分派优先级,不能接受易用性改动破坏共享梯度或形成内存环。

17.5 代码验证

原版坐标 74/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「17·5 代码验证」的最小框架增量合同是把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,第74次检查保存代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界;若产生只复述代码或模型名称,就返回上一步快照。

步骤18 减少内存使用量的模式

原版坐标 75/275。 第75个正式坐标「步骤18 减少内存使用量的模式」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以前置API、代码差分、对象/边快照、回归用例和回退点呈现声明本步相对上一快照新增的框架能力与依赖;把后续完整实现倒灌到当前步骤会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

18.1 不保留不必要的导数

原版坐标 76/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标76中,目录项「18·1 不保留不必要的导数」用于以中心差分和自动测试反证反向传播实现;先冻结代码快照、对象图与shape,再以差分步长、数值/解析梯度、相对误差、输入种子和失败定位复核,出现只测一个幸运输入或差分步长不稳定时撤回结论。

18.2 回顾Function类

原版坐标 77/275。 目录项「18·2 回顾Function类」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第77个框架问题:它怎样用Variable与Function对象记录前向边并按链式法则传播梯度、改变哪个对象、图边、梯度或资源状态、由哪些对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数证明,并如何排除边丢失、对象覆盖或错误拓扑顺序。

18.3 使用Config类进行切换

原版坐标 78/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级78把「18·3 使用Config类进行切换」落实为扩展自然API同时维护梯度累加、拓扑顺序和资源生命周期;复核者先读取多输入输出、累加次数、generation队列、weakref释放、模式栈和分派优先级,不能接受易用性改动破坏共享梯度或形成内存环。

18.4 模式的切换

原版坐标 79/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「18·4 模式的切换」的最小框架增量合同是扩展自然API同时维护梯度累加、拓扑顺序和资源生命周期,第79次检查保存多输入输出、累加次数、generation队列、weakref释放、模式栈和分派优先级;若产生易用性改动破坏共享梯度或形成内存环,就返回上一步快照。

18.5 使用with语句切换

原版坐标 80/275。 第80个正式坐标「18·5 使用with语句切换」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界呈现把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;只复述代码或模型名称会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

步骤19 让变量更易用

原版坐标 81/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标81中,目录项「步骤19 让变量更易用」用于声明本步相对上一快照新增的框架能力与依赖;先冻结代码快照、对象图与shape,再以前置API、代码差分、对象/边快照、回归用例和回退点复核,出现把后续完整实现倒灌到当前步骤时撤回结论。

19.1 命名变量

原版坐标 82/275。 目录项「19·1 命名变量」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第82个框架问题:它怎样用Variable与Function对象记录前向边并按链式法则传播梯度、改变哪个对象、图边、梯度或资源状态、由哪些对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数证明,并如何排除边丢失、对象覆盖或错误拓扑顺序。

19.2 实例变量ndarray

原版坐标 83/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级83把「19·2 实例变量ndarray」落实为用Variable与Function对象记录前向边并按链式法则传播梯度;复核者先读取对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数,不能接受边丢失、对象覆盖或错误拓扑顺序。

19.3 len函数和print函数

原版坐标 84/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「19·3 len函数和print函数」的最小框架增量合同是把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,第84次检查保存代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界;若产生只复述代码或模型名称,就返回上一步快照。

步骤20 运算符重载(1)

原版坐标 85/275。 第85个正式坐标「步骤20 运算符重载(1)」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以前置API、代码差分、对象/边快照、回归用例和回退点呈现声明本步相对上一快照新增的框架能力与依赖;把后续完整实现倒灌到当前步骤会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

20.1 Mul类的实现

原版坐标 86/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标86中,目录项「20·1 Mul类的实现」用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;先冻结代码快照、对象图与shape,再以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界复核,出现只复述代码或模型名称时撤回结论。

20.2 运算符重载

原版坐标 87/275。 目录项「20·2 运算符重载」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第87个框架问题:它怎样扩展自然API同时维护梯度累加、拓扑顺序和资源生命周期、改变哪个对象、图边、梯度或资源状态、由哪些多输入输出、累加次数、generation队列、weakref释放、模式栈和分派优先级证明,并如何排除易用性改动破坏共享梯度或形成内存环。

步骤21 运算符重载(2)

原版坐标 88/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级88把「步骤21 运算符重载(2)」落实为声明本步相对上一快照新增的框架能力与依赖;复核者先读取前置API、代码差分、对象/边快照、回归用例和回退点,不能接受把后续完整实现倒灌到当前步骤。

21.1 与ndarray一起使用

原版坐标 89/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「21·1 与ndarray一起使用」的最小框架增量合同是把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,第89次检查保存代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界;若产生只复述代码或模型名称,就返回上一步快照。

21.2 与float和int一起使用

原版坐标 90/275。 第90个正式坐标「21·2 与float和int一起使用」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界呈现把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;只复述代码或模型名称会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

21.3 问题1:左项为float或int的情况

原版坐标 91/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标91中,目录项「21·3 问题1:左项为float或int的情况」用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;先冻结代码快照、对象图与shape,再以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界复核,出现只复述代码或模型名称时撤回结论。

21.4 问题2:左项为ndarray实例的情况

原版坐标 92/275。 目录项「21·4 问题2:左项为ndarray实例的情况」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第92个框架问题:它怎样把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同、改变哪个对象、图边、梯度或资源状态、由哪些代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界证明,并如何排除只复述代码或模型名称。

步骤22 运算符重载(3)

原版坐标 93/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级93把「步骤22 运算符重载(3)」落实为声明本步相对上一快照新增的框架能力与依赖;复核者先读取前置API、代码差分、对象/边快照、回归用例和回退点,不能接受把后续完整实现倒灌到当前步骤。

22.1 负数

原版坐标 94/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「22·1 负数」的最小框架增量合同是把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,第94次检查保存代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界;若产生只复述代码或模型名称,就返回上一步快照。

22.2 减法

原版坐标 95/275。 第95个正式坐标「22·2 减法」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界呈现把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;只复述代码或模型名称会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

22.3 除法

原版坐标 96/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标96中,目录项「22·3 除法」用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;先冻结代码快照、对象图与shape,再以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界复核,出现只复述代码或模型名称时撤回结论。

22.4 幂运算

原版坐标 97/275。 目录项「22·4 幂运算」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第97个框架问题:它怎样把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同、改变哪个对象、图边、梯度或资源状态、由哪些代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界证明,并如何排除只复述代码或模型名称。

步骤23 打包

原版坐标 98/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级98把「步骤23 打包」落实为声明本步相对上一快照新增的框架能力与依赖;复核者先读取前置API、代码差分、对象/边快照、回归用例和回退点,不能接受把后续完整实现倒灌到当前步骤。

23.1 文件结构

原版坐标 99/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「23·1 文件结构」的最小框架增量合同是把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,第99次检查保存代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界;若产生只复述代码或模型名称,就返回上一步快照。

23.2 将代码移到核心类

原版坐标 100/275。 第100个正式坐标「23·2 将代码移到核心类」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界呈现把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;只复述代码或模型名称会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

23.3 运算符重载

原版坐标 101/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标101中,目录项「23·3 运算符重载」用于扩展自然API同时维护梯度累加、拓扑顺序和资源生命周期;先冻结代码快照、对象图与shape,再以多输入输出、累加次数、generation队列、weakref释放、模式栈和分派优先级复核,出现易用性改动破坏共享梯度或形成内存环时撤回结论。

23.4 实际的init.py文件

原版坐标 102/275。 目录项「23·4 实际的init.py文件」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第102个框架问题:它怎样把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同、改变哪个对象、图边、梯度或资源状态、由哪些代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界证明,并如何排除只复述代码或模型名称。

23.5 导入dezero

原版坐标 103/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级103把「23·5 导入dezero」落实为把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;复核者先读取代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界,不能接受只复述代码或模型名称。

步骤24 复杂函数的求导

原版坐标 104/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「步骤24 复杂函数的求导」的最小框架增量合同是声明本步相对上一快照新增的框架能力与依赖,第104次检查保存前置API、代码差分、对象/边快照、回归用例和回退点;若产生把后续完整实现倒灌到当前步骤,就返回上一步快照。

24.1 Sphere函数

原版坐标 105/275。 第105个正式坐标「24·1 Sphere函数」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界呈现把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;只复述代码或模型名称会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

24.2 matyas函数

原版坐标 106/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标106中,目录项「24·2 matyas函数」用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;先冻结代码快照、对象图与shape,再以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界复核,出现只复述代码或模型名称时撤回结论。

24.3 Goldstein-Price函数

原版坐标 107/275。 目录项「24·3 Goldstein-Price函数」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第107个框架问题:它怎样把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同、改变哪个对象、图边、梯度或资源状态、由哪些代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界证明,并如何排除只复述代码或模型名称。

第3阶段 实现高阶导数

原版坐标 108/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级108把「第3阶段 实现高阶导数」落实为声明本步相对上一快照新增的框架能力与依赖;复核者先读取前置API、代码差分、对象/边快照、回归用例和回退点,不能接受把后续完整实现倒灌到当前步骤。

步骤25 计算图的可视化(1)

原版坐标 109/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「步骤25 计算图的可视化(1)」的最小框架增量合同是声明本步相对上一快照新增的框架能力与依赖,第109次检查保存前置API、代码差分、对象/边快照、回归用例和回退点;若产生把后续完整实现倒灌到当前步骤,就返回上一步快照。

25.1 安装Graphviz

原版坐标 110/275。 第110个正式坐标「25·1 安装Graphviz」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以create_graph、反向算子图、DOT节点/边、一阶/二阶导和数值对照呈现让反向传播也构图并以可视化、优化和高阶导验证;反向使用裸数组切断高阶图会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

25.2 使用DOT语言描述图形

原版坐标 111/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标111中,目录项「25·2 使用DOT语言描述图形」用于让反向传播也构图并以可视化、优化和高阶导验证;先冻结代码快照、对象图与shape,再以create_graph、反向算子图、DOT节点/边、一阶/二阶导和数值对照复核,出现反向使用裸数组切断高阶图时撤回结论。

25.3 指定节点属性

原版坐标 112/275。 目录项「25·3 指定节点属性」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第112个框架问题:它怎样把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同、改变哪个对象、图边、梯度或资源状态、由哪些代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界证明,并如何排除只复述代码或模型名称。

25.4 连接节点

原版坐标 113/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级113把「25·4 连接节点」落实为显式管理循环状态、截断反向和时间批次;复核者先读取时间索引、隐藏/记忆状态、detach边界、序列batch、损失与预测轨迹,不能接受跨样本泄漏隐藏状态或错误切断图。

步骤26 计算图的可视化(2)

原版坐标 114/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「步骤26 计算图的可视化(2)」的最小框架增量合同是声明本步相对上一快照新增的框架能力与依赖,第114次检查保存前置API、代码差分、对象/边快照、回归用例和回退点;若产生把后续完整实现倒灌到当前步骤,就返回上一步快照。

26.1 可视化代码的使用示例

原版坐标 115/275。 第115个正式坐标「26·1 可视化代码的使用示例」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以create_graph、反向算子图、DOT节点/边、一阶/二阶导和数值对照呈现让反向传播也构图并以可视化、优化和高阶导验证;反向使用裸数组切断高阶图会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

26.2 从计算图转换为DOT语言

原版坐标 116/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标116中,目录项「26·2 从计算图转换为DOT语言」用于用Variable与Function对象记录前向边并按链式法则传播梯度;先冻结代码快照、对象图与shape,再以对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数复核,出现边丢失、对象覆盖或错误拓扑顺序时撤回结论。

26.3 从DOT语言转换为图像

原版坐标 117/275。 目录项「26·3 从DOT语言转换为图像」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第117个框架问题:它怎样让反向传播也构图并以可视化、优化和高阶导验证、改变哪个对象、图边、梯度或资源状态、由哪些create_graph、反向算子图、DOT节点/边、一阶/二阶导和数值对照证明,并如何排除反向使用裸数组切断高阶图。

26.4 代码验证

原版坐标 118/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级118把「26·4 代码验证」落实为把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;复核者先读取代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界,不能接受只复述代码或模型名称。

步骤27 泰勒展开的导数

原版坐标 119/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「步骤27 泰勒展开的导数」的最小框架增量合同是声明本步相对上一快照新增的框架能力与依赖,第119次检查保存前置API、代码差分、对象/边快照、回归用例和回退点;若产生把后续完整实现倒灌到当前步骤,就返回上一步快照。

27.1 sin函数的实现

原版坐标 120/275。 第120个正式坐标「27·1 sin函数的实现」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界呈现把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;只复述代码或模型名称会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

27.2 泰勒展开的理论知识

原版坐标 121/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标121中,目录项「27·2 泰勒展开的理论知识」用于让反向传播也构图并以可视化、优化和高阶导验证;先冻结代码快照、对象图与shape,再以create_graph、反向算子图、DOT节点/边、一阶/二阶导和数值对照复核,出现反向使用裸数组切断高阶图时撤回结论。

27.3 泰勒展开的实现

原版坐标 122/275。 目录项「27·3 泰勒展开的实现」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第122个框架问题:它怎样让反向传播也构图并以可视化、优化和高阶导验证、改变哪个对象、图边、梯度或资源状态、由哪些create_graph、反向算子图、DOT节点/边、一阶/二阶导和数值对照证明,并如何排除反向使用裸数组切断高阶图。

27.4 计算图的可视化

原版坐标 123/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级123把「27·4 计算图的可视化」落实为用Variable与Function对象记录前向边并按链式法则传播梯度;复核者先读取对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数,不能接受边丢失、对象覆盖或错误拓扑顺序。

步骤28 函数优化

原版坐标 124/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「步骤28 函数优化」的最小框架增量合同是声明本步相对上一快照新增的框架能力与依赖,第124次检查保存前置API、代码差分、对象/边快照、回归用例和回退点;若产生把后续完整实现倒灌到当前步骤,就返回上一步快照。

28.1 Rosenbrock函数

原版坐标 125/275。 第125个正式坐标「28·1 Rosenbrock函数」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以create_graph、反向算子图、DOT节点/边、一阶/二阶导和数值对照呈现让反向传播也构图并以可视化、优化和高阶导验证;反向使用裸数组切断高阶图会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

28.2 求导

原版坐标 126/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标126中,目录项「28·2 求导」用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;先冻结代码快照、对象图与shape,再以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界复核,出现只复述代码或模型名称时撤回结论。

28.3 梯度下降法的实现

原版坐标 127/275。 目录项「28·3 梯度下降法的实现」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第127个框架问题:它怎样把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同、改变哪个对象、图边、梯度或资源状态、由哪些代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界证明,并如何排除只复述代码或模型名称。

步骤29 使用牛顿法进行优化(手动计算)

原版坐标 128/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级128把「步骤29 使用牛顿法进行优化(手动计算)」落实为声明本步相对上一快照新增的框架能力与依赖;复核者先读取前置API、代码差分、对象/边快照、回归用例和回退点,不能接受把后续完整实现倒灌到当前步骤。

29.1 使用牛顿法进行优化的理论知识

原版坐标 129/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「29·1 使用牛顿法进行优化的理论知识」的最小框架增量合同是让反向传播也构图并以可视化、优化和高阶导验证,第129次检查保存create_graph、反向算子图、DOT节点/边、一阶/二阶导和数值对照;若产生反向使用裸数组切断高阶图,就返回上一步快照。

29.2 使用牛顿法实现优化

原版坐标 130/275。 第130个正式坐标「29·2 使用牛顿法实现优化」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以create_graph、反向算子图、DOT节点/边、一阶/二阶导和数值对照呈现让反向传播也构图并以可视化、优化和高阶导验证;反向使用裸数组切断高阶图会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

步骤30 高阶导数(准备篇)

原版坐标 131/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标131中,目录项「步骤30 高阶导数(准备篇)」用于声明本步相对上一快照新增的框架能力与依赖;先冻结代码快照、对象图与shape,再以前置API、代码差分、对象/边快照、回归用例和回退点复核,出现把后续完整实现倒灌到当前步骤时撤回结论。

30.1 确认工作①:Variable实例变量

原版坐标 132/275。 目录项「30·1 确认工作①:Variable实例变量」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第132个框架问题:它怎样用Variable与Function对象记录前向边并按链式法则传播梯度、改变哪个对象、图边、梯度或资源状态、由哪些对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数证明,并如何排除边丢失、对象覆盖或错误拓扑顺序。

30.2 确认工作②:Function类

原版坐标 133/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级133把「30·2 确认工作②:Function类」落实为用Variable与Function对象记录前向边并按链式法则传播梯度;复核者先读取对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数,不能接受边丢失、对象覆盖或错误拓扑顺序。

30.3 确认工作③:Variable类的反向传播

原版坐标 134/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「30·3 确认工作③:Variable类的反向传播」的最小框架增量合同是用Variable与Function对象记录前向边并按链式法则传播梯度,第134次检查保存对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数;若产生边丢失、对象覆盖或错误拓扑顺序,就返回上一步快照。

步骤31 高阶导数(理论篇)

原版坐标 135/275。 第135个正式坐标「步骤31 高阶导数(理论篇)」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以前置API、代码差分、对象/边快照、回归用例和回退点呈现声明本步相对上一快照新增的框架能力与依赖;把后续完整实现倒灌到当前步骤会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

31.1 在反向传播时进行的计算

原版坐标 136/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标136中,目录项「31·1 在反向传播时进行的计算」用于用Variable与Function对象记录前向边并按链式法则传播梯度;先冻结代码快照、对象图与shape,再以对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数复核,出现边丢失、对象覆盖或错误拓扑顺序时撤回结论。

31.2 创建反向传播的计算图的方法

原版坐标 137/275。 目录项「31·2 创建反向传播的计算图的方法」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第137个框架问题:它怎样用Variable与Function对象记录前向边并按链式法则传播梯度、改变哪个对象、图边、梯度或资源状态、由哪些对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数证明,并如何排除边丢失、对象覆盖或错误拓扑顺序。

步骤32 高阶导数(实现篇)

原版坐标 138/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级138把「步骤32 高阶导数(实现篇)」落实为声明本步相对上一快照新增的框架能力与依赖;复核者先读取前置API、代码差分、对象/边快照、回归用例和回退点,不能接受把后续完整实现倒灌到当前步骤。

32.1 新的DeZero

原版坐标 139/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「32·1 新的DeZero」的最小框架增量合同是把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,第139次检查保存代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界;若产生只复述代码或模型名称,就返回上一步快照。

32.2 函数类的反向传播

原版坐标 140/275。 第140个正式坐标「32·2 函数类的反向传播」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数呈现用Variable与Function对象记录前向边并按链式法则传播梯度;边丢失、对象覆盖或错误拓扑顺序会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

32.3 实现更有效的反向传播(增加模式控制代码)

原版坐标 141/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标141中,目录项「32·3 实现更有效的反向传播(增加模式控制代码)」用于用Variable与Function对象记录前向边并按链式法则传播梯度;先冻结代码快照、对象图与shape,再以对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数复核,出现边丢失、对象覆盖或错误拓扑顺序时撤回结论。

32.4 修改init.py

原版坐标 142/275。 目录项「32·4 修改init.py」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第142个框架问题:它怎样把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同、改变哪个对象、图边、梯度或资源状态、由哪些代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界证明,并如何排除只复述代码或模型名称。

步骤33 使用牛顿法进行优化(自动计算)

原版坐标 143/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级143把「步骤33 使用牛顿法进行优化(自动计算)」落实为声明本步相对上一快照新增的框架能力与依赖;复核者先读取前置API、代码差分、对象/边快照、回归用例和回退点,不能接受把后续完整实现倒灌到当前步骤。

33.1 求二阶导数

原版坐标 144/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「33·1 求二阶导数」的最小框架增量合同是以中心差分和自动测试反证反向传播实现,第144次检查保存差分步长、数值/解析梯度、相对误差、输入种子和失败定位;若产生只测一个幸运输入或差分步长不稳定,就返回上一步快照。

33.2 使用牛顿法进行优化

原版坐标 145/275。 第145个正式坐标「33·2 使用牛顿法进行优化」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以create_graph、反向算子图、DOT节点/边、一阶/二阶导和数值对照呈现让反向传播也构图并以可视化、优化和高阶导验证;反向使用裸数组切断高阶图会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

步骤34 sin函数的高阶导数

原版坐标 146/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标146中,目录项「步骤34 sin函数的高阶导数」用于声明本步相对上一快照新增的框架能力与依赖;先冻结代码快照、对象图与shape,再以前置API、代码差分、对象/边快照、回归用例和回退点复核,出现把后续完整实现倒灌到当前步骤时撤回结论。

34.1 sin函数的实现

原版坐标 147/275。 目录项「34·1 sin函数的实现」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第147个框架问题:它怎样把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同、改变哪个对象、图边、梯度或资源状态、由哪些代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界证明,并如何排除只复述代码或模型名称。

34.2 cos函数的实现

原版坐标 148/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级148把「34·2 cos函数的实现」落实为把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;复核者先读取代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界,不能接受只复述代码或模型名称。

34.3 sin函数的高阶导数

原版坐标 149/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「34·3 sin函数的高阶导数」的最小框架增量合同是以中心差分和自动测试反证反向传播实现,第149次检查保存差分步长、数值/解析梯度、相对误差、输入种子和失败定位;若产生只测一个幸运输入或差分步长不稳定,就返回上一步快照。

步骤35 高阶导数的计算图

原版坐标 150/275。 第150个正式坐标「步骤35 高阶导数的计算图」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以前置API、代码差分、对象/边快照、回归用例和回退点呈现声明本步相对上一快照新增的框架能力与依赖;把后续完整实现倒灌到当前步骤会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

35.1 tanh函数的导数

原版坐标 151/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标151中,目录项「35·1 tanh函数的导数」用于以中心差分和自动测试反证反向传播实现;先冻结代码快照、对象图与shape,再以差分步长、数值/解析梯度、相对误差、输入种子和失败定位复核,出现只测一个幸运输入或差分步长不稳定时撤回结论。

35.2 tanh函数的实现

原版坐标 152/275。 目录项「35·2 tanh函数的实现」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第152个框架问题:它怎样把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同、改变哪个对象、图边、梯度或资源状态、由哪些代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界证明,并如何排除只复述代码或模型名称。

35.3 高阶导数的计算图可视化

原版坐标 153/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级153把「35·3 高阶导数的计算图可视化」落实为用Variable与Function对象记录前向边并按链式法则传播梯度;复核者先读取对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数,不能接受边丢失、对象覆盖或错误拓扑顺序。

步骤36 DeZero的其他用途

原版坐标 154/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「步骤36 DeZero的其他用途」的最小框架增量合同是声明本步相对上一快照新增的框架能力与依赖,第154次检查保存前置API、代码差分、对象/边快照、回归用例和回退点;若产生把后续完整实现倒灌到当前步骤,就返回上一步快照。

36.1 double backprop的用途

原版坐标 155/275。 第155个正式坐标「36·1 double backprop的用途」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以create_graph、反向算子图、DOT节点/边、一阶/二阶导和数值对照呈现让反向传播也构图并以可视化、优化和高阶导验证;反向使用裸数组切断高阶图会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

36.2 深度学习研究中的应用示例

原版坐标 156/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标156中,目录项「36·2 深度学习研究中的应用示例」用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;先冻结代码快照、对象图与shape,再以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界复核,出现只复述代码或模型名称时撤回结论。

第4阶段 创建神经网络

原版坐标 157/275。 目录项「第4阶段 创建神经网络」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第157个框架问题:它怎样声明本步相对上一快照新增的框架能力与依赖、改变哪个对象、图边、梯度或资源状态、由哪些前置API、代码差分、对象/边快照、回归用例和回退点证明,并如何排除把后续完整实现倒灌到当前步骤。

步骤37 处理张量

原版坐标 158/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级158把「步骤37 处理张量」落实为声明本步相对上一快照新增的框架能力与依赖;复核者先读取前置API、代码差分、对象/边快照、回归用例和回退点,不能接受把后续完整实现倒灌到当前步骤。

37.1 对各元素进行计算

原版坐标 159/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「37·1 对各元素进行计算」的最小框架增量合同是把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,第159次检查保存代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界;若产生只复述代码或模型名称,就返回上一步快照。

37.2 使用张量时的反向传播

原版坐标 160/275。 第160个正式坐标「37·2 使用张量时的反向传播」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数呈现用Variable与Function对象记录前向边并按链式法则传播梯度;边丢失、对象覆盖或错误拓扑顺序会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

37.3 使用张量时的反向传播(补充内容)

原版坐标 161/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标161中,目录项「37·3 使用张量时的反向传播(补充内容)」用于用Variable与Function对象记录前向边并按链式法则传播梯度;先冻结代码快照、对象图与shape,再以对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数复核,出现边丢失、对象覆盖或错误拓扑顺序时撤回结论。

步骤38 改变形状的函数

原版坐标 162/275。 目录项「步骤38 改变形状的函数」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第162个框架问题:它怎样声明本步相对上一快照新增的框架能力与依赖、改变哪个对象、图边、梯度或资源状态、由哪些前置API、代码差分、对象/边快照、回归用例和回退点证明,并如何排除把后续完整实现倒灌到当前步骤。

38.1 reshape函数的实现

原版坐标 163/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级163把「38·1 reshape函数的实现」落实为为张量变形、归约、广播、矩阵积和切片实现互为伴随的反向;复核者先读取输入输出shape、轴、keepdims、sum_to/broadcast_to、索引与梯度散射,不能接受前向可广播但反向归约轴错误。

38.2 从Variable对象调用reshape

原版坐标 164/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「38·2 从Variable对象调用reshape」的最小框架增量合同是用Variable与Function对象记录前向边并按链式法则传播梯度,第164次检查保存对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数;若产生边丢失、对象覆盖或错误拓扑顺序,就返回上一步快照。

38.3 矩阵的转置

原版坐标 165/275。 第165个正式坐标「38·3 矩阵的转置」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以输入输出shape、轴、keepdims、sum_to/broadcast_to、索引与梯度散射呈现为张量变形、归约、广播、矩阵积和切片实现互为伴随的反向;前向可广播但反向归约轴错误会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

38.4 实际的transpose函数(补充内容)

原版坐标 166/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标166中,目录项「38·4 实际的transpose函数(补充内容)」用于为张量变形、归约、广播、矩阵积和切片实现互为伴随的反向;先冻结代码快照、对象图与shape,再以输入输出shape、轴、keepdims、sum_to/broadcast_to、索引与梯度散射复核,出现前向可广播但反向归约轴错误时撤回结论。

步骤39 求和的函数

原版坐标 167/275。 目录项「步骤39 求和的函数」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第167个框架问题:它怎样声明本步相对上一快照新增的框架能力与依赖、改变哪个对象、图边、梯度或资源状态、由哪些前置API、代码差分、对象/边快照、回归用例和回退点证明,并如何排除把后续完整实现倒灌到当前步骤。

39.1 sum函数的反向传播

原版坐标 168/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级168把「39·1 sum函数的反向传播」落实为用Variable与Function对象记录前向边并按链式法则传播梯度;复核者先读取对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数,不能接受边丢失、对象覆盖或错误拓扑顺序。

39.2 sum函数的实现

原版坐标 169/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「39·2 sum函数的实现」的最小框架增量合同是为张量变形、归约、广播、矩阵积和切片实现互为伴随的反向,第169次检查保存输入输出shape、轴、keepdims、sum_to/broadcast_to、索引与梯度散射;若产生前向可广播但反向归约轴错误,就返回上一步快照。

39.3 axis和keepdims

原版坐标 170/275。 第170个正式坐标「39·3 axis和keepdims」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以输入输出shape、轴、keepdims、sum_to/broadcast_to、索引与梯度散射呈现为张量变形、归约、广播、矩阵积和切片实现互为伴随的反向;前向可广播但反向归约轴错误会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

步骤40 进行广播的函数

原版坐标 171/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标171中,目录项「步骤40 进行广播的函数」用于声明本步相对上一快照新增的框架能力与依赖;先冻结代码快照、对象图与shape,再以前置API、代码差分、对象/边快照、回归用例和回退点复核,出现把后续完整实现倒灌到当前步骤时撤回结论。

40.1 broadcast_to函数和sum_to函数

原版坐标 172/275。 目录项「40·1 broadcast_to函数和sum_to函数」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第172个框架问题:它怎样为张量变形、归约、广播、矩阵积和切片实现互为伴随的反向、改变哪个对象、图边、梯度或资源状态、由哪些输入输出shape、轴、keepdims、sum_to/broadcast_to、索引与梯度散射证明,并如何排除前向可广播但反向归约轴错误。

40.2 DeZero的broadcast_to函数和sum_to函数

原版坐标 173/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级173把「40·2 DeZero的broadcast_to函数和sum_to函数」落实为为张量变形、归约、广播、矩阵积和切片实现互为伴随的反向;复核者先读取输入输出shape、轴、keepdims、sum_to/broadcast_to、索引与梯度散射,不能接受前向可广播但反向归约轴错误。

40.3 支持广播

原版坐标 174/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「40·3 支持广播」的最小框架增量合同是为张量变形、归约、广播、矩阵积和切片实现互为伴随的反向,第174次检查保存输入输出shape、轴、keepdims、sum_to/broadcast_to、索引与梯度散射;若产生前向可广播但反向归约轴错误,就返回上一步快照。

步骤41 矩阵的乘积

原版坐标 175/275。 第175个正式坐标「步骤41 矩阵的乘积」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以前置API、代码差分、对象/边快照、回归用例和回退点呈现声明本步相对上一快照新增的框架能力与依赖;把后续完整实现倒灌到当前步骤会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

41.1 向量的内积和矩阵的乘积

原版坐标 176/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标176中,目录项「41·1 向量的内积和矩阵的乘积」用于为张量变形、归约、广播、矩阵积和切片实现互为伴随的反向;先冻结代码快照、对象图与shape,再以输入输出shape、轴、keepdims、sum_to/broadcast_to、索引与梯度散射复核,出现前向可广播但反向归约轴错误时撤回结论。

41.2 检查矩阵的形状

原版坐标 177/275。 目录项「41·2 检查矩阵的形状」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第177个框架问题:它怎样为张量变形、归约、广播、矩阵积和切片实现互为伴随的反向、改变哪个对象、图边、梯度或资源状态、由哪些输入输出shape、轴、keepdims、sum_to/broadcast_to、索引与梯度散射证明,并如何排除前向可广播但反向归约轴错误。

41.3 矩阵乘积的反向传播

原版坐标 178/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级178把「41·3 矩阵乘积的反向传播」落实为用Variable与Function对象记录前向边并按链式法则传播梯度;复核者先读取对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数,不能接受边丢失、对象覆盖或错误拓扑顺序。

步骤42 线性回归

原版坐标 179/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「步骤42 线性回归」的最小框架增量合同是声明本步相对上一快照新增的框架能力与依赖,第179次检查保存前置API、代码差分、对象/边快照、回归用例和回退点;若产生把后续完整实现倒灌到当前步骤,就返回上一步快照。

42.1 玩具数据集

原版坐标 180/275。 第180个正式坐标「42·1 玩具数据集」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界呈现把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;只复述代码或模型名称会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

42.2 线性回归的理论知识

原版坐标 181/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标181中,目录项「42·2 线性回归的理论知识」用于将自动微分核心组装为参数可发现、可优化的模型系统;先冻结代码快照、对象图与shape,再以Parameter注册、Layer递归、损失、梯度清零、Optimizer状态、预测与曲线复核,出现参数遍历漏项或测试数据参与选择时撤回结论。

42.3 线性回归的实现

原版坐标 182/275。 目录项「42·3 线性回归的实现」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第182个框架问题:它怎样将自动微分核心组装为参数可发现、可优化的模型系统、改变哪个对象、图边、梯度或资源状态、由哪些Parameter注册、Layer递归、损失、梯度清零、Optimizer状态、预测与曲线证明,并如何排除参数遍历漏项或测试数据参与选择。

42.4 DeZero的mean_squared_error函数(补充内容)

原版坐标 183/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级183把「42·4 DeZero的mean_squared_error函数(补充内容)」落实为把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;复核者先读取代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界,不能接受只复述代码或模型名称。

步骤43 神经网络

原版坐标 184/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「步骤43 神经网络」的最小框架增量合同是声明本步相对上一快照新增的框架能力与依赖,第184次检查保存前置API、代码差分、对象/边快照、回归用例和回退点;若产生把后续完整实现倒灌到当前步骤,就返回上一步快照。

43.1 DeZero中的linear函数

原版坐标 185/275。 第185个正式坐标「43·1 DeZero中的linear函数」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界呈现把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;只复述代码或模型名称会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

43.2 非线性数据集

原版坐标 186/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标186中,目录项「43·2 非线性数据集」用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;先冻结代码快照、对象图与shape,再以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界复核,出现只复述代码或模型名称时撤回结论。

43.3 激活函数和神经网络

原版坐标 187/275。 目录项「43·3 激活函数和神经网络」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第187个框架问题:它怎样将自动微分核心组装为参数可发现、可优化的模型系统、改变哪个对象、图边、梯度或资源状态、由哪些Parameter注册、Layer递归、损失、梯度清零、Optimizer状态、预测与曲线证明,并如何排除参数遍历漏项或测试数据参与选择。

43.4 神经网络的实现

原版坐标 188/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级188把「43·4 神经网络的实现」落实为将自动微分核心组装为参数可发现、可优化的模型系统;复核者先读取Parameter注册、Layer递归、损失、梯度清零、Optimizer状态、预测与曲线,不能接受参数遍历漏项或测试数据参与选择。

步骤44 汇总参数的层

原版坐标 189/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「步骤44 汇总参数的层」的最小框架增量合同是声明本步相对上一快照新增的框架能力与依赖,第189次检查保存前置API、代码差分、对象/边快照、回归用例和回退点;若产生把后续完整实现倒灌到当前步骤,就返回上一步快照。

44.1 Parameter类的实现

原版坐标 190/275。 第190个正式坐标「44·1 Parameter类的实现」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以Parameter注册、Layer递归、损失、梯度清零、Optimizer状态、预测与曲线呈现将自动微分核心组装为参数可发现、可优化的模型系统;参数遍历漏项或测试数据参与选择会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

44.2 Layer类的实现

原版坐标 191/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标191中,目录项「44·2 Layer类的实现」用于将自动微分核心组装为参数可发现、可优化的模型系统;先冻结代码快照、对象图与shape,再以Parameter注册、Layer递归、损失、梯度清零、Optimizer状态、预测与曲线复核,出现参数遍历漏项或测试数据参与选择时撤回结论。

44.3 Linear类的实现

原版坐标 192/275。 目录项「44·3 Linear类的实现」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第192个框架问题:它怎样把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同、改变哪个对象、图边、梯度或资源状态、由哪些代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界证明,并如何排除只复述代码或模型名称。

44.4 使用Layer实现神经网络

原版坐标 193/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级193把「44·4 使用Layer实现神经网络」落实为将自动微分核心组装为参数可发现、可优化的模型系统;复核者先读取Parameter注册、Layer递归、损失、梯度清零、Optimizer状态、预测与曲线,不能接受参数遍历漏项或测试数据参与选择。

步骤45 汇总层的层

原版坐标 194/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「步骤45 汇总层的层」的最小框架增量合同是声明本步相对上一快照新增的框架能力与依赖,第194次检查保存前置API、代码差分、对象/边快照、回归用例和回退点;若产生把后续完整实现倒灌到当前步骤,就返回上一步快照。

45.1 扩展Layer类

原版坐标 195/275。 第195个正式坐标「45·1 扩展Layer类」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以Parameter注册、Layer递归、损失、梯度清零、Optimizer状态、预测与曲线呈现将自动微分核心组装为参数可发现、可优化的模型系统;参数遍历漏项或测试数据参与选择会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

45.2 Model类

原版坐标 196/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标196中,目录项「45·2 Model类」用于将自动微分核心组装为参数可发现、可优化的模型系统;先冻结代码快照、对象图与shape,再以Parameter注册、Layer递归、损失、梯度清零、Optimizer状态、预测与曲线复核,出现参数遍历漏项或测试数据参与选择时撤回结论。

45.3 使用Model来解决问题

原版坐标 197/275。 目录项「45·3 使用Model来解决问题」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第197个框架问题:它怎样将自动微分核心组装为参数可发现、可优化的模型系统、改变哪个对象、图边、梯度或资源状态、由哪些Parameter注册、Layer递归、损失、梯度清零、Optimizer状态、预测与曲线证明,并如何排除参数遍历漏项或测试数据参与选择。

45.4 MLP类

原版坐标 198/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级198把「45·4 MLP类」落实为将自动微分核心组装为参数可发现、可优化的模型系统;复核者先读取Parameter注册、Layer递归、损失、梯度清零、Optimizer状态、预测与曲线,不能接受参数遍历漏项或测试数据参与选择。

步骤46 通过Optimizer更新参数

原版坐标 199/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「步骤46 通过Optimizer更新参数」的最小框架增量合同是声明本步相对上一快照新增的框架能力与依赖,第199次检查保存前置API、代码差分、对象/边快照、回归用例和回退点;若产生把后续完整实现倒灌到当前步骤,就返回上一步快照。

46.1 Optimizer类

原版坐标 200/275。 第200个正式坐标「46·1 Optimizer类」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以Parameter注册、Layer递归、损失、梯度清零、Optimizer状态、预测与曲线呈现将自动微分核心组装为参数可发现、可优化的模型系统;参数遍历漏项或测试数据参与选择会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

46.2 SGD类的实现

原版坐标 201/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标201中,目录项「46·2 SGD类的实现」用于将自动微分核心组装为参数可发现、可优化的模型系统;先冻结代码快照、对象图与shape,再以Parameter注册、Layer递归、损失、梯度清零、Optimizer状态、预测与曲线复核,出现参数遍历漏项或测试数据参与选择时撤回结论。

46.3 使用SGD类来解决问题

原版坐标 202/275。 目录项「46·3 使用SGD类来解决问题」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第202个框架问题:它怎样将自动微分核心组装为参数可发现、可优化的模型系统、改变哪个对象、图边、梯度或资源状态、由哪些Parameter注册、Layer递归、损失、梯度清零、Optimizer状态、预测与曲线证明,并如何排除参数遍历漏项或测试数据参与选择。

46.4 SGD以外的优化方法

原版坐标 203/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级203把「46·4 SGD以外的优化方法」落实为让反向传播也构图并以可视化、优化和高阶导验证;复核者先读取create_graph、反向算子图、DOT节点/边、一阶/二阶导和数值对照,不能接受反向使用裸数组切断高阶图。

步骤47 softmax函数和交叉熵误差

原版坐标 204/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「步骤47 softmax函数和交叉熵误差」的最小框架增量合同是声明本步相对上一快照新增的框架能力与依赖,第204次检查保存前置API、代码差分、对象/边快照、回归用例和回退点;若产生把后续完整实现倒灌到当前步骤,就返回上一步快照。

47.1 用于切片操作的函数

原版坐标 205/275。 第205个正式坐标「47·1 用于切片操作的函数」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以输入输出shape、轴、keepdims、sum_to/broadcast_to、索引与梯度散射呈现为张量变形、归约、广播、矩阵积和切片实现互为伴随的反向;前向可广播但反向归约轴错误会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

47.2 softmax函数

原版坐标 206/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标206中,目录项「47·2 softmax函数」用于将自动微分核心组装为参数可发现、可优化的模型系统;先冻结代码快照、对象图与shape,再以Parameter注册、Layer递归、损失、梯度清零、Optimizer状态、预测与曲线复核,出现参数遍历漏项或测试数据参与选择时撤回结论。

47.3 交叉熵误差

原版坐标 207/275。 目录项「47·3 交叉熵误差」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第207个框架问题:它怎样将自动微分核心组装为参数可发现、可优化的模型系统、改变哪个对象、图边、梯度或资源状态、由哪些Parameter注册、Layer递归、损失、梯度清零、Optimizer状态、预测与曲线证明,并如何排除参数遍历漏项或测试数据参与选择。

步骤48 多分类

原版坐标 208/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级208把「步骤48 多分类」落实为声明本步相对上一快照新增的框架能力与依赖;复核者先读取前置API、代码差分、对象/边快照、回归用例和回退点,不能接受把后续完整实现倒灌到当前步骤。

48.1 螺旋数据集

原版坐标 209/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「48·1 螺旋数据集」的最小框架增量合同是把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,第209次检查保存代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界;若产生只复述代码或模型名称,就返回上一步快照。

48.2 用于训练的代码

原版坐标 210/275。 第210个正式坐标「48·2 用于训练的代码」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界呈现把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;只复述代码或模型名称会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

步骤49 Dataset类和预处理

原版坐标 211/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标211中,目录项「步骤49 Dataset类和预处理」用于声明本步相对上一快照新增的框架能力与依赖;先冻结代码快照、对象图与shape,再以前置API、代码差分、对象/边快照、回归用例和回退点复核,出现把后续完整实现倒灌到当前步骤时撤回结论。

49.1 Dataset类的实现

原版坐标 212/275。 目录项「49·1 Dataset类的实现」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第212个框架问题:它怎样以可重放数据管道提供批次、预处理与独立评估、改变哪个对象、图边、梯度或资源状态、由哪些数据版本、索引、shuffle种子、batch、变换统计、标签和指标证明,并如何排除预处理泄漏或末批处理不一致。

49.2 大型数据集的情况

原版坐标 213/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级213把「49·2 大型数据集的情况」落实为把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;复核者先读取代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界,不能接受只复述代码或模型名称。

49.3 数据的连接

原版坐标 214/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「49·3 数据的连接」的最小框架增量合同是显式管理循环状态、截断反向和时间批次,第214次检查保存时间索引、隐藏/记忆状态、detach边界、序列batch、损失与预测轨迹;若产生跨样本泄漏隐藏状态或错误切断图,就返回上一步快照。

49.4 用于训练的代码

原版坐标 215/275。 第215个正式坐标「49·4 用于训练的代码」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界呈现把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;只复述代码或模型名称会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

49.5 数据集的预处理

原版坐标 216/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标216中,目录项「49·5 数据集的预处理」用于以可重放数据管道提供批次、预处理与独立评估;先冻结代码快照、对象图与shape,再以数据版本、索引、shuffle种子、batch、变换统计、标签和指标复核,出现预处理泄漏或末批处理不一致时撤回结论。

步骤50 用于取出小批量数据的DataLoader

原版坐标 217/275。 目录项「步骤50 用于取出小批量数据的DataLoader」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第217个框架问题:它怎样声明本步相对上一快照新增的框架能力与依赖、改变哪个对象、图边、梯度或资源状态、由哪些前置API、代码差分、对象/边快照、回归用例和回退点证明,并如何排除把后续完整实现倒灌到当前步骤。

50.1 什么是迭代器

原版坐标 218/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级218把「50·1 什么是迭代器」落实为把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;复核者先读取代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界,不能接受只复述代码或模型名称。

50.2 使用DataLoader

原版坐标 219/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「50·2 使用DataLoader」的最小框架增量合同是以可重放数据管道提供批次、预处理与独立评估,第219次检查保存数据版本、索引、shuffle种子、batch、变换统计、标签和指标;若产生预处理泄漏或末批处理不一致,就返回上一步快照。

50.3 accuracy函数的实现

原版坐标 220/275。 第220个正式坐标「50·3 accuracy函数的实现」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以数据版本、索引、shuffle种子、batch、变换统计、标签和指标呈现以可重放数据管道提供批次、预处理与独立评估;预处理泄漏或末批处理不一致会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

50.4 螺旋数据集的训练代码

原版坐标 221/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标221中,目录项「50·4 螺旋数据集的训练代码」用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;先冻结代码快照、对象图与shape,再以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界复核,出现只复述代码或模型名称时撤回结论。

步骤51 MNIST的训练

原版坐标 222/275。 目录项「步骤51 MNIST的训练」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第222个框架问题:它怎样声明本步相对上一快照新增的框架能力与依赖、改变哪个对象、图边、梯度或资源状态、由哪些前置API、代码差分、对象/边快照、回归用例和回退点证明,并如何排除把后续完整实现倒灌到当前步骤。

51.1 MNIST数据集

原版坐标 223/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级223把「51·1 MNIST数据集」落实为以可重放数据管道提供批次、预处理与独立评估;复核者先读取数据版本、索引、shuffle种子、batch、变换统计、标签和指标,不能接受预处理泄漏或末批处理不一致。

51.2 训练MNIST

原版坐标 224/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「51·2 训练MNIST」的最小框架增量合同是以可重放数据管道提供批次、预处理与独立评估,第224次检查保存数据版本、索引、shuffle种子、batch、变换统计、标签和指标;若产生预处理泄漏或末批处理不一致,就返回上一步快照。

51.3 改进模型

原版坐标 225/275。 第225个正式坐标「51·3 改进模型」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界呈现把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;只复述代码或模型名称会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

第5阶段 DeZero高级挑战

原版坐标 226/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标226中,目录项「第5阶段 DeZero高级挑战」用于声明本步相对上一快照新增的框架能力与依赖;先冻结代码快照、对象图与shape,再以前置API、代码差分、对象/边快照、回归用例和回退点复核,出现把后续完整实现倒灌到当前步骤时撤回结论。

步骤52 支持GPU

原版坐标 227/275。 目录项「步骤52 支持GPU」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第227个框架问题:它怎样声明本步相对上一快照新增的框架能力与依赖、改变哪个对象、图边、梯度或资源状态、由哪些前置API、代码差分、对象/边快照、回归用例和回退点证明,并如何排除把后续完整实现倒灌到当前步骤。

52.1 CuPy的安装和使用方法

原版坐标 228/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级228把「52·1 CuPy的安装和使用方法」落实为跨设备、序列化和训练模式保持参数与缓存语义;复核者先读取设备、dtype、参数键、checkpoint、随机mask、train/test开关与依赖版本,不能接受数据、参数或缓存停留在旧设备/模式。

52.2 cuda模块

原版坐标 229/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「52·2 cuda模块」的最小框架增量合同是跨设备、序列化和训练模式保持参数与缓存语义,第229次检查保存设备、dtype、参数键、checkpoint、随机mask、train/test开关与依赖版本;若产生数据、参数或缓存停留在旧设备/模式,就返回上一步快照。

52.3 向Variable/Layer/DataLoader类添加代码

原版坐标 230/275。 第230个正式坐标「52·3 向Variable/Layer/DataLoader类添加代码」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数呈现用Variable与Function对象记录前向边并按链式法则传播梯度;边丢失、对象覆盖或错误拓扑顺序会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

52.4 函数的相应修改

原版坐标 231/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标231中,目录项「52·4 函数的相应修改」用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;先冻结代码快照、对象图与shape,再以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界复核,出现只复述代码或模型名称时撤回结论。

52.5 在GPU上训练MNIST

原版坐标 232/275。 目录项「52·5 在GPU上训练MNIST」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第232个框架问题:它怎样以可重放数据管道提供批次、预处理与独立评估、改变哪个对象、图边、梯度或资源状态、由哪些数据版本、索引、shuffle种子、batch、变换统计、标签和指标证明,并如何排除预处理泄漏或末批处理不一致。

步骤53 模型的保存和加载

原版坐标 233/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级233把「步骤53 模型的保存和加载」落实为声明本步相对上一快照新增的框架能力与依赖;复核者先读取前置API、代码差分、对象/边快照、回归用例和回退点,不能接受把后续完整实现倒灌到当前步骤。

53.1 NumPy的save函数和load函数

原版坐标 234/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「53·1 NumPy的save函数和load函数」的最小框架增量合同是把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,第234次检查保存代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界;若产生只复述代码或模型名称,就返回上一步快照。

53.2 Layer类参数的扁平化

原版坐标 235/275。 第235个正式坐标「53·2 Layer类参数的扁平化」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以Parameter注册、Layer递归、损失、梯度清零、Optimizer状态、预测与曲线呈现将自动微分核心组装为参数可发现、可优化的模型系统;参数遍历漏项或测试数据参与选择会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

53.3 Layer类的save函数和load函数

原版坐标 236/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标236中,目录项「53·3 Layer类的save函数和load函数」用于将自动微分核心组装为参数可发现、可优化的模型系统;先冻结代码快照、对象图与shape,再以Parameter注册、Layer递归、损失、梯度清零、Optimizer状态、预测与曲线复核,出现参数遍历漏项或测试数据参与选择时撤回结论。

步骤54 Dropout和测试模式

原版坐标 237/275。 目录项「步骤54 Dropout和测试模式」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第237个框架问题:它怎样声明本步相对上一快照新增的框架能力与依赖、改变哪个对象、图边、梯度或资源状态、由哪些前置API、代码差分、对象/边快照、回归用例和回退点证明,并如何排除把后续完整实现倒灌到当前步骤。

54.1 什么是Dropout

原版坐标 238/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级238把「54·1 什么是Dropout」落实为跨设备、序列化和训练模式保持参数与缓存语义;复核者先读取设备、dtype、参数键、checkpoint、随机mask、train/test开关与依赖版本,不能接受数据、参数或缓存停留在旧设备/模式。

54.2 Inverted Dropout

原版坐标 239/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「54·2 Inverted Dropout」的最小框架增量合同是跨设备、序列化和训练模式保持参数与缓存语义,第239次检查保存设备、dtype、参数键、checkpoint、随机mask、train/test开关与依赖版本;若产生数据、参数或缓存停留在旧设备/模式,就返回上一步快照。

54.3 增加测试模式

原版坐标 240/275。 第240个正式坐标「54·3 增加测试模式」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以差分步长、数值/解析梯度、相对误差、输入种子和失败定位呈现以中心差分和自动测试反证反向传播实现;只测一个幸运输入或差分步长不稳定会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

54.4 Dropout的实现

原版坐标 241/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标241中,目录项「54·4 Dropout的实现」用于跨设备、序列化和训练模式保持参数与缓存语义;先冻结代码快照、对象图与shape,再以设备、dtype、参数键、checkpoint、随机mask、train/test开关与依赖版本复核,出现数据、参数或缓存停留在旧设备/模式时撤回结论。

步骤55 CNN的机制(1)

原版坐标 242/275。 目录项「步骤55 CNN的机制(1)」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第242个框架问题:它怎样声明本步相对上一快照新增的框架能力与依赖、改变哪个对象、图边、梯度或资源状态、由哪些前置API、代码差分、对象/边快照、回归用例和回退点证明,并如何排除把后续完整实现倒灌到当前步骤。

55.1 CNN的网络结构

原版坐标 243/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级243把「55·1 CNN的网络结构」落实为由卷积几何与im2col实现CNN前反向和预训练模型;复核者先读取NCHW/核shape、padding/stride、窗口、col矩阵、梯度与权重版本,不能接受边界取整、通道轴或权重预处理错位。

55.2 卷积运算

原版坐标 244/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「55·2 卷积运算」的最小框架增量合同是由卷积几何与im2col实现CNN前反向和预训练模型,第244次检查保存NCHW/核shape、padding/stride、窗口、col矩阵、梯度与权重版本;若产生边界取整、通道轴或权重预处理错位,就返回上一步快照。

55.3 填充

原版坐标 245/275。 第245个正式坐标「55·3 填充」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以NCHW/核shape、padding/stride、窗口、col矩阵、梯度与权重版本呈现由卷积几何与im2col实现CNN前反向和预训练模型;边界取整、通道轴或权重预处理错位会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

55.4 步幅

原版坐标 246/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标246中,目录项「55·4 步幅」用于由卷积几何与im2col实现CNN前反向和预训练模型;先冻结代码快照、对象图与shape,再以NCHW/核shape、padding/stride、窗口、col矩阵、梯度与权重版本复核,出现边界取整、通道轴或权重预处理错位时撤回结论。

55.5 输出大小的计算方法

原版坐标 247/275。 目录项「55·5 输出大小的计算方法」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第247个框架问题:它怎样把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同、改变哪个对象、图边、梯度或资源状态、由哪些代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界证明,并如何排除只复述代码或模型名称。

步骤56 CNN的机制(2)

原版坐标 248/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级248把「步骤56 CNN的机制(2)」落实为声明本步相对上一快照新增的框架能力与依赖;复核者先读取前置API、代码差分、对象/边快照、回归用例和回退点,不能接受把后续完整实现倒灌到当前步骤。

56.1 三阶张量

原版坐标 249/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「56·1 三阶张量」的最小框架增量合同是为张量变形、归约、广播、矩阵积和切片实现互为伴随的反向,第249次检查保存输入输出shape、轴、keepdims、sum_to/broadcast_to、索引与梯度散射;若产生前向可广播但反向归约轴错误,就返回上一步快照。

56.2 结合方块进行思考

原版坐标 250/275。 第250个正式坐标「56·2 结合方块进行思考」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界呈现把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;只复述代码或模型名称会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

56.3 小批量处理

原版坐标 251/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标251中,目录项「56·3 小批量处理」用于以可重放数据管道提供批次、预处理与独立评估;先冻结代码快照、对象图与shape,再以数据版本、索引、shuffle种子、batch、变换统计、标签和指标复核,出现预处理泄漏或末批处理不一致时撤回结论。

56.4 池化层

原版坐标 252/275。 目录项「56·4 池化层」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第252个框架问题:它怎样把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同、改变哪个对象、图边、梯度或资源状态、由哪些代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界证明,并如何排除只复述代码或模型名称。

步骤57 conv2d函数和pooling函数

原版坐标 253/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级253把「步骤57 conv2d函数和pooling函数」落实为声明本步相对上一快照新增的框架能力与依赖;复核者先读取前置API、代码差分、对象/边快照、回归用例和回退点,不能接受把后续完整实现倒灌到当前步骤。

57.1 使用im2col展开

原版坐标 254/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「57·1 使用im2col展开」的最小框架增量合同是由卷积几何与im2col实现CNN前反向和预训练模型,第254次检查保存NCHW/核shape、padding/stride、窗口、col矩阵、梯度与权重版本;若产生边界取整、通道轴或权重预处理错位,就返回上一步快照。

57.2 conv2d函数的实现

原版坐标 255/275。 第255个正式坐标「57·2 conv2d函数的实现」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以NCHW/核shape、padding/stride、窗口、col矩阵、梯度与权重版本呈现由卷积几何与im2col实现CNN前反向和预训练模型;边界取整、通道轴或权重预处理错位会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

57.3 Conv2d层的实现

原版坐标 256/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标256中,目录项「57·3 Conv2d层的实现」用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;先冻结代码快照、对象图与shape,再以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界复核,出现只复述代码或模型名称时撤回结论。

57.4 pooling函数的实现

原版坐标 257/275。 目录项「57·4 pooling函数的实现」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第257个框架问题:它怎样由卷积几何与im2col实现CNN前反向和预训练模型、改变哪个对象、图边、梯度或资源状态、由哪些NCHW/核shape、padding/stride、窗口、col矩阵、梯度与权重版本证明,并如何排除边界取整、通道轴或权重预处理错位。

步骤58 具有代表性的CNN(VGG16)

原版坐标 258/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级258把「步骤58 具有代表性的CNN(VGG16)」落实为声明本步相对上一快照新增的框架能力与依赖;复核者先读取前置API、代码差分、对象/边快照、回归用例和回退点,不能接受把后续完整实现倒灌到当前步骤。

58.1 VGG16的实现

原版坐标 259/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「58·1 VGG16的实现」的最小框架增量合同是由卷积几何与im2col实现CNN前反向和预训练模型,第259次检查保存NCHW/核shape、padding/stride、窗口、col矩阵、梯度与权重版本;若产生边界取整、通道轴或权重预处理错位,就返回上一步快照。

58.2 已训练的权重数据

原版坐标 260/275。 第260个正式坐标「58·2 已训练的权重数据」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界呈现把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;只复述代码或模型名称会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

58.3 使用已训练的VGG16

原版坐标 261/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标261中,目录项「58·3 使用已训练的VGG16」用于由卷积几何与im2col实现CNN前反向和预训练模型;先冻结代码快照、对象图与shape,再以NCHW/核shape、padding/stride、窗口、col矩阵、梯度与权重版本复核,出现边界取整、通道轴或权重预处理错位时撤回结论。

步骤59 使用RNN处理时间序列数据

原版坐标 262/275。 目录项「步骤59 使用RNN处理时间序列数据」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第262个框架问题:它怎样声明本步相对上一快照新增的框架能力与依赖、改变哪个对象、图边、梯度或资源状态、由哪些前置API、代码差分、对象/边快照、回归用例和回退点证明,并如何排除把后续完整实现倒灌到当前步骤。

59.1 RNN层的实现

原版坐标 263/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级263把「59·1 RNN层的实现」落实为显式管理循环状态、截断反向和时间批次;复核者先读取时间索引、隐藏/记忆状态、detach边界、序列batch、损失与预测轨迹,不能接受跨样本泄漏隐藏状态或错误切断图。

59.2 RNN模型的实现

原版坐标 264/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「59·2 RNN模型的实现」的最小框架增量合同是显式管理循环状态、截断反向和时间批次,第264次检查保存时间索引、隐藏/记忆状态、detach边界、序列batch、损失与预测轨迹;若产生跨样本泄漏隐藏状态或错误切断图,就返回上一步快照。

59.3 切断连接的方法

原版坐标 265/275。 第265个正式坐标「59·3 切断连接的方法」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以时间索引、隐藏/记忆状态、detach边界、序列batch、损失与预测轨迹呈现显式管理循环状态、截断反向和时间批次;跨样本泄漏隐藏状态或错误切断图会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

59.4 正弦波的预测

原版坐标 266/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标266中,目录项「59·4 正弦波的预测」用于显式管理循环状态、截断反向和时间批次;先冻结代码快照、对象图与shape,再以时间索引、隐藏/记忆状态、detach边界、序列batch、损失与预测轨迹复核,出现跨样本泄漏隐藏状态或错误切断图时撤回结论。

步骤60 LSTM与数据加载器

原版坐标 267/275。 目录项「步骤60 LSTM与数据加载器」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第267个框架问题:它怎样声明本步相对上一快照新增的框架能力与依赖、改变哪个对象、图边、梯度或资源状态、由哪些前置API、代码差分、对象/边快照、回归用例和回退点证明,并如何排除把后续完整实现倒灌到当前步骤。

60.1 用于时间序列数据的数据加载器

原版坐标 268/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级268把「60·1 用于时间序列数据的数据加载器」落实为跨设备、序列化和训练模式保持参数与缓存语义;复核者先读取设备、dtype、参数键、checkpoint、随机mask、train/test开关与依赖版本,不能接受数据、参数或缓存停留在旧设备/模式。

60.2 LSTM层的实现

原版坐标 269/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「60·2 LSTM层的实现」的最小框架增量合同是显式管理循环状态、截断反向和时间批次,第269次检查保存时间索引、隐藏/记忆状态、detach边界、序列batch、损失与预测轨迹;若产生跨样本泄漏隐藏状态或错误切断图,就返回上一步快照。

附录A in-place运算(步骤14的补充内容)

原版坐标 270/275。 第270个正式坐标「附录A in-place运算(步骤14的补充内容)」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以前置API、代码差分、对象/边快照、回归用例和回退点呈现声明本步相对上一快照新增的框架能力与依赖;把后续完整实现倒灌到当前步骤会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

A.1 问题确认

原版坐标 271/275。 在“《深度学习入门2:自制框架》275个原版目录层级学习地图”的坐标271中,目录项「A·1 问题确认」用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同;先冻结代码快照、对象图与shape,再以代码快照、输入输出对象、图边、张量shape、缓存、梯度、资源状态、反例和时间边界复核,出现只复述代码或模型名称时撤回结论。

A.2 关于复制和覆盖

原版坐标 272/275。 目录项「A·2 关于复制和覆盖」进入“《深度学习入门2:自制框架》275个原版目录层级学习地图”后要回答第272个框架问题:它怎样区分数组别名、复制与前向缓存不变量、改变哪个对象、图边、梯度或资源状态、由哪些对象id、内存共享、版本计数、缓存值、覆盖前后梯度和反例证明,并如何排除原地修改让反向读取被污染缓存。

A.3 DeZero的反向传播

原版坐标 273/275。 围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”“《深度学习入门2:自制框架》275个原版目录层级学习地图”在原版层级273把「A·3 DeZero的反向传播」落实为用Variable与Function对象记录前向边并按链式法则传播梯度;复核者先读取对象身份、data/grad/creator、inputs/outputs、generation、缓存和局部导数,不能接受边丢失、对象覆盖或错误拓扑顺序。

附录B 实现get_item函数(步骤47的补充内容)

原版坐标 274/275。 对“《深度学习入门2:自制框架》275个原版目录层级学习地图”而言,目录项「附录B 实现get_item函数(步骤47的补充内容)」的最小框架增量合同是声明本步相对上一快照新增的框架能力与依赖,第274次检查保存前置API、代码差分、对象/边快照、回归用例和回退点;若产生把后续完整实现倒灌到当前步骤,就返回上一步快照。

附录C 在Google Colaboratory上运行

原版坐标 275/275。 第275个正式坐标「附录C 在Google Colaboratory上运行」服务于沿5阶段60步与附录A-C恢复DeZero从自动微分核心到神经网络、GPU、CNN和RNN的连续演进,需要以设备、dtype、参数键、checkpoint、随机mask、train/test开关与依赖版本呈现跨设备、序列化和训练模式保持参数与缓存语义;数据、参数或缓存停留在旧设备/模式会破坏“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

先预测,再操作三个步骤专属框架实验

分步1 / 3

1. 对象、图边与前向合同

固定“从空包开始,用60次小提交构建DeZero,并为每步保留参考与故障轨迹。”,在参考与反例间切换,逐阶段查看“阶段定位、前置合同、新增能力、反向证据、全量回归”的对象输入、连边动作、输出和身份/shape检查。

DeZero 计算图合同

选择运行情形,逐步核对对象、边、generation 与输出

怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?

输入设置

从空包开始,用60次小提交构建DeZero,并为每步保留参考与故障轨迹。 固定代码快照、对象图、输入、shape、顺序、容差和种子。

事前预测

沿“阶段定位 → 前置合同 → 新增能力 → 反向证据 → 全量回归”得到可复核框架增量。

适用边界

全过程必须满足“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”。

进入本步的对象状态

《深度学习入门2:自制框架》275个原版目录层级学习地图:锁定上一步快照、对象与公共API,保持其余DeZero合同不变

框架扩展或算子动作

冻结版本、对象身份、dtype/shape、图边和允许读取的信息,并持续满足“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”

离开本步的图状态

阶段定位产生可追溯框架前置状态

身份、shape、梯度与生命周期检查

可追溯框架前置状态、身份/shape/梯度断言;出现“按主题合并步骤,或直接展示最终框架而隐去中间设计决策、失败模式和兼容回归”时停止

原版坐标:第1阶段 自动微分、步骤1 作为“箱子”的变量、1.1 什么是变量、1.2 实现Variable类、1.3 (补充)NumPy的多维数组、步骤2 创建变量的函数、2.1 什么是函数、2.2 Function类的实现、2.3 使用Function类、步骤3 函数的连续调用、3.1 Exp函数的实现、3.2 函数的连续调用、步骤4 数值微分、4.1 什么是导数、4.2 数值微分的实现、4.3 复合函数的导数、4.4 数值微分存在的问题、步骤5 反向传播的理论知识、5.1 链式法则、5.2 反向传播的推导、5.3 用计算图表示、步骤6 手动进行反向传播、6.1 Variable类的功能扩展、6.2 Function类的功能扩展、6.3 Square类和Exp类的功能扩展、6.4 反向传播的实现、步骤7 反向传播的自动化、7.1 为反向传播的自动化创造条件、7.2 尝试反向传播、7.3 增加backward方法、步骤8 从递归到循环、8.1 现在的Variable类、8.2 使用循环实现、8.3 代码验证、步骤9 让函数更易用、9.1 作为Python函数使用、9.2 简化backward方法、9.3 只支持ndarray、步骤10 测试、10.1 Python的单元测试、10.2 square函数反向传播的测试、10.3 通过梯度检验来自动测试、10.4 测试小结、第2阶段 用自然的代码表达、步骤11 可变长参数(正向传播篇)、11.1 修改Function类、11.2 Add类的实现、步骤12 可变长参数(改进篇)、12.1 第1项改进:使函数更容易使用、12.2 第2项改进:使函数更容易实现、12.3 add函数的实现、步骤13 可变长参数(反向传播篇)、13.1 支持可变长参数的Add类的反向传播、13.2 修改Variable类、13.3 Square类的实现、步骤14 重复使用同一个变量、14.1 问题的原因、14.2 解决方案、14.3 重置导数、步骤15 复杂的计算图(理论篇)、15.1 反向传播的正确顺序、15.2 当前的DeZero、15.3 函数的优先级、步骤16 复杂的计算图(实现篇)、16.1 增加“辈分”变量、16.2 按照“辈分”顺序取出元素、16.3 Variable类的backward、16.4 代码验证、步骤17 内存管理和循环引用、17.1 内存管理、17.2 引用计数方式的内存管理、17.3 循环引用、17.4 weakref模块、17.5 代码验证、步骤18 减少内存使用量的模式、18.1 不保留不必要的导数、18.2 回顾Function类、18.3 使用Config类进行切换、18.4 模式的切换、18.5 使用with语句切换、步骤19 让变量更易用、19.1 命名变量、19.2 实例变量ndarray、19.3 len函数和print函数、步骤20 运算符重载(1)、20.1 Mul类的实现、20.2 运算符重载、步骤21 运算符重载(2)、21.1 与ndarray一起使用、21.2 与float和int一起使用、21.3 问题1:左项为float或int的情况、21.4 问题2:左项为ndarray实例的情况、步骤22 运算符重载(3)、22.1 负数、22.2 减法、22.3 除法、22.4 幂运算、步骤23 打包、23.1 文件结构、23.2 将代码移到核心类、23.3 运算符重载、23.4 实际的__init__.py文件、23.5 导入dezero、步骤24 复杂函数的求导、24.1 Sphere函数、24.2 matyas函数、24.3 Goldstein-Price函数、第3阶段 实现高阶导数、步骤25 计算图的可视化(1)、25.1 安装Graphviz、25.2 使用DOT语言描述图形、25.3 指定节点属性、25.4 连接节点、步骤26 计算图的可视化(2)、26.1 可视化代码的使用示例、26.2 从计算图转换为DOT语言、26.3 从DOT语言转换为图像、26.4 代码验证、步骤27 泰勒展开的导数、27.1 sin函数的实现、27.2 泰勒展开的理论知识、27.3 泰勒展开的实现、27.4 计算图的可视化、步骤28 函数优化、28.1 Rosenbrock函数、28.2 求导、28.3 梯度下降法的实现、步骤29 使用牛顿法进行优化(手动计算)、29.1 使用牛顿法进行优化的理论知识、29.2 使用牛顿法实现优化、步骤30 高阶导数(准备篇)、30.1 确认工作①:Variable实例变量、30.2 确认工作②:Function类、30.3 确认工作③:Variable类的反向传播、步骤31 高阶导数(理论篇)、31.1 在反向传播时进行的计算、31.2 创建反向传播的计算图的方法、步骤32 高阶导数(实现篇)、32.1 新的DeZero、32.2 函数类的反向传播、32.3 实现更有效的反向传播(增加模式控制代码)、32.4 修改__init__.py、步骤33 使用牛顿法进行优化(自动计算)、33.1 求二阶导数、33.2 使用牛顿法进行优化、步骤34 sin函数的高阶导数、34.1 sin函数的实现、34.2 cos函数的实现、34.3 sin函数的高阶导数、步骤35 高阶导数的计算图、35.1 tanh函数的导数、35.2 tanh函数的实现、35.3 高阶导数的计算图可视化、步骤36 DeZero的其他用途、36.1 double backprop的用途、36.2 深度学习研究中的应用示例、第4阶段 创建神经网络、步骤37 处理张量、37.1 对各元素进行计算、37.2 使用张量时的反向传播、37.3 使用张量时的反向传播(补充内容)、步骤38 改变形状的函数、38.1 reshape函数的实现、38.2 从Variable对象调用reshape、38.3 矩阵的转置、38.4 实际的transpose函数(补充内容)、步骤39 求和的函数、39.1 sum函数的反向传播、39.2 sum函数的实现、39.3 axis和keepdims、步骤40 进行广播的函数、40.1 broadcast_to函数和sum_to函数、40.2 DeZero的broadcast_to函数和sum_to函数、40.3 支持广播、步骤41 矩阵的乘积、41.1 向量的内积和矩阵的乘积、41.2 检查矩阵的形状、41.3 矩阵乘积的反向传播、步骤42 线性回归、42.1 玩具数据集、42.2 线性回归的理论知识、42.3 线性回归的实现、42.4 DeZero的mean_squared_error函数(补充内容)、步骤43 神经网络、43.1 DeZero中的linear函数、43.2 非线性数据集、43.3 激活函数和神经网络、43.4 神经网络的实现、步骤44 汇总参数的层、44.1 Parameter类的实现、44.2 Layer类的实现、44.3 Linear类的实现、44.4 使用Layer实现神经网络、步骤45 汇总层的层、45.1 扩展Layer类、45.2 Model类、45.3 使用Model来解决问题、45.4 MLP类、步骤46 通过Optimizer更新参数、46.1 Optimizer类、46.2 SGD类的实现、46.3 使用SGD类来解决问题、46.4 SGD以外的优化方法、步骤47 softmax函数和交叉熵误差、47.1 用于切片操作的函数、47.2 softmax函数、47.3 交叉熵误差、步骤48 多分类、48.1 螺旋数据集、48.2 用于训练的代码、步骤49 Dataset类和预处理、49.1 Dataset类的实现、49.2 大型数据集的情况、49.3 数据的连接、49.4 用于训练的代码、49.5 数据集的预处理、步骤50 用于取出小批量数据的DataLoader、50.1 什么是迭代器、50.2 使用DataLoader、50.3 accuracy函数的实现、50.4 螺旋数据集的训练代码、步骤51 MNIST的训练、51.1 MNIST数据集、51.2 训练MNIST、51.3 改进模型、第5阶段 DeZero高级挑战、步骤52 支持GPU、52.1 CuPy的安装和使用方法、52.2 cuda模块、52.3 向Variable/Layer/DataLoader类添加代码、52.4 函数的相应修改、52.5 在GPU上训练MNIST、步骤53 模型的保存和加载、53.1 NumPy的save函数和load函数、53.2 Layer类参数的扁平化、53.3 Layer类的save函数和load函数、步骤54 Dropout和测试模式、54.1 什么是Dropout、54.2 Inverted Dropout、54.3 增加测试模式、54.4 Dropout的实现、步骤55 CNN的机制(1)、55.1 CNN的网络结构、55.2 卷积运算、55.3 填充、55.4 步幅、55.5 输出大小的计算方法、步骤56 CNN的机制(2)、56.1 三阶张量、56.2 结合方块进行思考、56.3 小批量处理、56.4 池化层、步骤57 conv2d函数和pooling函数、57.1 使用im2col展开、57.2 conv2d函数的实现、57.3 Conv2d层的实现、57.4 pooling函数的实现、步骤58 具有代表性的CNN(VGG16)、58.1 VGG16的实现、58.2 已训练的权重数据、58.3 使用已训练的VGG16、步骤59 使用RNN处理时间序列数据、59.1 RNN层的实现、59.2 RNN模型的实现、59.3 切断连接的方法、59.4 正弦波的预测、步骤60 LSTM与数据加载器、60.1 用于时间序列数据的数据加载器、60.2 LSTM层的实现、附录A in-place运算(步骤14的补充内容)、A.1 问题确认、A.2 关于复制和覆盖、A.3 DeZero的反向传播、附录B 实现get_item函数(步骤47的补充内容)、附录C 在Google Colaboratory上运行

《深度学习入门2:自制框架》275个原版目录层级学习地图的可重放实现协议

阶段允许动作必留证据拒绝条件
阶段定位在“《深度学习入门2:自制框架》275个原版目录层级学习地图”执行阶段定位,只改变声明的对象、图边、算子、资源或模式状态代码快照、前置API、对象身份、dtype/shape与版本前置快照或对象图不可追溯
前置合同在“《深度学习入门2:自制框架》275个原版目录层级学习地图”执行前置合同,只改变声明的对象、图边、算子、资源或模式状态输入输出对象、creator/generation、缓存、梯度、参数与资源状态按主题合并步骤,或直接展示最终框架而隐去中间设计决策、失败模式和兼容回归
新增能力在“《深度学习入门2:自制框架》275个原版目录层级学习地图”执行新增能力,只改变声明的对象、图边、算子、资源或模式状态输入输出对象、creator/generation、缓存、梯度、参数与资源状态按主题合并步骤,或直接展示最终框架而隐去中间设计决策、失败模式和兼容回归
反向证据在“《深度学习入门2:自制框架》275个原版目录层级学习地图”执行反向证据,只改变声明的对象、图边、算子、资源或模式状态输入输出对象、creator/generation、缓存、梯度、参数与资源状态按主题合并步骤,或直接展示最终框架而隐去中间设计决策、失败模式和兼容回归
全量回归在“《深度学习入门2:自制框架》275个原版目录层级学习地图”执行全量回归,只改变声明的对象、图边、算子、资源或模式状态梯度对照、资源释放、跨设备/模式回归、反例与复现无法重放或缺少历史回归
unit: "learningMap"
question: "怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?"
scenario: "从空包开始,用60次小提交构建DeZero,并为每步保留参考与故障轨迹。"
stages: ["阶段定位", "前置合同", "新增能力", "反向证据", "全量回归"]
invariant: "5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯"
fault: "按主题合并步骤,或直接展示最终框架而隐去中间设计决策、失败模式和兼容回归"
evidence: "275层覆盖矩阵、60步依赖图、每步代码差分、计算图快照、梯度测试、资源/设备状态和最终框架复现包"
reset: restore_case_stage_trace_mode_step_gates_and_artifact

该协议要求“《深度学习入门2:自制框架》275个原版目录层级学习地图”在相同代码快照、对象图、dtype/shape、初值、顺序、容差和种子下重放。重置后若案例、阶段、轨迹模式、步骤、框架门或证据包没有回到基线,交互状态已经污染比较。

本页回顾

掌握“《深度学习入门2:自制框架》275个原版目录层级学习地图”不是背诵最终代码或API,而是能围绕“怎样把275个原版目录坐标组织成60个可回退、可测试、可解释的框架增量?”重建前置快照、对象、图边、前向、梯度、资源与回归证据,并用“5个阶段标题、60个步骤、207个编号小节和3个附录逐项覆盖,每步前置合同、新增能力与回归证据可追溯”拒绝“按主题合并步骤,或直接展示最终框架而隐去中间设计决策、失败模式和兼容回归”。最终交付为275层覆盖矩阵、60步依赖图、每步代码差分、计算图快照、梯度测试、资源/设备状态和最终框架复现包

练习与答案

练习

  1. 问题 1:框架增量合同。 “《深度学习入门2:自制框架》275个原版目录层级学习地图”为什么必须先冻结代码快照、对象图、dtype/shape、初值、顺序、容差和种子?
  1. 问题 2:目录逐项覆盖。 怎样证明原版目录坐标已经进入机制、交互和练习?
  1. 问题 3:故障恢复。 怎样证明“按主题合并步骤,或直接展示最终框架而隐去中间设计决策、失败模式和兼容回归”已经被修正?

小结

  • 60 步从零构建深度学习框架
  • 275 个原版层级逐项实现
  • 计算图与自动微分是核心
  • 每步代码可独立运行
  • 交付:理解框架本质的能力

名词解释

名词解释

本章出现的专业名词,用大白话再讲一遍。

自动微分

检索键 dl2-A 对应目录坐标「第1阶段 自动微分」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

作为“箱子”的变量

检索键 dl2-B 对应目录坐标「步骤1 作为“箱子”的变量」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

什么是变量

检索键 dl2-C 对应目录坐标「1·1 什么是变量」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

实现Variable类

检索键 dl2-D 对应目录坐标「1·2 实现Variable类」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

(补充)NumPy的多维数组

检索键 dl2-E 对应目录坐标「1·3 (补充)NumPy的多维数组」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

创建变量的函数

检索键 dl2-F 对应目录坐标「步骤2 创建变量的函数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

什么是函数

检索键 dl2-G 对应目录坐标「2·1 什么是函数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Function类的实现

检索键 dl2-H 对应目录坐标「2·2 Function类的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

使用Function类

检索键 dl2-I 对应目录坐标「2·3 使用Function类」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

函数的连续调用

检索键 dl2-J 对应目录坐标「步骤3 函数的连续调用」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Exp函数的实现

检索键 dl2-K 对应目录坐标「3·1 Exp函数的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

函数的连续调用

检索键 dl2-L 对应目录坐标「3·2 函数的连续调用」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

数值微分

检索键 dl2-M 对应目录坐标「步骤4 数值微分」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

什么是导数

检索键 dl2-N 对应目录坐标「4·1 什么是导数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于以中心差分和自动测试反证反向传播实现,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

数值微分的实现

检索键 dl2-O 对应目录坐标「4·2 数值微分的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于以中心差分和自动测试反证反向传播实现,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

复合函数的导数

检索键 dl2-P 对应目录坐标「4·3 复合函数的导数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于以中心差分和自动测试反证反向传播实现,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

数值微分存在的问题

检索键 dl2-Q 对应目录坐标「4·4 数值微分存在的问题」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于以中心差分和自动测试反证反向传播实现,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

反向传播的理论知识

检索键 dl2-R 对应目录坐标「步骤5 反向传播的理论知识」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

链式法则

检索键 dl2-S 对应目录坐标「5·1 链式法则」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

反向传播的推导

检索键 dl2-T 对应目录坐标「5·2 反向传播的推导」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

用计算图表示

检索键 dl2-U 对应目录坐标「5·3 用计算图表示」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

手动进行反向传播

检索键 dl2-V 对应目录坐标「步骤6 手动进行反向传播」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Variable类的功能扩展

检索键 dl2-W 对应目录坐标「6·1 Variable类的功能扩展」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Function类的功能扩展

检索键 dl2-X 对应目录坐标「6·2 Function类的功能扩展」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Square类和Exp类的功能扩展

检索键 dl2-Y 对应目录坐标「6·3 Square类和Exp类的功能扩展」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

反向传播的实现

检索键 dl2-Z 对应目录坐标「6·4 反向传播的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

反向传播的自动化

检索键 dl2-AA 对应目录坐标「步骤7 反向传播的自动化」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

为反向传播的自动化创造条件

检索键 dl2-AB 对应目录坐标「7·1 为反向传播的自动化创造条件」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

尝试反向传播

检索键 dl2-AC 对应目录坐标「7·2 尝试反向传播」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

增加backward方法

检索键 dl2-AD 对应目录坐标「7·3 增加backward方法」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

从递归到循环

检索键 dl2-AE 对应目录坐标「步骤8 从递归到循环」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

现在的Variable类

检索键 dl2-AF 对应目录坐标「8·1 现在的Variable类」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

使用循环实现

检索键 dl2-AG 对应目录坐标「8·2 使用循环实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

代码验证

检索键 dl2-AH 对应目录坐标「8·3 代码验证」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

让函数更易用

检索键 dl2-AI 对应目录坐标「步骤9 让函数更易用」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

作为Python函数使用

检索键 dl2-AJ 对应目录坐标「9·1 作为Python函数使用」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

简化backward方法

检索键 dl2-AK 对应目录坐标「9·2 简化backward方法」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

只支持ndarray

检索键 dl2-AL 对应目录坐标「9·3 只支持ndarray」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

测试

检索键 dl2-AM 对应目录坐标「步骤10 测试」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Python的单元测试

检索键 dl2-AN 对应目录坐标「10·1 Python的单元测试」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于以中心差分和自动测试反证反向传播实现,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

square函数反向传播的测试

检索键 dl2-AO 对应目录坐标「10·2 square函数反向传播的测试」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

通过梯度检验来自动测试

检索键 dl2-AP 对应目录坐标「10·3 通过梯度检验来自动测试」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于以中心差分和自动测试反证反向传播实现,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

测试小结

检索键 dl2-AQ 对应目录坐标「10·4 测试小结」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于以中心差分和自动测试反证反向传播实现,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

用自然的代码表达

检索键 dl2-AR 对应目录坐标「第2阶段 用自然的代码表达」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

可变长参数(正向传播篇)

检索键 dl2-AS 对应目录坐标「步骤11 可变长参数(正向传播篇)」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

修改Function类

检索键 dl2-AT 对应目录坐标「11·1 修改Function类」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Add类的实现

检索键 dl2-AU 对应目录坐标「11·2 Add类的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

可变长参数(改进篇)

检索键 dl2-AV 对应目录坐标「步骤12 可变长参数(改进篇)」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

第1项改进

检索键 dl2-AW 对应目录坐标「12·1 第1项改进:使函数更容易使用」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

第2项改进

检索键 dl2-AX 对应目录坐标「12·2 第2项改进:使函数更容易实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

add函数的实现

检索键 dl2-AY 对应目录坐标「12·3 add函数的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

可变长参数(反向传播篇)

检索键 dl2-AZ 对应目录坐标「步骤13 可变长参数(反向传播篇)」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

支持可变长参数的Add类的反向传播

检索键 dl2-BA 对应目录坐标「13·1 支持可变长参数的Add类的反向传播」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

修改Variable类

检索键 dl2-BB 对应目录坐标「13·2 修改Variable类」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Square类的实现

检索键 dl2-BC 对应目录坐标「13·3 Square类的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

重复使用同一个变量

检索键 dl2-BD 对应目录坐标「步骤14 重复使用同一个变量」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

问题的原因

检索键 dl2-BE 对应目录坐标「14·1 问题的原因」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

解决方案

检索键 dl2-BF 对应目录坐标「14·2 解决方案」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

重置导数

检索键 dl2-BG 对应目录坐标「14·3 重置导数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于以中心差分和自动测试反证反向传播实现,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

复杂的计算图(理论篇)

检索键 dl2-BH 对应目录坐标「步骤15 复杂的计算图(理论篇)」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

反向传播的正确顺序

检索键 dl2-BI 对应目录坐标「15·1 反向传播的正确顺序」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

当前的DeZero

检索键 dl2-BJ 对应目录坐标「15·2 当前的DeZero」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

函数的优先级

检索键 dl2-BK 对应目录坐标「15·3 函数的优先级」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于扩展自然API同时维护梯度累加、拓扑顺序和资源生命周期,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

复杂的计算图(实现篇)

检索键 dl2-BL 对应目录坐标「步骤16 复杂的计算图(实现篇)」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

增加“辈分”变量

检索键 dl2-BM 对应目录坐标「16·1 增加“辈分”变量」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

按照“辈分”顺序取出元素

检索键 dl2-BN 对应目录坐标「16·2 按照“辈分”顺序取出元素」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于扩展自然API同时维护梯度累加、拓扑顺序和资源生命周期,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Variable类的backward

检索键 dl2-BO 对应目录坐标「16·3 Variable类的backward」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

代码验证

检索键 dl2-BP 对应目录坐标「16·4 代码验证」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

内存管理和循环引用

检索键 dl2-BQ 对应目录坐标「步骤17 内存管理和循环引用」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

内存管理

检索键 dl2-BR 对应目录坐标「17·1 内存管理」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于扩展自然API同时维护梯度累加、拓扑顺序和资源生命周期,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

引用计数方式的内存管理

检索键 dl2-BS 对应目录坐标「17·2 引用计数方式的内存管理」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于扩展自然API同时维护梯度累加、拓扑顺序和资源生命周期,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

循环引用

检索键 dl2-BT 对应目录坐标「17·3 循环引用」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于扩展自然API同时维护梯度累加、拓扑顺序和资源生命周期,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

weakref模块

检索键 dl2-BU 对应目录坐标「17·4 weakref模块」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于扩展自然API同时维护梯度累加、拓扑顺序和资源生命周期,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

代码验证

检索键 dl2-BV 对应目录坐标「17·5 代码验证」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

减少内存使用量的模式

检索键 dl2-BW 对应目录坐标「步骤18 减少内存使用量的模式」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

不保留不必要的导数

检索键 dl2-BX 对应目录坐标「18·1 不保留不必要的导数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于以中心差分和自动测试反证反向传播实现,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

回顾Function类

检索键 dl2-BY 对应目录坐标「18·2 回顾Function类」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

使用Config类进行切换

检索键 dl2-BZ 对应目录坐标「18·3 使用Config类进行切换」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于扩展自然API同时维护梯度累加、拓扑顺序和资源生命周期,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

模式的切换

检索键 dl2-CA 对应目录坐标「18·4 模式的切换」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于扩展自然API同时维护梯度累加、拓扑顺序和资源生命周期,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

使用with语句切换

检索键 dl2-CB 对应目录坐标「18·5 使用with语句切换」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

让变量更易用

检索键 dl2-CC 对应目录坐标「步骤19 让变量更易用」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

命名变量

检索键 dl2-CD 对应目录坐标「19·1 命名变量」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

实例变量ndarray

检索键 dl2-CE 对应目录坐标「19·2 实例变量ndarray」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

len函数和print函数

检索键 dl2-CF 对应目录坐标「19·3 len函数和print函数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

运算符重载(1)

检索键 dl2-CG 对应目录坐标「步骤20 运算符重载(1)」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Mul类的实现

检索键 dl2-CH 对应目录坐标「20·1 Mul类的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

运算符重载

检索键 dl2-CI 对应目录坐标「20·2 运算符重载」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于扩展自然API同时维护梯度累加、拓扑顺序和资源生命周期,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

运算符重载(2)

检索键 dl2-CJ 对应目录坐标「步骤21 运算符重载(2)」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

与ndarray一起使用

检索键 dl2-CK 对应目录坐标「21·1 与ndarray一起使用」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

与float和int一起使用

检索键 dl2-CL 对应目录坐标「21·2 与float和int一起使用」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

问题1

检索键 dl2-CM 对应目录坐标「21·3 问题1:左项为float或int的情况」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

问题2

检索键 dl2-CN 对应目录坐标「21·4 问题2:左项为ndarray实例的情况」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

运算符重载(3)

检索键 dl2-CO 对应目录坐标「步骤22 运算符重载(3)」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

负数

检索键 dl2-CP 对应目录坐标「22·1 负数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

减法

检索键 dl2-CQ 对应目录坐标「22·2 减法」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

除法

检索键 dl2-CR 对应目录坐标「22·3 除法」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

幂运算

检索键 dl2-CS 对应目录坐标「22·4 幂运算」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

打包

检索键 dl2-CT 对应目录坐标「步骤23 打包」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

文件结构

检索键 dl2-CU 对应目录坐标「23·1 文件结构」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

将代码移到核心类

检索键 dl2-CV 对应目录坐标「23·2 将代码移到核心类」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

运算符重载

检索键 dl2-CW 对应目录坐标「23·3 运算符重载」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于扩展自然API同时维护梯度累加、拓扑顺序和资源生命周期,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

实际的__init__.py文件

检索键 dl2-CX 对应目录坐标「23·4 实际的__init__.py文件」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

导入dezero

检索键 dl2-CY 对应目录坐标「23·5 导入dezero」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

复杂函数的求导

检索键 dl2-CZ 对应目录坐标「步骤24 复杂函数的求导」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Sphere函数

检索键 dl2-DA 对应目录坐标「24·1 Sphere函数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

matyas函数

检索键 dl2-DB 对应目录坐标「24·2 matyas函数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Goldstein-Price函数

检索键 dl2-DC 对应目录坐标「24·3 Goldstein-Price函数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

实现高阶导数

检索键 dl2-DD 对应目录坐标「第3阶段 实现高阶导数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

计算图的可视化(1)

检索键 dl2-DE 对应目录坐标「步骤25 计算图的可视化(1)」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

安装Graphviz

检索键 dl2-DF 对应目录坐标「25·1 安装Graphviz」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于让反向传播也构图并以可视化、优化和高阶导验证,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

使用DOT语言描述图形

检索键 dl2-DG 对应目录坐标「25·2 使用DOT语言描述图形」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于让反向传播也构图并以可视化、优化和高阶导验证,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

指定节点属性

检索键 dl2-DH 对应目录坐标「25·3 指定节点属性」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

连接节点

检索键 dl2-DI 对应目录坐标「25·4 连接节点」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于显式管理循环状态、截断反向和时间批次,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

计算图的可视化(2)

检索键 dl2-DJ 对应目录坐标「步骤26 计算图的可视化(2)」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

可视化代码的使用示例

检索键 dl2-DK 对应目录坐标「26·1 可视化代码的使用示例」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于让反向传播也构图并以可视化、优化和高阶导验证,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

从计算图转换为DOT语言

检索键 dl2-DL 对应目录坐标「26·2 从计算图转换为DOT语言」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

从DOT语言转换为图像

检索键 dl2-DM 对应目录坐标「26·3 从DOT语言转换为图像」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于让反向传播也构图并以可视化、优化和高阶导验证,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

代码验证

检索键 dl2-DN 对应目录坐标「26·4 代码验证」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

泰勒展开的导数

检索键 dl2-DO 对应目录坐标「步骤27 泰勒展开的导数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

sin函数的实现

检索键 dl2-DP 对应目录坐标「27·1 sin函数的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

泰勒展开的理论知识

检索键 dl2-DQ 对应目录坐标「27·2 泰勒展开的理论知识」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于让反向传播也构图并以可视化、优化和高阶导验证,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

泰勒展开的实现

检索键 dl2-DR 对应目录坐标「27·3 泰勒展开的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于让反向传播也构图并以可视化、优化和高阶导验证,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

计算图的可视化

检索键 dl2-DS 对应目录坐标「27·4 计算图的可视化」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

函数优化

检索键 dl2-DT 对应目录坐标「步骤28 函数优化」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Rosenbrock函数

检索键 dl2-DU 对应目录坐标「28·1 Rosenbrock函数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于让反向传播也构图并以可视化、优化和高阶导验证,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

求导

检索键 dl2-DV 对应目录坐标「28·2 求导」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

梯度下降法的实现

检索键 dl2-DW 对应目录坐标「28·3 梯度下降法的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

使用牛顿法进行优化(手动计算)

检索键 dl2-DX 对应目录坐标「步骤29 使用牛顿法进行优化(手动计算)」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

使用牛顿法进行优化的理论知识

检索键 dl2-DY 对应目录坐标「29·1 使用牛顿法进行优化的理论知识」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于让反向传播也构图并以可视化、优化和高阶导验证,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

使用牛顿法实现优化

检索键 dl2-DZ 对应目录坐标「29·2 使用牛顿法实现优化」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于让反向传播也构图并以可视化、优化和高阶导验证,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

高阶导数(准备篇)

检索键 dl2-EA 对应目录坐标「步骤30 高阶导数(准备篇)」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

确认工作①

检索键 dl2-EB 对应目录坐标「30·1 确认工作①:Variable实例变量」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

确认工作②

检索键 dl2-EC 对应目录坐标「30·2 确认工作②:Function类」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

确认工作③

检索键 dl2-ED 对应目录坐标「30·3 确认工作③:Variable类的反向传播」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

高阶导数(理论篇)

检索键 dl2-EE 对应目录坐标「步骤31 高阶导数(理论篇)」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

在反向传播时进行的计算

检索键 dl2-EF 对应目录坐标「31·1 在反向传播时进行的计算」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

创建反向传播的计算图的方法

检索键 dl2-EG 对应目录坐标「31·2 创建反向传播的计算图的方法」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

高阶导数(实现篇)

检索键 dl2-EH 对应目录坐标「步骤32 高阶导数(实现篇)」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

新的DeZero

检索键 dl2-EI 对应目录坐标「32·1 新的DeZero」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

函数类的反向传播

检索键 dl2-EJ 对应目录坐标「32·2 函数类的反向传播」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

实现更有效的反向传播(增加模式控制代码)

检索键 dl2-EK 对应目录坐标「32·3 实现更有效的反向传播(增加模式控制代码)」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

修改__init__.py

检索键 dl2-EL 对应目录坐标「32·4 修改__init__.py」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

使用牛顿法进行优化(自动计算)

检索键 dl2-EM 对应目录坐标「步骤33 使用牛顿法进行优化(自动计算)」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

求二阶导数

检索键 dl2-EN 对应目录坐标「33·1 求二阶导数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于以中心差分和自动测试反证反向传播实现,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

使用牛顿法进行优化

检索键 dl2-EO 对应目录坐标「33·2 使用牛顿法进行优化」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于让反向传播也构图并以可视化、优化和高阶导验证,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

sin函数的高阶导数

检索键 dl2-EP 对应目录坐标「步骤34 sin函数的高阶导数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

sin函数的实现

检索键 dl2-EQ 对应目录坐标「34·1 sin函数的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

cos函数的实现

检索键 dl2-ER 对应目录坐标「34·2 cos函数的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

sin函数的高阶导数

检索键 dl2-ES 对应目录坐标「34·3 sin函数的高阶导数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于以中心差分和自动测试反证反向传播实现,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

高阶导数的计算图

检索键 dl2-ET 对应目录坐标「步骤35 高阶导数的计算图」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

tanh函数的导数

检索键 dl2-EU 对应目录坐标「35·1 tanh函数的导数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于以中心差分和自动测试反证反向传播实现,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

tanh函数的实现

检索键 dl2-EV 对应目录坐标「35·2 tanh函数的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

高阶导数的计算图可视化

检索键 dl2-EW 对应目录坐标「35·3 高阶导数的计算图可视化」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

DeZero的其他用途

检索键 dl2-EX 对应目录坐标「步骤36 DeZero的其他用途」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

double backprop的用途

检索键 dl2-EY 对应目录坐标「36·1 double backprop的用途」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于让反向传播也构图并以可视化、优化和高阶导验证,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

深度学习研究中的应用示例

检索键 dl2-EZ 对应目录坐标「36·2 深度学习研究中的应用示例」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

创建神经网络

检索键 dl2-FA 对应目录坐标「第4阶段 创建神经网络」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

处理张量

检索键 dl2-FB 对应目录坐标「步骤37 处理张量」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

对各元素进行计算

检索键 dl2-FC 对应目录坐标「37·1 对各元素进行计算」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

使用张量时的反向传播

检索键 dl2-FD 对应目录坐标「37·2 使用张量时的反向传播」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

使用张量时的反向传播(补充内容)

检索键 dl2-FE 对应目录坐标「37·3 使用张量时的反向传播(补充内容)」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

改变形状的函数

检索键 dl2-FF 对应目录坐标「步骤38 改变形状的函数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

reshape函数的实现

检索键 dl2-FG 对应目录坐标「38·1 reshape函数的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于为张量变形、归约、广播、矩阵积和切片实现互为伴随的反向,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

从Variable对象调用reshape

检索键 dl2-FH 对应目录坐标「38·2 从Variable对象调用reshape」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

矩阵的转置

检索键 dl2-FI 对应目录坐标「38·3 矩阵的转置」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于为张量变形、归约、广播、矩阵积和切片实现互为伴随的反向,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

实际的transpose函数(补充内容)

检索键 dl2-FJ 对应目录坐标「38·4 实际的transpose函数(补充内容)」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于为张量变形、归约、广播、矩阵积和切片实现互为伴随的反向,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

求和的函数

检索键 dl2-FK 对应目录坐标「步骤39 求和的函数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

sum函数的反向传播

检索键 dl2-FL 对应目录坐标「39·1 sum函数的反向传播」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

sum函数的实现

检索键 dl2-FM 对应目录坐标「39·2 sum函数的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于为张量变形、归约、广播、矩阵积和切片实现互为伴随的反向,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

axis和keepdims

检索键 dl2-FN 对应目录坐标「39·3 axis和keepdims」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于为张量变形、归约、广播、矩阵积和切片实现互为伴随的反向,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

进行广播的函数

检索键 dl2-FO 对应目录坐标「步骤40 进行广播的函数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

broadcast_to函数和sum_to函数

检索键 dl2-FP 对应目录坐标「40·1 broadcast_to函数和sum_to函数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于为张量变形、归约、广播、矩阵积和切片实现互为伴随的反向,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

实现坐标173

检索键 dl2-FQ 对应目录坐标「40·2 DeZero的broadcast_to函数和sum_to函数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于为张量变形、归约、广播、矩阵积和切片实现互为伴随的反向,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

支持广播

检索键 dl2-FR 对应目录坐标「40·3 支持广播」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于为张量变形、归约、广播、矩阵积和切片实现互为伴随的反向,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

矩阵的乘积

检索键 dl2-FS 对应目录坐标「步骤41 矩阵的乘积」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

向量的内积和矩阵的乘积

检索键 dl2-FT 对应目录坐标「41·1 向量的内积和矩阵的乘积」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于为张量变形、归约、广播、矩阵积和切片实现互为伴随的反向,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

检查矩阵的形状

检索键 dl2-FU 对应目录坐标「41·2 检查矩阵的形状」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于为张量变形、归约、广播、矩阵积和切片实现互为伴随的反向,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

矩阵乘积的反向传播

检索键 dl2-FV 对应目录坐标「41·3 矩阵乘积的反向传播」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

线性回归

检索键 dl2-FW 对应目录坐标「步骤42 线性回归」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

玩具数据集

检索键 dl2-FX 对应目录坐标「42·1 玩具数据集」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

线性回归的理论知识

检索键 dl2-FY 对应目录坐标「42·2 线性回归的理论知识」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于将自动微分核心组装为参数可发现、可优化的模型系统,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

线性回归的实现

检索键 dl2-FZ 对应目录坐标「42·3 线性回归的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于将自动微分核心组装为参数可发现、可优化的模型系统,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

实现坐标183

检索键 dl2-GA 对应目录坐标「42·4 DeZero的mean_squared_error函数(补充内容)」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

神经网络

检索键 dl2-GB 对应目录坐标「步骤43 神经网络」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

DeZero中的linear函数

检索键 dl2-GC 对应目录坐标「43·1 DeZero中的linear函数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

非线性数据集

检索键 dl2-GD 对应目录坐标「43·2 非线性数据集」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

激活函数和神经网络

检索键 dl2-GE 对应目录坐标「43·3 激活函数和神经网络」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于将自动微分核心组装为参数可发现、可优化的模型系统,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

神经网络的实现

检索键 dl2-GF 对应目录坐标「43·4 神经网络的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于将自动微分核心组装为参数可发现、可优化的模型系统,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

汇总参数的层

检索键 dl2-GG 对应目录坐标「步骤44 汇总参数的层」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Parameter类的实现

检索键 dl2-GH 对应目录坐标「44·1 Parameter类的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于将自动微分核心组装为参数可发现、可优化的模型系统,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Layer类的实现

检索键 dl2-GI 对应目录坐标「44·2 Layer类的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于将自动微分核心组装为参数可发现、可优化的模型系统,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Linear类的实现

检索键 dl2-GJ 对应目录坐标「44·3 Linear类的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

使用Layer实现神经网络

检索键 dl2-GK 对应目录坐标「44·4 使用Layer实现神经网络」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于将自动微分核心组装为参数可发现、可优化的模型系统,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

汇总层的层

检索键 dl2-GL 对应目录坐标「步骤45 汇总层的层」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

扩展Layer类

检索键 dl2-GM 对应目录坐标「45·1 扩展Layer类」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于将自动微分核心组装为参数可发现、可优化的模型系统,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Model类

检索键 dl2-GN 对应目录坐标「45·2 Model类」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于将自动微分核心组装为参数可发现、可优化的模型系统,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

使用Model来解决问题

检索键 dl2-GO 对应目录坐标「45·3 使用Model来解决问题」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于将自动微分核心组装为参数可发现、可优化的模型系统,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

MLP类

检索键 dl2-GP 对应目录坐标「45·4 MLP类」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于将自动微分核心组装为参数可发现、可优化的模型系统,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

通过Optimizer更新参数

检索键 dl2-GQ 对应目录坐标「步骤46 通过Optimizer更新参数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Optimizer类

检索键 dl2-GR 对应目录坐标「46·1 Optimizer类」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于将自动微分核心组装为参数可发现、可优化的模型系统,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

SGD类的实现

检索键 dl2-GS 对应目录坐标「46·2 SGD类的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于将自动微分核心组装为参数可发现、可优化的模型系统,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

使用SGD类来解决问题

检索键 dl2-GT 对应目录坐标「46·3 使用SGD类来解决问题」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于将自动微分核心组装为参数可发现、可优化的模型系统,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

SGD以外的优化方法

检索键 dl2-GU 对应目录坐标「46·4 SGD以外的优化方法」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于让反向传播也构图并以可视化、优化和高阶导验证,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

softmax函数和交叉熵误差

检索键 dl2-GV 对应目录坐标「步骤47 softmax函数和交叉熵误差」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

用于切片操作的函数

检索键 dl2-GW 对应目录坐标「47·1 用于切片操作的函数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于为张量变形、归约、广播、矩阵积和切片实现互为伴随的反向,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

softmax函数

检索键 dl2-GX 对应目录坐标「47·2 softmax函数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于将自动微分核心组装为参数可发现、可优化的模型系统,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

交叉熵误差

检索键 dl2-GY 对应目录坐标「47·3 交叉熵误差」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于将自动微分核心组装为参数可发现、可优化的模型系统,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

多分类

检索键 dl2-GZ 对应目录坐标「步骤48 多分类」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

螺旋数据集

检索键 dl2-HA 对应目录坐标「48·1 螺旋数据集」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

用于训练的代码

检索键 dl2-HB 对应目录坐标「48·2 用于训练的代码」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Dataset类和预处理

检索键 dl2-HC 对应目录坐标「步骤49 Dataset类和预处理」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Dataset类的实现

检索键 dl2-HD 对应目录坐标「49·1 Dataset类的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于以可重放数据管道提供批次、预处理与独立评估,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

大型数据集的情况

检索键 dl2-HE 对应目录坐标「49·2 大型数据集的情况」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

数据的连接

检索键 dl2-HF 对应目录坐标「49·3 数据的连接」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于显式管理循环状态、截断反向和时间批次,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

用于训练的代码

检索键 dl2-HG 对应目录坐标「49·4 用于训练的代码」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

数据集的预处理

检索键 dl2-HH 对应目录坐标「49·5 数据集的预处理」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于以可重放数据管道提供批次、预处理与独立评估,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

用于取出小批量数据的DataLoader

检索键 dl2-HI 对应目录坐标「步骤50 用于取出小批量数据的DataLoader」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

什么是迭代器

检索键 dl2-HJ 对应目录坐标「50·1 什么是迭代器」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

使用DataLoader

检索键 dl2-HK 对应目录坐标「50·2 使用DataLoader」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于以可重放数据管道提供批次、预处理与独立评估,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

accuracy函数的实现

检索键 dl2-HL 对应目录坐标「50·3 accuracy函数的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于以可重放数据管道提供批次、预处理与独立评估,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

螺旋数据集的训练代码

检索键 dl2-HM 对应目录坐标「50·4 螺旋数据集的训练代码」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

MNIST的训练

检索键 dl2-HN 对应目录坐标「步骤51 MNIST的训练」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

MNIST数据集

检索键 dl2-HO 对应目录坐标「51·1 MNIST数据集」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于以可重放数据管道提供批次、预处理与独立评估,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

训练MNIST

检索键 dl2-HP 对应目录坐标「51·2 训练MNIST」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于以可重放数据管道提供批次、预处理与独立评估,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

改进模型

检索键 dl2-HQ 对应目录坐标「51·3 改进模型」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

DeZero高级挑战

检索键 dl2-HR 对应目录坐标「第5阶段 DeZero高级挑战」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

支持GPU

检索键 dl2-HS 对应目录坐标「步骤52 支持GPU」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

CuPy的安装和使用方法

检索键 dl2-HT 对应目录坐标「52·1 CuPy的安装和使用方法」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于跨设备、序列化和训练模式保持参数与缓存语义,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

cuda模块

检索键 dl2-HU 对应目录坐标「52·2 cuda模块」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于跨设备、序列化和训练模式保持参数与缓存语义,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

实现坐标230

检索键 dl2-HV 对应目录坐标「52·3 向Variable/Layer/DataLoader类添加代码」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

函数的相应修改

检索键 dl2-HW 对应目录坐标「52·4 函数的相应修改」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

在GPU上训练MNIST

检索键 dl2-HX 对应目录坐标「52·5 在GPU上训练MNIST」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于以可重放数据管道提供批次、预处理与独立评估,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

模型的保存和加载

检索键 dl2-HY 对应目录坐标「步骤53 模型的保存和加载」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

NumPy的save函数和load函数

检索键 dl2-HZ 对应目录坐标「53·1 NumPy的save函数和load函数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Layer类参数的扁平化

检索键 dl2-IA 对应目录坐标「53·2 Layer类参数的扁平化」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于将自动微分核心组装为参数可发现、可优化的模型系统,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Layer类的save函数和load函数

检索键 dl2-IB 对应目录坐标「53·3 Layer类的save函数和load函数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于将自动微分核心组装为参数可发现、可优化的模型系统,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Dropout和测试模式

检索键 dl2-IC 对应目录坐标「步骤54 Dropout和测试模式」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

什么是Dropout

检索键 dl2-ID 对应目录坐标「54·1 什么是Dropout」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于跨设备、序列化和训练模式保持参数与缓存语义,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Inverted Dropout

检索键 dl2-IE 对应目录坐标「54·2 Inverted Dropout」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于跨设备、序列化和训练模式保持参数与缓存语义,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

增加测试模式

检索键 dl2-IF 对应目录坐标「54·3 增加测试模式」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于以中心差分和自动测试反证反向传播实现,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Dropout的实现

检索键 dl2-IG 对应目录坐标「54·4 Dropout的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于跨设备、序列化和训练模式保持参数与缓存语义,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

CNN的机制(1)

检索键 dl2-IH 对应目录坐标「步骤55 CNN的机制(1)」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

CNN的网络结构

检索键 dl2-II 对应目录坐标「55·1 CNN的网络结构」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于由卷积几何与im2col实现CNN前反向和预训练模型,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

卷积运算

检索键 dl2-IJ 对应目录坐标「55·2 卷积运算」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于由卷积几何与im2col实现CNN前反向和预训练模型,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

填充

检索键 dl2-IK 对应目录坐标「55·3 填充」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于由卷积几何与im2col实现CNN前反向和预训练模型,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

步幅

检索键 dl2-IL 对应目录坐标「55·4 步幅」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于由卷积几何与im2col实现CNN前反向和预训练模型,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

输出大小的计算方法

检索键 dl2-IM 对应目录坐标「55·5 输出大小的计算方法」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

CNN的机制(2)

检索键 dl2-IN 对应目录坐标「步骤56 CNN的机制(2)」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

三阶张量

检索键 dl2-IO 对应目录坐标「56·1 三阶张量」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于为张量变形、归约、广播、矩阵积和切片实现互为伴随的反向,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

结合方块进行思考

检索键 dl2-IP 对应目录坐标「56·2 结合方块进行思考」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

小批量处理

检索键 dl2-IQ 对应目录坐标「56·3 小批量处理」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于以可重放数据管道提供批次、预处理与独立评估,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

池化层

检索键 dl2-IR 对应目录坐标「56·4 池化层」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

conv2d函数和pooling函数

检索键 dl2-IS 对应目录坐标「步骤57 conv2d函数和pooling函数」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

使用im2col展开

检索键 dl2-IT 对应目录坐标「57·1 使用im2col展开」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于由卷积几何与im2col实现CNN前反向和预训练模型,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

conv2d函数的实现

检索键 dl2-IU 对应目录坐标「57·2 conv2d函数的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于由卷积几何与im2col实现CNN前反向和预训练模型,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

Conv2d层的实现

检索键 dl2-IV 对应目录坐标「57·3 Conv2d层的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

pooling函数的实现

检索键 dl2-IW 对应目录坐标「57·4 pooling函数的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于由卷积几何与im2col实现CNN前反向和预训练模型,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

具有代表性的CNN(VGG16)

检索键 dl2-IX 对应目录坐标「步骤58 具有代表性的CNN(VGG16)」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

VGG16的实现

检索键 dl2-IY 对应目录坐标「58·1 VGG16的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于由卷积几何与im2col实现CNN前反向和预训练模型,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

已训练的权重数据

检索键 dl2-IZ 对应目录坐标「58·2 已训练的权重数据」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

使用已训练的VGG16

检索键 dl2-JA 对应目录坐标「58·3 使用已训练的VGG16」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于由卷积几何与im2col实现CNN前反向和预训练模型,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

使用RNN处理时间序列数据

检索键 dl2-JB 对应目录坐标「步骤59 使用RNN处理时间序列数据」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

RNN层的实现

检索键 dl2-JC 对应目录坐标「59·1 RNN层的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于显式管理循环状态、截断反向和时间批次,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

RNN模型的实现

检索键 dl2-JD 对应目录坐标「59·2 RNN模型的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于显式管理循环状态、截断反向和时间批次,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

切断连接的方法

检索键 dl2-JE 对应目录坐标「59·3 切断连接的方法」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于显式管理循环状态、截断反向和时间批次,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

正弦波的预测

检索键 dl2-JF 对应目录坐标「59·4 正弦波的预测」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于显式管理循环状态、截断反向和时间批次,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

LSTM与数据加载器

检索键 dl2-JG 对应目录坐标「步骤60 LSTM与数据加载器」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

用于时间序列数据的数据加载器

检索键 dl2-JH 对应目录坐标「60·1 用于时间序列数据的数据加载器」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于跨设备、序列化和训练模式保持参数与缓存语义,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

LSTM层的实现

检索键 dl2-JI 对应目录坐标「60·2 LSTM层的实现」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于显式管理循环状态、截断反向和时间批次,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

in-place运算(步骤14的补充内容)

检索键 dl2-JJ 对应目录坐标「附录A in-place运算(步骤14的补充内容)」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

A.1 问题确认

检索键 dl2-JK 对应目录坐标「A·1 问题确认」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于把目录坐标转为有对象、图边、形状、梯度、资源和回归的框架增量合同,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

A.2 关于复制和覆盖

检索键 dl2-JL 对应目录坐标「A·2 关于复制和覆盖」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于区分数组别名、复制与前向缓存不变量,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

A.3 DeZero的反向传播

检索键 dl2-JM 对应目录坐标「A·3 DeZero的反向传播」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于用Variable与Function对象记录前向边并按链式法则传播梯度,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

实现get_item函数(步骤47的补充内容)

检索键 dl2-JN 对应目录坐标「附录B 实现get_item函数(步骤47的补充内容)」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于声明本步相对上一快照新增的框架能力与依赖,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

在Google Colaboratory上运行

检索键 dl2-JO 对应目录坐标「附录C 在Google Colaboratory上运行」;在“《深度学习入门2:自制框架》275个原版目录层级学习地图”中用于跨设备、序列化和训练模式保持参数与缓存语义,需要连接原版范围、对象/图边、shape、梯度轨迹、资源状态与回归证据。

讨论

评论区加载中…