第8章 提升方法
覆盖提升思路、AdaBoost、前向分步与提升树；用推导路径、单故障数值轨迹和结论验收门完成独立复核。
学习目标
- 能说明“第8章 提升方法”如何覆盖提升思路、AdaBoost、前向分步与提升树，并区分原版范围、独立核验和后续扩展
- 能先预测“怎样追踪样本权重与加法模型更新，并区分训练误差下降和泛化改善？”的定义与数值路径，再用已知量、变换、残差和反例逐步复核
- 能注入“依据测试误差决定提升轮数，或权重归一错误却只展示最终强分类器”，用“弱学习器、样本初权、损失、轮数、学习率、种子与验证角色固定”决定接受、降级或拒绝方法结论
为什么从这个方法推演开始
提升页让每一轮关注了哪些样本透明可见，最终投票不是全部证据。 “第8章 提升方法”的贯穿任务是：用决策桩手算三轮AdaBoost，再以平方/指数损失解释提升树。 动手前先写下哪个定义、矩阵、分布、目标或迭代状态会变化；运行后补理由不算预测。
本页围绕“怎样追踪样本权重与加法模型更新，并区分训练误差下降和泛化改善？”建立参考、故障与恢复路径。只有“第8章 提升方法”守住“弱学习器、样本初权、损失、轮数、学习率、种子与验证角色固定”并交付样本权重表、弱规则、加权误差、系数、归一常数、逐轮预测、训练/验证曲线和错分样本。，公式、图形或指标才构成统计学习证据。
书目、285个原版层级与版本边界
“第8章 提升方法”以清华大学出版社官方书页核对李航著《统计学习方法（第2版）》于2019年出版、ISBN 9787302517276和监督/无监督两篇结构，同时以出版社英文版权页确认484页及两篇主要内容，再以出版社公开完整目录逐项核对两篇、22章、256个编号节/小节和附录A-E，因此本站覆盖分母共285个正式目录层级。
“第8章 提升方法”未取得原书完整正文授权，只以出版社完整目录限定范围；中文解释、推导、数值实验、交互、练习与答案均为独立教学重写。“第8章 提升方法”按2019年第2版范围解释；当前库函数和后续研究只作独立核验，不反写原版。
本页另以技术核对 1、技术核对 2、技术核对 3核对算法原始定义、实现语义或数值工具。外部资料能验证技术事实，不能反向证明原书正文采用了本站表述。
原版目录层级与方法机制
第8章 提升方法
↡提升方法对应原版目录坐标“第8章 提升方法”，在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，并受定义域、形状、目标、算法状态与版本边界约束。原版坐标 1/13。 在“第8章 提升方法”的坐标1中，目录项「第8章 提升方法」用于按误差更新样本权重并累积加法模型；先冻结符号与形状，再以样本权重、弱规则、系数、归一常数与逐轮误差复核，出现测试集决定轮数或权重未归一时撤回结论。
8.1 提升方法 AdaBoost算法
↡提升方法 AdaBoost算法对应原版目录坐标“8·1 提升方法 AdaBoost算法”，在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，并受定义域、形状、目标、算法状态与版本边界约束。原版坐标 2/13。 目录项「8·1 提升方法 AdaBoost算法」进入“第8章 提升方法”后要回答第2个方法问题：它怎样按误差更新样本权重并累积加法模型、改变什么数值状态、由哪些样本权重、弱规则、系数、归一常数与逐轮误差证明，并如何排除测试集决定轮数或权重未归一。
8.1.1 提升方法的基本思路
↡提升方法的基本思路对应原版目录坐标“8·1·1 提升方法的基本思路”，在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，并受定义域、形状、目标、算法状态与版本边界约束。原版坐标 3/13。 围绕“怎样追踪样本权重与加法模型更新，并区分训练误差下降和泛化改善？”，在“第8章 提升方法”的原版层级3把「8·1·1 提升方法的基本思路」落实为按误差更新样本权重并累积加法模型；复核者先读取样本权重、弱规则、系数、归一常数与逐轮误差，不能接受测试集决定轮数或权重未归一。
8.1.2 AdaBoost算法
↡AdaBoost算法对应原版目录坐标“8·1·2 AdaBoost算法”，在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，并受定义域、形状、目标、算法状态与版本边界约束。原版坐标 4/13。 对“第8章 提升方法”而言，目录项「8·1·2 AdaBoost算法」的最小推演合同是按误差更新样本权重并累积加法模型，第4次检查保存样本权重、弱规则、系数、归一常数与逐轮误差；若产生测试集决定轮数或权重未归一，就返回上一步。
8.1.3 AdaBoost的例子
↡AdaBoost的例子对应原版目录坐标“8·1·3 AdaBoost的例子”，在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，并受定义域、形状、目标、算法状态与版本边界约束。原版坐标 5/13。 第5个正式坐标「8·1·3 AdaBoost的例子」服务于覆盖提升思路、AdaBoost、前向分步与提升树，需要以样本权重、弱规则、系数、归一常数与逐轮误差呈现按误差更新样本权重并累积加法模型；测试集决定轮数或权重未归一会破坏“弱学习器、样本初权、损失、轮数、学习率、种子与验证角色固定”。
8.2 AdaBoost算法的训练误差分析
↡AdaBoost算法的训练误差分析对应原版目录坐标“8·2 AdaBoost算法的训练误差分析”，在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，并受定义域、形状、目标、算法状态与版本边界约束。原版坐标 6/13。 在“第8章 提升方法”的坐标6中，目录项「8·2 AdaBoost算法的训练误差分析」用于按误差更新样本权重并累积加法模型；先冻结符号与形状，再以样本权重、弱规则、系数、归一常数与逐轮误差复核，出现测试集决定轮数或权重未归一时撤回结论。
8.3 AdaBoost算法的解释
↡AdaBoost算法的解释对应原版目录坐标“8·3 AdaBoost算法的解释”，在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，并受定义域、形状、目标、算法状态与版本边界约束。原版坐标 7/13。 目录项「8·3 AdaBoost算法的解释」进入“第8章 提升方法”后要回答第7个方法问题：它怎样按误差更新样本权重并累积加法模型、改变什么数值状态、由哪些样本权重、弱规则、系数、归一常数与逐轮误差证明，并如何排除测试集决定轮数或权重未归一。
8.3.1 前向分步算法
↡前向分步算法对应原版目录坐标“8·3·1 前向分步算法”，在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，并受定义域、形状、目标、算法状态与版本边界约束。原版坐标 8/13。 围绕“怎样追踪样本权重与加法模型更新，并区分训练误差下降和泛化改善？”，在“第8章 提升方法”的原版层级8把「8·3·1 前向分步算法」落实为按误差更新样本权重并累积加法模型；复核者先读取样本权重、弱规则、系数、归一常数与逐轮误差，不能接受测试集决定轮数或权重未归一。
8.3.2 前向分步算法与 AdaBoost
↡前向分步算法对应原版目录坐标“8·3·2 前向分步算法与 AdaBoost”，在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，并受定义域、形状、目标、算法状态与版本边界约束。原版坐标 9/13。 对“第8章 提升方法”而言，目录项「8·3·2 前向分步算法与 AdaBoost」的最小推演合同是按误差更新样本权重并累积加法模型，第9次检查保存样本权重、弱规则、系数、归一常数与逐轮误差；若产生测试集决定轮数或权重未归一，就返回上一步。
8.4 提升树
↡提升树对应原版目录坐标“8·4 提升树”，在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，并受定义域、形状、目标、算法状态与版本边界约束。原版坐标 10/13。 第10个正式坐标「8·4 提升树」服务于覆盖提升思路、AdaBoost、前向分步与提升树，需要以样本权重、弱规则、系数、归一常数与逐轮误差呈现按误差更新样本权重并累积加法模型；测试集决定轮数或权重未归一会破坏“弱学习器、样本初权、损失、轮数、学习率、种子与验证角色固定”。
8.4.1 提升树模型
↡提升树模型对应原版目录坐标“8·4·1 提升树模型”，在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，并受定义域、形状、目标、算法状态与版本边界约束。原版坐标 11/13。 在“第8章 提升方法”的坐标11中，目录项「8·4·1 提升树模型」用于按误差更新样本权重并累积加法模型；先冻结符号与形状，再以样本权重、弱规则、系数、归一常数与逐轮误差复核，出现测试集决定轮数或权重未归一时撤回结论。
8.4.2 提升树算法
↡提升树算法对应原版目录坐标“8·4·2 提升树算法”，在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，并受定义域、形状、目标、算法状态与版本边界约束。原版坐标 12/13。 目录项「8·4·2 提升树算法」进入“第8章 提升方法”后要回答第12个方法问题：它怎样按误差更新样本权重并累积加法模型、改变什么数值状态、由哪些样本权重、弱规则、系数、归一常数与逐轮误差证明，并如何排除测试集决定轮数或权重未归一。
8.4.3 梯度提升
↡梯度提升对应原版目录坐标“8·4·3 梯度提升”，在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，并受定义域、形状、目标、算法状态与版本边界约束。原版坐标 13/13。 围绕“怎样追踪样本权重与加法模型更新，并区分训练误差下降和泛化改善？”，在“第8章 提升方法”的原版层级13把「8·4·3 梯度提升」落实为按误差更新样本权重并累积加法模型；复核者先读取样本权重、弱规则、系数、归一常数与逐轮误差，不能接受测试集决定轮数或权重未归一。
先预测，再操作三个章专属实验
1. 定义、推导与变换路径
固定“用决策桩手算三轮AdaBoost，再以平方/指数损失解释提升树。”，在参考与反例间切换，逐阶段查看“样本初权、弱学习器、误差与系数、权重更新、加法模型验收”的已知量、变换、结果和数值检查。
推导路径
选择案例，逐步核对已知量与变换
怎样追踪样本权重与加法模型更新，并区分训练误差下降和泛化改善？
问题设置
用决策桩手算三轮AdaBoost，再以平方/指数损失解释提升树。 固定符号、数据、初值、顺序、容差和种子。
事前预测
沿“样本初权 → 弱学习器 → 误差与系数 → 权重更新 → 加法模型验收”得到可复核结果。
适用边界
全过程必须满足“弱学习器、样本初权、损失、轮数、学习率、种子与验证角色固定”。
已知量
第8章 提升方法：声明对象、符号与适用域，冻结数据、形状和版本
变换或更新
只读取本步允许的已知量，并持续满足“弱学习器、样本初权、损失、轮数、学习率、种子与验证角色固定”
阶段结果
样本初权产生形式化问题状态
数值与逻辑检查
形式化问题状态、索引和数值断言；出现“依据测试误差决定提升轮数，或权重归一错误却只展示最终强分类器”时停止
原版坐标：第8章 提升方法、8.1 提升方法 AdaBoost算法、8.1.1 提升方法的基本思路、8.1.2 AdaBoost算法、8.1.3 AdaBoost的例子、8.2 AdaBoost算法的训练误差分析、8.3 AdaBoost算法的解释、8.3.1 前向分步算法、8.3.2 前向分步算法与 AdaBoost、8.4 提升树、8.4.1 提升树模型、8.4.2 提升树算法、8.4.3 梯度提升
第8章 提升方法的可重放方法协议
| 阶段 | 允许动作 | 必留证据 | 拒绝条件 |
|---|---|---|---|
| 样本初权 | 在“第8章 提升方法”执行样本初权，只改变声明的数学或数值状态 | 符号、定义域、形状、数据与版本 | 对象或形状不可追溯 |
| 弱学习器 | 在“第8章 提升方法”执行弱学习器，只改变声明的数学或数值状态 | 模型、目标、约束、参数/隐变量与迭代轨迹 | 依据测试误差决定提升轮数，或权重归一错误却只展示最终强分类器 |
| 误差与系数 | 在“第8章 提升方法”执行误差与系数，只改变声明的数学或数值状态 | 模型、目标、约束、参数/隐变量与迭代轨迹 | 依据测试误差决定提升轮数，或权重归一错误却只展示最终强分类器 |
| 权重更新 | 在“第8章 提升方法”执行权重更新，只改变声明的数学或数值状态 | 模型、目标、约束、参数/隐变量与迭代轨迹 | 依据测试误差决定提升轮数，或权重归一错误却只展示最终强分类器 |
| 加法模型验收 | 在“第8章 提升方法”执行加法模型验收，只改变声明的数学或数值状态 | 残差、诊断、反例、适用边界与复现 | 无法重放或缺少诊断 |
unit: "slm-08"
question: "怎样追踪样本权重与加法模型更新，并区分训练误差下降和泛化改善？"
scenario: "用决策桩手算三轮AdaBoost，再以平方/指数损失解释提升树。"
stages: ["样本初权", "弱学习器", "误差与系数", "权重更新", "加法模型验收"]
invariant: "弱学习器、样本初权、损失、轮数、学习率、种子与验证角色固定"
fault: "依据测试误差决定提升轮数，或权重归一错误却只展示最终强分类器"
evidence: "样本权重表、弱规则、加权误差、系数、归一常数、逐轮预测、训练/验证曲线和错分样本。"
reset: restore_case_stage_trace_mode_step_gates_and_artifact该协议要求“第8章 提升方法”在相同符号、数据、形状、初值、顺序、容差和种子下重放。重置后若案例、阶段、轨迹模式、步骤、结论门或证据包没有回到基线，交互状态已经污染比较。
本页回顾
掌握“第8章 提升方法”不是背诵公式或API，而是能围绕“怎样追踪样本权重与加法模型更新，并区分训练误差下降和泛化改善？”重建定义与数值证据，并用“弱学习器、样本初权、损失、轮数、学习率、种子与验证角色固定”拒绝“依据测试误差决定提升轮数，或权重归一错误却只展示最终强分类器”。最终交付为样本权重表、弱规则、加权误差、系数、归一常数、逐轮预测、训练/验证曲线和错分样本。
练习与答案
练习
- 问题 1：方法合同。 “第8章 提升方法”为什么必须先冻结符号、数据、形状、初值、顺序、容差和种子？
- 问题 2：目录逐项覆盖。 怎样证明原版目录坐标已经进入机制、交互和练习？
- 问题 3：故障恢复。 怎样证明“依据测试误差决定提升轮数，或权重归一错误却只展示最终强分类器”已经被修正？
名词解释
名词解释
本章出现的专业名词，用大白话再讲一遍。
- 提升方法
检索键 slm-A 对应目录坐标「第8章 提升方法」；在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，需要连接原版范围、定义、数值状态与独立证据。
- 提升方法 AdaBoost算法
检索键 slm-B 对应目录坐标「8·1 提升方法 AdaBoost算法」；在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，需要连接原版范围、定义、数值状态与独立证据。
- 提升方法的基本思路
检索键 slm-C 对应目录坐标「8·1·1 提升方法的基本思路」；在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，需要连接原版范围、定义、数值状态与独立证据。
- AdaBoost算法
检索键 slm-D 对应目录坐标「8·1·2 AdaBoost算法」；在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，需要连接原版范围、定义、数值状态与独立证据。
- AdaBoost的例子
检索键 slm-E 对应目录坐标「8·1·3 AdaBoost的例子」；在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，需要连接原版范围、定义、数值状态与独立证据。
- AdaBoost算法的训练误差分析
检索键 slm-F 对应目录坐标「8·2 AdaBoost算法的训练误差分析」；在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，需要连接原版范围、定义、数值状态与独立证据。
- AdaBoost算法的解释
检索键 slm-G 对应目录坐标「8·3 AdaBoost算法的解释」；在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，需要连接原版范围、定义、数值状态与独立证据。
- 前向分步算法
检索键 slm-H 对应目录坐标「8·3·1 前向分步算法」；在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，需要连接原版范围、定义、数值状态与独立证据。
- 前向分步算法
检索键 slm-I 对应目录坐标「8·3·2 前向分步算法与 AdaBoost」；在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，需要连接原版范围、定义、数值状态与独立证据。
- 提升树
检索键 slm-J 对应目录坐标「8·4 提升树」；在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，需要连接原版范围、定义、数值状态与独立证据。
- 提升树模型
检索键 slm-K 对应目录坐标「8·4·1 提升树模型」；在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，需要连接原版范围、定义、数值状态与独立证据。
- 提升树算法
检索键 slm-L 对应目录坐标「8·4·2 提升树算法」；在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，需要连接原版范围、定义、数值状态与独立证据。
- 梯度提升
检索键 slm-M 对应目录坐标「8·4·3 梯度提升」；在“第8章 提升方法”中用于按误差更新样本权重并累积加法模型，需要连接原版范围、定义、数值状态与独立证据。