第14章 模型组合 Combining Models
覆盖贝叶斯模型平均、委员会、提升、树模型与条件混合/专家模型；用概率模型状态、单故障推断轨迹和预测检验门完成独立复核。
学习目标
- 能说明“第14章 模型组合 Combining Models”如何覆盖贝叶斯模型平均、委员会、提升、树模型与条件混合/专家模型，并区分2006年原版、2026年中文书目与当前扩展
- 能先预测“怎样区分模型不确定性平均、重采样委员会、加法提升和输入条件门控？”“第14章 模型组合 Combining Models”会改变哪项概率状态，再用先验、运算、后验与诊断逐步复核
- 能注入“依据测试表现挑选成员和组合权重，或把相关模型当作独立证据”，用“基学习器、采样、权重/门控、损失、随机种子、数据切分和组合协议固定”决定接受、降级或拒绝模型结论
为什么从这个概率问题开始
模型组合页先追问成员为何不同，再解释组合怎样改变偏差、不确定性和失败模式。 “第14章 模型组合 Combining Models”的贯穿任务是：对同一预测任务比较模型平均、bagging、boosting、树和专家混合。 动手前先写下哪个观测、分布、参数、隐变量、消息或预测会变化；运行后补理由不算预测。
围绕“怎样区分模型不确定性平均、重采样委员会、加法提升和输入条件门控？”“第14章 模型组合 Combining Models”建立参考、故障与恢复路径。只有它守住“基学习器、采样、权重/门控、损失、随机种子、数据切分和组合协议固定”并交付候选模型、训练索引、种子、成员预测、后验/投票权重、门控概率、逐轮损失、相关性和校准。，公式、图形或指标才构成模式识别与机器学习证据。
书目、266个原版层级与版本边界
“第14章 模型组合 Combining Models”以Microsoft Research作者出版页和作者公开的原版完整PDF核对Christopher M. Bishop著 Pattern Recognition and Machine Learning 的正文与完整目录，并以Springer官方书目交叉核对2006年第一版、ISBN 9780387310732、14章和5个附录。本站逐项统计14个章标题、247个编号节/小节与附录A-E，共266个正式目录层级；作者勘误表用于纠正已知排印问题。
本项目能访问原版一手全文，但不复制或逐段翻译原书；中文解释、推导、数值实验、交互、练习与答案均为独立教学重写。中文发行书目只用于核对2026年人民邮电出版社新译本的ISBN 9787115681409、译者和页数，不用来证明原版正文。“第14章 模型组合 Combining Models”以2006年原版为内容边界；2026年中文新译本只用于中文书目信息，当前库函数和后续研究只作带时间标签的独立核验。
本页另以技术核对 1、技术核对 2、技术核对 3核对算法定义、实现语义或数值诊断。外部资料能验证技术事实，不能反向证明原书采用了本站表述。
原版目录层级与概率机制
14 Combining Models
↡Combining Models对应原版目录坐标“14 Combining Models”，在“第14章 模型组合 Combining Models”中用于按模型不确定性、重采样、加法或门控机制组合预测，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 1/11。 在“第14章 模型组合 Combining Models”的坐标1中，目录项「14 Combining Models」用于按模型不确定性、重采样、加法或门控机制组合预测；先冻结观测与参数化，再以成员来源、权重、逐轮损失、门控概率、相关性与校准复核，出现测试选择成员或相关模型被当作独立证据时撤回结论。
14.1 Bayesian Model Averaging
↡Bayesian Model Averaging对应原版目录坐标“14·1 Bayesian Model Averaging”，在“第14章 模型组合 Combining Models”中用于按模型不确定性、重采样、加法或门控机制组合预测，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 2/11。 目录项「14·1 Bayesian Model Averaging」进入“第14章 模型组合 Combining Models”后要回答第2个概率问题：它怎样按模型不确定性、重采样、加法或门控机制组合预测、改变哪个条件或后验状态、由哪些成员来源、权重、逐轮损失、门控概率、相关性与校准证明，并如何排除测试选择成员或相关模型被当作独立证据。
14.2 Committees
↡Committees对应原版目录坐标“14·2 Committees”，在“第14章 模型组合 Combining Models”中用于按模型不确定性、重采样、加法或门控机制组合预测，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 3/11。 围绕“怎样区分模型不确定性平均、重采样委员会、加法提升和输入条件门控？”“第14章 模型组合 Combining Models”在原版层级3把「14·2 Committees」落实为按模型不确定性、重采样、加法或门控机制组合预测；复核者先读取成员来源、权重、逐轮损失、门控概率、相关性与校准，不能接受测试选择成员或相关模型被当作独立证据。
14.3 Boosting
↡Boosting对应原版目录坐标“14·3 Boosting”，在“第14章 模型组合 Combining Models”中用于按模型不确定性、重采样、加法或门控机制组合预测，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 4/11。 对“第14章 模型组合 Combining Models”而言，目录项「14·3 Boosting」的最小建模合同是按模型不确定性、重采样、加法或门控机制组合预测，第4次检查保存成员来源、权重、逐轮损失、门控概率、相关性与校准；若产生测试选择成员或相关模型被当作独立证据，就返回上一步。
14.3.1 Minimizing exponential error
↡概率坐标5对应原版目录坐标“14·3·1 Minimizing exponential error”，在“第14章 模型组合 Combining Models”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 5/11。 第5个正式坐标「14·3·1 Minimizing exponential error」服务于覆盖贝叶斯模型平均、委员会、提升、树模型与条件混合/专家模型，需要以观测、模型、先验/似然、算法状态、诊断、反例和时间边界呈现把目录坐标转为有变量、假设、推断与预测检查的概率合同；只复述模型或公式名称会破坏“基学习器、采样、权重/门控、损失、随机种子、数据切分和组合协议固定”。
14.3.2 Error functions for boosting
↡概率坐标6对应原版目录坐标“14·3·2 Error functions for boosting”，在“第14章 模型组合 Combining Models”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 6/11。 在“第14章 模型组合 Combining Models”的坐标6中，目录项「14·3·2 Error functions for boosting」用于把目录坐标转为有变量、假设、推断与预测检查的概率合同；先冻结观测与参数化，再以观测、模型、先验/似然、算法状态、诊断、反例和时间边界复核，出现只复述模型或公式名称时撤回结论。
14.4 Tree-based Models
↡Tree-based Models对应原版目录坐标“14·4 Tree-based Models”，在“第14章 模型组合 Combining Models”中用于按模型不确定性、重采样、加法或门控机制组合预测，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 7/11。 目录项「14·4 Tree-based Models」进入“第14章 模型组合 Combining Models”后要回答第7个概率问题：它怎样按模型不确定性、重采样、加法或门控机制组合预测、改变哪个条件或后验状态、由哪些成员来源、权重、逐轮损失、门控概率、相关性与校准证明，并如何排除测试选择成员或相关模型被当作独立证据。
14.5 Conditional Mixture Models
↡概率坐标8对应原版目录坐标“14·5 Conditional Mixture Models”，在“第14章 模型组合 Combining Models”中用于交替估计隐变量责任度与模型参数并检查下界，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 8/11。 围绕“怎样区分模型不确定性平均、重采样委员会、加法提升和输入条件门控？”“第14章 模型组合 Combining Models”在原版层级8把「14·5 Conditional Mixture Models」落实为交替估计隐变量责任度与模型参数并检查下界；复核者先读取初始化、责任度、Q函数、参数、似然/下界和多初值轨迹，不能接受似然下降、退化协方差或幸运初始化被隐藏。
14.5.1 Mixtures of linear regression models
↡概率坐标9对应原版目录坐标“14·5·1 Mixtures of linear regression models”，在“第14章 模型组合 Combining Models”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 9/11。 对“第14章 模型组合 Combining Models”而言，目录项「14·5·1 Mixtures of linear regression models」的最小建模合同是把目录坐标转为有变量、假设、推断与预测检查的概率合同，第9次检查保存观测、模型、先验/似然、算法状态、诊断、反例和时间边界；若产生只复述模型或公式名称，就返回上一步。
14.5.2 Mixtures of logistic models
↡概率坐标10对应原版目录坐标“14·5·2 Mixtures of logistic models”，在“第14章 模型组合 Combining Models”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 10/11。 第10个正式坐标「14·5·2 Mixtures of logistic models」服务于覆盖贝叶斯模型平均、委员会、提升、树模型与条件混合/专家模型，需要以观测、模型、先验/似然、算法状态、诊断、反例和时间边界呈现把目录坐标转为有变量、假设、推断与预测检查的概率合同；只复述模型或公式名称会破坏“基学习器、采样、权重/门控、损失、随机种子、数据切分和组合协议固定”。
14.5.3 Mixtures of experts
↡Mixtures of experts对应原版目录坐标“14·5·3 Mixtures of experts”，在“第14章 模型组合 Combining Models”中用于按模型不确定性、重采样、加法或门控机制组合预测，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 11/11。 在“第14章 模型组合 Combining Models”的坐标11中，目录项「14·5·3 Mixtures of experts」用于按模型不确定性、重采样、加法或门控机制组合预测；先冻结观测与参数化，再以成员来源、权重、逐轮损失、门控概率、相关性与校准复核，出现测试选择成员或相关模型被当作独立证据时撤回结论。
先预测，再操作三个章专属概率实验
1. 概率模型与条件状态
固定“对同一预测任务比较模型平均、bagging、boosting、树和专家混合。”，在参考与反例间切换，逐阶段查看“定义候选模型、生成成员、估计权重或门控、组合预测、检查多样性”的进入状态、条件化、离开状态和概率检查。
概率模型状态
选择观测情形，逐步核对先验、运算与后验
怎样区分模型不确定性平均、重采样委员会、加法提升和输入条件门控？
观测设置
对同一预测任务比较模型平均、bagging、boosting、树和专家混合。 固定数据、参数化、初值、顺序、容差和种子。
事前预测
沿“定义候选模型 → 生成成员 → 估计权重或门控 → 组合预测 → 检查多样性”得到可复核概率结论。
适用边界
全过程必须满足“基学习器、采样、权重/门控、损失、随机种子、数据切分和组合协议固定”。
进入本步的状态
第14章 模型组合 Combining Models：声明观测、变量与数据角色，保持其余概率合同不变
条件化或变换
冻结支持集、形状、版本和允许读取的信息，并持续满足“基学习器、采样、权重/门控、损失、随机种子、数据切分和组合协议固定”
离开本步的状态
定义候选模型产生可追溯观测状态
概率与数值检查
可追溯观测状态、概率质量与数值断言；出现“依据测试表现挑选成员和组合权重，或把相关模型当作独立证据”时停止
原版坐标：14 Combining Models、14.1 Bayesian Model Averaging、14.2 Committees、14.3 Boosting、14.3.1 Minimizing exponential error、14.3.2 Error functions for boosting、14.4 Tree-based Models、14.5 Conditional Mixture Models、14.5.1 Mixtures of linear regression models、14.5.2 Mixtures of logistic models、14.5.3 Mixtures of experts
第14章 模型组合 Combining Models的可重放概率协议
| 阶段 | 允许动作 | 必留证据 | 拒绝条件 |
|---|---|---|---|
| 定义候选模型 | 在“第14章 模型组合 Combining Models”执行定义候选模型，只改变声明的概率或算法状态 | 观测、变量、支持集、数据角色与版本 | 观测或支持集不可追溯 |
| 生成成员 | 在“第14章 模型组合 Combining Models”执行生成成员，只改变声明的概率或算法状态 | 模型、先验/似然、参数/隐变量、消息、样本与预测分布 | 依据测试表现挑选成员和组合权重，或把相关模型当作独立证据 |
| 估计权重或门控 | 在“第14章 模型组合 Combining Models”执行估计权重或门控，只改变声明的概率或算法状态 | 模型、先验/似然、参数/隐变量、消息、样本与预测分布 | 依据测试表现挑选成员和组合权重，或把相关模型当作独立证据 |
| 组合预测 | 在“第14章 模型组合 Combining Models”执行组合预测，只改变声明的概率或算法状态 | 模型、先验/似然、参数/隐变量、消息、样本与预测分布 | 依据测试表现挑选成员和组合权重，或把相关模型当作独立证据 |
| 检查多样性 | 在“第14章 模型组合 Combining Models”执行检查多样性，只改变声明的概率或算法状态 | 归一、残差、校准、反例、适用边界与复现 | 无法重放或缺少预测检查 |
unit: "prl-14"
question: "怎样区分模型不确定性平均、重采样委员会、加法提升和输入条件门控？"
scenario: "对同一预测任务比较模型平均、bagging、boosting、树和专家混合。"
stages: ["定义候选模型", "生成成员", "估计权重或门控", "组合预测", "检查多样性"]
invariant: "基学习器、采样、权重/门控、损失、随机种子、数据切分和组合协议固定"
fault: "依据测试表现挑选成员和组合权重，或把相关模型当作独立证据"
evidence: "候选模型、训练索引、种子、成员预测、后验/投票权重、门控概率、逐轮损失、相关性和校准。"
reset: restore_case_stage_trace_mode_step_gates_and_artifact该协议要求“第14章 模型组合 Combining Models”在相同观测、数据角色、参数化、初值、顺序、容差和种子下重放。重置后若案例、阶段、轨迹模式、步骤、预测门或证据包没有回到基线，交互状态已经污染比较。
本页回顾
掌握“第14章 模型组合 Combining Models”不是背诵公式或API，而是能围绕“怎样区分模型不确定性平均、重采样委员会、加法提升和输入条件门控？”重建观测、模型、推断与预测证据，并用“基学习器、采样、权重/门控、损失、随机种子、数据切分和组合协议固定”拒绝“依据测试表现挑选成员和组合权重，或把相关模型当作独立证据”。最终交付为候选模型、训练索引、种子、成员预测、后验/投票权重、门控概率、逐轮损失、相关性和校准。
练习与答案
练习
- 问题 1：概率合同。 “第14章 模型组合 Combining Models”为什么必须先冻结观测、数据角色、参数化、初值、顺序、容差和种子？
- 问题 2：目录逐项覆盖。 怎样证明原版目录坐标已经进入机制、交互和练习？
- 问题 3：故障恢复。 怎样证明“依据测试表现挑选成员和组合权重，或把相关模型当作独立证据”已经被修正？
名词解释
名词解释
本章出现的专业名词，用大白话再讲一遍。
- Combining Models
检索键 prml-A 对应目录坐标「14 Combining Models」；在“第14章 模型组合 Combining Models”中用于按模型不确定性、重采样、加法或门控机制组合预测，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Bayesian Model Averaging
检索键 prml-B 对应目录坐标「14·1 Bayesian Model Averaging」；在“第14章 模型组合 Combining Models”中用于按模型不确定性、重采样、加法或门控机制组合预测，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Committees
检索键 prml-C 对应目录坐标「14·2 Committees」；在“第14章 模型组合 Combining Models”中用于按模型不确定性、重采样、加法或门控机制组合预测，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Boosting
检索键 prml-D 对应目录坐标「14·3 Boosting」；在“第14章 模型组合 Combining Models”中用于按模型不确定性、重采样、加法或门控机制组合预测，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标5
检索键 prml-E 对应目录坐标「14·3·1 Minimizing exponential error」；在“第14章 模型组合 Combining Models”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标6
检索键 prml-F 对应目录坐标「14·3·2 Error functions for boosting」；在“第14章 模型组合 Combining Models”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Tree-based Models
检索键 prml-G 对应目录坐标「14·4 Tree-based Models」；在“第14章 模型组合 Combining Models”中用于按模型不确定性、重采样、加法或门控机制组合预测，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标8
检索键 prml-H 对应目录坐标「14·5 Conditional Mixture Models」；在“第14章 模型组合 Combining Models”中用于交替估计隐变量责任度与模型参数并检查下界，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标9
检索键 prml-I 对应目录坐标「14·5·1 Mixtures of linear regression models」；在“第14章 模型组合 Combining Models”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标10
检索键 prml-J 对应目录坐标「14·5·2 Mixtures of logistic models」；在“第14章 模型组合 Combining Models”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Mixtures of experts
检索键 prml-K 对应目录坐标「14·5·3 Mixtures of experts」；在“第14章 模型组合 Combining Models”中用于按模型不确定性、重采样、加法或门控机制组合预测，需要连接原版范围、概率状态、推断轨迹与独立预测证据。