第10章 近似推断 Approximate Inference
覆盖变分推断、因子化近似、变分混合/回归、局部界、消息传递与期望传播；用概率模型状态、单故障推断轨迹和预测检验门完成独立复核。
学习目标
- 能说明“第10章 近似推断 Approximate Inference”如何覆盖变分推断、因子化近似、变分混合/回归、局部界、消息传递与期望传播，并区分2006年原版、2026年中文书目与当前扩展
- 能先预测“怎样说明近似族、目标下界和坐标更新，并量化因子化或矩匹配造成的偏差？”“第10章 近似推断 Approximate Inference”会改变哪项概率状态，再用先验、运算、后验与诊断逐步复核
- 能注入“只报告近似后验均值，不记录ELBO、近似族限制或多初值敏感性”，用“目标后验、近似族、因子化、下界、更新顺序、初始化和收敛诊断固定”决定接受、降级或拒绝模型结论
为什么从这个概率问题开始
近似推断页要求把“算得快”与“近似了什么”同时写进结论。 “第10章 近似推断 Approximate Inference”的贯穿任务是：对相关高斯和混合模型比较平均场变分、局部界与期望传播。 动手前先写下哪个观测、分布、参数、隐变量、消息或预测会变化；运行后补理由不算预测。
围绕“怎样说明近似族、目标下界和坐标更新，并量化因子化或矩匹配造成的偏差？”“第10章 近似推断 Approximate Inference”建立参考、故障与恢复路径。只有它守住“目标后验、近似族、因子化、下界、更新顺序、初始化和收敛诊断固定”并交付目标密度、近似因子、自然参数、ELBO分解、坐标更新、消息、矩匹配、收敛残差和相关性反例。，公式、图形或指标才构成模式识别与机器学习证据。
书目、266个原版层级与版本边界
“第10章 近似推断 Approximate Inference”以Microsoft Research作者出版页和作者公开的原版完整PDF核对Christopher M. Bishop著 Pattern Recognition and Machine Learning 的正文与完整目录，并以Springer官方书目交叉核对2006年第一版、ISBN 9780387310732、14章和5个附录。本站逐项统计14个章标题、247个编号节/小节与附录A-E，共266个正式目录层级；作者勘误表用于纠正已知排印问题。
本项目能访问原版一手全文，但不复制或逐段翻译原书；中文解释、推导、数值实验、交互、练习与答案均为独立教学重写。中文发行书目只用于核对2026年人民邮电出版社新译本的ISBN 9787115681409、译者和页数，不用来证明原版正文。“第10章 近似推断 Approximate Inference”以2006年原版为内容边界；2026年中文新译本只用于中文书目信息，当前库函数和后续研究只作带时间标签的独立核验。
本页另以技术核对 1、技术核对 2、技术核对 3核对算法定义、实现语义或数值诊断。外部资料能验证技术事实，不能反向证明原书采用了本站表述。
原版目录层级与概率机制
10 Approximate Inference
↡Approximate Inference对应原版目录坐标“10 Approximate Inference”，在“第10章 近似推断 Approximate Inference”中用于选择近似族并沿变分目标或矩匹配传播近似，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 1/26。 在“第10章 近似推断 Approximate Inference”的坐标1中，目录项「10 Approximate Inference」用于选择近似族并沿变分目标或矩匹配传播近似；先冻结观测与参数化，再以因子化、ELBO、自然参数、坐标更新、消息、矩与近似误差复核，出现只展示后验均值而隐去近似限制时撤回结论。
10.1 Variational Inference
↡Variational Inference对应原版目录坐标“10·1 Variational Inference”，在“第10章 近似推断 Approximate Inference”中用于选择近似族并沿变分目标或矩匹配传播近似，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 2/26。 目录项「10·1 Variational Inference」进入“第10章 近似推断 Approximate Inference”后要回答第2个概率问题：它怎样选择近似族并沿变分目标或矩匹配传播近似、改变哪个条件或后验状态、由哪些因子化、ELBO、自然参数、坐标更新、消息、矩与近似误差证明，并如何排除只展示后验均值而隐去近似限制。
10.1.1 Factorized distributions
↡Factorized distributions对应原版目录坐标“10·1·1 Factorized distributions”，在“第10章 近似推断 Approximate Inference”中用于选择近似族并沿变分目标或矩匹配传播近似，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 3/26。 围绕“怎样说明近似族、目标下界和坐标更新，并量化因子化或矩匹配造成的偏差？”“第10章 近似推断 Approximate Inference”在原版层级3把「10·1·1 Factorized distributions」落实为选择近似族并沿变分目标或矩匹配传播近似；复核者先读取因子化、ELBO、自然参数、坐标更新、消息、矩与近似误差，不能接受只展示后验均值而隐去近似限制。
10.1.2 Properties of factorized approximations
↡概率坐标4对应原版目录坐标“10·1·2 Properties of factorized approximations”，在“第10章 近似推断 Approximate Inference”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 4/26。 对“第10章 近似推断 Approximate Inference”而言，目录项「10·1·2 Properties of factorized approximations」的最小建模合同是把目录坐标转为有变量、假设、推断与预测检查的概率合同，第4次检查保存观测、模型、先验/似然、算法状态、诊断、反例和时间边界；若产生只复述模型或公式名称，就返回上一步。
10.1.3 Example: The univariate Gaussian
↡Example对应原版目录坐标“10·1·3 Example: The univariate Gaussian”，在“第10章 近似推断 Approximate Inference”中用于定义支持集、归一、参数更新与预测密度，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 5/26。 第5个正式坐标「10·1·3 Example: The univariate Gaussian」服务于覆盖变分推断、因子化近似、变分混合/回归、局部界、消息传递与期望传播，需要以变量域、充分统计量、归一常数、共轭更新、密度积分与带宽呈现定义支持集、归一、参数更新与预测密度；混淆质量和密度或在测试数据上调分布会破坏“目标后验、近似族、因子化、下界、更新顺序、初始化和收敛诊断固定”。
10.1.4 Model comparison
↡Model comparison对应原版目录坐标“10·1·4 Model comparison”，在“第10章 近似推断 Approximate Inference”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 6/26。 在“第10章 近似推断 Approximate Inference”的坐标6中，目录项「10·1·4 Model comparison」用于把目录坐标转为有变量、假设、推断与预测检查的概率合同；先冻结观测与参数化，再以观测、模型、先验/似然、算法状态、诊断、反例和时间边界复核，出现只复述模型或公式名称时撤回结论。
10.2 Illustration: Variational Mixture of Gaussians
↡Illustration对应原版目录坐标“10·2 Illustration: Variational Mixture of Gaussians”，在“第10章 近似推断 Approximate Inference”中用于定义支持集、归一、参数更新与预测密度，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 7/26。 目录项「10·2 Illustration: Variational Mixture of Gaussians」进入“第10章 近似推断 Approximate Inference”后要回答第7个概率问题：它怎样定义支持集、归一、参数更新与预测密度、改变哪个条件或后验状态、由哪些变量域、充分统计量、归一常数、共轭更新、密度积分与带宽证明，并如何排除混淆质量和密度或在测试数据上调分布。
10.2.1 Variational distribution
↡Variational distribution对应原版目录坐标“10·2·1 Variational distribution”，在“第10章 近似推断 Approximate Inference”中用于选择近似族并沿变分目标或矩匹配传播近似，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 8/26。 围绕“怎样说明近似族、目标下界和坐标更新，并量化因子化或矩匹配造成的偏差？”“第10章 近似推断 Approximate Inference”在原版层级8把「10·2·1 Variational distribution」落实为选择近似族并沿变分目标或矩匹配传播近似；复核者先读取因子化、ELBO、自然参数、坐标更新、消息、矩与近似误差，不能接受只展示后验均值而隐去近似限制。
10.2.2 Variational lower bound
↡Variational lower bound对应原版目录坐标“10·2·2 Variational lower bound”，在“第10章 近似推断 Approximate Inference”中用于选择近似族并沿变分目标或矩匹配传播近似，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 9/26。 对“第10章 近似推断 Approximate Inference”而言，目录项「10·2·2 Variational lower bound」的最小建模合同是选择近似族并沿变分目标或矩匹配传播近似，第9次检查保存因子化、ELBO、自然参数、坐标更新、消息、矩与近似误差；若产生只展示后验均值而隐去近似限制，就返回上一步。
10.2.3 Predictive density
↡Predictive density对应原版目录坐标“10·2·3 Predictive density”，在“第10章 近似推断 Approximate Inference”中用于定义支持集、归一、参数更新与预测密度，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 10/26。 第10个正式坐标「10·2·3 Predictive density」服务于覆盖变分推断、因子化近似、变分混合/回归、局部界、消息传递与期望传播，需要以变量域、充分统计量、归一常数、共轭更新、密度积分与带宽呈现定义支持集、归一、参数更新与预测密度；混淆质量和密度或在测试数据上调分布会破坏“目标后验、近似族、因子化、下界、更新顺序、初始化和收敛诊断固定”。
10.2.4 Determining the number of components
↡概率坐标11对应原版目录坐标“10·2·4 Determining the number of components”，在“第10章 近似推断 Approximate Inference”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 11/26。 在“第10章 近似推断 Approximate Inference”的坐标11中，目录项「10·2·4 Determining the number of components」用于把目录坐标转为有变量、假设、推断与预测检查的概率合同；先冻结观测与参数化，再以观测、模型、先验/似然、算法状态、诊断、反例和时间边界复核，出现只复述模型或公式名称时撤回结论。
10.2.5 Induced factorizations
↡Induced factorizations对应原版目录坐标“10·2·5 Induced factorizations”，在“第10章 近似推断 Approximate Inference”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 12/26。 目录项「10·2·5 Induced factorizations」进入“第10章 近似推断 Approximate Inference”后要回答第12个概率问题：它怎样把目录坐标转为有变量、假设、推断与预测检查的概率合同、改变哪个条件或后验状态、由哪些观测、模型、先验/似然、算法状态、诊断、反例和时间边界证明，并如何排除只复述模型或公式名称。
10.3 Variational Linear Regression
↡概率坐标13对应原版目录坐标“10·3 Variational Linear Regression”，在“第10章 近似推断 Approximate Inference”中用于选择近似族并沿变分目标或矩匹配传播近似，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 13/26。 围绕“怎样说明近似族、目标下界和坐标更新，并量化因子化或矩匹配造成的偏差？”“第10章 近似推断 Approximate Inference”在原版层级13把「10·3 Variational Linear Regression」落实为选择近似族并沿变分目标或矩匹配传播近似；复核者先读取因子化、ELBO、自然参数、坐标更新、消息、矩与近似误差，不能接受只展示后验均值而隐去近似限制。
10.3.1 Variational distribution
↡Variational distribution对应原版目录坐标“10·3·1 Variational distribution”，在“第10章 近似推断 Approximate Inference”中用于选择近似族并沿变分目标或矩匹配传播近似，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 14/26。 对“第10章 近似推断 Approximate Inference”而言，目录项「10·3·1 Variational distribution」的最小建模合同是选择近似族并沿变分目标或矩匹配传播近似，第14次检查保存因子化、ELBO、自然参数、坐标更新、消息、矩与近似误差；若产生只展示后验均值而隐去近似限制，就返回上一步。
10.3.2 Predictive distribution
↡Predictive distribution对应原版目录坐标“10·3·2 Predictive distribution”，在“第10章 近似推断 Approximate Inference”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 15/26。 第15个正式坐标「10·3·2 Predictive distribution」服务于覆盖变分推断、因子化近似、变分混合/回归、局部界、消息传递与期望传播，需要以观测、模型、先验/似然、算法状态、诊断、反例和时间边界呈现把目录坐标转为有变量、假设、推断与预测检查的概率合同；只复述模型或公式名称会破坏“目标后验、近似族、因子化、下界、更新顺序、初始化和收敛诊断固定”。
10.3.3 Lower bound
↡Lower bound对应原版目录坐标“10·3·3 Lower bound”，在“第10章 近似推断 Approximate Inference”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 16/26。 在“第10章 近似推断 Approximate Inference”的坐标16中，目录项「10·3·3 Lower bound」用于把目录坐标转为有变量、假设、推断与预测检查的概率合同；先冻结观测与参数化，再以观测、模型、先验/似然、算法状态、诊断、反例和时间边界复核，出现只复述模型或公式名称时撤回结论。
10.4 Exponential Family Distributions
↡概率坐标17对应原版目录坐标“10·4 Exponential Family Distributions”，在“第10章 近似推断 Approximate Inference”中用于定义支持集、归一、参数更新与预测密度，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 17/26。 目录项「10·4 Exponential Family Distributions」进入“第10章 近似推断 Approximate Inference”后要回答第17个概率问题：它怎样定义支持集、归一、参数更新与预测密度、改变哪个条件或后验状态、由哪些变量域、充分统计量、归一常数、共轭更新、密度积分与带宽证明，并如何排除混淆质量和密度或在测试数据上调分布。
10.4.1 Variational message passing
↡概率坐标18对应原版目录坐标“10·4·1 Variational message passing”，在“第10章 近似推断 Approximate Inference”中用于选择近似族并沿变分目标或矩匹配传播近似，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 18/26。 围绕“怎样说明近似族、目标下界和坐标更新，并量化因子化或矩匹配造成的偏差？”“第10章 近似推断 Approximate Inference”在原版层级18把「10·4·1 Variational message passing」落实为选择近似族并沿变分目标或矩匹配传播近似；复核者先读取因子化、ELBO、自然参数、坐标更新、消息、矩与近似误差，不能接受只展示后验均值而隐去近似限制。
10.5 Local Variational Methods
↡概率坐标19对应原版目录坐标“10·5 Local Variational Methods”，在“第10章 近似推断 Approximate Inference”中用于选择近似族并沿变分目标或矩匹配传播近似，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 19/26。 对“第10章 近似推断 Approximate Inference”而言，目录项「10·5 Local Variational Methods」的最小建模合同是选择近似族并沿变分目标或矩匹配传播近似，第19次检查保存因子化、ELBO、自然参数、坐标更新、消息、矩与近似误差；若产生只展示后验均值而隐去近似限制，就返回上一步。
10.6 Variational Logistic Regression
↡概率坐标20对应原版目录坐标“10·6 Variational Logistic Regression”，在“第10章 近似推断 Approximate Inference”中用于连接判别分数、类别概率、近似后验与损失决策，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 20/26。 第20个正式坐标「10·6 Variational Logistic Regression」服务于覆盖变分推断、因子化近似、变分混合/回归、局部界、消息传递与期望传播，需要以类别编码、链接函数、似然、梯度/Hessian、校准与损失矩阵呈现连接判别分数、类别概率、近似后验与损失决策；分类率掩盖概率语义或后验近似误差会破坏“目标后验、近似族、因子化、下界、更新顺序、初始化和收敛诊断固定”。
10.6.1 Variational posterior distribution
↡概率坐标21对应原版目录坐标“10·6·1 Variational posterior distribution”，在“第10章 近似推断 Approximate Inference”中用于选择近似族并沿变分目标或矩匹配传播近似，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 21/26。 在“第10章 近似推断 Approximate Inference”的坐标21中，目录项「10·6·1 Variational posterior distribution」用于选择近似族并沿变分目标或矩匹配传播近似；先冻结观测与参数化，再以因子化、ELBO、自然参数、坐标更新、消息、矩与近似误差复核，出现只展示后验均值而隐去近似限制时撤回结论。
10.6.2 Optimizing the variational parameters
↡概率坐标22对应原版目录坐标“10·6·2 Optimizing the variational parameters”，在“第10章 近似推断 Approximate Inference”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 22/26。 目录项「10·6·2 Optimizing the variational parameters」进入“第10章 近似推断 Approximate Inference”后要回答第22个概率问题：它怎样把目录坐标转为有变量、假设、推断与预测检查的概率合同、改变哪个条件或后验状态、由哪些观测、模型、先验/似然、算法状态、诊断、反例和时间边界证明，并如何排除只复述模型或公式名称。
10.6.3 Inference of hyperparameters
↡概率坐标23对应原版目录坐标“10·6·3 Inference of hyperparameters”，在“第10章 近似推断 Approximate Inference”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 23/26。 围绕“怎样说明近似族、目标下界和坐标更新，并量化因子化或矩匹配造成的偏差？”“第10章 近似推断 Approximate Inference”在原版层级23把「10·6·3 Inference of hyperparameters」落实为把目录坐标转为有变量、假设、推断与预测检查的概率合同；复核者先读取观测、模型、先验/似然、算法状态、诊断、反例和时间边界，不能接受只复述模型或公式名称。
10.7 Expectation Propagation
↡Expectation Propagation对应原版目录坐标“10·7 Expectation Propagation”，在“第10章 近似推断 Approximate Inference”中用于选择近似族并沿变分目标或矩匹配传播近似，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 24/26。 对“第10章 近似推断 Approximate Inference”而言，目录项「10·7 Expectation Propagation」的最小建模合同是选择近似族并沿变分目标或矩匹配传播近似，第24次检查保存因子化、ELBO、自然参数、坐标更新、消息、矩与近似误差；若产生只展示后验均值而隐去近似限制，就返回上一步。
10.7.1 Example: The clutter problem
↡Example对应原版目录坐标“10·7·1 Example: The clutter problem”，在“第10章 近似推断 Approximate Inference”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 25/26。 第25个正式坐标「10·7·1 Example: The clutter problem」服务于覆盖变分推断、因子化近似、变分混合/回归、局部界、消息传递与期望传播，需要以观测、模型、先验/似然、算法状态、诊断、反例和时间边界呈现把目录坐标转为有变量、假设、推断与预测检查的概率合同；只复述模型或公式名称会破坏“目标后验、近似族、因子化、下界、更新顺序、初始化和收敛诊断固定”。
10.7.2 Expectation propagation on graphs
↡概率坐标26对应原版目录坐标“10·7·2 Expectation propagation on graphs”，在“第10章 近似推断 Approximate Inference”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 26/26。 在“第10章 近似推断 Approximate Inference”的坐标26中，目录项「10·7·2 Expectation propagation on graphs」用于把目录坐标转为有变量、假设、推断与预测检查的概率合同；先冻结观测与参数化，再以观测、模型、先验/似然、算法状态、诊断、反例和时间边界复核，出现只复述模型或公式名称时撤回结论。
先预测，再操作三个章专属概率实验
1. 概率模型与条件状态
固定“对相关高斯和混合模型比较平均场变分、局部界与期望传播。”，在参考与反例间切换，逐阶段查看“选择近似族、构造变分目标、更新局部因子、传播近似消息、诊断近似误差”的进入状态、条件化、离开状态和概率检查。
概率模型状态
选择观测情形，逐步核对先验、运算与后验
怎样说明近似族、目标下界和坐标更新，并量化因子化或矩匹配造成的偏差？
观测设置
对相关高斯和混合模型比较平均场变分、局部界与期望传播。 固定数据、参数化、初值、顺序、容差和种子。
事前预测
沿“选择近似族 → 构造变分目标 → 更新局部因子 → 传播近似消息 → 诊断近似误差”得到可复核概率结论。
适用边界
全过程必须满足“目标后验、近似族、因子化、下界、更新顺序、初始化和收敛诊断固定”。
进入本步的状态
第10章 近似推断 Approximate Inference：声明观测、变量与数据角色，保持其余概率合同不变
条件化或变换
冻结支持集、形状、版本和允许读取的信息，并持续满足“目标后验、近似族、因子化、下界、更新顺序、初始化和收敛诊断固定”
离开本步的状态
选择近似族产生可追溯观测状态
概率与数值检查
可追溯观测状态、概率质量与数值断言；出现“只报告近似后验均值，不记录ELBO、近似族限制或多初值敏感性”时停止
原版坐标：10 Approximate Inference、10.1 Variational Inference、10.1.1 Factorized distributions、10.1.2 Properties of factorized approximations、10.1.3 Example: The univariate Gaussian、10.1.4 Model comparison、10.2 Illustration: Variational Mixture of Gaussians、10.2.1 Variational distribution、10.2.2 Variational lower bound、10.2.3 Predictive density、10.2.4 Determining the number of components、10.2.5 Induced factorizations、10.3 Variational Linear Regression、10.3.1 Variational distribution、10.3.2 Predictive distribution、10.3.3 Lower bound、10.4 Exponential Family Distributions、10.4.1 Variational message passing、10.5 Local Variational Methods、10.6 Variational Logistic Regression、10.6.1 Variational posterior distribution、10.6.2 Optimizing the variational parameters、10.6.3 Inference of hyperparameters、10.7 Expectation Propagation、10.7.1 Example: The clutter problem、10.7.2 Expectation propagation on graphs
第10章 近似推断 Approximate Inference的可重放概率协议
| 阶段 | 允许动作 | 必留证据 | 拒绝条件 |
|---|---|---|---|
| 选择近似族 | 在“第10章 近似推断 Approximate Inference”执行选择近似族，只改变声明的概率或算法状态 | 观测、变量、支持集、数据角色与版本 | 观测或支持集不可追溯 |
| 构造变分目标 | 在“第10章 近似推断 Approximate Inference”执行构造变分目标，只改变声明的概率或算法状态 | 模型、先验/似然、参数/隐变量、消息、样本与预测分布 | 只报告近似后验均值，不记录ELBO、近似族限制或多初值敏感性 |
| 更新局部因子 | 在“第10章 近似推断 Approximate Inference”执行更新局部因子，只改变声明的概率或算法状态 | 模型、先验/似然、参数/隐变量、消息、样本与预测分布 | 只报告近似后验均值，不记录ELBO、近似族限制或多初值敏感性 |
| 传播近似消息 | 在“第10章 近似推断 Approximate Inference”执行传播近似消息，只改变声明的概率或算法状态 | 模型、先验/似然、参数/隐变量、消息、样本与预测分布 | 只报告近似后验均值，不记录ELBO、近似族限制或多初值敏感性 |
| 诊断近似误差 | 在“第10章 近似推断 Approximate Inference”执行诊断近似误差，只改变声明的概率或算法状态 | 归一、残差、校准、反例、适用边界与复现 | 无法重放或缺少预测检查 |
unit: "prl-10"
question: "怎样说明近似族、目标下界和坐标更新，并量化因子化或矩匹配造成的偏差？"
scenario: "对相关高斯和混合模型比较平均场变分、局部界与期望传播。"
stages:
["选择近似族", "构造变分目标", "更新局部因子", "传播近似消息", "诊断近似误差"]
invariant: "目标后验、近似族、因子化、下界、更新顺序、初始化和收敛诊断固定"
fault: "只报告近似后验均值，不记录ELBO、近似族限制或多初值敏感性"
evidence: "目标密度、近似因子、自然参数、ELBO分解、坐标更新、消息、矩匹配、收敛残差和相关性反例。"
reset: restore_case_stage_trace_mode_step_gates_and_artifact该协议要求“第10章 近似推断 Approximate Inference”在相同观测、数据角色、参数化、初值、顺序、容差和种子下重放。重置后若案例、阶段、轨迹模式、步骤、预测门或证据包没有回到基线，交互状态已经污染比较。
本页回顾
掌握“第10章 近似推断 Approximate Inference”不是背诵公式或API，而是能围绕“怎样说明近似族、目标下界和坐标更新，并量化因子化或矩匹配造成的偏差？”重建观测、模型、推断与预测证据，并用“目标后验、近似族、因子化、下界、更新顺序、初始化和收敛诊断固定”拒绝“只报告近似后验均值，不记录ELBO、近似族限制或多初值敏感性”。最终交付为目标密度、近似因子、自然参数、ELBO分解、坐标更新、消息、矩匹配、收敛残差和相关性反例。
练习与答案
练习
- 问题 1：概率合同。 “第10章 近似推断 Approximate Inference”为什么必须先冻结观测、数据角色、参数化、初值、顺序、容差和种子？
- 问题 2：目录逐项覆盖。 怎样证明原版目录坐标已经进入机制、交互和练习？
- 问题 3：故障恢复。 怎样证明“只报告近似后验均值，不记录ELBO、近似族限制或多初值敏感性”已经被修正？
小结
- 精确推断常不可行
- 变分推断转推断为优化
- 平均场分解简化后验
- 期望传播逼近矩匹配
- 近似方法各有利弊
名词解释
名词解释
本章出现的专业名词，用大白话再讲一遍。
- Approximate Inference
检索键 prml-A 对应目录坐标「10 Approximate Inference」；在“第10章 近似推断 Approximate Inference”中用于选择近似族并沿变分目标或矩匹配传播近似，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Variational Inference
检索键 prml-B 对应目录坐标「10·1 Variational Inference」；在“第10章 近似推断 Approximate Inference”中用于选择近似族并沿变分目标或矩匹配传播近似，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Factorized distributions
检索键 prml-C 对应目录坐标「10·1·1 Factorized distributions」；在“第10章 近似推断 Approximate Inference”中用于选择近似族并沿变分目标或矩匹配传播近似，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标4
检索键 prml-D 对应目录坐标「10·1·2 Properties of factorized approximations」；在“第10章 近似推断 Approximate Inference”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Example
检索键 prml-E 对应目录坐标「10·1·3 Example: The univariate Gaussian」；在“第10章 近似推断 Approximate Inference”中用于定义支持集、归一、参数更新与预测密度，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Model comparison
检索键 prml-F 对应目录坐标「10·1·4 Model comparison」；在“第10章 近似推断 Approximate Inference”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Illustration
检索键 prml-G 对应目录坐标「10·2 Illustration: Variational Mixture of Gaussians」；在“第10章 近似推断 Approximate Inference”中用于定义支持集、归一、参数更新与预测密度，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Variational distribution
检索键 prml-H 对应目录坐标「10·2·1 Variational distribution」；在“第10章 近似推断 Approximate Inference”中用于选择近似族并沿变分目标或矩匹配传播近似，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Variational lower bound
检索键 prml-I 对应目录坐标「10·2·2 Variational lower bound」；在“第10章 近似推断 Approximate Inference”中用于选择近似族并沿变分目标或矩匹配传播近似，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Predictive density
检索键 prml-J 对应目录坐标「10·2·3 Predictive density」；在“第10章 近似推断 Approximate Inference”中用于定义支持集、归一、参数更新与预测密度，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标11
检索键 prml-K 对应目录坐标「10·2·4 Determining the number of components」；在“第10章 近似推断 Approximate Inference”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Induced factorizations
检索键 prml-L 对应目录坐标「10·2·5 Induced factorizations」；在“第10章 近似推断 Approximate Inference”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标13
检索键 prml-M 对应目录坐标「10·3 Variational Linear Regression」；在“第10章 近似推断 Approximate Inference”中用于选择近似族并沿变分目标或矩匹配传播近似，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Variational distribution
检索键 prml-N 对应目录坐标「10·3·1 Variational distribution」；在“第10章 近似推断 Approximate Inference”中用于选择近似族并沿变分目标或矩匹配传播近似，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Predictive distribution
检索键 prml-O 对应目录坐标「10·3·2 Predictive distribution」；在“第10章 近似推断 Approximate Inference”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Lower bound
检索键 prml-P 对应目录坐标「10·3·3 Lower bound」；在“第10章 近似推断 Approximate Inference”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标17
检索键 prml-Q 对应目录坐标「10·4 Exponential Family Distributions」；在“第10章 近似推断 Approximate Inference”中用于定义支持集、归一、参数更新与预测密度，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标18
检索键 prml-R 对应目录坐标「10·4·1 Variational message passing」；在“第10章 近似推断 Approximate Inference”中用于选择近似族并沿变分目标或矩匹配传播近似，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标19
检索键 prml-S 对应目录坐标「10·5 Local Variational Methods」；在“第10章 近似推断 Approximate Inference”中用于选择近似族并沿变分目标或矩匹配传播近似，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标20
检索键 prml-T 对应目录坐标「10·6 Variational Logistic Regression」；在“第10章 近似推断 Approximate Inference”中用于连接判别分数、类别概率、近似后验与损失决策，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标21
检索键 prml-U 对应目录坐标「10·6·1 Variational posterior distribution」；在“第10章 近似推断 Approximate Inference”中用于选择近似族并沿变分目标或矩匹配传播近似，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标22
检索键 prml-V 对应目录坐标「10·6·2 Optimizing the variational parameters」；在“第10章 近似推断 Approximate Inference”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标23
检索键 prml-W 对应目录坐标「10·6·3 Inference of hyperparameters」；在“第10章 近似推断 Approximate Inference”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Expectation Propagation
检索键 prml-X 对应目录坐标「10·7 Expectation Propagation」；在“第10章 近似推断 Approximate Inference”中用于选择近似族并沿变分目标或矩匹配传播近似，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Example
检索键 prml-Y 对应目录坐标「10·7·1 Example: The clutter problem」；在“第10章 近似推断 Approximate Inference”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标26
检索键 prml-Z 对应目录坐标「10·7·2 Expectation propagation on graphs」；在“第10章 近似推断 Approximate Inference”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同，需要连接原版范围、概率状态、推断轨迹与独立预测证据。