第4章 线性分类模型 Linear Models for Classification
覆盖判别函数、概率生成/判别模型、Laplace近似与贝叶斯逻辑回归;用概率模型状态、单故障推断轨迹和预测检验门完成独立复核。
学习目标
- 能说明“第4章 线性分类模型 Linear Models for Classification”如何覆盖判别函数、概率生成/判别模型、Laplace近似与贝叶斯逻辑回归,并区分2006年原版、2026年中文书目与当前扩展
- 能先预测“怎样比较Fisher、感知机、生成分类与逻辑回归,并用相同损失与校准条件验收?”“第4章 线性分类模型 Linear Models for Classification”会改变哪项概率状态,再用先验、运算、后验与诊断逐步复核
- 能注入“只比较训练分类率,忽略概率校准、近似后验误差和类别不平衡”,用“类别编码、特征变换、生成/判别假设、链接函数、损失、正则和评估角色固定”决定接受、降级或拒绝模型结论
为什么从这个概率问题开始
线性分类页区分分数、概率与决策,边界相同并不代表不确定性语义相同。 “第4章 线性分类模型 Linear Models for Classification”的贯穿任务是:在二分类与多分类样本上比较线性判别边界和概率预测。 动手前先写下哪个观测、分布、参数、隐变量、消息或预测会变化;运行后补理由不算预测。
围绕“怎样比较Fisher、感知机、生成分类与逻辑回归,并用相同损失与校准条件验收?”“第4章 线性分类模型 Linear Models for Classification”建立参考、故障与恢复路径。只有它守住“类别编码、特征变换、生成/判别假设、链接函数、损失、正则和评估角色固定”并交付类别与特征、生成假设、判别参数、链接函数、Hessian、近似后验、概率校准、损失与拒绝区。,公式、图形或指标才构成模式识别与机器学习证据。
书目、266个原版层级与版本边界
“第4章 线性分类模型 Linear Models for Classification”以Microsoft Research作者出版页和作者公开的原版完整PDF核对Christopher M. Bishop著 Pattern Recognition and Machine Learning 的正文与完整目录,并以Springer官方书目交叉核对2006年第一版、ISBN 9780387310732、14章和5个附录。本站逐项统计14个章标题、247个编号节/小节与附录A-E,共266个正式目录层级;作者勘误表用于纠正已知排印问题。
本项目能访问原版一手全文,但不复制或逐段翻译原书;中文解释、推导、数值实验、交互、练习与答案均为独立教学重写。中文发行书目只用于核对2026年人民邮电出版社新译本的ISBN 9787115681409、译者和页数,不用来证明原版正文。“第4章 线性分类模型 Linear Models for Classification”以2006年原版为内容边界;2026年中文新译本只用于中文书目信息,当前库函数和后续研究只作带时间标签的独立核验。
本页另以技术核对 1、技术核对 2、技术核对 3核对算法定义、实现语义或数值诊断。外部资料能验证技术事实,不能反向证明原书采用了本站表述。
原版目录层级与概率机制
4 Linear Models for Classification
↡概率坐标1对应原版目录坐标“4 Linear Models for Classification”,在“第4章 线性分类模型 Linear Models for Classification”中用于连接判别分数、类别概率、近似后验与损失决策,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 1/26。 在“第4章 线性分类模型 Linear Models for Classification”的坐标1中,目录项「4 Linear Models for Classification」用于连接判别分数、类别概率、近似后验与损失决策;先冻结观测与参数化,再以类别编码、链接函数、似然、梯度/Hessian、校准与损失矩阵复核,出现分类率掩盖概率语义或后验近似误差时撤回结论。
4.1 Discriminant Functions
↡Discriminant Functions对应原版目录坐标“4·1 Discriminant Functions”,在“第4章 线性分类模型 Linear Models for Classification”中用于连接判别分数、类别概率、近似后验与损失决策,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 2/26。 目录项「4·1 Discriminant Functions」进入“第4章 线性分类模型 Linear Models for Classification”后要回答第2个概率问题:它怎样连接判别分数、类别概率、近似后验与损失决策、改变哪个条件或后验状态、由哪些类别编码、链接函数、似然、梯度/Hessian、校准与损失矩阵证明,并如何排除分类率掩盖概率语义或后验近似误差。
4.1.1 Two classes
↡Two classes对应原版目录坐标“4·1·1 Two classes”,在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 3/26。 围绕“怎样比较Fisher、感知机、生成分类与逻辑回归,并用相同损失与校准条件验收?”“第4章 线性分类模型 Linear Models for Classification”在原版层级3把「4·1·1 Two classes」落实为把目录坐标转为有变量、假设、推断与预测检查的概率合同;复核者先读取观测、模型、先验/似然、算法状态、诊断、反例和时间边界,不能接受只复述模型或公式名称。
4.1.2 Multiple classes
↡Multiple classes对应原版目录坐标“4·1·2 Multiple classes”,在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 4/26。 对“第4章 线性分类模型 Linear Models for Classification”而言,目录项「4·1·2 Multiple classes」的最小建模合同是把目录坐标转为有变量、假设、推断与预测检查的概率合同,第4次检查保存观测、模型、先验/似然、算法状态、诊断、反例和时间边界;若产生只复述模型或公式名称,就返回上一步。
4.1.3 Least squares for classification
↡概率坐标5对应原版目录坐标“4·1·3 Least squares for classification”,在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 5/26。 第5个正式坐标「4·1·3 Least squares for classification」服务于覆盖判别函数、概率生成/判别模型、Laplace近似与贝叶斯逻辑回归,需要以观测、模型、先验/似然、算法状态、诊断、反例和时间边界呈现把目录坐标转为有变量、假设、推断与预测检查的概率合同;只复述模型或公式名称会破坏“类别编码、特征变换、生成/判别假设、链接函数、损失、正则和评估角色固定”。
4.1.4 Fisher's linear discriminant
↡概率坐标6对应原版目录坐标“4·1·4 Fisher's linear discriminant”,在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 6/26。 在“第4章 线性分类模型 Linear Models for Classification”的坐标6中,目录项「4·1·4 Fisher's linear discriminant」用于把目录坐标转为有变量、假设、推断与预测检查的概率合同;先冻结观测与参数化,再以观测、模型、先验/似然、算法状态、诊断、反例和时间边界复核,出现只复述模型或公式名称时撤回结论。
4.1.5 Relation to least squares
↡概率坐标7对应原版目录坐标“4·1·5 Relation to least squares”,在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 7/26。 目录项「4·1·5 Relation to least squares」进入“第4章 线性分类模型 Linear Models for Classification”后要回答第7个概率问题:它怎样把目录坐标转为有变量、假设、推断与预测检查的概率合同、改变哪个条件或后验状态、由哪些观测、模型、先验/似然、算法状态、诊断、反例和时间边界证明,并如何排除只复述模型或公式名称。
4.1.6 Fisher's discriminant for multiple classes
↡概率坐标8对应原版目录坐标“4·1·6 Fisher's discriminant for multiple classes”,在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 8/26。 围绕“怎样比较Fisher、感知机、生成分类与逻辑回归,并用相同损失与校准条件验收?”“第4章 线性分类模型 Linear Models for Classification”在原版层级8把「4·1·6 Fisher's discriminant for multiple classes」落实为把目录坐标转为有变量、假设、推断与预测检查的概率合同;复核者先读取观测、模型、先验/似然、算法状态、诊断、反例和时间边界,不能接受只复述模型或公式名称。
4.1.7 The perceptron algorithm
↡The perceptron algorithm对应原版目录坐标“4·1·7 The perceptron algorithm”,在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 9/26。 对“第4章 线性分类模型 Linear Models for Classification”而言,目录项「4·1·7 The perceptron algorithm」的最小建模合同是把目录坐标转为有变量、假设、推断与预测检查的概率合同,第9次检查保存观测、模型、先验/似然、算法状态、诊断、反例和时间边界;若产生只复述模型或公式名称,就返回上一步。
4.2 Probabilistic Generative Models
↡概率坐标10对应原版目录坐标“4·2 Probabilistic Generative Models”,在“第4章 线性分类模型 Linear Models for Classification”中用于连接判别分数、类别概率、近似后验与损失决策,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 10/26。 第10个正式坐标「4·2 Probabilistic Generative Models」服务于覆盖判别函数、概率生成/判别模型、Laplace近似与贝叶斯逻辑回归,需要以类别编码、链接函数、似然、梯度/Hessian、校准与损失矩阵呈现连接判别分数、类别概率、近似后验与损失决策;分类率掩盖概率语义或后验近似误差会破坏“类别编码、特征变换、生成/判别假设、链接函数、损失、正则和评估角色固定”。
4.2.1 Continuous inputs
↡Continuous inputs对应原版目录坐标“4·2·1 Continuous inputs”,在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 11/26。 在“第4章 线性分类模型 Linear Models for Classification”的坐标11中,目录项「4·2·1 Continuous inputs」用于把目录坐标转为有变量、假设、推断与预测检查的概率合同;先冻结观测与参数化,再以观测、模型、先验/似然、算法状态、诊断、反例和时间边界复核,出现只复述模型或公式名称时撤回结论。
4.2.2 Maximum likelihood solution
↡概率坐标12对应原版目录坐标“4·2·2 Maximum likelihood solution”,在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 12/26。 目录项「4·2·2 Maximum likelihood solution」进入“第4章 线性分类模型 Linear Models for Classification”后要回答第12个概率问题:它怎样把目录坐标转为有变量、假设、推断与预测检查的概率合同、改变哪个条件或后验状态、由哪些观测、模型、先验/似然、算法状态、诊断、反例和时间边界证明,并如何排除只复述模型或公式名称。
4.2.3 Discrete features
↡Discrete features对应原版目录坐标“4·2·3 Discrete features”,在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 13/26。 围绕“怎样比较Fisher、感知机、生成分类与逻辑回归,并用相同损失与校准条件验收?”“第4章 线性分类模型 Linear Models for Classification”在原版层级13把「4·2·3 Discrete features」落实为把目录坐标转为有变量、假设、推断与预测检查的概率合同;复核者先读取观测、模型、先验/似然、算法状态、诊断、反例和时间边界,不能接受只复述模型或公式名称。
4.2.4 Exponential family
↡Exponential family对应原版目录坐标“4·2·4 Exponential family”,在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 14/26。 对“第4章 线性分类模型 Linear Models for Classification”而言,目录项「4·2·4 Exponential family」的最小建模合同是把目录坐标转为有变量、假设、推断与预测检查的概率合同,第14次检查保存观测、模型、先验/似然、算法状态、诊断、反例和时间边界;若产生只复述模型或公式名称,就返回上一步。
4.3 Probabilistic Discriminative Models
↡概率坐标15对应原版目录坐标“4·3 Probabilistic Discriminative Models”,在“第4章 线性分类模型 Linear Models for Classification”中用于连接判别分数、类别概率、近似后验与损失决策,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 15/26。 第15个正式坐标「4·3 Probabilistic Discriminative Models」服务于覆盖判别函数、概率生成/判别模型、Laplace近似与贝叶斯逻辑回归,需要以类别编码、链接函数、似然、梯度/Hessian、校准与损失矩阵呈现连接判别分数、类别概率、近似后验与损失决策;分类率掩盖概率语义或后验近似误差会破坏“类别编码、特征变换、生成/判别假设、链接函数、损失、正则和评估角色固定”。
4.3.1 Fixed basis functions
↡Fixed basis functions对应原版目录坐标“4·3·1 Fixed basis functions”,在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 16/26。 在“第4章 线性分类模型 Linear Models for Classification”的坐标16中,目录项「4·3·1 Fixed basis functions」用于把目录坐标转为有变量、假设、推断与预测检查的概率合同;先冻结观测与参数化,再以观测、模型、先验/似然、算法状态、诊断、反例和时间边界复核,出现只复述模型或公式名称时撤回结论。
4.3.2 Logistic regression
↡Logistic regression对应原版目录坐标“4·3·2 Logistic regression”,在“第4章 线性分类模型 Linear Models for Classification”中用于连接判别分数、类别概率、近似后验与损失决策,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 17/26。 目录项「4·3·2 Logistic regression」进入“第4章 线性分类模型 Linear Models for Classification”后要回答第17个概率问题:它怎样连接判别分数、类别概率、近似后验与损失决策、改变哪个条件或后验状态、由哪些类别编码、链接函数、似然、梯度/Hessian、校准与损失矩阵证明,并如何排除分类率掩盖概率语义或后验近似误差。
4.3.3 Iterative reweighted least squares
↡概率坐标18对应原版目录坐标“4·3·3 Iterative reweighted least squares”,在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 18/26。 围绕“怎样比较Fisher、感知机、生成分类与逻辑回归,并用相同损失与校准条件验收?”“第4章 线性分类模型 Linear Models for Classification”在原版层级18把「4·3·3 Iterative reweighted least squares」落实为把目录坐标转为有变量、假设、推断与预测检查的概率合同;复核者先读取观测、模型、先验/似然、算法状态、诊断、反例和时间边界,不能接受只复述模型或公式名称。
4.3.4 Multiclass logistic regression
↡概率坐标19对应原版目录坐标“4·3·4 Multiclass logistic regression”,在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 19/26。 对“第4章 线性分类模型 Linear Models for Classification”而言,目录项「4·3·4 Multiclass logistic regression」的最小建模合同是把目录坐标转为有变量、假设、推断与预测检查的概率合同,第19次检查保存观测、模型、先验/似然、算法状态、诊断、反例和时间边界;若产生只复述模型或公式名称,就返回上一步。
4.3.5 Probit regression
↡Probit regression对应原版目录坐标“4·3·5 Probit regression”,在“第4章 线性分类模型 Linear Models for Classification”中用于连接判别分数、类别概率、近似后验与损失决策,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 20/26。 第20个正式坐标「4·3·5 Probit regression」服务于覆盖判别函数、概率生成/判别模型、Laplace近似与贝叶斯逻辑回归,需要以类别编码、链接函数、似然、梯度/Hessian、校准与损失矩阵呈现连接判别分数、类别概率、近似后验与损失决策;分类率掩盖概率语义或后验近似误差会破坏“类别编码、特征变换、生成/判别假设、链接函数、损失、正则和评估角色固定”。
4.3.6 Canonical link functions
↡Canonical link functions对应原版目录坐标“4·3·6 Canonical link functions”,在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 21/26。 在“第4章 线性分类模型 Linear Models for Classification”的坐标21中,目录项「4·3·6 Canonical link functions」用于把目录坐标转为有变量、假设、推断与预测检查的概率合同;先冻结观测与参数化,再以观测、模型、先验/似然、算法状态、诊断、反例和时间边界复核,出现只复述模型或公式名称时撤回结论。
4.4 The Laplace Approximation
↡概率坐标22对应原版目录坐标“4·4 The Laplace Approximation”,在“第4章 线性分类模型 Linear Models for Classification”中用于连接判别分数、类别概率、近似后验与损失决策,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 22/26。 目录项「4·4 The Laplace Approximation」进入“第4章 线性分类模型 Linear Models for Classification”后要回答第22个概率问题:它怎样连接判别分数、类别概率、近似后验与损失决策、改变哪个条件或后验状态、由哪些类别编码、链接函数、似然、梯度/Hessian、校准与损失矩阵证明,并如何排除分类率掩盖概率语义或后验近似误差。
4.4.1 Model comparison and BIC
↡Model comparison and BIC对应原版目录坐标“4·4·1 Model comparison and BIC”,在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 23/26。 围绕“怎样比较Fisher、感知机、生成分类与逻辑回归,并用相同损失与校准条件验收?”“第4章 线性分类模型 Linear Models for Classification”在原版层级23把「4·4·1 Model comparison and BIC」落实为把目录坐标转为有变量、假设、推断与预测检查的概率合同;复核者先读取观测、模型、先验/似然、算法状态、诊断、反例和时间边界,不能接受只复述模型或公式名称。
4.5 Bayesian Logistic Regression
↡概率坐标24对应原版目录坐标“4·5 Bayesian Logistic Regression”,在“第4章 线性分类模型 Linear Models for Classification”中用于连接判别分数、类别概率、近似后验与损失决策,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 24/26。 对“第4章 线性分类模型 Linear Models for Classification”而言,目录项「4·5 Bayesian Logistic Regression」的最小建模合同是连接判别分数、类别概率、近似后验与损失决策,第24次检查保存类别编码、链接函数、似然、梯度/Hessian、校准与损失矩阵;若产生分类率掩盖概率语义或后验近似误差,就返回上一步。
4.5.1 Laplace approximation
↡Laplace approximation对应原版目录坐标“4·5·1 Laplace approximation”,在“第4章 线性分类模型 Linear Models for Classification”中用于连接判别分数、类别概率、近似后验与损失决策,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 25/26。 第25个正式坐标「4·5·1 Laplace approximation」服务于覆盖判别函数、概率生成/判别模型、Laplace近似与贝叶斯逻辑回归,需要以类别编码、链接函数、似然、梯度/Hessian、校准与损失矩阵呈现连接判别分数、类别概率、近似后验与损失决策;分类率掩盖概率语义或后验近似误差会破坏“类别编码、特征变换、生成/判别假设、链接函数、损失、正则和评估角色固定”。
4.5.2 Predictive distribution
↡Predictive distribution对应原版目录坐标“4·5·2 Predictive distribution”,在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,并受支持集、条件化、算法状态、预测语义与版本边界约束。原版坐标 26/26。 在“第4章 线性分类模型 Linear Models for Classification”的坐标26中,目录项「4·5·2 Predictive distribution」用于把目录坐标转为有变量、假设、推断与预测检查的概率合同;先冻结观测与参数化,再以观测、模型、先验/似然、算法状态、诊断、反例和时间边界复核,出现只复述模型或公式名称时撤回结论。
先预测,再操作三个章专属概率实验
1. 概率模型与条件状态
固定“在二分类与多分类样本上比较线性判别边界和概率预测。”,在参考与反例间切换,逐阶段查看“定义类别损失、构造判别分数、归一为概率、近似参数后验、检验决策”的进入状态、条件化、离开状态和概率检查。
概率模型状态
选择观测情形,逐步核对先验、运算与后验
怎样比较Fisher、感知机、生成分类与逻辑回归,并用相同损失与校准条件验收?
观测设置
在二分类与多分类样本上比较线性判别边界和概率预测。 固定数据、参数化、初值、顺序、容差和种子。
事前预测
沿“定义类别损失 → 构造判别分数 → 归一为概率 → 近似参数后验 → 检验决策”得到可复核概率结论。
适用边界
全过程必须满足“类别编码、特征变换、生成/判别假设、链接函数、损失、正则和评估角色固定”。
进入本步的状态
第4章 线性分类模型 Linear Models for Classification:声明观测、变量与数据角色,保持其余概率合同不变
条件化或变换
冻结支持集、形状、版本和允许读取的信息,并持续满足“类别编码、特征变换、生成/判别假设、链接函数、损失、正则和评估角色固定”
离开本步的状态
定义类别损失产生可追溯观测状态
概率与数值检查
可追溯观测状态、概率质量与数值断言;出现“只比较训练分类率,忽略概率校准、近似后验误差和类别不平衡”时停止
原版坐标:4 Linear Models for Classification、4.1 Discriminant Functions、4.1.1 Two classes、4.1.2 Multiple classes、4.1.3 Least squares for classification、4.1.4 Fisher's linear discriminant、4.1.5 Relation to least squares、4.1.6 Fisher's discriminant for multiple classes、4.1.7 The perceptron algorithm、4.2 Probabilistic Generative Models、4.2.1 Continuous inputs、4.2.2 Maximum likelihood solution、4.2.3 Discrete features、4.2.4 Exponential family、4.3 Probabilistic Discriminative Models、4.3.1 Fixed basis functions、4.3.2 Logistic regression、4.3.3 Iterative reweighted least squares、4.3.4 Multiclass logistic regression、4.3.5 Probit regression、4.3.6 Canonical link functions、4.4 The Laplace Approximation、4.4.1 Model comparison and BIC、4.5 Bayesian Logistic Regression、4.5.1 Laplace approximation、4.5.2 Predictive distribution
第4章 线性分类模型 Linear Models for Classification的可重放概率协议
| 阶段 | 允许动作 | 必留证据 | 拒绝条件 |
|---|---|---|---|
| 定义类别损失 | 在“第4章 线性分类模型 Linear Models for Classification”执行定义类别损失,只改变声明的概率或算法状态 | 观测、变量、支持集、数据角色与版本 | 观测或支持集不可追溯 |
| 构造判别分数 | 在“第4章 线性分类模型 Linear Models for Classification”执行构造判别分数,只改变声明的概率或算法状态 | 模型、先验/似然、参数/隐变量、消息、样本与预测分布 | 只比较训练分类率,忽略概率校准、近似后验误差和类别不平衡 |
| 归一为概率 | 在“第4章 线性分类模型 Linear Models for Classification”执行归一为概率,只改变声明的概率或算法状态 | 模型、先验/似然、参数/隐变量、消息、样本与预测分布 | 只比较训练分类率,忽略概率校准、近似后验误差和类别不平衡 |
| 近似参数后验 | 在“第4章 线性分类模型 Linear Models for Classification”执行近似参数后验,只改变声明的概率或算法状态 | 模型、先验/似然、参数/隐变量、消息、样本与预测分布 | 只比较训练分类率,忽略概率校准、近似后验误差和类别不平衡 |
| 检验决策 | 在“第4章 线性分类模型 Linear Models for Classification”执行检验决策,只改变声明的概率或算法状态 | 归一、残差、校准、反例、适用边界与复现 | 无法重放或缺少预测检查 |
unit: "prl-04"
question: "怎样比较Fisher、感知机、生成分类与逻辑回归,并用相同损失与校准条件验收?"
scenario: "在二分类与多分类样本上比较线性判别边界和概率预测。"
stages:
["定义类别损失", "构造判别分数", "归一为概率", "近似参数后验", "检验决策"]
invariant: "类别编码、特征变换、生成/判别假设、链接函数、损失、正则和评估角色固定"
fault: "只比较训练分类率,忽略概率校准、近似后验误差和类别不平衡"
evidence: "类别与特征、生成假设、判别参数、链接函数、Hessian、近似后验、概率校准、损失与拒绝区。"
reset: restore_case_stage_trace_mode_step_gates_and_artifact该协议要求“第4章 线性分类模型 Linear Models for Classification”在相同观测、数据角色、参数化、初值、顺序、容差和种子下重放。重置后若案例、阶段、轨迹模式、步骤、预测门或证据包没有回到基线,交互状态已经污染比较。
本页回顾
掌握“第4章 线性分类模型 Linear Models for Classification”不是背诵公式或API,而是能围绕“怎样比较Fisher、感知机、生成分类与逻辑回归,并用相同损失与校准条件验收?”重建观测、模型、推断与预测证据,并用“类别编码、特征变换、生成/判别假设、链接函数、损失、正则和评估角色固定”拒绝“只比较训练分类率,忽略概率校准、近似后验误差和类别不平衡”。最终交付为类别与特征、生成假设、判别参数、链接函数、Hessian、近似后验、概率校准、损失与拒绝区。
练习与答案
练习
- 问题 1:概率合同。 “第4章 线性分类模型 Linear Models for Classification”为什么必须先冻结观测、数据角色、参数化、初值、顺序、容差和种子?
- 问题 2:目录逐项覆盖。 怎样证明原版目录坐标已经进入机制、交互和练习?
- 问题 3:故障恢复。 怎样证明“只比较训练分类率,忽略概率校准、近似后验误差和类别不平衡”已经被修正?
名词解释
名词解释
本章出现的专业名词,用大白话再讲一遍。
- 概率坐标1
检索键 prml-A 对应目录坐标「4 Linear Models for Classification」;在“第4章 线性分类模型 Linear Models for Classification”中用于连接判别分数、类别概率、近似后验与损失决策,需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Discriminant Functions
检索键 prml-B 对应目录坐标「4·1 Discriminant Functions」;在“第4章 线性分类模型 Linear Models for Classification”中用于连接判别分数、类别概率、近似后验与损失决策,需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Two classes
检索键 prml-C 对应目录坐标「4·1·1 Two classes」;在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Multiple classes
检索键 prml-D 对应目录坐标「4·1·2 Multiple classes」;在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标5
检索键 prml-E 对应目录坐标「4·1·3 Least squares for classification」;在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标6
检索键 prml-F 对应目录坐标「4·1·4 Fisher's linear discriminant」;在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标7
检索键 prml-G 对应目录坐标「4·1·5 Relation to least squares」;在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标8
检索键 prml-H 对应目录坐标「4·1·6 Fisher's discriminant for multiple classes」;在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- The perceptron algorithm
检索键 prml-I 对应目录坐标「4·1·7 The perceptron algorithm」;在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标10
检索键 prml-J 对应目录坐标「4·2 Probabilistic Generative Models」;在“第4章 线性分类模型 Linear Models for Classification”中用于连接判别分数、类别概率、近似后验与损失决策,需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Continuous inputs
检索键 prml-K 对应目录坐标「4·2·1 Continuous inputs」;在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标12
检索键 prml-L 对应目录坐标「4·2·2 Maximum likelihood solution」;在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Discrete features
检索键 prml-M 对应目录坐标「4·2·3 Discrete features」;在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Exponential family
检索键 prml-N 对应目录坐标「4·2·4 Exponential family」;在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标15
检索键 prml-O 对应目录坐标「4·3 Probabilistic Discriminative Models」;在“第4章 线性分类模型 Linear Models for Classification”中用于连接判别分数、类别概率、近似后验与损失决策,需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Fixed basis functions
检索键 prml-P 对应目录坐标「4·3·1 Fixed basis functions」;在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Logistic regression
检索键 prml-Q 对应目录坐标「4·3·2 Logistic regression」;在“第4章 线性分类模型 Linear Models for Classification”中用于连接判别分数、类别概率、近似后验与损失决策,需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标18
检索键 prml-R 对应目录坐标「4·3·3 Iterative reweighted least squares」;在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标19
检索键 prml-S 对应目录坐标「4·3·4 Multiclass logistic regression」;在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Probit regression
检索键 prml-T 对应目录坐标「4·3·5 Probit regression」;在“第4章 线性分类模型 Linear Models for Classification”中用于连接判别分数、类别概率、近似后验与损失决策,需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Canonical link functions
检索键 prml-U 对应目录坐标「4·3·6 Canonical link functions」;在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标22
检索键 prml-V 对应目录坐标「4·4 The Laplace Approximation」;在“第4章 线性分类模型 Linear Models for Classification”中用于连接判别分数、类别概率、近似后验与损失决策,需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Model comparison and BIC
检索键 prml-W 对应目录坐标「4·4·1 Model comparison and BIC」;在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- 概率坐标24
检索键 prml-X 对应目录坐标「4·5 Bayesian Logistic Regression」;在“第4章 线性分类模型 Linear Models for Classification”中用于连接判别分数、类别概率、近似后验与损失决策,需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Laplace approximation
检索键 prml-Y 对应目录坐标「4·5·1 Laplace approximation」;在“第4章 线性分类模型 Linear Models for Classification”中用于连接判别分数、类别概率、近似后验与损失决策,需要连接原版范围、概率状态、推断轨迹与独立预测证据。
- Predictive distribution
检索键 prml-Z 对应目录坐标「4·5·2 Predictive distribution」;在“第4章 线性分类模型 Linear Models for Classification”中用于把目录坐标转为有变量、假设、推断与预测检查的概率合同,需要连接原版范围、概率状态、推断轨迹与独立预测证据。