第19章 多任务学习

覆盖多任务最小二乘回归、概率分类与多维输出函数学习;用模型空间、单反例拟合轨迹和独立验证门完成复核。

学习目标

  • 能说明“第19章 多任务学习”如何覆盖多任务最小二乘回归、概率分类与多维输出函数学习,并把2013原版范围、独立论文核验与当前迁移分层
  • 能先预测“怎样证明任务共享带来可迁移结构,而不是大任务压制小任务或发生标签泄漏?”的五阶段统计链,再用输入、目标、求解、验证与反例逐层复核
  • 能注入“按样本量直接合并任务,主任务指标提升却牺牲小任务且无独立基线”,用“任务边界、共享/私有参数、任务权重、联合目标和按任务验证固定”决定接受、修正或拒绝学习结论

为什么从这个统计学习任务开始

多任务页要求每个任务都有独立基线,只有共享结构改善而非吞没任务时才接受迁移。 “第19章 多任务学习”的贯穿任务是:对相关的多个回归与概率分类任务比较独立、完全共享和结构化共享。 操作前必须写下哪个模型状态、风险项或验证结果会先变化,运行后再补理由不算预测。

本页围绕“怎样证明任务共享带来可迁移结构,而不是大任务压制小任务或发生标签泄漏?”建立基线、边界反例与恢复路径。只有“第19章 多任务学习”守住“任务边界、共享/私有参数、任务权重、联合目标和按任务验证固定”并交付任务定义、样本量、共享矩阵、私有参数、任务权重、联合损失、独立基线、逐任务指标和负迁移样本。,最终指标才构成统计学习证据。

书目、88个原版层级与独立重写边界

讲谈社官方书页确认杉山将《イラストで学ぶ 機械学習》于2013年出版、232页、ISBN 9784061538214,并公开6部分20章;中文版目录与书目用于交叉核对许永伟译、人民邮电出版社2015年版及62个编号小节。覆盖分母为6部分、20章和62个编号小节,共88个原版目录层级。

“第19章 多任务学习”未取得原书完整正文,只以权威目录限定范围;中文解释、图示结构、交互、实验、练习与答案均为独立教学重写。本章按经典联合学习讲共享结构;多智能体或提示多任务不属于原版19章。

本页另以技术核对 1技术核对 2核对算法机制。论文、作者与出版社资料能验证定义、假设或历史事实,不能反向证明原书正文采用了本站表述。

原版目录层级与统计机制

第19章 多任务学习

原版坐标 1/4。 在“第19章 多任务学习”的坐标1中,目录项「第19章 多任务学习」用于以共享结构联合学习相关任务;先冻结数据角色,再以任务边界、共享/私有参数、任务权重、联合损失与逐任务指标复核,出现大任务吞没小任务时撤回结论。

19.1 使用最小二乘回归的多任务学习

原版坐标 2/4。 目录项「19.1 使用最小二乘回归的多任务学习」进入“第19章 多任务学习”后要回答第2个问题:它怎样以共享结构联合学习相关任务、优化什么、由哪些任务边界、共享/私有参数、任务权重、联合损失与逐任务指标证明,并如何排除大任务吞没小任务。

19.2 使用最小二乘概率分类器的多任务学习

原版坐标 3/4。 围绕“怎样证明任务共享带来可迁移结构,而不是大任务压制小任务或发生标签泄漏?”,原版层级3把「19.2 使用最小二乘概率分类器的多任务学习」解释为输出并校准类别概率;复核者先读取链接函数、概率和、损失、阈值、Brier与校准图,不能接受任意分数归一化即称概率。

19.3 多维输出函数的学习

原版坐标 4/4。 对“第19章 多任务学习”而言,目录项「19.3 多维输出函数的学习」的最小合同是以共享结构联合学习相关任务,第4次检查保存任务边界、共享/私有参数、任务权重、联合损失与逐任务指标;若产生大任务吞没小任务,就返回上游重放。

先预测,再操作三个章专属实验

分步1 / 3

1. 模型空间与风险贡献

固定“对相关的多个回归与概率分类任务比较独立、完全共享和结构化共享。”,在基线与边界样本间切换,逐一查看“任务集合、共享结构、任务专属参数、联合优化、逐任务验证”的输入、变换、输出与证据。

模型空间

固定样本,追踪模型到风险

怎样证明任务共享带来可迁移结构,而不是大任务压制小任务或发生标签泄漏?

条件

对相关的多个回归与概率分类任务比较独立、完全共享和结构化共享。 使用冻结训练/验证/测试角色。

预测

沿“任务集合 → 共享结构 → 任务专属参数 → 联合优化 → 逐任务验证”形成预注册输出。

目标

满足“任务边界、共享/私有参数、任务权重、联合目标和按任务验证固定”。

风险贡献

按本页目标计入经验风险,并与简单基线同口径比较。

阶段输入

第19章 多任务学习:冻结的问题、样本与数据角色

变换

登记单位、切分、分布和形状,并守住“任务边界、共享/私有参数、任务权重、联合目标和按任务验证固定”

阶段输出

可追溯样本

复核证据

数据卡、索引与哈希;若出现“按样本量直接合并任务,主任务指标提升却牺牲小任务且无独立基线”就保留失败运行

原版坐标:第19章 多任务学习、19.1 使用最小二乘回归的多任务学习、19.2 使用最小二乘概率分类器的多任务学习、19.3 多维输出函数的学习

第19章 多任务学习的可重放统计协议

阶段学习动作必留证据拒绝条件
任务集合在“第19章 多任务学习”执行任务集合,一次只改变预注册变量任务、样本角色、分布、版本与输入数据角色或假设不可追溯
共享结构在“第19章 多任务学习”执行共享结构,一次只改变预注册变量表示、模型、风险、约束、参数或求解轨迹按样本量直接合并任务,主任务指标提升却牺牲小任务且无独立基线
任务专属参数在“第19章 多任务学习”执行任务专属参数,一次只改变预注册变量表示、模型、风险、约束、参数或求解轨迹按样本量直接合并任务,主任务指标提升却牺牲小任务且无独立基线
联合优化在“第19章 多任务学习”执行联合优化,一次只改变预注册变量表示、模型、风险、约束、参数或求解轨迹按样本量直接合并任务,主任务指标提升却牺牲小任务且无独立基线
逐任务验证在“第19章 多任务学习”执行逐任务验证,一次只改变预注册变量独立指标、稳定性、反例与环境无法独立重放或解释失败
unit: "iml-19"
question: "怎样证明任务共享带来可迁移结构,而不是大任务压制小任务或发生标签泄漏?"
scenario: "对相关的多个回归与概率分类任务比较独立、完全共享和结构化共享。"
stages: ["任务集合", "共享结构", "任务专属参数", "联合优化", "逐任务验证"]
invariant: "任务边界、共享/私有参数、任务权重、联合目标和按任务验证固定"
fault: "按样本量直接合并任务,主任务指标提升却牺牲小任务且无独立基线"
evidence: "任务定义、样本量、共享矩阵、私有参数、任务权重、联合损失、独立基线、逐任务指标和负迁移样本。"
reset: restore_case_stage_trace_mode_step_gates_and_artifact

该协议要求“第19章 多任务学习”在相同任务、数据角色、分布、代码、环境和种子下重放。重置后若样本情形、阶段、拟合模式、步骤、验证门或证据包没有回到基线,交互状态已经污染比较,不能作为结论。

本页回顾

掌握“第19章 多任务学习”不是记住算法名,而是能围绕“怎样证明任务共享带来可迁移结构,而不是大任务压制小任务或发生标签泄漏?”重建统计假设、风险与验证,并用“任务边界、共享/私有参数、任务权重、联合目标和按任务验证固定”拒绝“按样本量直接合并任务,主任务指标提升却牺牲小任务且无独立基线”。最终交付为任务定义、样本量、共享矩阵、私有参数、任务权重、联合损失、独立基线、逐任务指标和负迁移样本。

练习与答案

练习

  1. 问题 1:统计合同。 “第19章 多任务学习”为什么必须先冻结任务、数据角色、分布假设、代码、环境与种子?
  1. 问题 2:目录逐项覆盖。 怎样证明原版目录坐标已经进入机制、交互和练习?
  1. 问题 3:反例恢复。 怎样证明“按样本量直接合并任务,主任务指标提升却牺牲小任务且无独立基线”已经被修正?

名词解释

名词解释

本章出现的专业名词,用大白话再讲一遍。

多任务学习

对应“第19章 多任务学习”;在“第19章 多任务学习”中用于以共享结构联合学习相关任务,需要连接原版范围、统计假设与独立验证。

使用最小二乘回归的多任务学习

对应“19.1 使用最小二乘回归的多任务学习”;在“第19章 多任务学习”中用于以共享结构联合学习相关任务,需要连接原版范围、统计假设与独立验证。

使用最小二乘概率分类器的多任务学习

对应“19.2 使用最小二乘概率分类器的多任务学习”;在“第19章 多任务学习”中用于输出并校准类别概率,需要连接原版范围、统计假设与独立验证。

多维输出函数的学习

对应“19.3 多维输出函数的学习”;在“第19章 多任务学习”中用于以共享结构联合学习相关任务,需要连接原版范围、统计假设与独立验证。

讨论

评论区加载中…