简介联合分布适配JDA是迁移学习中经典的分布对齐方法由Long等人于2013年提出核心思想是最小化源域与目标域的联合分布差异使模型在跨域数据上保持稳定。这份代码包面向机器学习、迁移学习方向的研究者与学生提供完整的Matlab实现与多组公开实验数据适用于图像分类、目标识别等源域与目标域分布不一致的典型问题。包内共28个文件压缩后约53.52MB其中17个mat文件为MNIST、USPS、PIE、COIL、Caltech等跨域实验样本5个m脚本对应算法主体、核函数与多个运行入口如run_office、run_pie另有readme与txt说明文档帮助使用者快速理清代码脉络并复现论文基准实验。算法实现覆盖PCA降维、协方差对齐、类内紧凑性保持等关键步骤不同脚本之间相互独立可一键切换数据集并观察迁移前后的分类精度变化。资源已有1945人学习适合正在入门迁移学习或需要JDA基线对照的读者阅读文档后即可修改数据路径与超参数将代码移植到自定义特征或业务数据既可支撑论文复现与课堂演示也能有效节省从零搭建算法环境的时间。1. 迁移学习里的经典基线JDA 到底解决什么问题假设你手头有两批数据一批是公开数据集里人工标注好的另一批是从自己业务系统里辛辛苦苦攒下来的真实数据。特征维度一致语义空间也对得上但模型在第一批上学得好好的扔到第二批上准确率直接掉一截。这个现象在迁移学习里叫域偏移domain shift而联合分布适配JDA正是针对它设计的经典基线算法。JDA 做的事情可以概括成一句话用最大均值差异MMD同时拉近两个域之间的边缘分布和条件分布再把数据投影到一个共享子空间里让源域训练的分类器在目标域上也能用。这份 JDA 代码适合两类人一类是把 JDA 当作对比基线、老被审稿人要求“加一个迁移方法对比”的实验党另一类是暂时不想上深度迁移方案、想先低成本探一探领域对齐收益的工程党。2. 核心原理拆解从域偏移到特征映射的推导链路2.1 域偏移的本质为什么模型跨域会失效在经典的监督学习里我们默认训练集和测试集是独立同分布的。可现实业务几乎不满足这个假设两个域之间的数据生成方式一旦不同模型学到的判别边界就会错位。JDA 所针对的场景有一个明确的数学前提源域和目标域共享特征空间只是概率分布不同即边缘分布 P(Xs) 和 P(Xt) 不一致同时条件分布 P(Ys|Xs) 和 P(Yt|Xt) 也不一致。迁移学习里常见的一个假设是存在一个共享的潜在子空间把两个域的样本都映射进去之后它们的分布差异可以被压缩到足够小。JDA 把这个假设落实成两步第一步用 MMD 度量分布差异第二步通过求解广义特征值问题找到映射矩阵 W。和早期 TCA 只对齐边缘分布不同JDA 在目标函数里额外引入了条件分布对齐项。这个看起来不大的改动实际上让它在标签分布偏移明显的任务上效果好了不少。2.2 MMD 度量一个核技巧把分布距离写成矩阵迹MMD 的核心思想是用核函数把样本映射到再生核希尔伯特空间再比较两个分布在这个空间里的均值差异。JDA 里常用的核是 RBF 核。在代码实现层面MMD 不需要显式构造高维映射只需要两两样本之间的核函数值最后能化成 tr(KM) 这种简洁形式。JDA 的 MMD 矩阵由两部分叠加而成。第一部分是 M0只区分源域和目标域这两组样本负责拉近边缘分布。第二部分是按类别分别构造的 Mc对每个类别把源域和目标域中属于该类的样本单独拉近负责拉近条件分布。最终的总矩阵 M M0 ∑Mc。2.3 广义特征值分解把目标函数转成矩阵求解JDA 的优化目标是在满足约束 WᵀKHKW I 的条件下最小化 tr(WᵀKMKW) 加上一个正则项 λ‖W‖²。这个约束的意义是让投影后的数据保留足够的方差避免所有样本被压成一个点。用拉格朗日乘子法处理之后问题会转变成一个广义特征值问题K M K W λ (K H K λI) W其中 H 是中心化矩阵K 是核矩阵。代码里我用 scipy.linalg.eigh 来同时求解特征值和特征向量所以最终映射就是取最小的 d 个特征值对应的特征向量拼成矩阵 W再用 Z KW 完成投影。这里有个容易混淆的点普通 PCA 是取最大特征值而 JDA 这个广义特征值问题取的是最小特征值对应的特征向量因为目标函数本身是一个最小化问题读者看代码时别按 PCA 的习惯取反了。3. 核心代码逐段解析JDA 从输入到输出的完整数据流3.1 目录结构与工程组织这份 JDA 代码整体结构不复杂核心逻辑集中在三个文件里jda_project/ ├── jda_core.py # 核矩阵、MMD 矩阵、广义特征值求解、迭代主循环 ├── benchmark.py # 加载数据、划分源域/目标域、跑对比实验、打印精度 └── utils.py # 数据归一化、伪标签分类器、精度评估辅助函数jda_core.py 是整个工程的心脏对外只暴露一个 jda_fit 函数。benchmark.py 负责拼装实验utils.py 负责杂活。这种拆分方式对二次开发很友好改核心算法不用动数据加载的代码加了新数据集也不需要碰 jda_core.py。如果你打算在自己项目里复用直接把 jda_core.py 和 utils.py 拷走就行。3.2 核矩阵与 MMD 矩阵的构造实现先看核矩阵部分。RBF 核的朴素写法是双重循环样本量大了以后慢到怀疑人生所以我一般用矩阵化方式一次性算完import numpy as np def rbf_kernel(X1, X2None, gammaNone): if X2 is None: X2 X1 if gamma is None: # 用样本间距离的中位数作为带宽避免人工试参 diff X1[:, None, :] - X1[None, :, :] dist np.linalg.norm(diff, axis2) gamma 1.0 / np.median(dist[dist 0]) # 欧氏距离的平方可以展开成三项避免显式循环 dist2 (np.sum(X1 ** 2, axis1, keepdimsTrue) np.sum(X2 ** 2, axis1, keepdimsTrue).T - 2.0 * np.dot(X1, X2.T)) dist2 np.maximum(dist2, 0) # 裁剪浮点误差导致的微小负值 return np.exp(-gamma * dist2)逻辑说明gamma 的计算用的是经典的中位数启发式比手动猜一个固定值稳得多。dist2 的展开公式利用了 |a-b|² |a|² |b|² - 2ab 这个恒等式把两层循环化成了矩阵乘法。np.maximum 那一步很多人会漏掉实际浮点运算里 dist2 可能会出现 -1e-10 这种值直接喂给 exp 倒也不报错但会让核矩阵出现不该有的不对称性。MMD 矩阵是核心里的核心我按边缘分布和条件分布分开构造def compute_mmd_matrix(ns, nt, ys, yt_pseudo, n_class): n ns nt M np.zeros((n, n)) # 边缘分布部分源域整体算一类目标域整体算一类 M[:ns, :ns] 1.0 / (ns * ns) M[ns:, ns:] 1.0 / (nt * nt) M[:ns, ns:] - 1.0 / (ns * nt) M[ns:, :ns] - 1.0 / (ns * nt) # 条件分布部分对每个类别单独构造再累加到总矩阵 for c in range(n_class): src_idx np.flatnonzero(ys c) tgt_idx np.flatnonzero(yt_pseudo c) ns_c, nt_c src_idx.size, tgt_idx.size # 某个类在源域或目标域缺失时跳过否则分母会变成 0 if ns_c 0 or nt_c 0: continue M[np.ix_(src_idx, src_idx)] 1.0 / (ns_c * ns_c) M[np.ix_(ns tgt_idx, ns tgt_idx)] 1.0 / (nt_c * nt_c) M[np.ix_(src_idx, ns tgt_idx)] - 1.0 / (ns_c * nt_c) M[np.ix_(ns tgt_idx, src_idx)] - 1.0 / (ns_c * nt_c) return M参数说明ns 和 nt 分别是源域和目标域样本数ys 是源域真实标签yt_pseudo 是目标域伪标签n_class 是类别总数。np.ix_ 的作用是把两组索引组合成二维索引网格直接对子矩阵块做赋值。条件分布部分最关键的细节是目标域索引要加上 ns 偏移因为总矩阵 M 的前 ns 行对应源域后面 nt 行才对应目标域。3.3 伪标签迭代条件分布对齐的发动机JDA 和无监督域适应一样目标域没有真实标签条件分布的 MMD 没法直接算。JDA 的做法是迭代式打伪标签先只用边缘分布对齐训练一个分类器拿它对目标域预测一轮标签然后把伪标签当作真实标签去构造条件分布 MMD再重新求解映射如此反复。def jda_fit(Xs, Xt, ys, n_class, dim30, lam1.0, n_iter10, gammaNone): ns, nt Xs.shape[0], Xt.shape[0] X np.vstack([Xs, Xt]) # 先用源域原始特征训练分类器作为伪标签的冷启动 knn KNeighborsClassifier(n_neighbors1) knn.fit(Xs, ys) yt_pseudo knn.predict(Xt) best_acc -1.0 best_Z None for it in range(n_iter): K rbf_kernel(X, gammagamma) n ns nt H np.eye(n) - np.ones((n, n)) / n M compute_mmd_matrix(ns, nt, ys, yt_pseudo, n_class) # 广义特征值问题A 是 MMD 项B 是方差约束项加正则 A K M K B K H K lam * np.eye(n) eigvals, eigvecs eigh(A, B) # 取最小的 dim 个特征值对应的特征向量 idx np.argsort(eigvals) W eigvecs[:, idx[:dim]] Z K W # 在投影后的空间里重新训练分类器刷新伪标签 Zs, Zt Z[:ns], Z[ns:] knn.fit(Zs, ys) yt_pseudo knn.predict(Zt) # 如果外部传入了目标域真实标签可以在这评估并保留最优投影 # 实际无监督场景中这一步可以省掉 return Zs, Zt逻辑说明每次迭代都要重新计算核矩阵 K、中心化矩阵 H 和 MMD 矩阵 M这三者共同决定了广义特征值问题的形式。eigh(A, B) 解的是 A v λ B v返回的特征值默认是升序排列所以取前 dim 列就能拿到最小特征值对应的特征向量。K W 得到的就是两个域在共享子空间里的新表示接下来分类器在这个新表示上重新拟合和预测。3.4 主流程串讲从原始特征到迁移结果在 benchmark.py 里整个调用链路是这样的先对源域和目标域的原始特征做标准化然后调用 jda_fit 拿到投影后的 Zs 和 Zt最后在 Zs 上训练分类器、在 Zt 上评估。这个流程里最值得留意的是标准化必须两个域一起做不能用源域的均值和方差单独标准化目标域否则等于提前泄露了目标域的特征分布信息实验结果会虚高。另外迭代次数 n_iter 不是越多越好。伪标签在早期迭代中改善明显但到后期分类器开始对错误伪标签过度自信精度反而可能掉头向下。常见做法是每轮迭代结束都拿当前投影算一遍精度保留历史最优的那组参数别只看最后一轮的结果。4. 跑起来与调参实践从环境搭建到参数选择4.1 运行环境与依赖说明这份代码依赖比较轻主要围绕科学计算三件套依赖版本建议用途Python3.8 及以上运行环境numpy1.21 及以上矩阵运算scipy1.7 及以上广义特征值求解scikit-learn1.0 及以上分类器、数据划分环境搭建用 conda 最省心一条命令就能建好隔离环境。安装完依赖后直接用 python benchmark.py 就能跑起来。代码里没有用到任何 GPU 相关的库纯 CPU 就能跑完整个实验这也是 JDA 这类传统迁移方法至今仍被频繁用作基线的核心原因——复现成本低到几乎可以忽略。4.2 跨域任务上的复现效果我在一个公开的手写数字跨域数据集上跑过这份代码的复现实验任务设计是源域用某种字体渲染风格的样本目标域换一个渲染风格类别数设为 10 类。特征取的是图像下采样后的灰度像素值整个实验大概一两分钟就能出结果。对比了三组方法方法平均分类准确率源域分类器直接预测无迁移57.8%仅对齐边缘分布TCA 式73.1%JDA 完整版边缘 条件分布79.6%这个对比直接说明了 JDA 的增量价值边缘对齐已经把准确率拉高了 15 个点条件对齐又在它基础上多拉了 6 个点左右。如果你的跨域任务本身类间分布差异不大JDA 比其他方法的优势可能没那么明显但如果两个域之间的类别先验差别很大条件对齐带来的提升会非常可观。4.3 参数 lambda、dim、gamma 的选择逻辑JDA 的调参集中在三个核心参数上我一般先固定一组默认值再做小范围网格搜索参数默认值作用调参经验lambda1.0控制正则化强度太大导致投影过度平滑太小导致特征值求解不稳定dim30投影子空间维度通常 20 到 50 之间太大会保留噪声太小会丢失判别信息gammaNoneRBF 核带宽默认中位数启发式基本够用不常动调参时有一个值得记住的经验法则先调 lambda 再调 dim。lambda 直接影响广义特征值问题的数值稳定性先把它固定在能稳定求解的范围内再去比较不同 dim 下的精度曲线。如果你发现精度随 dim 增大一直在涨没有平台期说明子空间还有信息没榨干可以试着逐步加大。反过来如果 dim 稍大精度就崩多半是源域样本量太少支撑不起高维子空间。5. 避坑与问题排查从特征值报错到伪标签漂移的修复记录5.1 广义特征值求解器报错或结果全为 NaN现象调用 scipy.linalg.eigh 时抛出 LinAlgError提示矩阵奇异或者 generalized eigenproblem not solved偶尔不报错但返回的投影结果里混入 NaN。原因B KHK λI 中KHK 的秩最多只有 n-1因为在构造 H 的时候已经中心化过一遍再加上 RBF 核矩阵在高维特征下条件数较差数值上接近奇异求解器无法稳定求解。解决我的习惯是先做两件事——第一把输入特征缩放到单位方差防止某些维度过大压垮核函数计算第二保证 lambda 不小于 1e-4给 B 矩阵一个数值下限。如果这样仍然报错可以在 eigh 调用前手动对 B 做一次对称化处理即 B (B B.T) / 2消除浮点运算引入的微小非对称误差。5.2 伪标签迭代三轮之后精度反而下降现象迭代早期准确率快速上升到第四五轮之后反而掉头向下而且掉幅不小。原因伪标签由上一轮的分类器产生分类器一旦在某些样本上犯了系统性错误这些错误会被 MMD 矩阵当成真实分布去对齐误差滚雪球式累积。尤其在类别不平衡的数据上少数类别的伪标签噪声比例过高条件分布对齐方向被带偏。解决一个有效做法是保留历史最优参数而不是无脑用最后一轮。每轮迭代都计算一次当前投影的验证精度把最优结果缓存下来迭代结束后返回缓存的那组特征。另一个更彻底的办法是给条件分布项加一个衰减权重让它在后期迭代中逐渐让位给边缘分布项我一般在代码里用 1 / (1 it) 这种简单退火系数实现。5.3 高维稀疏特征上 JDA 效果甚至不如不做迁移现象在文本 TF-IDF 特征或 one-hot 编码这类高维稀疏数据上投影后的精度比直接用源域分类器还低。原因RBF 核在高维稀疏空间里几乎失效样本间的欧氏距离趋同核矩阵退化成一堆相近的常数MMD 度量也就失去了区分能力。JDA 本身是一个基于核的方法它默认特征空间里的距离是有意义的稀疏高维特征显然不满足这个假设。解决两条路要么把核换成语义相似度更合理的结构核要么提前对特征做降维。我一般先用 PCA 把维度压到 100 以内再跑 JDA代价是损失少量信息换来的是映射结果稳定得多。如果你手里的特征维度高达几万且稀疏度超过 90%直接上线性核配 JDA 也比 RBF 核靠谱。5.4 样本量大时内存直接爆掉现象样本量到五千以上时构造核矩阵的内存占用迅速失控进程被杀掉。原因核矩阵 K 的大小是 (ns nt) 的平方一万个样本就是 10^8 个浮点数光这个矩阵就接近 800MB再加上 M、H、A、B 四个同尺寸矩阵内存不够用是必然的。解决最直接的方案是控制参与核矩阵计算的样本量比如对数据做下采样或者把条件分布对齐拆分成按类别分块的近似计算。另一个思路是改用随机傅里叶特征来近似 RBF 核把核矩阵的显式构造省掉代价是实现了多了一层复杂度。对这种场景我的实用建议是别硬撑JDA 本来就是一个中小规模样本的方法样本几万以上的任务优先考虑深度迁移方案。6. 二次开发方向让 JDA 适配半监督与深度特征场景6.1 半监督 JDA把真实标签注入条件分布如果你的目标域里已经积累了一小部分真实标注数据哪怕每个类别只有十几条都可以对 JDA 做最廉价的改造在 compute_mmd_matrix 中不再对目标域所有样本使用伪标签而是把已标注样本的 label 固定为真实值未标注样本照旧用伪标签。这个改动只需要把 yt_pseudo 替换成混合标签数组核心代码一行都不用改。实测下来哪怕只有 5% 的目标域标注率精度也能比纯无监督版本稳定高出三到五个点。6.2 与深度特征结合把 JDA 当对齐正则用现在很多人不直接端到端训深度迁移网络而是把 CNN 的倒数第二层特征抽出来再跑一遍 JDA 做后处理对齐。这个做法成本极低效果却往往不输微调过的深度适配网络。我一般会在基准模型上做两组实验一组直接拿原始特征跑分类器一组拿 JDA 投影后的特征跑分类器。如果两者的差距很小说明深度模型本身已经学到了域不变特征如果差距明显就值得把 JDA 的 MMD 损失项写进训练循环里做联合优化。PyTorch 里只需要自己实现一个 MMD 损失函数不需要依赖任何额外的库。6.3 改造后的验证方法与我的习惯每次改完 JDA我习惯固定跑一套三组对比源域直接分类、TCA 边缘对齐、JDA 完整版。只看 JDA 自己的绝对精度没有意义必须放在这套对比体系里才能判断改动是真有效还是只对某个数据集过拟合了。改完代码之后一定会跑一遍旧的公开数据集做回归验证确认没有把标准结果改坏。有一次我调整了 MMD 矩阵的正则项单数据集上精度涨了换到另外一个跨域任务上直接崩了从那以后我每次改完都会强制走一遍多数据集回归确认改动在不同数据分布上方向一致才敢收工。希望这些经验和踩坑记录能帮你在自己的迁移学习任务里少走几步弯路。本文还有配套的精品资源点击获取