基于监督对比正则化项的信息蒸馏生成对抗网络
摘 要:传统生成对抗网络主要通过最大化解耦表示和生成数据之间的互信息来学习解耦表示,较少分析解耦表示各维度之间的独立性。本文提出一种基于监督对比正则化项的信息蒸馏生成对抗网络(information distillation generative adversarial net based on supervised contrastive regularization, IDGAN-SC)。首先,IDGAN-SC 模型利用β-VAE模型学习解耦表示空间,约束解耦表示空间和生成模型之间具有强相关性;然后,通过最大化解耦隐向量和生成数据之间的互信息对模型进行解耦表示学习,并进一步利用监督对比正则化项的对比分类信息增强解耦隐变量各维度之间的独立性。在 dSprites、MNIST、CelebA 数据集上,分别从定性和定量的角度设计了对比实验,实验结果表明相比已有的生成对抗网络的解耦性能,IDGAN-SC 模型具有较强的解耦能力并具有明显的解耦效果。
论文下载: