变分自编码器
- 提出者
- Kingma, D. P. & Welling, M.
- 年份
- 2014
- 类型
- Deep generative latent-variable model (encoder–decoder)
本文为机器翻译,尚未经过审校。 阅读英文原文
它有什么作用?
变分自编码器(Variational Autoencoder, VAE)是由 Diederik Kingma 和 Max Welling 于 2014 年提出的深度生成潜在变量模型,它将数据编码为潜在空间中的概率分布,并从该分布中采样以生成新样本。它用于数据生成、异常检测和特征学习。
方法背后的直觉
普通自编码器将每个输入压缩到压缩空间中的一个点,这有利于重建,但没有原则性的方法来创建新数据。VAE 则将每个输入映射到一个小的概率云——均值和方差——并强制这些概率云靠近一个简单的参考分布。由于潜在空间是平滑且连续的,您可以从中抽取一个新点,解码器将其转换为一个全新的、合理的样本。
历史学
变分自编码器由 Diederik Kingma 和 Max Welling 于 2014 年在论文《Auto-Encoding Variational Bayes》中提出,该论文将变分推断与神经网络编码器和解码器相结合,并引入了使模型能够端到端训练的重参数化技巧。2017 年,Higgins 及其同事提出了 beta-VAE,它通过一个系数重新加权 KL 项,以鼓励更解耦的潜在因子。VAE 与 GAN 以及最近的扩散模型一起,成为基础的深度生成模型之一。
何时使用
当您拥有至少约 200 个连续值观测值,并希望学习一个平滑的潜在表示以生成新数据、检测异常或压缩高维输入,并且有 GPU 可用于训练时,这是一个很好的选择。该模型假设潜在变量是连续的,并通过联合优化重建损失和 KL 散度进行训练。样本量低于约 200 个时,无法有意义地学习潜在分布,此时更简单的方法(如 PCA)更可取;低于约 50 个时,模型会完全失效。
局限与注意事项
- 需要相当大的样本量(约 200+)并且通常需要 GPU 才能有效训练。
- 与对抗生成网络或扩散模型相比,生成的样本可能看起来比较模糊。
- 在小型数据集上,潜在分布无法有意义地学习,因此 PCA 是更安全的选择。
- 重建项和 KL 项的平衡很微妙;KL 项可能会崩溃并被忽略。
来源中的条件不能替代独立的科学审查或分析引擎的验证。
优势
- 学习一个平滑、连续的潜在空间,可以从中采样以生成真正的新样本。
- 提供了一个原则性的概率框架,优化单一目标(证据下界)。
- 除了生成之外还有用——用于异常检测、特征学习和非线性降维。
- 不需要输入服从正态分布,并且适用于高维连续数据。
- 重参数化技巧使得整个模型可以通过梯度下降进行端到端训练。
应用
- 从学习到的潜在空间生成新的合成数据样本。
- 通过标记模型重建不佳的输入来检测异常和离群值。
- 对高维数据进行非线性降维和特征学习。
- 作为下游预测或聚类的预处理步骤的表示学习。
使用方式
使用方式
编码器网络读取每个输入,并输出潜在变量的分布参数——均值和方差——而不是一个固定的代码。这是概率编码步骤,它将每个观测值表示为潜在空间的一个区域,而不是一个点。
公式
q_\phi(z \mid x) = \mathcal{N}(z; \mu_\phi(x), \sigma_\phi^2(x))使用重参数化技巧从编码的分布中抽取潜在向量:模型将样本写成均值加上标准差乘以标准高斯噪声,而不是直接采样。由于随机性被推入外部噪声项,梯度仍然可以流经网络,模型可以端到端进行训练。
公式
z = \mu + \sigma \odot \epsilon, \quad \epsilon \sim \mathcal{N}(0, I)解码器网络将抽样的潜在向量映射回数据空间,训练过程优化证据下界(evidence lower bound):一个奖励忠实重建输入的重建项,减去一个将每个编码分布拉向先验分布的 Kullback–Leibler 项。这两个力之间的平衡产生了既能良好重建又能支持生成新样本的潜在空间。
公式
\mathcal{L} = \mathbb{E}_{q_\phi}[\log p_\theta(x \mid z)] - D_{KL}(q_\phi(z \mid x) \,\|\, p(z))常见陷阱
- 在过少的观测值(低于约 200 个)上进行训练,并期望获得有意义的生成模型。
- 忽略后验崩溃(posterior collapse),即 KL 项将潜在代码推向无信息状态。
- 仅根据重建的清晰度来评判模型,而不是根据生成样本的质量。
- 跳过重参数化技巧,破坏了通过采样步骤的梯度流。
- 在简单的线性降维(如 PCA)就足够的情况下,却选择了 VAE。
常见问题
VAE 与普通自编码器有何不同?
普通自编码器将每个输入映射到一个仅为重建而优化的单一潜在代码。VAE 将每个输入编码为一个概率分布,并添加一个 KL 项,使该分布接近先验分布,从而产生一个可以从中采样以生成新数据的平滑潜在空间。
什么是重参数化技巧?
它将潜在样本重写为编码的均值加上标准差乘以标准高斯噪声。通过将随机性移至外部噪声项,梯度可以穿过采样步骤,从而可以通过反向传播一起训练编码器和解码器。
我需要多少数据和什么硬件?
建议至少有约 200 个连续观测值,并建议使用 GPU 进行训练。低于 200 个时,潜在分布无法有意义地学习,PCA 更可取;低于约 50 个时,VAE 完全失效。
什么是 beta-VAE?
beta-VAE 由 Higgins 及其同事于 2017 年提出,它将 KL 项乘以一个系数(beta)。较大的 beta 值会迫使潜在维度捕获更多独立的、解耦的变化因子,但会以牺牲一定的重建保真度为代价。
相关方法
参考文献
Kingma, D. P. & Welling, M. (2014). Auto-Encoding Variational Bayes. International Conference on Learning Representations (ICLR).
打开出版物文献已复制。Higgins, I. et al. (2017). beta-VAE: Learning Basic Visual Concepts with a Constrained Variational Framework. International Conference on Learning Representations (ICLR).
打开出版物文献已复制。