VAE
1. 模型概述
变分自编码器(Variational AutoEncoder,VAE)属于生成模型。从概率图的角度看,VAE 是带隐变量的有向概率图模型;从神经网络的角度看,VAE 是以自编码器(AutoEncoder,AE)为框架的生成模型。VAE 通过在由编码器确定的分布中采样的结果作为解码器的输入以对输入图像进行重建,其关键之处在于编码器直接输出的不是潜在空间(编码空间)的具体特征,而是特征分布,这使得 VAE 成为与朴素自编码器不同的生成模型。
具体来说,将模型的解码器结构剥离出来,只有当输入为非常接近模型遇见过的潜在特征时,朴素自编码器模型的解码器才能输出具有合理语义的图像,对于变化比较大的潜在特征,编码器生成的图像不符合人们的预期,甚至无法被人们理解,因此不认为朴素自编码器具备生成能力;而 VAE 通过向潜在特征加入噪音,使得编码器能够对于潜在特征发生变化的输入也具有一定的处理能力,从而保证了其生成图像的合理性。
2. 模型结构
图 1 VAE 模型
变分自编码器的结构如图 1