KL散度，JS散度，余弦距离，欧式距离

散度：量化两种概率分布P和Q之间差异的方式；相当于衡量两个函数之间的关系 GAN是最小化JS散度 VAE是最小化KL散度 KL散度（不对称）：设p为随机变量X的概率分布，即p(x)为随机变量X在X=x处的概率密度函数值。两个概率分布p和q的KL散度（Kullback–Leibler divergence）也称为相对熵，用于刻画概率分布q拟合概率分布p的程度。 JS散度（对称）： 距离：两个特征向量

>>阅读原文<<