jensenshannon距离、wasserstein_distance、KL散度计算

jensenshannon距离JS散度计算

计算两个 1-D 数组间的 Jensen-Shannon distance，需要将分布进行flatten()为1维

from scipy.spatial import distance
distance.jensenshannon([1.0, 0.0, 0.0], [0.0, 1.0, 0.0], 2.0)
1.0

wasserstein_distance计算wasserstein计算

from scipy.stats import wasserstein_distance
wasserstein_distance([0, 1, 3], [5, 6, 8])

wasserstein_distance计算需要将分布进行flatten()为1维

KL散度计算

pytorch中使用

F.kl_div(p.log(), p, reduction='batchmean')

第一个分布需要取log