用有监督的学习方法来学习无监督学习模型

下面我们讨论一种将“概率密度函数估计问题”转化为“有监督的函数逼近”的技巧。

设为未知的、需要估计的概率密度函数，为指定用来作为“参考”的、已知的概率密度函数。设为从抽取的一个独立同分布的随机样本。我们也可以使用蒙特卡洛的方法从抽取一个样本量为的独立同分布样本。将质量分配给从抽取的样本，将质量分配给从抽取的样本。（我觉得上述分配质量的操作无异于令）。将上述两个样本混合，得到一个从概率密度抽取的随机样本。

如果我们将标签和分别赋给从和从抽取的样本，那么，条件概率函数

                                           

可以使用作为训练样本，通过有监督学习来估计。条件概率函数的估计可以用来估计,