互信息公式：g(D,A) = H(D) - H(D|A)
其中H(D)为熵，也叫经验熵，香农熵。H(D|A)是指在A条件下的熵，即条件熵。
H(D|A) = sum Pi * H(D|A=Ai), i=1,…,n
Pi为Ai条件出现的概率，H(D|A=Ai)为Ai条件的熵。
这里写代码片
def 决策树--熵(Entropy)，互信息(Mutual Info)
猜你喜欢
转载自blog.csdn.net/YMilton/article/details/78759274
今日推荐
周排行