为什么条件熵使用联合概率加权

为 什 么 条 件 熵 用 联 合 概 率 加 权 ? : 条 件 概 率 P ( A ∣ B ) = P ( A B ) P ( B ) H ( Y ∣ X ) = ∑ i = 1 n p ( x i ) H ( Y / x i ) = − ∑ i = 1 n p ( x i ) ∑ j = 1 m p ( y j / x i ) l o g ( p ( y j / x i ) ) = − ∑ i = 1 n ∑ j = 1 m p ( x i ) p ( y j / x i ) l o g ( p ( y j / x i ) ) = − ∑ i ∑ j p ( x i , y j ) l o g ( y j ∣ x i ) 为什么条件熵用联合概率加权? :条件概率P(A|B)=\frac{P(AB)}{P(B)}\\ H(Y|X)=\sum_{i=1}^n p(x_i)H(Y/x_i) =-\sum_{i=1}^n p(x_i)\sum_{j=1}^m p(y_j/x_i)log(p(y_j/x_i)) \\ =-\sum_{i=1}^n \sum_{j=1}^m p(x_i) p(y_j/x_i)log(p(y_j/x_i)) \\ =-\sum_i \sum_j \color{red} p(x_i,y_j)log(y_j|x_i) P(AB)=P(B)P(AB)H(YX)=i=1np(xi)H(Y/xi)=i=1np(xi)j=1mp(yj/xi)log(p(yj/xi))=i=1nj=1mp(xi)p(yj/xi)log(p(yj/xi))=ijp(xi,yj)log(yjxi)

おすすめ

転載: blog.csdn.net/ResumeProject/article/details/121493601