信息熵公式解析

信息熵公式解析

信息熵的公式：

$H(A)=-\sum_{x_{i}\epsilon A}^{n} p(x_{i})log_{2}p(x_{i})$

• H(A): 集合A的信息熵
• A: 集合A={ $x_{1}$, $x_{2}$, $x_{3}$… $x_{n}$}
• $x_{i}$:  $x_{i}$= $x_{1}$, $x_{2}$, $x_{3}$… $x_{n}$
• p( $x_{i}$): $x_{i}$在集合A中的概率