信息熵相关

失踪人口回归了!!!

最近一直在忙别的,忘记了当初要维护博客的初衷,希望以后能把维护博客作为日常。

最近一直在做图像配准方面的工作,那么就围绕这个点展开一些内容吧。

**************************************************************************************

1.信息量

  通常我们把事件包含信息的多少称之为信息量。在计算机世界中,一切事物从根本上是二进制表达的,因此我们可以用存储某个事件所需要多少比特的空间来作为信息多少的度量方式。比如一个事件中包含了m种消息,所需要的存储位数为\(log_{2}m\)。

  接下来我们讨论下随机变量或者说随机事件包含的信息的多少。提到随机事件,那肯定涉及到这个事件发生的概率\(p(x)\)

猜你喜欢

转载自www.cnblogs.com/SshunWang/p/11116407.html
今日推荐