-
通信的原理和信息传播的模型
原理：信息被编码，再被解码的过程。
信息传播的模型：
传播人 => 信息 -> 编码信息 ->信道(声音介质，双绞线介质等) -> 解码信息 => 接受者。
-
信息源的编码和最短编码
常用的信息被编码为更加简单或者书写更加少来实现最短编码。
不常用的信息通常笔画较多，或者更加复杂。
-
解码的规则和语法
编码后的语言上所承载的信息是可以被解码出来的。
比如：某些古汉语或者古埃及象形文字。以现代人的思考角度去研究，那么其所表现的形式不重要，重要的是本来要表达的意思，我们可以通过猜测与比较旧的译本去进行解码。
再者，更加典型的就是计数的数字。
例如：通过使用10进位制来表示超过10以上的数字。将数字进行编码，那么解码的人通过知道10进制的编码规则就可以知道如何解码，进而了解对方所想表述的数字大小。
-
聚类
我个人的简单理解在于，由于表意文字的数量过于庞大，所以需要将之前的文字进行复用，将其归结为1类。例如汉语的4声音调中，有很多字都是读音相同的。英文也是。然后，再者在于，同一个文字被赋予了多个意思，此时这就需要基于上下文来进行翻译了。
聚类的另一表现也在于将数字归为10进制。
不知此项是否可以被归结为聚类，也在此处列举出来吧。
从历史的演变看信息科学的基本原理。
历史：古汉语口语表述中，由于信道是空气，故语句较长容易被人理解。但是由于在其他例如石碑，竹子上刻文字时，往往都会比较简洁(因为难刻啊！)。
原理：信道宽，那么信息无需压缩即可直接传输；信道窄，那么信息需要进行压缩和解压缩。
-
校验位
这里说明了，校验思想较早出现在犹太人检测圣经是否抄录错误的情况下。(由于人都会犯错，通过校验，可以知道自己哪块错了，进而及时进行纠正)。
将手抄本和原本都进行编码，编码后计算结果，再进行对照。
