通信原理学习笔记第5章：信道容量

5.1 连续信道的信道容量

5.1.1 信道容量的概念

信道容量： 信道中信息能够无差错传输的最大平均信息速率

说明： 本节重点讨论高斯白噪声连续信道理论上的极限传输速率

5.1.2 香农公式

对于带宽有限、平均功率有限的高斯白噪声连续信道，设信道带宽为B (Hz)，信道输出信号功率为S (W)，输出加性高斯噪声功率为N (W)，则可以证明该信道的信道容量为:

令加性高斯噪声的单边功率谱密度为n0 ，则:

保持 S/n0一定，信道带宽 B→∞， C如何变化？

• 保持 S/n0一定，即使带宽无穷大，信道容量也是有限值。带宽增大到一定程度后，信道容量不再增加。 S/n0一定时无限大带宽对应的信道容量称为信道容量极限

• 带宽与信噪比的互换
  
  带宽和信噪比的互换能保持信道容量不变
  增加较小的带宽可以节省较多的功率
  通过增加信噪比来节省带宽往往付出较大代价

• 能否通过将带宽增加到无穷大，信噪比减小到任意小完成极限信道容量传输？

令信息传输速率 ，比特平均能量为 ，信道容量极限可以表示为：

结论：
带宽增加到无穷大时，保证无差错极限信息传输速率的最小信噪比为-1.6dB，该值通常称为AWGN信道的极限信噪比，或称为香农限

5.2 离散信道的信道容量

5.2.1 离散信道容量的定义

两者之间可以互换：已知信道每秒能够传输的符号数

5.2.2 信道模型

5.2.3 离散信道容量的表达式

1. 收到一个符号时获得的平均信息量

• 发送xi时收到yj所获得的信息量等于发送xi前接收端对xi的不确定程度（即xi的信息量） 减去收到yj后接收端对xi的不确定程度= -log2P(xi) - [-log2P(xi /yj)]
• 对所有的xi和yj取统计平均值，得出收到一个符号时获得的平均信息量
  
  

2. 二进制信源的熵

• 假设设发送“1”的概率P(1) = α，则发送“0”的概率P(0)＝ 1 - α， 信源的熵H(α)可以写成：
  
• 当α＝ 1/2时，此信源的熵达到最大值。这时两个符号
  出现的概率相等，其不确定性最大。

3. 无噪声信道

• 信道模型
  
• 发送符号和接收符号有一一对应关系， P(xi /yj) = 0； H(x/y) = 0
• 平均信息量 / 符号 ＝ H(x) – H(x/y) = H(x)
  在无噪声条件下，接收一个符号获得的平均信息量为H(x)；而在有噪声条件下，接收一个符号获得的平均信息量为[H(x)－H(x/y)]，说明H(x/y)是因为噪声而损失的平均信息量。