1. 压缩码流
- 语法：码流中各个元素的位置关系01001001…图像编码类型(01)，宏块类型(00)，编码系数1001等
- 语义：每个语法元素所表达的意义。例如：图像编码类型
2. 编码层次
- 序列（Sequence）
- 图像组（Group of Pictures，GOP）
- 图像（Picture）
- 条带（Slice）
- 宏块（Macroblock，MB）
- 块(Block)
3. 码流结构
4. PB帧编码
5. 序列编码对象
（1）IBBP序列
- 序列：一段连续编码的并具有相同参数的视频图像。
- 序列起始码：专有的一段比特串，标识一个序列的压缩数据的开始MPEG-2的序列起始码为十六进制数000001(B3)。
- 序列头：记录序列信息档次（Profile），级别（Level），宽度，高度，是否是逐行序列，帧率等。
- 序列结束码：专有的一段比特串，标识该序列的压缩数据的结束MPEG-2的序列结束码为十六进制数000001(B7)。
（2）图像组编码对象
6. 图像编码结构
- 图像：
- 图像起始码：专有的一段比特串，标识一个图像的压缩数据的开始MPEG-2的图像起始码为十六进制数000001(00)。
- 图像头：记录图像信息图像编码类型，图像距离，图像编码结构，图像是否为逐行扫描。
7. 图像分块编码
8. 条带编码结构
- 条带：多个宏块的组合。
- 条带起始码：专有的一段比特串，标识一个条带的压缩数据的开始MPEG-2的条带起始码为十六进制数000001(0~AF)。
- 条带头：记录当前图像的相关信息条带位置，条带量化参数，宏块编码技术标识等。
9. 条带编码对象
10. 宏块编码结构
- 宏块：16x16的像素块（对亮度而言）。
- 宏块内容：宏块编码类型，编码模式，参考帧索引，运动矢量信息，宏块编码系数等。
11. 宏块编码对象
12. 块编码结构
- 8x8或4x4块的变换量化系数的熵编码数据。
- CBP (Coded Block Patten)：用来指示块的变换量化系数是否全为零。对于YUV(4:2:0)编码，CBP通常6比特长，每个比特对应一个块，当某一块的变换量化系数全为零时，其对应比特位值为0，否则为1。
- 每个块的变换量化系数的最后用一个EOB (End of Block)符号来标识。
13. 视频编解码关键技术
- 预测：通过帧内预测和帧间预测降低视频图像的空间冗余和时间冗余。
- 变换：通过从时域到频域的变换，去除相邻数据之间的相关性，即去除空间冗余。
- 量化：通过用更粗糙的数据表示精细的数据来降低编码的数据量，或者通过去除人眼不敏感的信息来降低编码数据量。
- 扫描：将二维变换量化数据重新组织成一维的数据序列。
- 熵编码：根据待编码数据的概率特性减少编码冗余。
14. 预测
- 空间预测：利用图像空间相邻像素的相关性来预测的方法。帧内预测技术：利用当前编码块周围已经重构出来的像素预测当前块Intra图像编码（I帧）
- 时间预测：利用时间上相邻图像的相关性来预测的方法。帧间预测：运动估计（Motion Estimation，ME），运动补偿（Motion Compensation，MC）Inter图像编码：前向预测编码图像（P帧），双向预测编码图像（B帧）
15. 帧内预测
- I帧图像的每个宏块都采用帧内（Intra）预测编码模式。
- 宏块分成8x8或者4x4块，对每个块采用帧内预测编码，称作Intra8x8或者Intra4x4。
- 帧内预测有多个预测方向：水平，垂直，左下，右上。
- 帧内预测还有直流（DC）预测。
- 色度块预测还有平面预测。
16. 帧间预测
- 块基运动估计：为待预测块在参考帧上找到最佳的预测块，并记录预测块在参考帧上的相对位置。
- 运动矢量（MV）：参考帧上的预测块与当前帧上的的待预测块的相对位置。MV有两个分量：（x，y）
- 分像素运动估计最佳的预测块不在整像素位置，而在分像素位置；1/2，1/4，1/8像素插值得到分像素值。
- 帧间预测流程：
- 运动补偿：给定MV和参考帧，为待解码块从参考帧上获取预测块。
- 运动矢量编码MV预测：用当前块的周围可得到邻块的运动矢量来预测当前块的运动矢量运动矢量差（MV difference，MVD）：实际运动矢量与预测运动矢量的差，即：运动矢量差采用变长编码。
17. 预测残差
18. 变换编码
- 变换编码：通过变换将空域信号转换为频域信号来去除空间信号的冗余信息，减少编码数据。
- 二维离散余弦变换4x4变换，8x8变换
- 二维离散余弦变换
例：
- 变换系数：直流（DC）系数，交流（AC）系数
19. 量化
- 量化原理：将含有大量的数据集合映射到含有少量的数据集合中。
- 一般情况下量化后高频部分包含大量的零系数
- 量化对主观质量的影响
20. 扫描
- 扫描：将二维数据转换为一维的数据序列。
21. 熵编码
- 熵编码：根据符号出现的概率，对经常出现的符号分配较短的码字，对不常出现的符号分配较长的码字。
- Level-Run编码：用数据中非零值和其前面非零值之间出现零值的个数重新描述量化系数序列为（Level，Run）二元组序列
- 变长编码将Level-Run编码后的（level，run）变长编码成最终的比特串。
22. 码率控制
- 受到缓冲区，带宽的限制，编码码率不能无限制的增长，因此需要通过码率控制来将编码码流控制在目标码率范围内。
- 一般通过调整量化参数的手段控制码率帧级控制条带级控制宏块级控制
- 码率控制考虑的问题防止码流有较大的波动，导致缓冲区发生溢出，同时保持缓冲区尽可能的充满，让图像质量尽可能的好而且稳定
- CBR（Constant Bit Rate）比特率稳定，但图像质量变化大
- VBR（Variable Bit Rate）比特率波动大，但图像质量稳定
- 码率控制算法码率分配码率控制
- 码率控制属于非标准技术编码端有，解码端没有
第5章 预测
1. 预测技术
- 目的：去除空间冗余和时间冗余。
- 视频存在大量的空间冗余和时间冗余空间冗余：用帧内预测编码去除基于块的帧内预测时间冗余：用帧间预测编码去除基于块匹配（Block Matching）的帧间预测
- 预测后得到去除大部分空间或时间冗余的残差
2. 空间冗余
- 图像空间相邻像素具有很强的相关性。
- 帧内预测技术去除空间冗余
另外关于c++ Linux后台服务器开发的一些知识点分享：Linux，Nginx，MySQL，Redis，P2P，K8S，Docker，TCP/IP，协程，DPDK，webrtc，音视频等等视频。
可以加入到群里一起探讨技术交流
