软判决量化SDQ，硬判决量化HDQ，率失真优化量化RDOQ
硬判决量化
系数独立、基于四舍五入的量化算法统称为硬判决量化（Hard Decision Quantization ，HDQ ）算法。
u — DCT 变换系数 ；q — 量化步长 ；δ— dead‐zone 偏移量 ； floor — 向下取整操作 ；HDQ（u） — 硬判决量化幅值
软判决量化
考虑系数间相关性的软判决量化算法（Soft Decision Quantization，SDQ）可获得更加优异的率失真（Rate Distortion，RD）性能。SDQ 算法采用维特比网格搜索，从多个候选较优量化结果中抉择出率失真代价最小的量化候选值，从而实现率失真性能的较大提升。
率失真优化量化
SDQ 算法的简化算法，即率失真优化量化（Rate Distortion Optimized Quantization， RDOQ）算法。相比于 SDQ 算法的全网格搜索，RDOQ 只搜索了部分路径，在 RD 性能上比SDQ算法稍差，但可大幅降低算法复杂度。因此，在H.264／AVC 及 HEVC 等标准参考软件 JM 和HM 中，均采用了该算法作为量化算法的备选算法。原因如下：
在支持 CABAC 编码的量化算法中 ，由于采用有记忆信源上下文高阶熵编码，使得变换系数量化幅度不仅与块内前面已量化系数的量化幅值相关，同时会影响到块内后续变换系数的量化结果，即系数间存在着前后相关性。因此，需要在考虑系数相关性的条件下，兼顾编码码率消耗和编码失真，可以实现系数级精细量化。
HDQ与SDQ
当HDQ算法未能逼近SDQ算法最优量化行为时，两者的量化幅度结果将会不一致，即HDQ（u）/= SDQ（u）。HDQ（u）＝ SDQ（u）＋1的概率非常接近于1 。这种现象可解释为 ：在 SDQ算法中，将量化幅度减小1，失真虽有所增加，但可以大大节省码率，从而降低率失真代价。