自适应滤波器的原理框图
如下图所示，输入信号x(n) 通过参数可调数字滤波器后产生输出信号 y(n)，将其与期望信号d(n)进行比较，形成误差信号e(n)， 通过自适应算法对滤波器参数进行调整，最终使 e(n)的均方值最小。自适应滤波可以利用前一时刻已得的滤波器参数的结果，自动调节当前时刻的滤波器参数，以适应信号和噪声未知的或随时间变化的统计特性，从而实现最优滤波。自适应滤波器实质上就是一种能调节自身传输特性以达到最优的维纳滤波器。
自适应滤波器模型
均方误差的简单表示形式为：
从该式可看出，在输入信号和参考响应都是平稳随机信号的前提下，均方误差是权矢量的各分量的二次函数。该函数图形是L+2维空间中一个中间下凹的超抛物面，有唯一的最低点,该曲面称为均方误差性能曲面，简称性能曲面。
梯度下降法
一般情况下，我们使用递归的方法来寻找多变量函数的最小值，其性能指标就是MSE(Mean Square Error)，它是滤波器系数的二次函数，因此该函数具有唯一的最小值。一般是采用梯度下降的方法来进行迭代搜索出最小值，梯度下降又分为梯度下降、随机梯度下降和批量梯度下降。
在梯度下降算法中，为获得系统的最佳维纳解，需要知道输入信号和期望信号的相关信息，当期望信号未知时，就无法确定它们的相关特性，必须对梯度向量进行估计。
LMS自适应算法直接利用瞬态均方误差对瞬时抽头向量（滤波器系数）求梯度：
由此可得传统LMS自适应滤波算法流程如下：
