多项式的点值表示(Point Value Representation)
设多项式的系数表示(Coefficient Representation)：
\[ \begin{align*} \mathrm P_a(x)&=a_0+a_1x+a_2x^2+\cdots+a_{n-1}x^{n-1} \\ &= \sum_{i=0}^{n-1}a_ix^i \end{align*} \]
则我们对上面的式子可以代入不同的 \(n\) 个 \(x\) 的值，构成一个 \(n\) 维向量：
\[ \begin{bmatrix} \mathrm P_a(x_0) \\ \mathrm P_a(x_1) \\ \mathrm P_a(x_2) \\ \vdots \\ \mathrm P_a(x_{n-1}) \end{bmatrix} = \begin{bmatrix} 1 & x_0 & x_0^2 & \cdots & x_0^{n-1} \\ 1 & x_1 & x_1^2 & \cdots & x_1^{n-1} \\ 1 & x_2 & x_2^2 & \cdots & x_2^{n-1} \\ \vdots & \vdots & \vdots & \ddots & \vdots \\ 1 & x_{n-1} & x_{n-1}^2 & \cdots & x_{x-1}^{n-1} \end{bmatrix} \begin{bmatrix} a_0 \\ a_1 \\ a_2 \\ \vdots \\ a_{n-1} \end{bmatrix} \]
更简洁的写法：
\[ \mathbf P_a = \mathbf X \mathbf \alpha \]
对上式观察后发现，\(\mathbf X\) 是所谓的范德蒙德矩阵(Vandermonde's Matrix)，在 \(n\) 个 \(x\) 的值不同的情况下，其行列式的值为：
\[ \det(\mathbf X) = \prod_{0\leqslant i\lt j \leqslant n-1} (x_j - x_i) \]
很明显，当所有 \(n\) 个 \(x\) 取值不同时，其行列式不为零，因此 \(\mathbf X\) 可逆。
所以我们可以唯一确定多项式系数构成的向量 \(\alpha\)：
\[ \mathbf \alpha = \mathbf X^{-1} \mathbf P_a \]
也就是说，多项式 \(\mathrm P_a(x)\) 还可以由 \(n\) 个 \(x\) 代入得到的 \(n\) 个点值来唯一表示：
\[ \{ \left [x_0, \mathrm P(x_0) \right ], \left [ x_1, \mathrm P(x_1) \right ], \left [x_2, \mathrm P(x_2) \right ], \cdots,\left [ x_{n-1}, \mathrm P(x_{n-1}) \right ] \} \]
这就是多项式的点值表示。
多项式的点值表示是指，对于 \(n\) 次多项式，可以用 \(n\) 个不同的 \(x\) 和与之对应的多项式的值 \(\mathrm P(x)\) 构成一个长度为 \(n\) 的序列，这个序列唯一确定多项式，并且能够与系数表示相互转化。
\(n\) 次单位根
了解了多项式的点值表示，一个很自然的问题是：如何选择 \(x\) 的值，来防止其指数大小爆炸型增长呢？这里可以借用复数的单位根。
简单回顾一下，复数有两种表示方法：迪卡尔积坐标表示和极坐标表示，这里我们用到的是后者：
\[ z=re^{i\theta} \]
\(i\) 是虚数单位，\(r\) 表示模长，\(\theta\) 表示相角。
复数的 \(n\) 次单位根 \(\omega\) 需要满足条件：
\[ \omega^n_n=1 \]
了解复数乘法及其几何意义的同学知道，复数相乘则相角1相加，相当于复数点逆时针转动；\(n\) 个复数相乘则说明有 \(n\) 个相角相加，\(n\) 次逆时针转动。因此：
\[ \omega_n^n = 1 = e^{i \cdot 2\pi} \]
则 \(n\) 次单位根为：
\[ \sqrt[n] {\omega^n} = e^{i \cdot \frac{2\pi}{n}} \]
很容易想到，\(n\) 等分 \(2\pi\) 相当于 \(n\) 等分圆。下图是 \(n=16\) 的例子：
引入了 \(n\) 次单位根，我们就可以找到任意 \(n\) 个不同的点值 \(x\)，并且不用担心指数增长带来的大小爆炸性增长的问题。
离散傅里叶变换(Discrete Fourier Transform)及其反变换
DFT
设长度为 \(n\) 的离散序列 \(\alpha^{\mathrm T}=[a_0, a_1, \cdots,a_{n-1}]\)，构建多项式：
\[ \mathrm P_a(x) = \sum_{i=0}^{n-1}a_ix^i = \mathbf x \mathbf \alpha^{\mathrm T} \]
其中，\(\mathbf x^{\mathrm T} = [1, x, x^2, \cdots, x^{n-1}]\)
用 \(n\) 次单位根生成 \(n\) 个不同的值：\(\omega_n^0,\ \omega_n^1,\ \omega_n^2,\ \cdots,\ \omega_n^{n-1}\)
对应的点值表示可以用下面的矩阵运算完成：
\[ \begin{bmatrix} \mathrm P_a(\omega_n^0) \\ \mathrm P_a(\omega_n^1) \\ \mathrm P_a(\omega_n^2) \\ \vdots \\ \mathrm P_a(\omega_n^{n-1}) \end{bmatrix} = \begin{bmatrix} 1 & 1 & 1 & \cdots & 1 \\ 1 & \omega_n^1 & \omega_n^2 & \cdots & \omega_n^{n-1} \\ 1 & \omega_n^2 & \omega_n^4 & \cdots & \omega_n^{2(n-1)} \\ \vdots & \vdots & \vdots & \ddots & \vdots \\ 1 & \omega_n^{n-1} & \omega_n^{2(n-1)} & \cdots & \omega_n^{(n-1)(n-1)} \end{bmatrix} \begin{bmatrix} a_0 \\ a_1 \\ a_2 \\ \vdots \\ a_{n-1} \end{bmatrix} \]
更简洁的写法：
\[ \mathbf P_a = \Omega \alpha \]
序列 \(\mathbf P_a\) 被称为 \(\alpha\) 的离散傅里叶变换(DFT)，也称为频域序列。
很明显，DFT 的计算时间复杂度是 \(O(n^2)\)
IDFT
离散傅里叶反变换，就是根据 DFT 得到的频域序列算出多项式的系数（也称时域序列）。这可以根据单位根矩阵 \(\Omega\) 的逆矩阵 \(\Omega^{-1}\) 得到
\[ \alpha = \Omega^{-1}\mathrm P_a \]
一般来说，计算矩阵的逆的时间复杂度高达 \(O(n^3)\)。所幸，单位根矩阵的逆 \(\Omega^{-1}\) 有个优良的性质可以省去庞大的计算量：
\[ \begin{bmatrix} 1 & 1 & 1 & \cdots & 1 \\ 1 & \omega_n^1 & \omega_n^2 & \cdots & \omega_n^{n-1} \\ 1 & \omega_n^2 & \omega_n^4 & \cdots & \omega_n^{2(n-1)} \\ \vdots & \vdots & \vdots & \ddots & \vdots \\ 1 & \omega_n^{n-1} & \omega_n^{2(n-1)} & \cdots & \omega_n^{(n-1)(n-1)} \end{bmatrix}^{-1} = \frac 1 n \begin{bmatrix} 1 & 1 & 1 & \cdots & 1 \\ 1 & \omega_n^{-1} & \omega_n^{-2} & \cdots & \omega_n^{-(n-1)} \\ 1 & \omega_n^{-2} & \omega_n^{-4} & \cdots & \omega_n^{-2(n-1)} \\ \vdots & \vdots & \vdots & \ddots & \vdots \\ 1 & \omega_n^{-(n-1)} & \omega_n^{-2(n-1)} & \cdots & \omega_n^{-(n-1)(n-1)} \end{bmatrix} \]
也就是说，求 \(\Omega^{-1}\) 就是将里面元素的指数改成其相反数，再对所有元素除以 \(n\)。
有了这个性质，我们就可以得到：
\[ \begin{bmatrix} a_0 \\ a_1 \\ a_2 \\ \vdots \\ a_{n-1} \end{bmatrix}=\frac1 n \begin{bmatrix} 1 & 1 & 1 & \cdots & 1 \\ 1 & \omega_n^{-1} & \omega_n^{-2} & \cdots & \omega_n^{-(n-1)} \\ 1 & \omega_n^{-2} & \omega_n^{-4} & \cdots & \omega_n^{-2(n-1)} \\ \vdots & \vdots & \vdots & \ddots & \vdots \\ 1 & \omega_n^{-(n-1)} & \omega_n^{-2(n-1)} & \cdots & \omega_n^{-(n-1)(n-1)} \end{bmatrix} \begin{bmatrix} \mathrm P_a(\omega_n^0) \\ \mathrm P_a(\omega_n^1) \\ \mathrm P_a(\omega_n^2) \\ \vdots \\ \mathrm P_a(\omega_n^{n-1}) \end{bmatrix} \]
很明显，DFT 和 IDFT 的计算时间复杂度都是 \(O(n^2)\)，效率并不高。
快速傅里叶变换(Fast Fourier Transform)及其反变换
FFT
FFT 是用分治法（Divide & Conquer）的思想，用来优化 DFT 计算矩阵相乘的时间复杂度过高这一问题的算法。
设 \(n\) 次多项式 \(\mathrm P(x)\)2：
\[ \mathrm P(x)=a_0+a_1x+a_2x^2+a_3x^3+\cdots+a_{n-1}x^{n-1} \]
我们把多项式 \(\mathrm P(x)\) 按照系数下标的奇偶性分成两部分
\[ \mathrm P_{e}(x^2) = a_0 + a_2x^2 + a_4\left(x^2\right)^2 + \cdots + a_{n-2}x^{n-2} \\ x\mathrm P_{o}(x^2) = x\left [a_1 + a_3x^2+a_5\left(x^2\right)^2+\cdots+a_{n-1}x^{n-2} \right ] \]
则多项式 \(\mathrm P(x)\) 就是奇偶两部分之和
\[ \mathrm P(x)=\mathrm P_e(x^2)+x\mathrm P_o(x^2) \]
从上式中可以看出，多项式 \(\mathrm P(x)\) 可以由两个系数个数为 \(n/2\) 的多项式 \(\mathrm P_{e}(x^2)\) 和 \(\mathrm P_o(x^2)\) 计算得到。
对于 \(\mathrm P_e(x^2)\) 和 \(\mathrm P_{o}(x^2)\)，我们令 \(x=x^2\)，就会发现这很明显是一个递归的过程：
\[ \mathrm P_{e}(x)=a_0+a_2x+a_4x^2+\cdots+a_{n-2}x^{\frac{n-2}{2}} \\ \mathrm P_{ee}(x^2)=a_0+a_4x^2+a_8x^4+\cdots+a_{n-4}x^{\frac{n-2}{2}-1} \\ x\mathrm P_{eo}(x^2)=x\left [ a_2+a_6x^2+a_{10}x^4+\cdots+a_{n-2}x^{\frac{n-2}{2}-1} \right ] \\ \]
就可以求出
\[ \mathrm P_e(x)=\mathrm P_{ee}(x^2)+xP_{eo}(x^2) \]
同理
\[ \mathrm P_{o}(x)=a_1+a_3x+a_5x^2+\cdots+a_{n-1}x^{\frac{n-2}{2}} \\ \mathrm P_{oe}(x^2)=a_1+a_5x^2+a_9x^4+\cdots+a_{n-3}x^{\frac{n-2}{2}-1} \\ x\mathrm P_{oo}(x^2)=x\left [ a_3+a_7x^2+a_{11}x^4+\cdots+a_{n-1}x^{\frac{n-2}{2}-1} \right ] \]
同样可以求出
\[ \mathrm P_o(x)=\mathrm P_{oe}(x^2)+xP_{oo}(x^2) \]
递归的终止条件很明显，就是当遇到多项式中只有一个系数时返回该系数。
因此我们将 \(n\) 个单位根 \(\omega_n^0,\ \omega_n^1,\ \omega_n^2,\ \cdots,\ \omega_n^{n-1}\) 带入多项式 \(\mathrm P(x)\)：
\[ \mathrm P(\omega_n^{k})=\mathrm P_e(\omega_n^{2k})+\omega_n^k\mathrm P_o(\omega_n^{2k}) \quad (k=0, 1, \cdots,n-1) \]
刚刚提到，多项式 \(\mathrm P_{e}(x^2)\) 和 \(\mathrm P_o(x^2)\) 的系数个数为 \(n/2\) ，恰好 \(n\) 个单位根平方后也只剩下 \(n/2\) 个不同的单位根，简单证明如下：
首先证明：
\[ \left( \omega_n^k \right)^2=e^{i\frac{2\pi k}{n}\cdot2}=e^{i\frac{2\pi k}{n/2}}=\omega_{n/2}^k \]
因此相当于 \(n\) 等分圆变成了 \(n/2\) 等分圆。下面证明 \(k=0,\ 1,\ \cdots,\ \frac n 2-1\)：
设 \(k_1=m\), \(k_2=m+n/2\)，\(m=0,1,\cdots,\frac{n}{2}-1\)。则
\[ \omega_{n/2}^{k_{1}} = \omega_{n/2}^{m}=e^{i\frac{2\pi m}{n/2}} \\ \omega_{n/2}^{k_2} = \omega_{n/2}^{m+n/2}=e^{i\frac{2\pi (m+n/2)}{n/2}}=e^{i\left(\frac{2\pi m}{n/2}+2\pi{}\right)}=e^{i\frac{2\pi m}{n/2}} \]
即：
\[ \omega_{n/2}^{m}=\omega_{n/2}^{m+n/2}\quad (m=0,1,\cdots,\frac n 2-1) \]
由此可以说明，\(\omega_n^k\) 是周期序列，其最小正周期为 \(n/2\)。因此 \(k=0, 1, \cdots, \frac n 2 -1\)
因此多项式 \(\mathrm P(\omega_n^{k})\) 可改写为
\[ \mathrm P(\omega_n^{k})=\mathrm P_e(\omega_{n/2}^{k})+\omega_n^k\mathrm P_o(\omega_{n/2}^{k}) \quad (k=0, 1, \cdots,\frac n 2-1) \]
从上式中可以看出，计算 \(\mathrm P_e(\omega_{n/2}^{k})\) 和 \(\mathrm P_o(\omega_{n/2}^{k})\) 各需要 \(n/2\) 次乘法运算，即一共 \(n\) 次乘法运算；而计算\(\mathrm P_{ee}(\omega_{n/4}^{k})\) 、 \(\mathrm P_{eo}(\omega_{n/4}^{k})\) 、\(\mathrm P_{oe}(\omega_{n/4}^k)\) 和 \(\mathrm P_{oo}(\omega_{n/4}^k)\) 各需要 \(n/4\) 次乘法运算，即一共 \(n\) 次乘法运算……以此类推，这种每层递归规模减半的递归深度很明显是 \(\log n\)，因此 FFT 算法的时间复杂度就是 \(O(n\log n)\)
IFFT
快速傅里叶变换反变换同样是优化 IDFT 计算矩阵相乘的时间复杂度。由于 DFT 和 IDFT 核心操作一样，都是矩阵相乘，因此 FFT 和 IDFT 的核心操作就是利用分治的思想减少矩阵相乘的运算量。可以想到，FFT 的过程可以直接移植到 IFFT 中来，需要修改的两个地方是
- 单位根指数部分改成其相反数：\(\omega_n^{-k}\)
- 得到的结果均除以 \(n\)
因此，IFFT 的时间复杂度也是\(O(n\log n)\)
Refer: COMP3121/9101, CSE UNSW
Written with StackEdit.