Machine learning approximation algorithmsfor high-dimensional fully nonlinear PDE

1. 总体框架

文中提出了一个新算法来求解完全非线性偏微分方程和非线性二阶倒向随机微分方程2BSDEs

1. Section 2
   推导(2.1-2.6)并计算(2.7)本文提出算法的一个特例。
   核心思想在2.7的简化框架
2. Section 3
   提出的算法在一般情况下推导（3.1-3.5）和计算（3.7）。
3. Section 4
   该算法在几个高维偏微分方程情况下的数值结果
   4.1：采用2.7中简化框架中提出的算法近似计算一个20维Allen-Cahn方程的解

2. Section 2 (deep 2BSDE method 的主要思想)

此部分主要说明思想，推导比较粗略；
deep 2BSDE更精确、一般的定义（2.7、3.7）；
deep 2BSDE推导主要基于E，Han和Jentzen [33]和Cheridito[22]等人观点

2.1 完全非线性二阶偏微分方程(Fully nonlinear second-order PDEs)

设

• $d$∈N={1,2,3，…}，（$d$ 表示维度）

• $T\in (0，\infty )$，（$T$ 表示终止时间点）

• $u=(u(t，x){)}_{t\in [0，T],x\in {\mathbb{R}}^d}$$\in C^{1,2}$$([0，T]\times {\mathbb{R}}^d，\mathbb{R})$，

  ① $t\in [0，T]$ 表示某个时间点；$x\in {\mathbb{R}}^d$ 表示 $d$ 维实数向量；
  ② $C^{1,2}$ 表示连续且有1, 2阶导数；

• $f\in C([0，T]\times {\mathbb{R}}^d\times \mathbb{R}\times {\mathbb{R}}^d\times {\mathbb{R}}^{d\times d}，\mathbb{R})$，（$f$ 有5个参数）

• $g\in C({\mathbb{R}}^d，\mathbb{R})$,

对所有$t\in [0，T）,x\in {\mathbb{R}}^d$，
满足：

$u(T，x)=g(x)$ 和

$\frac{\partial u}{\partial t}(t,x)=f\left(t,x,u(t,x),\left({\nabla }_{x}u\right)(t,x),\left({\mathrm{Hess}}_{x}u\right)(t,x)\right)$                    $(1)$

deep 2BSDE允许近似地计算函数$u(0，x)，x\in {\mathbb{R}}^d$；这一节中对 $\xi \in {\mathbb{R}}^d$ 的 $u(0，\xi )\in \mathbb{R}$ 近似计算（实数），参考3.7的一般算法。

2.2 完全非线性二阶偏微分方程与2BSDEs的联系

设

• $(\Omega ,\mathcal{F},\mathbb{P})$ 是一个概率空间
• $W:[0,T]\times \Omega \to {\mathbb{R}}^d（映射）$ 是 $(\Omega ,\mathcal{F},\mathbb{P})$ 上具有连续采样路径的标准布朗运动
• 令 $\mathbb{F}={\left({\mathbb{F}}_t\right)}_{t\in [0,T]}$ 为 $W$ 在 $(\Omega ,\mathcal{F},\mathbb{P})$ 上产生的正常滤波（存疑？）
  令
• $Y:[0,T]\times \Omega \to \mathbb{R}$
• $Z:[0,T]\times \Omega \to {\mathbb{R}}^d$
• $\Gamma :[0,T]\times \Omega \to {\mathbb{R}}^{d\times d}$
• $A:[0,T]\times \Omega \to {\mathbb{R}}^d$
  为具有连续采样路径的 $\mathbb{F}$ -适应随机过程

对所有 $t\in [0，T]$，几乎确定有：

$Y_t=g\left(\xi +W_T\right)-{\int }_t^T\left(f\left(s,\xi +W_s,Y_s,Z_s,{\Gamma }_s\right)+\frac{1}{2}\mathrm{Trace}\left({\Gamma }_s\right)\right)ds-{\int }_t^T{⟨Z_s,d{W}_s⟩}_{{\mathbb{R}}^d}$                    $(2)$

$Z_t=Z_0+{\int }_0^t{A}_{s}ds+{\int }_0^t{\Gamma }_{s}d{W}_s$                    $(3)$

在适当的平滑度和规则性假设下，完全非线性的 PDE（1）与 2BSDE 中的（2）、（3）有关；从某种意义上说，对于所有 $t\in [0，T]$，几乎确定有：

$Y_t=u\left(t,\xi +W_t\right)\in \mathbb{R},Z_t=\left({\nabla }_{x}u\right)\left(t,\xi +W_t\right)\in {\mathbb{R}}^d$                    $(4)$

${\Gamma }_t=\left({\mathrm{Hess}}_{x}u\right)\left(t,\xi +W_t\right)\in {\mathbb{R}}^{d\times d},$                    $(5)$

$A_t=\left(\frac{\partial }{\partial t}{\nabla }_{x}u\right)\left(t,\xi +W_t\right)+\frac{1}{2}\left({\nabla }_x{\Delta }_{x}u\right)\left(t,\xi +W_t\right)\in {\mathbb{R}}^d$                    $(6)$

参见Cheridito等人，[22]和引理3.1

2.3 PDE和2BSDE的合并公式(Merged formulation of the PDE and the 2BSDE)

在此节，推导 PDE（1）和 2BSDE（2）–（3）的合并公式（（9）和（10））；
更具体地，观察（2）和（3）得出，对于任意 ${\tau }_1,{\tau }_2\in [0,T]$ 且 ${\tau }_1\le {\tau }_2$，可以得到：

$Y_{{\tau }_2}=Y_{{\tau }_1}+{\int }_{{\tau }_1}^{{\tau }_2}\left(f\left(s,\xi +W_s,Y_s,Z_s,{\Gamma }_s\right)+\frac{1}{2}\mathrm{Trace}\left({\Gamma }_s\right)\right)ds+{\int }_{{\tau }_1}^{{\tau }_2}{⟨Z_s,d{W}_s⟩}_{{\mathbb{R}}^d}$                    $(7)$

$Z_{{\tau }_2}=Z_{{\tau }_1}+{\int }_{{\tau }_1}^{{\tau }_2}{A}_{s}ds+{\int }_{{\tau }_1}^{{\tau }_2}{\Gamma }_{s}d{W}_s$                    $(8)$

       (7)式由下面过程所得：
       把 ${\tau }_1,{\tau }_2$ 代入(2)式，得到：$Y_{{\tau }_1}$ 和 $Y_{{\tau }_2}$，再 $Y_{{\tau }_2}-Y_{{\tau }_1}$
       经过化简就可以得到(7)；(8)式同样如此，只是代入的是(3)式

将（5）和（6）放入（7）和（8）中，证明了对于任意 ${\tau }_1,{\tau }_2\in [0,T]$ 且 ${\tau }_1\le {\tau }_2$，下面式子成立：

$Y_{{\tau }_2}=Y_{{\tau }_1}+{\int }_{{\tau }_1}^{{\tau }_2}{⟨Z_s,d{W}_s⟩}_{{\mathbb{R}}^d}$
$+{\int }_{{\tau }_1}^{{\tau }_2}\left(f\left(s,\xi +W_s,Y_s,Z_s,\left({\mathrm{Hess}}_{x}u\right)\left(s,\xi +W_s\right)\right)+\frac{1}{2}\mathrm{Trace}\left(\left({\mathrm{Hess}}_{x}u\right)\left(s,\xi +W_s\right)\right)\right)ds$                    $(9)$

$\begin{array}{rl}{Z}_{{\tau }_2}=& Z_{{\tau }_1}+{\int }_{{\tau }_1}^{{\tau }_2}\left(\left(\frac{\partial }{\partial t}{\nabla }_{x}u\right)\left(s,\xi +W_s\right)+\frac{1}{2}\left({\nabla }_x{\Delta }_{x}u\right)\left(s,\xi +W_s\right)\right)ds\\ & +{\int }_{{\tau }_1}^{{\tau }_2}\left({\mathrm{Hess}}_{x}u\right)\left(s,\xi +W_s\right)d{W}_s\end{array}$                    $(10)$

2.4 合并的PDE-2BSDE系统的前向离散化(Forward-discretization of the merged PDE-2BSDE system)

在本节，推导了合并的PDE-2BSDE系统（9）–（10）的正向离散化。
设 $t_0,t_1,\dots ,t_N\in [0,T]$ 为实数，其中

$0=t_0<t_1<\dots <t_N=T$                    $(11)$
时间间隔足够小，即 $\left(t_{k+1}-t_k\right)$ （$0\le k\le N$）足够小；
注意，（9）和（10）表明对于足够大的 $N\in \mathbb{N}$ ，它对任意 n ∈ { 0 , 1 , … , N − 1 } n \in\{0,1, \ldots, N-1\} n∈{ 0,1,…,N−1}都有如下式子成立：

$\begin{array}{rl}{Y}_{t_{n+1}}\approx & Y_{t_n}+(f\left(t_n,\xi +W_{t_n},Y_{t_n},Z_{t_n},\left({\mathrm{Hess}}_{x}u\right)\left(t_n,\xi +W_{t_n}\right)\right)\\ & +\frac{1}{2}\mathrm{Trace}\left(\left({\mathrm{Hess}}_{x}u\right)\left(t_n,\xi +W_{t_n}\right)\right))\left(t_{n+1}-t_n\right)+{⟨Z_{t_n},W_{t_{n+1}}-W_{t_n}⟩}_{{\mathbb{R}}^d}\end{array}$                    $(12)$

$\begin{array}{rl}{Z}_{t_{n+1}}\approx & Z_{t_n}+\left(\left(\frac{\partial }{\partial t}{\nabla }_{x}u\right)\left(t_n,\xi +W_{t_n}\right)+\frac{1}{2}\left({\nabla }_x{\Delta }_{x}u\right)\left(t_n,\xi +W_{t_n}\right)\right)\left(t_{n+1}-t_n\right)\\ & +\left({\mathrm{Hess}}_{x}u\right)\left(t_n,\xi +W_{t_n}\right)\left(W_{t_{n+1}}-W_{t_n}\right)\end{array}$                    $(13)$

2.5 深度学习近似 (Deep learning approximations)

下一步，对每个 n ∈ { 0 , 1 , … , N − 1 } n \in\{0,1, \ldots, N-1\} n∈{ 0,1,…,N−1} 使用合适的近似函数

${\mathbb{R}}^d\ni x\mapsto \left({\mathrm{Hess}}_{x}u\right)\left(t_n,x\right)\in {\mathbb{R}}^{d\times d}$                    $(14)$

${\mathbb{R}}^d\ni x\mapsto \left(\frac{\partial }{\partial t}{\nabla }_{x}u\right)\left(t_n,x\right)+\frac{1}{2}\left({\nabla }_x{\Delta }_{x}u\right)\left(t_n,x\right)\in {\mathbb{R}}^d$                    $(15)$

令 $\nu \in \mathbb{N}\cap [d+1,\infty )$ ；
对每一个 $\theta \in {\mathbb{R}}^{\nu }$ ， n ∈ { 0 , 1 , … , N } n \in\{0,1, \ldots, N\} n∈{ 0,1,…,N} ，令 ${\mathbb{G}}_n^{\theta }:{\mathbb{R}}^d\to {\mathbb{R}}^{d\times d}$ 且 ${\mathbb{A}}_n^{\theta }:{\mathbb{R}}^d\to {\mathbb{R}}^d$ 都为连续函数；
对每一个 $\theta =\left({\theta }_1,{\theta }_2,\dots ,{\theta }_{\nu }\right)\in {\mathbb{R}}^{\nu }$，令 Y θ : { 0 , 1 , … , N } × Ω → R \mathcal{Y}^{\theta}:\{0,1, \ldots, N\} \times \Omega \rightarrow \mathbb{R} Yθ:{ 0,1,…,N}×Ω→R， Z θ : { 0 , 1 , … , N } × Ω → R d \mathcal{Z}^{\theta}:\{0,1, \ldots, N\} \times \Omega \rightarrow \mathbb{R^d} Zθ:{ 0,1,…,N}×Ω→Rd 是随机过程 满足 ${\mathcal{Y}}_0^{\theta }={\theta }_1$ 和 ${\mathcal{Z}}_0^{\theta }=\left({\theta }_2,{\theta }_3,\dots ,{\theta }_{d+1}\right)$ 且对任意 n ∈ { 0 , 1 , … , N } n \in\{0,1, \ldots, N\} n∈{ 0,1,…,N} 满足：

${\mathcal{Y}}_{n+1}^{\theta }={\mathcal{Y}}_n^{\theta }+{⟨Z_n^{\theta },W_{t_{n+1}}-W_{t_n}⟩}_{{\mathbb{R}}^d}$
$+\left(f\left(t_n,\xi +W_{t_n},{\mathcal{Y}}_n^{\theta },{\mathcal{Z}}_n^{\theta },{\mathbb{G}}_n^{\theta }\left(\xi +W_{t_n}\right)\right)+\frac{1}{2}\mathrm{Trace}\left(G_n^{\theta }\left(\xi +W_{t_n}\right)\right)\right)(t_{n+1}-t_n)$                    $(16)$

${\mathcal{Z}}_{n+1}^{\theta }={\mathcal{Z}}_n^{\theta }+{\mathbb{A}}_n^{\theta }\left(\xi +W_{t_n}\right)\left(t_{n+1}-t_n\right)+{\mathbb{G}}_n^{\theta }\left(\xi +W_{t_n}\right)\left(W_{t_{n+1}}-W_{t_n}\right)$                    $(17)$

对于所有合适的 $\theta \in {\mathbb{R}}^{\nu }$ 和所有 n ∈ { 0 , 1 , … , N } n\in\{0,1,\dots,N\} n∈{ 0,1,…,N}，认为 ${\mathcal{Y}}_n^{\theta }：\Omega \to \mathbb{R}$ 是 $Y_{t_n}：\Omega \to \mathbb{R}$ 合适的近似值：

${\mathcal{Y}}_n^{\theta }\approx Y_{t_n}$                    $(18)$

对于所有合适的 $\theta \in {\mathbb{R}}^{\nu }$ 和所有 n ∈ { 0 , 1 , … , N } n\in\{0,1,\dots,N\} n∈{ 0,1,…,N}，认为 ${\mathcal{Z}}_n^{\theta }：\Omega \to {\mathbb{R}}^d$ 是 $Z_{t_n}：\Omega \to {\mathbb{R}}^d$ 合适的近似值：

${\mathcal{Z}}_n^{\theta }\approx Z_{t_n}$                    $(19)$

对于所有合适的 $\theta \in {\mathbb{R}}^{\nu },x\in {\mathbb{R}}^d$ 和所有 n ∈ { 0 , 1 , … , N − 1 } n\in\{0,1,\dots,N-1\} n∈{ 0,1,…,N−1}，认为 ${\mathbb{G}}_n^{\theta }(x)\in {\mathbb{R}}^{d\times d}$ 是 $\left({\mathrm{Hess}}_{x}u\right)\left(t_n,x\right)\in {\mathbb{R}}^{d\times d}$ 合适的近似值：

${\mathbb{G}}_n^{\theta }(x)\approx \left({\mathrm{Hess}}_{x}u\right)\left(t_n,x\right)$                    $(20)$

对于所有合适的 $\theta \in {\mathbb{R}}^{\nu },x\in {\mathbb{R}}^d$ 和所有 n ∈ { 0 , 1 , … , N − 1 } n\in\{0,1,\dots,N-1\} n∈{ 0,1,…,N−1}，认为 ${\mathbb{A}}_n^{\theta }(x)\in {\mathbb{R}}^d$ 是 $\left(\frac{\partial }{\partial t}{\nabla }_{x}u\right)\left(t_n,x\right)+\frac{1}{2}\left({\nabla }_x{\Delta }_{x}u\right)\left(t_n,x\right)\in {\mathbb{R}}^d$ 合适的近似值：

${\mathbb{A}}_n^{\theta }(x)\approx \left(\frac{\partial }{\partial t}{\nabla }_{x}u\right)\left(t_n,x\right)+\frac{1}{2}\left({\nabla }_x{\Delta }_{x}u\right)\left(t_n,x\right)$                    $(21)$

特别地，将 ${\theta }_1$ 视为 $u(0，\xi )\in {\mathbb{R}}^d$ 的近似值：

${\theta }_1\approx u(0，\xi )$                    $(22)$

将 $\left({\theta }_2,{\theta }_3,\dots ,{\theta }_{d+1}\right)$ 视为 $({\nabla }_{x}u)(0，\xi )\in {\mathbb{R}}^d$ 的近似：

$\left({\theta }_2,{\theta }_3,\dots ,{\theta }_{d+1}\right)\approx ({\nabla }_{x}u)(0，\xi )$                    $(23)$

现在为每个 n ∈ { 0 , 1 , … , N − 1 } n\in\{0,1,\dots,N-1\} n∈{ 0,1,…,N−1} 选择函数 ${\mathbb{G}}_n^{\theta }$ 和 ${\mathbb{A}}_n^{\theta }$ 作为深度神经网络（参见，[8，67]）。

例如，对于每个 $k\in \mathbb{N}$，令 ${\mathcal{R}}_k：{\mathbb{R}}^k\to {\mathbb{R}}^k$ 是函数，对所有 $x=(x_1,\dots ,x_k)\in {\mathbb{R}}^k$ 满足：

R k ( x ) = ( max ⁡ { x 1 , 0 } , … , max ⁡ { x k , 0 } ) \mathcal R_k(x)=(\max\{x_1,0\},\dots,\max\{x_k,0\}) Rk​(x)=(max{ x1​,0},…,max{ xk​,0})                    $(24)$

对每个 $\theta =\left({\theta }_1,\dots ,{\theta }_{\nu }\right)\in {\mathbb{R}}^{\nu }$， v ∈ N 0 = { 0 } ∪ N v \in \mathbb{N}_{0}=\{0\} \cup \mathbb{N} v∈N0​={ 0}∪N ，$k$ ，$l\in \mathbb{N}$ 且 $v+k(l+1)\le \nu$ ，令 $M_{k,l}^{\theta ,v}：{\mathbb{R}}_l\to {\mathbb{R}}^k$ 是仿射线性函数，对所有的 $x=(x_1,\dots ,x_l)$ 满足：

$M_{k,l}^{\theta ,v}(x)=\left(\begin{array}{cccc}{\theta }_{v+1}& {\theta }_{v+2}& \dots & {\theta }_{v+l}\\ {\theta }_{v+l+1}& {\theta }_{v+l+2}& \dots & {\theta }_{v+2l}\\ {\theta }_{v+2l+1}& {\theta }_{v+2l+2}& \dots & {\theta }_{v+3l}\\ ⋮& ⋮& ⋮& ⋮\\ {\theta }_{v+(k-1)l+1}& {\theta }_{v+(k-1)l+2}& \dots & {\theta }_{v+kl}\end{array}\right)\left(\begin{array}{c}{x}_1\\ x_2\\ x_3\\ ⋮\\ x_l\end{array}\right)+\left(\begin{array}{c}{\theta }_{v+kl+1}\\ {\theta }_{v+kl+2}\\ {\theta }_{v+kl+3}\\ ⋮\\ {\theta }_{v+kl+k}\end{array}\right)$                    $(25)$

假设 $\nu \ge \left(5Nd+N{d}^2+1\right)(d+1)$ ，且假设对所有 $\theta \in \mathbb{R}$ , n ∈ { m ∈ N : m < N } n \in \{m \in \mathbb N:m<N\} n∈{ m∈N:m<N} ，$x\in {\mathbb{R}}^d$ ，有：

${\mathbb{A}}_n^{\theta }=M_{d,d}^{\theta ,[(2N+n)d+1](d+1)}\circ {\mathcal{R}}_d\circ M_{d,d}^{\theta ,[(N+n)d+1](d+1)}\circ {\mathcal{R}}_d\circ M_{d,d}^{\theta ,(nd+1)(d+1)}$                    $(26)$

${\mathbb{G}}_n^{\theta }=M_{d^2,d}^{\theta ,(5Nd+n{d}^2+1)(d+1)}\circ {\mathcal{R}}_d\circ M_{d,d}^{\theta ,[(4N+n)d+1](d+1)}\circ {\mathcal{R}}_d\circ M_{d,d}^{\theta ,[(3N+n)d+1](d+1)}$                    $(27)$

上述（26）式中的函数是一个4层的神经网络（1个输入层：$d$ 个神经元，2个隐藏层：各有$d$ 个神经元，1个输出层：$d$ 个神经元）且其激活函数为上述（24）式rectifier functions(整流函数) ；上述（27）式中的函数也是一个4层的神经网络（1个输入层：$d$ 个神经元，2个隐藏层：各有$d$ 个神经元，1个输出层：$d^2$ 个神经元）且其激活函数为上述（24）式rectifier functions(整流函数) 。

激活函数ReLU(Rectified Linear Unit)

① 表达式： $f(x)=\{\begin{array}{ll}0,& x\le 0\\ x,& x>0\end{array}$
② 图像：

2.6 随机梯度下降优化 (Stochastic gradient descent-type optimization)

对下面函数应用随机梯度下降最小化算法求得合适的 $\theta$

${\mathbb{R}}^{\nu }\ni \theta \mapsto \mathbb{E}\left[{\left|{\mathcal{Y}}_N^{\theta }-g\left(\xi +W_{t_N}\right)\right|}^2\right]\in \mathbb{R}$                    $(28)$

$\mathbb{E}\left[{\left|Y_T-g\left(\xi +W_T\right)\right|}^2\right]=0$                    $(29)$

2.7 特定情况下的算法框架 (Framework for the algorithm in a specific case)