【计算复杂性理论】证明复杂性（七）：有界算术（Bounded Arithmetic）与IΔ₀理论

往期文章：

• 【计算复杂性理论】证明复杂性（Proof Complexity）（一）：简介
  
• 【计算复杂性理论】证明复杂性（二）：归结（Resolution）与扩展归结（Extended Resolution）证明系统
• 【计算复杂性理论】证明复杂性（三）：弗雷格（Frege）与扩展弗雷格（Extended Frege）证明系统
• 【计算复杂性理论】证明复杂性（四）：相继式演算（Sequent Calculus）
• 【计算复杂性理论】证明复杂性（五）：量化命题演算（Quantified Propositional Calculus）
  
• 【计算复杂性理论】证明复杂性（六）：其他证明系统简介
  

证明系统与一阶理论的关系让我们能够为一系列永真式构造出短证明，并且让我们方便地探究证明系统之间多项式模拟的关系。给定一个在所有有限结构中有效的一阶语句$B$，我们可以定义一个永真式序列${⟨B⟩}_n$，它表达的是“$B$在所有大小为$n$的结构中成立”。当我们想要构造这种永真式的短证明时，一个自然的想法是首先在某个一阶理论中证明$B$在所有有限结构中成立，然后把这种总的证明翻译成对单独的永真式${⟨B⟩}_n$的命题证明。一阶理论越简单，命题证明系统需要的强度就越低。不过，这种方式不能为所有的永真式序列构造短证明，比如一个永真式序列如果不是从一阶理论转换得到的那这种方法就不成立。

用一阶理论构造多项式模拟的方法更具有普适性，除了很少的例外，所有已知的多项式模拟都可以用这种方式得到。

下面我们将介绍一些理论和证明系统的基础对应关系。

一、Parikh的理论$I{\Delta }_0$

$I{\Delta }_0$是第一个有界算术理论。有界算术（bounded arithmetic）是指由有界公式公理化的算术理论，通常是在某个语言上对于一类有界公式的归纳公理$\mathrm{IND}$的实例。$I{\Delta }_0$的语言是皮亚诺算术的语言$L_{\mathrm{PA}}$，即$0,1,+,\cdot ,\le$。$I{\Delta }_0$理论由Robinson算术$\mathrm{Q}$和公理模式$\mathrm{IND}$公理化，不过只能出现${\Delta }_0$公式。对于有界${\Delta }_0$公式，归纳公理可以写作$$\neg A(0)\vee [\exists y\le x,y<x\wedge A(y)\wedge \neg A(y+1)]\vee A(x)$$（我们假设这个式子中出现的所有自由变量都被全称量词约束。）这个归纳公理和原来的归纳公理结合Robinson算术是等价的。

定理1（Parikh定理） 设$A(\mathbf{x},y)$是一个${\Delta }_0$公式，并设$I{\Delta }_0$能够证明$\forall \mathbf{x}\exists yA(\mathbf{x},y)$。则存在一个$L_{\mathrm{PA}}$项$t(\mathbf{x})$使得$I{\Delta }_0$证明$\forall \mathbf{x}\exists y\le t(\mathbf{x})A(\mathbf{x},y)$。

二、Paris-Wilkie转换$⟨\cdots ⟩$

用可数个关系符号和常量扩展语言$L_{\mathrm{PA}}$，得到的扩展语言记作$L_{\mathrm{PA}}(\alpha )$，其中$\alpha$表明语言中包含数量不详的新关系符号和常量。我们用$L_{\mathrm{PA}}(R)$表示对$L_{\mathrm{PA}}$扩展了一个二元关系$R(x,y)$后的语言。令${\Delta }_0(R)$代表在$L_{\mathrm{PA}}(R)$上的${\Delta }_0$。

Paris-Wilkie转换给每个${\Delta }_0(R)$公式$A(x_1,\cdots ,x_k)$和$n_1,\cdots ,n_k\ge 0$赋予了一个德·摩根命题公式${⟨A(\mathbf{x})⟩}_{n_1,\cdots ,n_k}$。其定义如下。

1. 若$B$是原子公式$t(\mathbf{x})=s(\mathbf{x})$或$t(\mathbf{x})\le s(\mathbf{x})$之一，则$${⟨B⟩}_{n_1,\cdots ,n_k}:=\{\begin{array}{ll}1,& \text{若}B(n_1,\cdots ,n_k)\text{为真}\\ 0,& \text{其他}\end{array}$$
2. 若$B$是原子公式$R(t(\mathbf{x}),s(\mathbf{x}))$且$i,j$是在$\mathbf{x}=\mathbf{n}$的情况下$t(\mathbf{x}),r(\mathbf{x})$的值，则令$${⟨B⟩}_{n_1,\cdots ,n_k}:=r_{ij}$$其中$r_{ij}$是布尔变量。
3. $⟨\cdots ⟩$可与$\neg ,\wedge ,\vee$交换。
4. 若$A(\mathbf{x})=\exists y\le t(\mathbf{x})B(\mathbf{x},y)$则$${⟨A(\mathbf{x})⟩}_{n_1,\cdots ,n_k}:=\underset{m\le t(\mathbf{n})}{\bigvee }{⟨B(\mathbf{x},y)⟩}_{n_1,\cdots ,n_k,m}$$
5. 若$A(\mathbf{x})=\forall y\le t(\mathbf{x})B(\mathbf{x},y)$则$${⟨A(\mathbf{x})⟩}_{n_1,\cdots ,n_k}:=\underset{m\le t(\mathbf{n})}{\bigwedge }{⟨B(\mathbf{x},y)⟩}_{n_1,\cdots ,n_k,m}$$

我感觉其实就是把$x_1,\cdots ,x_k$代值为$n_1,\cdots ,n_k$再把$\exists$和$\forall$分别用$\bigvee$和$\bigwedge$表示。

引理2 设$A(\mathbf{x})$是一个${\Delta }_0(R)$公式。则$\exists c,d\ge 1$，使得$\forall n_1,\cdots ,n_k$，都有

• $|{⟨A(\mathbf{x})⟩}_{n_1,\cdots ,n_k}|\le {(n_1+\cdots +n_k+2)}^c$，
• $\mathrm{dp}({⟨A(\mathbf{x})⟩}_{n_1,\cdots ,n_k})\le d$。

而且，$A(n_1,\cdots ,n_k)$对$R$的所有解释为真当且仅当${⟨A(\mathbf{x})⟩}_{n_1,\cdots ,n_k}\in \mathrm{TAUT}$。

定理3 设$F$是德·摩根语言上的一个弗雷格系统。设$A(\mathbf{x})$是一个${\Delta }_0(R)$公式且假设$I{\Delta }_0(R)$证明了$\forall \mathbf{x}A(\mathbf{x})$。则$\exists c,d\ge 1$，使得$\forall n_1,\cdots ,n_k$，存在${⟨A(\mathbf{x})⟩}_{n_1,\cdots ,n_k}$的一个$F$证明${\pi }_{n_1,\cdots ,n_k}$，满足$\mathrm{dp}({\pi }_{n_1,\cdots ,n_k})\le d$且$|{\pi }_{n_1,\cdots ,n_k}|\le {(n_1+\cdots +n_k)}^c$。

该定理可以这么理解：如果我们能找到一个$A(\mathbf{x})$的证明$\pi$，其中只含有${\Delta }_0(R)$公式，那么我们可以对$\pi$的每一步进行$⟨\cdots ⟩$转换从而得出永真式${⟨A(\mathbf{x})⟩}_{n_1,\cdots ,n_k}$。同时，$I{\Delta }_0(R)$中的公理也需要被转换，转换后的公式用短的、深度有限的弗雷格证明推出来。比如，考虑当$x:=m$时对于${\Delta }_0(R)$公式$B(x)$的归纳公理：$$\neg B(0)\vee [\exists y\le m,y<m\wedge B(y)\wedge \neg B(y+1)]\vee B(m)$$令${\beta }_n:={⟨B(x)⟩}_n$，显然$$\left[{\beta }_0\wedge \underset{n=0}{\overset{m-1}{\bigwedge }}({\beta }_n\to {\beta }_{n+1})\right]\to {\beta }_m$$有一个深度至多为$\mathrm{dp}({\beta }_m)+O(1)$和大小至多为$O(m|{\beta }_m|)$的弗雷格证明。

三、$I{\Delta }_0(R)$的模型

设$L$是一个扩展了$L_{\mathrm{PA}}$的语言，使得$L$的每个符号在自然数集$\mathbb{N}$上都有一个标准解释，这就是标准模型（standard model）。例如，令$|x|$为$x$二进制串的长度（即$|x|=\lceil \log (x+1)\rceil$），我们可以把它加入$L_{\mathrm{PA}}$中。

令${\mathrm{Th}}_L(\mathbb{N})$是$\mathbb{N}$中所有真值为真的$L$语句的集合。对于$L$中没有的一个新常量$e$，考虑语言 L ( e ) : = L ∪ { e } L(e):=L\cup\{e\} L(e):=L∪{ e}和一个包含

1. ${\mathrm{Th}}_L(\mathbb{N})$
2. $e>n,\forall n\ge 1$

的$L(e)$理论。第二条中得出的任何有限个语句都不与${\mathrm{Th}}_L(\mathbb{N})$矛盾（将$e$看作一个充分大的自然数即可），因此，这个理论有一个模型$\mathbf{M}$。上面的定义使得$\mathbf{M}$中的常量$e$被解释为比所有自然数都大的一个元素。具有这种性质的$L$结构称为非标准模型（non-standard model），在这里就是${\mathrm{Th}}_L(\mathbb{N})$。

模型$\mathbf{M}$有一些$L$子结构，称为切割（cut）。$\mathbf{M}$的一个切割是满足下列条件的子集：

• $I$包含所有$L$中的常量（因此不一定包含$e$），并且在所有的$L$函数下封闭；
• $\forall a,b\in \mathbf{M},a<b\wedge b\in I⟹a\in I$。

例如，标准模型$\mathbb{N}$自身就是任何非标准模型的最小切割。一个更有趣的切割是下面这个切割： I e = { a ∈ M ∣ ∃ L 项 t ( x ) 使得 M ⊨ a ≤ t ( e ) } I_e=\{a\in\mathbf{M}|\exists L\text{项}t(\boldsymbol{x})\text{使得}\mathbf{M}\models a\le t(e)\} Ie​={ a∈M∣∃L项t(x)使得M⊨a≤t(e)}这个切割可以用于证明定理1（证明从略）。

四、用有界算术说明证明系统的可靠性

我们说一个证明系统$P$是可靠的，就是说任何具有$P$证明的公式都是永真式。我们可以用增强的$L_{\mathrm{PA}}$来形式化地描述这个命题。我们首先处理一个简单的情况：一个子句集的归结反驳。

一个关于$n$个变量$p_1,\cdots ,p_n$的子句$C$可以由一个集合$C^{\prime }\subseteq [2n]$（其中$[k]$= { 1 , 2 , ⋯   , k } \{1,2,\cdots,k\} { 1,2,⋯,k}）来表示：$p_i\in C$当且仅当$i\in C^{\prime }$，$\neg p_i\in C$当且仅当$n+i\in C^{\prime }$。

关于$n$个变量的$m$个子句的集合 C = { C 1 , ⋯   , C m } \mathcal{C}=\{C_1,\cdots,C_m\} C={ C1​,⋯,Cm​}可以用一个二元关系$F\subseteq [m]\times [2n]$来表示：$(j,i)\in F$当且仅当$i\in C_j^{\prime }$（即编号为$i$的文字在第$j$个子句中）。

$\mathcal{C}$一个归结反驳$\pi =D_1,\cdots ,D_k$同样可以由一个二元关系$P\subseteq [k]\times [2n]$来表示，并且“$\pi$是$\mathcal{C}$的一个归结反驳”这个事实可以由一个${\Delta }_0(P,F)$公式$Pr{f}_R(x,y,z)$来表示，其中$x$代表$n$，$y$代表$m$，$z$代表$k$：$$\begin{gathered} Pr{f}_R(x,y,z):=(\forall 1\le j\le z[Init(j)\vee (\exists 1\le j_1,j_2<j\exists 1\le i\le xInfer(j,j_1,j_2,i))]) \\ \wedge (\forall 1\le i\le x\neg P(z,i)\wedge \neg P(z,i+x)) \end{gathered}$$前半句表示每个子句$D_j$要么是初始子句，要么是从$D_{j_1}$和$D_{j_2}$通过消掉变量$p_i$归结得到的；后半句表示所有变量及其否定都不出现在$D_z$中，也就说明了$D_z$是空子句（其中$D_z$是$\pi$的最后一个子句）。

其中，$Init(j)$表示的是$D_j\in \mathcal{C}$：$$Init(j):=\exists 1\le t\le y\forall 1\le i\le 2xP(j,i)\equiv F(t,i)$$$Infer(j,j_1,j_2,i)$表示的是$D_j$是由$D_{j_1}$和$D_{j_2}$通过消掉变量$p_i$归结得到的，它被定义为下列公式的合取：

• $\neg P(j,i)\wedge \neg P(j,x+i)$（变量$p_i$及其否定不出现在归结得到的子句$D_j$中）；
• $\forall 1\le t\le 2x[(t\ne i\wedge t\ne x+i)\to P(j,t)\equiv (P(j_1,t)\vee P(j_2,t))]$（$D_j$中的每个文字是从$D_{j_1}$或$D_{j_2}$继承过来的）；
• $[P(j_1,i)\wedge P(j_2,i+x)]\vee [P(j_1,i+x)\wedge P(j_2,i)]$（变量$x$及其否定分别出现在两个前提中）。

$n$给变量的一个赋值 a ∈ { 0 , 1 } n \boldsymbol{a}\in{\{0,1\}}^n a∈{ 0,1}n可以由一个子集$E\subseteq [n]$来描述：$i\in E$当且仅当$a_i=1$。那么，赋值$E$可满足公式$F$就可以由如下的${\Delta }_0(E,F)$公式$Sa{t}_2(x,y)$描述（$x,y$仍分别代表$n,m$）：$$\forall 1\le j\le y\exists 1\le i\le x[(E(i)\wedge F(j,i))\vee (\neg E(i)\wedge F(j,i+x))]$$也就是说，若$p_i$在$C_j$中出现，那么$p_i$在$E$下的赋值为$1$表明$C_j$被满足；若$\neg p_i$在$C_j$中出现，那么$p_i$在$E$下的赋值为$0$表明$C_j$被满足。

归结的可靠性可由如下的${\Delta }_0(E,F,P)$公式描述，它记作$Re{f}_R(x,y,z)$，并且通常被称为归结的反射原理（reflection principle）：$Pr{f}_R(x,y,z,P,F)\to \neg Sa{t}_2(x,y,E,F)$。也就是说：如果$P$是$F$的一个归结反驳，则任何赋值$E$都不能满足$F$。

引理4 $I{\Delta }_0(E,F,P)$能够证明公式$Re{f}_R(x,y,z)$。

证明：反证法。假设$Pr{f}_R(x,y,z,P,F)\wedge Sa{t}_2(x,y,E,F)$，通过对$u=1,\cdots ,z$归纳来证明如下公式：$$\forall 1\le t\le u\exists 1\le i\le x[(E(i)\wedge P(t,i))\vee (\neg E(i)\wedge P(t,i+x))]$$这个公式描述的是赋值$E$满足了$P$的前$u$个子句。最终当$t=z$时它就会与$Pr{f}_R$中描述$D_z$为空的命题产生矛盾。

五、关于一阶理论和证明系统对应关系的总结

下面我们来总结一下一阶理论$T$和证明系统$P$的关系。我们允许$T$的语言的一阶部分被$L_{\mathrm{PA}}$（即$I{\Delta }_0(\alpha )$的语言的一阶部分）中的有限个符号所扩展，并假设扩展后的语言上的真单位子句是可以在多项式时间内验证的。我们还假设$T$的$L_{\mathrm{PA}}$推论在$\mathbb{N}$中为真。

$T$和$P$对应关系成立的前提（prerequisites）如下：

(A) 从（$T$的语言上的）${\Delta }_0(\alpha )$公式$A(x)$到一系列命题公式${⟨A⟩}_n$的转换$⟨\cdots ⟩$满足以下条件：

• (i) 存在多项式时间的算法能够从$1^{(n)}$计算出公式${⟨A⟩}_n$；
• (ii) $|{⟨A⟩}_n|=n^{O(1)}$且$\mathrm{dp}({⟨A⟩}_n)=O(1)$；
• (iii) 语句$\forall xA(x)$对于关系符号的所有解释都成立，当且仅当所有${⟨A⟩}_n$都是永真式。

(B) 如果理论$T$能够证明$\forall xA(x)$，那么存在${⟨A⟩}_n$的大小为$n^{O(1)}$的$P$证明。并且，存在一个多项式时间的算法从$1^{(n)}$构造出${⟨A⟩}_n$的一个$P$证明。

(C) 对于由深度为$d$的公式组成的$P$证明（$d\ge 2$）以及对$P$的可证明性谓词$Pr{f}_P$的$s{\Sigma }_1^1$表示，理论$T$可以证明反射原理$Re{f}_{P,d}$。

(D) 理论$T$可以证明能在每个赋值上求值的每个公式；也就是说，存在$H_1,\cdots ,H_r$见证${Sat}^0$。

为方便起见我们定义一下术语：

• $P$多项式模拟$T$当且仅当条件(A)和(B)被满足；
• $P$对应于$T$当且仅当条件(A)(B)(C)被满足。

这个对应关系的结果是：

(1) 上界 若(A)(B)满足，则为了建立${⟨A⟩}_n$（$n\ge 1$）的$P$证明的一个多项式上界，我们只需要在$T$中证明$\forall xA(x)$。

(2) 证明系统的多项式模拟 若(A)(B)(C)满足，则为了建立证明系统$P$关于深度不超过$d$的公式对证明系统$Q$的多项式模拟，只需在$T$中对于$P$的可证明性谓词$Pr{f}_P$的$s{\Sigma }_1^1$表示证明反射原理$Re{f}_{Q,d}$。

(3) 下界 对于一个${\Delta }_0(\alpha )$公式$A(x)$，为了建立${⟨A⟩}_n$（$n\ge 1$）的一个超多项式下界，只需为任何${\mathrm{Th}}_{L_{\mathrm{PA}}}(\mathbb{N})$的非标准模型$\mathbf{M}$以及任何非标准的$e\in \mathbf{M}$建立一个对所有切割$I_e$上的$\alpha$中的关系的解释${\alpha }_G$，使得$$(I_e,{\alpha }_G)\models T+\neg A(e)$$

(4) $\mathsf{NP}\ne \mathsf{coNP}$的一致性 如果对某一永真式序列${\tau }_n$（$n\ge 1$），它的$P$证明有超多项式下界，则$T$不能证明$\mathsf{NP}=\mathsf{coNP}$。

参考文献

[1] Krajícěk, Jan. “Proof complexity.” Mathematics and Computation (2019). 这是这篇文章主要的参考文献。这本书可在这里下载。