分布式检测与数据融合：贝叶斯检测理论

本文主要摘选自参考文献 Varshney P K. Distributed Detection and Data Fusion[M]. 1997.(section 2.2)

  我们考虑简单的二元假设检验问题。二元假设分别为 $H_0$以及 $H_1$。用 $y$表示观测变量，可以得到条件概率密度函数为 $p(y|H_i),\ i=0,1$。两种假设的先验概率分别为 $P_0$和 $P_1$。显然，一共有四种可能的检测结果，其中两种为正确判决，两种为错误判决。下面我们为每种情况分配代价，即用 $C_{ij},\ i,j=0,1$来表示 $H_j$情况下判决为 $H_i$的代价。在贝叶斯公式中，判决规则为最小化平均代价。这里的平均代价，或者贝叶斯风险函数，用 $\mathcal R$表示，定义为
$\tag{1} \begin{aligned} {\mathcal R}&=\sum_{i=0}^{1}\sum_{j=0}^{1}C_{ij}P_jP(H_i|H_j)\\ &=\sum_{i=0}^{1}\sum_{j=0}^{1}C_{ij}P_j\int_{Z_i}p(y|H_j)dy, \end{aligned}$其中， $Z_i$为 $H_i$的判决域。进一步，我们假定 $Z$为总的观测空间，则
$\tag{2} \begin{aligned} {\mathcal R}=&P_0C_{00}\int_{Z_0}p(y|H_0)dy+P_0C_{10}\int_{Z-Z_0}p(y|H_0)dy\\ &+P_1C_{01}\int_{Z_0}p(y|H_1)dy+P_1C_{11}\int_{Z-Z_0}p(y|H_1)dy. \end{aligned}$注意到
$\int_Zp(y|H_j)dy=1,\ j=0,1$我们对(2)进行整理，可以得到
$\tag{3} \begin{aligned} {\mathcal R}=&\quad P_0C_{10}+P_1C_{11}\\&+\int_{Z_0}\left\{P_1(C_{01}-C_{11})p(y|H_1) -P_0(C_{10}-C_{00})p(y|H_0)\right\}dy. \end{aligned}$前面两项为固定值。通过将 $Z$中的点分配到 $Z_0$中，从而使得(3)中的积分式为负值，可以最小化风险 $\mathcal R$。假定 $C_{10}>C_{00}$， $C_{01}>C_{11}$，最小化后的结果为似然概率比检验(likelihood ratio test, LRT)
$\tag{4} \begin{aligned} \frac{p(y|H_1)}{p(y|H_0)}\begin{aligned}H_1\\>\\<\\H_0\end{aligned}\frac{P_0(C_{10}-C_{00})}{P_1(C_{01}-C_{11})}, \end{aligned}$进一步可以表示为
$\tag{5} \Lambda(y)\begin{aligned}H_1\\>\\<\\H_0\end{aligned}\ \eta,$其中
$\Lambda(y)=\frac{p(y|H_1)}{p(y|H_0)}$为似然比，
$\eta=\frac{P_0(C_{10}-C_{00})}{P_1(C_{01}-C_{11})}$为门限；等效地，我们有对数形式
$\tag{6} \log \Lambda(y)\begin{aligned}H_1\\>\\<\\H_0\end{aligned}\ \log\eta.$

对于特殊情况 $C_{00}=C_{11}=0$， $C_{01}>C_{10}=1$，正确判决的代价为0，而错误判决的代价为1，此时
$\tag{7} {\mathcal R}=P_0\int_{Z_1}p(y|H_0)dy+P_1\int_{Z_0}p(y|H_1)dy$正好是平均错误概率。此时，贝叶斯检验就是最小化平均错误概率，判决门限 $\eta=\frac{P_0}{P_1}$。如果 $P_0=P_1$，则 $\eta=1$， $\log \eta =0$，在通信系统中称为最小误差接收机。

  下面我们定义虚检概率及误检分别为
$\tag{8} P_F=P(H_1|H_0)=\int_{Z_1}p(y|H_0)dy,$以及
$\tag{9} P_M=P(H_0|H_1)=\int_{Z_0}p(y|H_1)dy,$则检测概率为
$\tag{10} P_D=1-P_F=P(H_1|H_1)=\int_{Z_1}p(y|H_1)dy,$因此可以将贝叶斯风险函数表示为
$\tag{11} {\mathcal R}=P_0C_{10}+P_1C_{11}+P_1(C_{01}-C_{11})P_M-P_0(C_{10}-C_{00})(1-P_F),$考虑到 $P_0=1-P_1$，有
$\tag{12} \begin{aligned} {\mathcal R}=&C_{00}(1-P_F)+C_{10}P_F\\ &\quad +P_1[(C_{11}-C_{00})+(C_{01}-C_{11})P_M-(C_{10}-C_{00})P_F]. \end{aligned}$根据最优判决区域替代 $P_F$和 $P_M$的值，可以最小化 $\mathcal R$。下面我们采用另外的方法来最小化 $\mathcal R$。

  根据贝叶斯准则
$\tag{13} P_jp(y|H_j)=P(H_j|y)p(y),$其中， $y$的概率密度函数为
$\tag{16} p(y)=P_0p(y|H_0)+P_1p(y|H_1).$我们可以把(1)表示为
$\tag{17} {\mathcal R}=\sum_{i=0}^{1}\sum_{j=0}^{1}C_{ij}\int_{Z_i}P(H_j|y)p(y)dy,$交换积分和求和顺序，有
$\tag{18} \begin{aligned} {\mathcal R}&=\sum_{i=0}^{1}\int_{Z_i}\sum_{j=0}^{1}C_{ij}P(H_j|y)p(y)dy\\ &=\sum_{i=0}^{1}\int_{Z_i}\beta_i(y)p(y)dy, \end{aligned}$其中
$\tag{19} \beta_i(y)=\sum_{j=0}^{1}C_{ij}P(H_j|y)$为观测空间中每个点 $y$对应的条件代价。最小化贝叶斯代价 $\mathcal R$的最优接收机采用判决准则
$\tag{20} \beta_0(y)\begin{aligned}H_1\\>\\<\\H_0\end{aligned}\ \beta_1(y).$
  令 $r(y)$表示最优接收机的条件代价，则
$\tag{21} r(y)=\min[\beta_0(y),\beta_1(y)],$利用数学等式
$\tag{22} \min(a,b)=\frac{1}{2}(a+b)-\frac{1}{2}|a-b|,$我们将 $r(y)$表示为
$\tag{23} r(y)=\frac{1}{2}[\beta_0(y)+\beta_1(y)]-\frac{1}{2}|\beta_0(y)-\beta_1(y)|.$利用 $\beta_0(y)$以及 $\beta_1(y)$的定义以及贝叶斯准则
$P(H_j|y)=\frac{P_jp(y|H_j)}{p(y)},$我们可以把(23)表示为
$\tag{24} \begin{aligned} r(y)=&\frac{1}{2P(y)}{\Large[} P_0(C_{00}+C_{10})p(y|H_0)+P_1(C_{01}+C_{11})p(y|H_1)\\ &-|P_1(C_{01}-C_{11})p(y|H_1)-P_0(C_{10}+C_{00})p(y|H_0|{\Large]}. \end{aligned}$基于(18)以及(21)，可以得到
$\tag{25} \begin{aligned} {\mathcal R}=\int_{Z}r(y)p(y)dy. \end{aligned}$将(24)代入(25)，得
$\tag{26} {\mathcal R}_{\min}=C_0-\frac{1}{2}\int_{Z}|(C_{01}-C_{11})P_1p(y|H_1)-(C_{10}-C_{00})P_0p(y|H_0)|dy,$其中
$C_0=\frac{1}{2}(C_{00}+C_{10})P_0+\frac{1}{2}(C_{01}+C_{11})P_1.$特殊情况下， $C_{00}=C_{11}=0$， $C_{01}=C_{10}=1$，我们得到
$\tag{27} {\mathcal R}_{\min}=\frac{1}{2}-\frac{1}{2}\int_{Z}|P_1p(y|H_1)-P_0p(y|H_0)|dy.$由此得到最优贝叶斯检测系统的最小可达错误率，称为Kolmogorov variational distance。