【计算机视觉中的多视图几何系列】深入浅出理解针孔相机模型

温故而知新,可以为师矣!

一、参考资料

《计算机视觉中的多视图几何-第五章》-Richard Hartley, Andrew Zisserman.

二、针孔模型相关介绍

1. 重要概念

在这里插入图片描述

1.1 投影中心/摄像机中心/光心

投影中心称为摄像机中心,也称为光心。投影中心位于一个欧式坐标系的原点。

1.2 图像平面/聚焦平面

平面 Z = f Z=f Z=f 被称为图像平面聚焦平面

1.3 主轴/主射线

摄像机中心到图像平面的垂线称为摄像机的主轴主射线

1.4 主点

主轴与图像平面的交点称为主点

1.5 主平面(摄像机)

过摄像机中心平行于图像平面的平面称为摄像机的主平面

2. 摄像机投影

从3维世界降到2维图像是一个投影过程,在此过程中我们失去了一维。建模这个过程的常用方式是利用中心投影,由空间中的一个点引出一条从3D世界点到空间中的一个固定点(投影中心)的射线,这条射线将与空间中被选为图像平面的具体平面相交。射线与图像平面的交点表示该点的图像。
在这里插入图片描述

在针孔摄像机模型下,3维空间坐标为 X = ( X , Y , Z ) T X=(X, Y, Z)^T X=(X,Y,Z)T 的点 X X X 被投影到图像平面上的一点,该点是连接点 X X X 与投影中心的直线与图像平面的交点。根据相似三角形,可以很快地算出点 ( X , Y , Z ) T (X, Y , Z)^T (X,Y,Z)T 被映射到图像平面上点 ( f X / Z , f Y / Z , f ) T (fX/Z, fY/Z, f)^T (fX/Z,fY/Z,f)T 。略去最后一个图像坐标之后,从世界坐标到图像坐标的中心投影是:
( X , Y , Z ) T ↦ ( f X / Z , f Y / Z ) T ( 1 ) (X,Y,Z)^{T}\mapsto(fX/Z,fY/Z)^{T}\quad(1) (X,Y,Z)T(fX/Z,fY/Z)T(1)
这是从3维欧式空间 IR 3 \text{IR}^3 IR3 到 2维欧式空间 IR 2 \text{IR}^2 IR2 的一个映射

3. 投影矩阵

齐次坐标的概念:齐次坐标就是用N+1维去描述一个N维的坐标。
一个点的齐次坐标 x = ( x 1 , x 2 , x 3 ) T x=(x_1,x_2,x_3)^T x=(x1,x2,x3)T (它是3维向量)和非齐次坐标 ( x , y ) T (x,y)^T (x,y)T (它是2维向量)。

扫描二维码关注公众号,回复: 17340580 查看本文章

如果用齐次矢量表示世界和图像点,那么中心投影可以简单地表示成齐次坐标之间的线性映射。具体地说, 公式 ( 1 ) 公式(1) 公式(1) 可以写成如下矩阵乘积形式:
[ X Y Z 1 ] ↦ [ f x f y z ] = [ f 0 f 0 1 0 ] [ X Y Z 1 ] ( 2 ) \left.\left[\begin{array}{c}\mathbf{X}\\\mathbf{Y}\\\mathbf{Z}\\\mathbf{1}\end{array}\right.\right]\mapsto\left[\begin{array}{c}f\mathbf{x}\\f\mathbf{y}\\\mathbf{z}\end{array}\right]=\left[\begin{array}{cc}f&&&0\\&f&&0\\&&1&0\end{array}\right]\left[\begin{array}{c}\mathbf{X}\\\mathbf{Y}\\\mathbf{Z}\\\mathbf{1}\end{array}\right]\quad(2) XYZ1 fxfyz = ff1000 XYZ1 (2)
其中 [ f 0 f 0 1 0 ] \left[\begin{array}{cc}f&&&0\\&f&&0\\&&1&0\end{array}\right] ff1000 表示 3 ∗ 4 3*4 34 齐次摄像机投影矩阵,记作 P P P P P P 可以写成 d i a g ( f , f , 1 ) [ I ∣ 0 ] diag(f,f,1)[I|0] diag(f,f,1)[I∣0],其中 d i a g ( f , f , 1 ) diag(f,f,1) diag(f,f,1)对角矩阵,而 [ I ∣ 0 ] [I|0] [I∣0]表示矩阵分块成一个 3 ∗ 3 3*3 33恒等矩阵加上一个零列矢量。那么,中心投影的针孔模型的摄像机投影矩阵可以表示为:
P = d i a g ( f , f , 1 ) [ I ∣ 0 ] P=diag(f,f,1)[I|0] P=diag(f,f,1)[I∣0]

恒等矩阵的概念:恒等矩阵,又称为单位矩阵,是一个方阵,其对角线上的元素为1,其余元素均为0,记作 I I I或者 E E E。恒等矩阵的大小由其维度决定,例如3阶恒等矩阵是一个3x3的矩阵。

恒等矩阵在线性代数中具有很多重要的性质。例如,对于任意矩阵A,恒等矩阵1与A的乘积等于A本身。这是因为恒等矩阵的每个元素与A的对应元素相乘,并将其相加,得到的结果就是A本身。这个性质在矩阵的转置、逆运算等方面都有着重要的应用。

恒等矩阵在深度学习中也具有重要的作用。在神经网络中,恒等矩阵常被用作初始化权重矩阵初始化权重矩阵时,将其设置为恒等矩阵可以使得神经网络的初始状态更稳定。这是因为恒等矩阵具有一定的对称性和平衡性,可以避免梯度消失或梯度爆炸等问题,有助于提高模型的训练效果

恒等矩阵还可以用于矩阵的相似性度量。在图像处理和模式识别中,我们经常需要比较两个矩阵的相似性。通过计算两个矩阵之间的差异,可以得到它们的相似性度量。而恒等矩阵作为一个特殊的矩阵,与其他矩阵相比具有明显的差异,可以用于度量矩阵之间的相似性。

我们现在引入如下记号:世界点 X X X 用4维齐次矢量 ( X , Y , Z , 1 ) (X,Y,Z,1) (X,Y,Z,1)表示;图像点 x x x 被表示成3维齐次矢量的形式。则 公式 ( 2 ) 公式(2) 公式(2) 可以紧凑地写为:
x = P X x=PX x=PX

4. 主点偏置

公式 ( 1 ) 公式(1) 公式(1) 假定图像平面的坐标原点在主点上。实际情况可能不是这样,如下图所示:

在这里插入图片描述
摄像机坐标系 ( x c a m , y c a m ) T (x_{cam},y_{cam})^T (xcam,ycam)T的坐标原点为摄像机中心,该原点在图像平面的投影是主点p。图像坐标系 ( x , y ) T (x,y)^T (x,y)T 的坐标原点为图像的左下角。

因此一般情形的映射为:
( X , Y , Z ) T ↦ ( f X / Z + p x , f Y / Z + p y ) T (X,Y,Z)^{T}\mapsto(fX/Z+p_x,fY/Z+p_y)^{T} \\ (X,Y,Z)T(fX/Z+px,fY/Z+py)T
其中 ( p x , p y ) T (p_x,p_y)^T (px,py)T 是主点的坐标。该方程用齐次坐标可以表示为:
[ X Y Z 1 ] ↦ [ f x + Z p x f y + Z p y z ] = [ f p x 0 f p x 0 1 0 ] [ X Y Z 1 ] ( 3 ) \left.\left[\begin{array}{c}\mathbf{X}\\\mathbf{Y}\\\mathbf{Z}\\\mathbf{1}\end{array}\right.\right]\mapsto\left[\begin{array}{c}f\mathbf{x+Zp_x}\\f\mathbf{y+Zp_y}\\\mathbf{z}\end{array}\right]=\left[\begin{array}{cc}f&&p_x&0\\&f&p_x&0\\&&1&0\end{array}\right]\left[\begin{array}{c}\mathbf{X}\\\mathbf{Y}\\\mathbf{Z}\\\mathbf{1}\end{array}\right]\quad(3) XYZ1 fx+Zpxfy+Zpyz = ffpxpx1000 XYZ1 (3)
若记
K = [ f p x f p x 1 ] ( 4 ) K=\left[\begin{array}{cc}f&&p_x\\&f&p_x\\&&1\end{array}\right]\quad(4) K= ffpxpx1 (4)
公式 ( 3 ) 公式(3) 公式(3) 有一个简洁的形式:
x = K [ I ∣ 0 ] X c a m ( 5 ) x=K[I|0]X_{cam}\quad(5) x=K[I∣0]Xcam(5)
矩阵 K K K 称为摄像机标定矩阵,在 公式 ( 5 ) 公式(5) 公式(5) 中我们记 ( X , Y , Z , 1 ) T (X,Y,Z,1)^T (X,Y,Z,1)T X c a m X_{cam} Xcam 是为了强调摄像机被设定在一个欧式坐标系的原点且主轴沿着 z z z 轴的指向,而点 X c a m X_{cam} Xcam 按此坐标系表示。这样的坐标系可以称为摄像机坐标系

摄像机坐标系的原点为摄像机中心 z z z轴方向指向主轴

5. 摄像机旋转与位移

一般,3维空间点采用不同的欧式坐标系表示,称为世界坐标系摄像机坐标系与世界坐标系通过旋转平移相联系
在这里插入图片描述

世界坐标系和摄像机坐标系之间的欧式转换

如果 X ~ \widetilde{X} X 是一个3维非齐次矢量,表示世界坐标系中一点的坐标,而 X ~ c a m \widetilde{X}_{cam} X cam 是以摄像机坐标系来表示的同一点,那么我们可以记 X ~ c a m = R ( X ~ − C ~ ) \widetilde{X}_{cam}=R\left(\widetilde{X}-\widetilde{C}\right) X cam=R(X C ) ,其中 C ~ \widetilde{C} C 表示摄像机中心在世界坐标系中的坐标, R R R 是一个 3 ∗ 3 3*3 33 的旋转矩阵,表示摄像机坐标系的方位。这个方程在齐次坐标系下可以写成:
X c a m = [ R − R C ~ 0 T 1 ] [ X Y Z 1 ] = [ R − R C ~ 0 T 1 ] X ( 6 ) X_{cam}=\begin{bmatrix}R&-R\widetilde{C}\\0^{T}&1\end{bmatrix}\begin{bmatrix}X\\Y\\Z\\1\end{bmatrix}=\begin{bmatrix}R&-R\widetilde{C}\\0^{T}&1\end{bmatrix}\mathbf{X}\quad(6) Xcam=[R0TRC 1] XYZ1 =[R0TRC 1]X(6)
把它与 公式 ( 5 ) 公式(5) 公式(5) 结合起来形成公式:
x = K R [ I ∣ − C ~ ] X ( 7 ) x=KR\left[I|-\widetilde{C}\right]X\quad(7) x=KR[IC ]X(7)
其中 X X X 用世界坐标系表示。这是由一个针孔模型给出的一般映射。

6. 摄像机内部参数与外部参数

公式 ( 7 ) 公式(7) 公式(7) 可以看出,一般的针孔摄像机 P = K R [ I ∣ − C ~ ] P=KR\left[I|-\widetilde{C}\right] P=KR[IC ] 有9个自由度:3个来自 K (元素 f , p x , p y ) K(元素 f,p_x, p_y) K(元素f,px,py,3个来自 R R R,3个来自 C ~ \widetilde{C} C 。包含在 K K K 中的参数称为摄像机内部参数摄像机的内部校准。包含在 R R R C ~ \widetilde{C} C 中的参数与摄像机在世界坐标系中的方位和位置有关,并称为外部参数外部校准

为方便起见,通常摄像机中心不明显标出,而把世界坐标系到图像坐标系的变换表示成 X ~ c a m = R X ~ + t \widetilde{X}_{cam}=R\widetilde{X}+t X cam=RX +t。在次情形时摄像机矩阵简化成:
P = k [ R ∣ t ] ( 8 ) P=k[R|t]\quad(8) P=k[Rt](8)
其中根据 公式 ( 7 ) 公式(7) 公式(7) t = − R C ~ t=-R\widetilde{C} t=RC

7. CCD摄像机

对于基本针孔模型,假定图像坐标在两个轴向上有等尺度的欧式坐标。但CCD摄像机的像素可能不是正方形。如果图像坐标以像素来测量,那么需要在每个方向上引入非等量尺度因子。具体地说,如果在 x x x y y y 方向上图像坐标单位距离的像素数分别是 m x m_x mx m y m_y my,那么由世界坐标到像素坐标的变换由 公式 ( 4 ) 公式(4) 公式(4) 左乘一个附加的因子 d i a g ( m x , m y , 1 ) diag(m_x,m_y,1) diag(mx,my,1) 而得到。因此一个CCD摄像机标定矩阵的一般形式是:
K = [ a x x 0 a y y 0 1 ] ( 9 ) K=\left[\begin{array}{cc}a_x&&x_0\\&a_y&y_0\\&&1\end{array}\right]\quad(9) K= axayx0y01 (9)
其中 a x = f m x a_x=fm_x ax=fmx a y = f m y a_y=fm_y ay=fmy 分别把摄像机的焦距换算成 x x x y y y 方向的像素量纲。同理, x ~ 0 = ( x 0 , y 0 ) T \widetilde{x}_0=(x_0,y_0)^T x 0=(x0,y0)T 是用像素量纲表示的主点,它的坐标是 x 0 = m x p x x_0=m_xp_x x0=mxpx y 0 = m y p y y_0=m_yp_y y0=mypy。因此,一个CCD摄像机有10个自由度

猜你喜欢

转载自blog.csdn.net/m0_37605642/article/details/135158486
今日推荐