线性代数——标量，向量，矩阵，张量

标量

一个标量是一个单独的数，通常用斜体的小写变量表示，例如“令 $n\in N$表示元素的数目”

向量

一个向量是一列数，通常用斜体的粗体变量表示，例如 :
$x= \begin{bmatrix} x_1 \\ x_2 \\ \vdots \\ x_n \end{bmatrix}$
为了表示方便，在论文中通常写作 $x=[x_1,x_2,...,x_n]^T$

矩阵

矩阵是一个二维数组，其中每一个元素由两个下标共同决定，通常用粗体的大写变量表示，例如: $\mathit{\mathbf{A}}\in \mathbb{R}^{m\times n}$。但在表示矩阵中单个元素时，通常以不加粗的斜体变量表示，例如： $A_{1,1}$。当需要明确表示矩阵中的全部元素时，通常将它们写在用方括号括起来的数组中：
$\begin{bmatrix} A_{1,1} \; A_{1,2} \\ A_{2,1} \; A_{2,2} \end{bmatrix}$

张量

张量是坐标维度超过二维的数组，例如一个三维张量 $\mathbf A$中坐标为 $(i,j,k)$的元素记作 $\mathit A_{i,j,k}$。

参考文献

[1] 伊恩·古德费洛, 约书亚·本吉奥, 亚伦·库维尔. 深度学习. 人民邮电出版社. 北京. 2018