矩阵，实际上是指定基下的线性变换。
一、相似矩阵
对相似矩阵直观的理解就是两个在不同基下的变换矩阵，也可以理解成在不同视角下的变换过程。
例如有一个在基x，y下的向量v，p是根据两个基得到的矩阵（分别计算x，y在x'，y'的坐标作为两个列向量）。v左乘p后只是换了基（表面上看是换了v的坐标，但是实际上位置是没有变化的，只是基变化了），再左乘A后，变换了v的位置，再左乘p'，就是把基又变了回来。
二、矩阵的迹
线性代数中，迹是矩阵对角线之和。
矩阵的迹，行列式和特征值都可以被称为相似不变量。行列式代表的是线性变换的伸缩比例。某种意义上讲，他们都和坐标无关。
三、矩阵求导
参考知乎：https://zhuanlan.zhihu.com/p/24709748
下面说一下自己的理解。
对于标量关于向量求导，比较重要的是找到了微分与迹的关系。
若标量函数f是矩阵X经加减乘法、行列式、逆、逐元素函数等运算构成，则使用相应的运算法则对f求微分，再使用迹技巧给df套上迹并将其它项交换至dX左侧，即能得到导数。一些常用的公式可以查找上面的链接。