【转载】矩阵求导、几种重要的矩阵及常用的矩阵求导公式

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/daaikuaichuan/article/details/80620518


一、矩阵求导

  一般来讲,我们约定x=(x1,x2,...xN)Tx=(x1,x2,...xN)T,这是分母布局。常见的矩阵求导方式有:向量对向量求导,标量对向量求导,向量对标量求导。

1、向量对向量求导

      Numerator layout : 分子布局

      Denominator layout : 分母布局

      《多元统计分析》课堂,按照分子布局来讲。

 

2、标量对向量求导

 

 

3、向量对标量求导

 

其他的可以参考wiki:维基百科矩阵求导公式

二、几种重要的矩阵

1、梯度(Gradient)

 

 


2、雅克比矩阵(Jacobian matrix)

 

 


3、海森矩阵(Hessian matrix)

 

三、常用的矩阵求导公式

 

 

参考:
https://blog.csdn.net/xtydtc/article/details/51133903
https://blog.csdn.net/yc461515457/article/details/49682473
————————————————
版权声明:本文为CSDN博主「lx青萍之末」的原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.csdn.net/daaikuaichuan/article/details/80620518

猜你喜欢

转载自www.cnblogs.com/jiaxinwei/p/11450561.html
今日推荐