線形回帰の機械学習ポータル（C）----サイドストーリー（行列導出）

心の笑顔

彼の顔は偽になることになりました

私はまた、うなり声はありません

魂の底から聞こえます

喉が曖昧になってきている行きます

だから私は話すことはありません。

線形回帰問題を解決する、第二の方法の最適なパラメータは、直接導出機能喪失であり、そして誘導体がゼロであることを確認します。これは、行列の導出が必要です。私たちの下には、マトリックスの導出を導入します。大躍進自分自身。。。。

行列定義されたガイド

行列関数である\（Mの\回N \）マトリックス\（\）は、すなわち数の関数としてマッピングされ、\ mathbb {R：\（F } ^ {m個の\回N} \ mapsto \ mathbb {R } \）。
ガイドマトリックスに、この行列は、同じサイズのマトリックスを有する得られます。行列関数行列定義\（\）に対する要素誘導体$（i、j）は$位置行列関数（\ \）を、$（i、j）は$場所変数誘導体、すなわちにおける
[\ \ nabla_ {A} F（A ）= \左[\ FRAC {\部分始める{アレイ} {CCC} {\ FRAC {\部分F} {\部分A_ {11}}}＆{\ cdots}＆{\ F} {\部分A_ {1 、N}}} \\ {\ vdots}＆{\ ddots}＆{\ vdots} \\ {\ FRAC {\部分F} {\部分A_ {M 1}}}＆{ \ cdots}＆{\ FRAC {
\部分F} {\部分A_ {MN}}} \端{アレイ} \右] \] 例えば、従来のマトリックスの関数\（F：\ mathbb {R } ^ { 2 \ 2}回\ mapstoの\のR＆LT mathbb {} \）、\
[F（A）= \ {FRAC。3} {2} {A_は、11} {12は+5 A_ ^ {2}}} + {A_ 21がA_であります{22} \]
この行列\（A \）的导数为、
\ [\ nabla_ {A} F（A）= \ [\開始{アレイ} {CC} {\ FRAC {3} {2}}と{10 A_ {12}} \\ {A_ {左22}}＆{A_ {21}} \端{アレイ} \右] \]

トラックとトレースの性質

定義されたトレース・オペレータ（トレース演算子）と対角要素の和、すなわち、
\ [\ TR OperatorName {A} = \ sum_。1 = {I}} ^ {N-A_ {II} \]
両者を一緒に乗算され正方行列\（AB \）、以下の特性を有する、
\ [\ TR OperatorName {AB} = \ TR OperatorName {BA} \]
このように、以下の特性推論、
\ [\整列} {始める\ {TR} OperatorName ABC = \ operatorname {TR} CAB = \ operatorname {TR} BCA \\ \ operatorname {TR} ABCD = \ operatorname {TR} DABC = \ operatorname {TR} CDAB = \ operatorname {TR} BCDA \端{整列} \ ]
\（\）の実数であり、以下の特性はまた、検証を追跡することが困難である、
\ [\開始{} \ {OperatorName TR＆A} = \ OperatorName TR} {T} {^ \\ \ {OperatorName TR整列}（A + B）＆= \ operatorname {TR} A + \ operatorname {TR} B \\ \ operatorname {TR} A＆= \のoperatorname {TR} A \端{整列} \]

マトリックスデリバティブネイチャー

微分行列は、次の特性を有し、
\ [\ {式を}開始\ {整列} \ nabla_ {A} \ OperatorName {TR} AB＆= B ^ {T} \\ \ nabla_ {A ^ {T}} F（A始まります）＆= \左（\ nabla_ {A} F（A）\右）^ {T} \\ \ nabla_ {A} \ operatorname {TR} ABA ^ {T} C＆= CA B + C ^ {T} AB ^ {T} \\ \ nabla_
{A} | A |＆= | A | \左（A ^ { - 1} \右）^ {T} \端{整列} \端{式} \] その行列の導出は、一般変数と見られています。最初の特性のために、我々は固定あると\が（n回のM \ \）行列\（Bの\）を、次いで、（\ operatorname {TR} AB \ \）とみなすことができる\ mathbb {R：\（F } ^ {m個の\回N} \ mapsto \ mathbb {R} \）行列関数は、最初のプロパティをすると言われている（\）\誘導体位置結果が$である$（I、J）を\（B \）位置行列要素$ $（J、I）。

表情で、緊張しない、することができるという効果を知って、あなたは本当に「する時間ができにくい検証する何かを」。