線形代数や確率論 - 機械学習の基礎

まず、線形代数

すべては本質の特定の機能の組み合わせに抽象化することができ、線形代数、具体的に静的および動的特性を記述する何か抽象的な数学オブジェクト、です。

一般的な概念

  • スカラー(スカラー)
    スカラaは整数、実数または複素数であってもよいです
  • ベクター(ベクター)
    スカラーA1、A2の複数、⋯、特定の順序で構成される配列。通常、このような音声信号として、一次元配列で表されます
  • マトリクス(行列)
    行列は、ベクターを含み、M * N行列は、からなる列ベクトルとみなすことができ、N行次元のベクトルN-Mによって構成されるとしてM寸法を見ることができます。二次元配列で表される、例えば、グレースケール画像
  • テンソル(テンソル)
    テンソル行列ハイエンドで、数としてどんな小さなボックス三次キューブ場合には、3×3×3と3×3行列はまさにこのルービックキューブであるテンソルでありますそれはスライステンソルである表面、の。例えば、三次元又はより高い次元の配列で表される、RGB画像
  • ノーム(NORM)は
    、単一のベクトルの大きさを測定するために、自然自体、非負の値にマッピングされたベクトルのベクトル記述です。
  • 内積(内積)
    、すなわち2つのベクトル間の相対位置、ベクトル間の角度。関係は、二つのベクトル間で計算されます
  • 線形空間(線形空間)
    (限定または無制限のこともある)と同じ寸法を有するベクトル要素のセット、等を構成することによって、算術和演算を定義します
  • 計量ベクトル空間(計量ベクトル空間)
    内積演算線形空間で定義されています
  • 直交基底(直交基底)
    内部空間内の体積は、ベクトルのセットは、それぞれ直交しています。グループは、緯度と経度を定義計量ベクトル空間の作用に直交しています。決定後直交基底は⼀、ベクター及びそれに沿って決定された点との対応関係を計量ベクトル空間を説明しました。
  • 正規直交基底(正規直交基底)
    ベースユニットの長さの直交基底ベクトルのノルムは1であります

線形変換

線形変換ベクトルが基準フレーム内の変化として記述またはマトリックスで表現できる座標系、
線形空間を、2つの方法で変化を達成します。

  1. 変化点
    Axが= yが
    ベクトルyに、記載されるように変換行列Aを介して、ベクトルxを表します。
  2. 基準システムの変化は、
    マトリックスを記載⼀重要なパラメータは、固有値λと固有ベクトルXです。
    λを想定している所定の行列Aについては、特徴ベクトルxと、これらの間の関係は次の通り:
    λはX =のAxを
    特徴と固有ベクトル行列は、変化の速度と方向を記載しています。
    考え行列の変化は、人々が次に実行の速度の固有値λ代表的には、特徴ベクトルxの方向が実行され、実行表します。

第二に、確率論

線形代数では、確率論はまた、世界を見ての方法を表し、焦点は、不確実性と生活の可能性があります。
確率論は、線形代数を超えている、人工知能の別の理論的基礎は、機械学習モデルで最も使用される方法は、確率論に基づいています。
限定されるもので実用的タスクに利用可能なトレーニングデータは、このように推定機械学習タスクのコアである確率分布のパラメータを必要とします。

二つの学校

  1. 周波数学校(Frequentists)
    パラメータは客観的な現実であることを学校の頻度は不明であるが、変更されませんが、それは固定値です。私たちは、特定のイベントの確率を計算するときに、確率推論の基礎として、種類や分布のパラメータを決定する必要があり、ちょうど観測者を知りません
  2. ベイズ(Bayesians)
    ベイジアンスパイク考えパラメータは、固定された事前分布が存在しないランダムな値です。前提自体がデータの役割は常に近い客観的現実になされた仮定、観察者の確率の主観的な知識を改訂され、観察に依存しています。

最も心配周波数の送信は、尤度関数であり、最も心配バイユーSpiraxは事後分布です。

確率的推定方法の二種類

  1. 最尤推定法(最尤推定)
    アイデアは、訓練データの発生確率を最大化する、など確率分布、またトレーニングデータをトレーニングの分布に沿って推定された確率分布の未知のパラメータを決定することです。
    最尤推定法だけでトレーニングデータを使用して、パラメータを推定します
  2. 最大事後法(最大事後確率を)
    考えはトレーニングデータと未知のパラメータの出現の可能性を最大化し、推定値として最も可能性の未知のパラメータ値を選択することが知られている他の条件に基づいています。
    訓練データに加えて、パラメータを推定する最大事後方法だけでなく、ベイズの事前確率である追加情報の必要性、とき

イラスト

良い学生と貧しい学生の戦い

  1. 最尤推定:間違った貧しい学生でなければならない教師、貧しい学生がいるので、トラブルを巻き起こすのが大好き
  2. 最大事後確率:先生は休日を知っている場合(事前情報)の受賞者と貧しい学生の間で、これらの要因を考慮に入れ、それは単に健康挑戦考慮されません。
    最尤が観測されたデータが表示され、最大確率は、パラメータの最大のセットを見つけることの事後確率は、現在の観測データの下に表示される最大となるように、パラメータのセットを見つけることです。

ランダム変数の二種類

  1. 離散確率変数(離散確率変数)
    など一部の地域で生まれた人の数などの値の一定範囲内の有限数または番号を持つことができ、
  2. 連続ランダム(連続確率変数)
    変数内の値の特定の範囲内に無数を有し、この値はいくつかの分野で、例えば、それらをリストアップすることができません

おすすめ

転載: www.cnblogs.com/chenqionghe/p/12557966.html