仕上げ機械学習一般的に使用される損失関数

機械機能の喪失学習のため。この方法では、モデリングデータ評価の特定の程度のための特定のアルゴリズムです。あなたは予測値と真の値の前にはるかに逸脱した場合、機能の損失が比較的大きな値となります。いくつかの最適化機能の助けを借りて、徐々に予測値と真の値との間に、この損失関数の誤差を低減することを学びます。

すべての機械学習アルゴリズムは、私たちが呼んで、特定の関数を最小化または最大化に依存している「目的関数。」関数のこのセットは「と呼ばれ、最小化された損失関数」損失関数は、予測モデルの予測のパフォーマンスの指標です。関数の最小値が最も一般的な方法で検索「勾配降下。」損失関数起伏の丘、勾配降下を考える山の最低点(目的)を探して、丘の上から下にスライドするようなものです。

一般的ではない実用的なアプリケーションでは、すべての機械学習アルゴリズムのパフォーマンスの機能喪失のために非常に良い(または機能の喪失は、あらゆる種類のデータに適用することができていません)。特定の問題の機能の喪失を選択すると、外れ値があるかどうかを含め、口座多くの要因を考慮する簡単な関数の導関数、および結果を予測する自信の程度を見つけるためにかどうか、時間効率を実行している機械学習アルゴリズム、勾配降下を選択します。

リターンロス(分類損失)と分類損失(回帰損失) -学習課題の種類から、二つのカテゴリー、広義の損失関数に分けることができます。分類タスク、我々が望む予測出力値カテゴリから設定限られたデータをそのような手書き大規模なデータセットの所与のデジタル画像としては、それは0~9のいずれかに分割されます。回帰プロセスがされ、連続値の予測住宅価格を予測するために、部屋の数は、そのような特定の床面積などの問題を、。

 リターンロス

1. 均方误差(Mean Square Error), 二次损失(Quadratic Loss),  L2 损失(L2 Loss)

均方误差(MSE)是最常用的回归损失函数。其数学公式如:

 

 

 均方误差(MSE)度量的是预测值和实际观测值之间差的平方和求平局。它只考虑误差的平均大小,不考虑其方向。但由于经过平方,与真实值偏离较多的预测值会比偏离较少的预测值受到更为严重的惩罚。再加上 MSE 的数学特性很好,这使得计算梯度变得更容易。

下面是一个MSE函数的图,其中真实目标值为 100,预测值在 -10,000 至 10,000之间。预测值(X轴)= 100 时,MSE 损失(Y轴)达到其最小值。损失范围为 0 至 ∞。

 

おすすめ

転載: www.cnblogs.com/zcj-272/p/11605601.html