そして、前記勾配降下法及び多項式回帰の練習

勾配降下今日の練習を説明します

我々は2つの変数を導入したモデルから、昨日の賃金

出席率月給の合計税率にあなたの名前

W          4700元       0.9            0.15         3760元

Z 4900 0.85 0.26 3675元人民元 

T 4850 150 0.35 4122.5元人民元

員P 4750 0.95 0.17 4037.5元

... ........... ....... .... .............

私たちは、からの出席率と税率×1×2 2つの変数を導入し、

だから我々は、線グラフ機能高を描きます

我々は、彼らが収束することができる前に複数回を重ねる必要がありますので画像は、少しフラットに見えます

溶液は、0.5〜1の間でグラフィックに収束することです。

異なるモデルと異なるに従って収束勾配降下アルゴリズムのために必要な反復の数は、私たちは事前に、私たちは時に観察するために、反復してコスト関数アルゴリズムの図を描くことができますし、収束する傾向を予測することはできません。
学習率が小さすぎると学習率が大きすぎる場合は、関数が収束しないように、この関数は、周波数の変化の多くになります。
通常推奨される学習率α= 0.01、0.03、0.1、0.3、1、3、10

おすすめ

転載: www.cnblogs.com/tgr12345/p/12375279.html