今週、あるファンから GWO-KELM に関する記事を公開するようプライベート メッセージが届いたので、今日の休みを利用して記事を更新しました (遅くないことを願っています)
著者は前回の記事で ELM と KELM の原理と実装を紹介しました.ELM はトレーニング速度が速く, 複雑さが低いという利点があり, 従来の勾配アルゴリズムの局所最小値, 過剰適合および学習率の不適切な選択を克服します. KELM, on the一方、カーネル学習法を使用し、ランダム マッピングをカーネル マッピングに置き換えます。これにより、隠れ層でのニューロンのランダムな割り当てによって引き起こされる汎化と安定性の低下の問題を効果的に改善でき、非線形問題に適用するとパフォーマンスが向上します [1] ] 。
ハイイロオオカミ最適化アルゴリズム (GWO) は、ハイイロオオカミの捕食行動をシミュレートし、オオカミの集団協力メカニズムに基づいて最適化の目標を達成するものであり、このメカニズムは探索と開発のバランスにおいて良好な結果を達成しており、収束速度と解法 精度の点で優れた性能を持ち、原理が簡単、並列処理が容易、実装が容易、調整すべきパラメータが少なく、問題の勾配情報がない、強力なグローバル検索能力などの特徴を持っています。
したがって、著者は、ELM と KELM をハイイロオオカミ最適化アルゴリズムと組み合わせて回帰フィッティング問題に適用し、BP ニューラル ネットワークや PSO-KELM などの従来の機械学習アルゴリズムと比較します。
00カタログ
1 GWO-KELM モデル
2 コード ディレクトリ
3 予測パフォーマンス
4 ソース コードの
取得
01 GWO-ケルムモデル
1.1 GWO と KELM の原則
GWO は Gray Wolf Optimization Algorithm、KELM は Kernel Extreme Learning Machine であり、その具体的な原理については以前の記事で著者が解説していますが、記事へのリンクは以下の通りですので、ここでは詳しく説明しません。
カーネル エクストリーム ラーニング マシンの原理とその MATLAB コード実装
Gray Wolf 最適化アルゴリズムの原理とその MATLAB コード実装
1.2 GWO-KELM予測モデル
GWO と KELM を組み合わせ、KELM モデルによって予測された MAE を GWO の適合度として使用します。モデルのプロセスは次のとおりです。
02 コードディレクトリ
このうち、MY_XX_Reg.m は独立して実行できるメインプログラムで、result.m は異なるアルゴリズムの予測結果を比較するために使用され、5 つの MY_XX_Reg.m を順番に実行して予測結果を比較できます。
03 予測パフォーマンス
3.1 評価指標
予測結果の精度と精度を検証するために、二乗平均平方根誤差 (Root Mean Square Error、RMSE)、平均絶対パーセント誤差 (Mean Absolute Percentage Error、MAPE)、および平均絶対誤差 (Mean Absolute Error、MAE) を使用します。をそれぞれ評価基準とした。
この式では、Yi と Y ^ i はそれぞれ実際の値と予測値であり、n はサンプル数です。
3.2 結果の比較
予測モデルの中で、GWO と PSO によって最適化された KELM 予測モデルが良好な結果を達成しており、GWO の予測性能は PSO よりも優れており、その収束速度と精度は PSO よりもはるかに優れていることがわかります。
04 ソースコード取得
著者の公開アカウント: KAU のクラウド実験プラットフォーム
参考文献
[1] Huang GB、Zhou HM、Ding XJ、他。回帰および多クラス分類のための極端な学習機械[J]。IEEE Transactions on Systems, Man,and Cybernetics、Part B (Cybernetics)、2012、42(2)： 513．
もう 1 つ: 解決すべき最適化問題 (あらゆる種類の分野が利用可能) を抱えているパートナーがいる場合は、私に送っていただければ、これらの問題を解決するための最適化アルゴリズムの使用に関する記事を選択的に更新します。
この記事が役に立ったり、インスピレーションを与えたりした場合は、右下隅にある「いいね (ง •̀_•́)ง」をクリックしてください (クリックする必要はありません)。カスタマイズが必要な場合は、著者にプライベート メッセージを送信できます。 。