余暇に古いものに目を通し、何もない、ただ花を見てください。
記事ディレクトリ
遺伝的アルゴリズム
進化の分野は、コンピュータ分野の問題を解決します. ダーウィンの理論は、自然界における適者生存の法則に触発されてコンピュータに導入されました. 生物の特定の集団は、特定の突然変異により新しい個体を生成します.環境で生き残り、時間をかけて徐々に反復し、再生産します。
主な手順: 数値エスケープ (0 と 1 にエンコードされた DNA)、適合度の計算 (迷路問題など、ターゲットに近いほど適合度が高く、最終的な到着座標が出口座標に近いほど、より多くの結果を欲しがる）、個体繁殖（良い個体と悪い個体を比例して排除する）、交配繁殖（親の情報から受け継がれ、一般に事前の知識を使用して遺伝情報を選択し、遺伝情報を次の世代に合理的に渡す）、突然変異（遺伝的およびランダムな変異。変異のタイプは、遺伝子変異、置換、フレームシフト、欠失、挿入を指す場合があります)
結果はほぼ最適である可能性があり、必ずしも全体的に最適であるとは限りません
親から情報をどのように継承するかは興味深い問題です. たとえば, 父親から m% を選択し, 母親から 100-m% を選択することができます. 別の興味深い遺伝的アイデアは, 個体を適応度に従って分類することです.勝者、残りの敗者の遺伝子を、トップクの個体の対応する部位の遺伝子にランダムに変異させてから変異させる. このアプローチは、現在のウイルス変異 (covid-19) に少し似ています.元の勝者を置き換えるために突然変異した個人
この方法は、2009 年に提案された微生物遺伝的アルゴリズムです: The Microbial Genetic Algorithm
http://users.sussex.ac.uk/~inmanh/MicrobialGA_ECAL2009.pdf
進化戦略
親のDNAコードは、もはや0と1のバイナリコードではなく、実数の範囲に拡張され、正規分布のランダムな値を介して変異して小さくなり、徐々に最適値に収束していきます。終わり
進化戦略 (ES) の方法、1+1 - ES、1+1 (μ/ρ +, λ) - ES、親と子の間の競合。親は正規分布でサンプリングされ、子孫が生成されます。 , 子孫の適応度が親の適応度よりも大きい場合, 子孫は親を置き換えます. ターゲットに近い場合, 突然変異の長さは減少します, 成功率突然変異アルゴリズムの p=1/5. 子孫が多いほど勝つと、突然変異の強度が大きくなりますが、最終的には可能です 局所最適に収束
また、強化学習の Policy Gradient 法に近い、勾配降下法を組み合わせた進化戦略 NES (自然進化戦略) もあり、子供のグループをランダムに生成し、子供の適応度を計算すると、子供は収束します。勾配とフィットネスに応じて最適なポイント。
ES は GA と比較して、正規分布がよく使われる突然変異のプロセスにより注意を払います。
進化戦略の一般的な考え方は、ネットワーク構造を修正し、コンピューティング ネットワークを並列化し、優れた子孫にネットワーク内のより多くの接続を占有させ、不利な立場にある個体を徐々に置き換えていくというものですが、写真の認識などの教師あり学習では、進化論のニューラルネットワーク ネットワークは確かに勾配降下法を使ったニューラルネットワークより劣っている. 勾配降下法は勾配スライディングだけを必要とする. 勾配降下法は最適な方向が迅速に収束できることを示しているが, 進化戦略は別の収束方法を使っている.新しいポイント. 新しいポイントを通じて次世代の位置を決定します. この反復では、ループ内で新しいネットワークまたはパラメーターを継続的に生成する必要がありますが、これは勾配降下よりもはるかに低速です.
しかし、進化的ニューラルネットワークの利点も見られます.ポイントをランダムに生成する方法は、勾配降下の制限を飛び越え、局所最適に陥りにくく、並列を通じて大規模な強化学習を実行できます.コンピューティング。
ニューラル ネットワークの進化
神経進化
進化とニューラル ネットワークの組み合わせも近年ブレークスルーを起こしています.私たちが目にするニューラル ネットワーク モデルのほとんどは、コンピューターが理解できる数学的モデルです.観測された値は前方に伝搬され、独自の判断を出力し、誤差が計算されます.予測結果と実際の結果を比較することにより、逆伝播を実行して自身のネットワーク パラメータを更新します.しかし、生物学のニューラル ネットワークには、この内省的伝播のシステムがなく、多くの場合、順伝播のみが生成され、新しいものを刺激することによって新しいことを理解します。ネットワーク接続. 実際, それは21世紀に始まりました. 当初, 誰かが達成しようとしました
現在、ニューラル ネットワークの進化には大まかに 2 つの形式があります。1 つは、現在の主流のニューラル ネットワーク、固定ニューラル ネットワーク、Q ラーニングなどの進化戦略を使用したパラメーターの更新、OpenAI によって 2017 年に提案されたポリシー グラディエント、数千の並列を使用したものです。子孫生殖の計算は収束速度を向上させる
NEAT の別の形式であるこの種のニューラル ネットワークは、構造とパラメーターの両方を変更することができ、より広い範囲と調査を行うことができます. 元の論文は、2002 年の「拡張トポロジーによるニューラル ネットワークの進化」です. ニューラル ネットワークには 2 つの遺伝子形式があります。 . , 1つはNode Genes、2つ目はConnect Genes、Node Genesはノードが何をするか、入力か出力か非表示かを保存し、Connect Genesはノード間の接続関係と重みを保持します
NEATのmutate戦略、接続を追加、またはノードを追加、クロスオーバー戦略、最初のparent1はparent2接続の最初のノードをソート、parent1とparent2の両方が両方である場合、遺伝子をランダムに選択、または1つだけを選択遺伝子は1つだけです
デメリット：練習に時間がかかる