機械学習の分類とアルゴリズム (概要)

教師あり学習教師あり学習アルゴリズムの入力データはトレーニングデータと呼ばれ、スパム/スパムではない、または株価などの既知のラベルまたは結果があります。モデルは、予測を行うように求められ、それらの予測が間違っている場合に修正されるトレーニングプロセスを通じて構築されます。その後、モデルがトレーニングデータで必要なレベルの精度を達成するまで、トレーニングプロセスが続行されます。分類アルゴリズムや回帰アルゴリズムなど。

2. 教師なし学習教師なし学習アルゴリズムには、入力データにラベルがなく、既知の結果もありません。入力データに存在する構造を推測してモデルを構築します。冗長性を体系的に減らすための数学的プロセスによるものかもしれませんし、類似性によってデータを整理することかもしれません。Apriori アルゴリズムや K-Means アルゴリズムなど。

3. 半教師あり学習半教師あり学習アルゴリズムの入力データは、ラベル付きデータとラベルなしデータの混合です。現在注目されているトピックは、ラベル付けされた例がほとんどない非常に大きなデータセットがある画像分類などの分野での、半教師あり学習方法です。

問題の種類に基づいて分類する

アルゴリズムは、多くの場合、機能 (動作方法) の類似性に基づいてグループ化されます。

回帰アルゴリズム

回帰アルゴリズム回帰には、モデルの予測のエラーによって反復的に改善される変数間の関係をモデル化することが含まれます。回帰法は統計の主力であり、統計機械学習に組み込まれています。

最も一般的な回帰アルゴリズムは次のとおりです。

通常の最小二乗回帰 (OLSR)
線形回帰
ロジスティック回帰
段階的回帰
多変量適応回帰スプライン

インスタンスベースのアルゴリズム

インスタンスベースのアルゴリズムインスタンスベースの学習モデルは、モデルにとって重要または必要なトレーニングデータのインスタンスまたは例を含む決定問題です。このような方法では、通常、サンプルデータのデータベースを構築し、類似度を使用して新しいデータをデータベースと比較して、最適な一致を見つけて予測を行います。したがって、インスタンスベースの方法は、勝者総取り法および記憶ベースの学習としても知られています。インスタンスの表現の格納と、インスタンス間で使用される類似性測定に重点が置かれます。

最も一般的なインスタンスベースのアルゴリズムは次のとおりです。

K 最近隣人
サポートベクターマシン (SVM)

正則化アルゴリズム

正則化アルゴリズムは別の方法 (通常は回帰法) の拡張であり、モデルの複雑さに応じてペナルティを課し、一般化にも適した単純なモデルを優先します。正則化アルゴリズムは人気があり、強力で、多くの場合、他の方法を単純に変更したものであるため、ここで取り上げます。

最も一般的な正則化アルゴリズムは次のとおりです。

リッジ回帰
なげなわが戻る
弾性なげなわ回帰

決定木アルゴリズム

デシジョンツリーアルゴリズムデシジョンツリーメソッドは、データ内の属性の実際の値に基づいて決定モデルを構築します。決定は、特定のレコードに対して予測決定が行われるまで、ツリー構造で分岐します。デシジョンツリーは、分類および回帰の問題のデータでトレーニングされます。デシジョンツリーは一般に高速で正確であり、機械学習で最も人気があります。

最も一般的な決定木アルゴリズムは次のとおりです。

分類木と回帰木 (CART)
反復バイナリ分類器 3 (ID3)
C4.5 および C5.0 (強力なメソッドの異なるバージョン)

ベイジアンアルゴリズム

ベイジアンアルゴリズムベイジアンメソッドは、ベイズの定理を分類や回帰などの問題に明示的に適用するものです。

最も一般的なベイジアンアルゴリズムは次のとおりです。

単純ベイズ
ガウス単純ベイズ
多項単純ベイズ
単一従属推定量の平均
ベイジアン・ビリーフ・ネットワーク (BBN)
ベイジアンネットワーク (BN)

クラスタリングアルゴリズム

クラスタリングアルゴリズムクラスタリングは、回帰と同様に、問題のクラスとメソッドのクラスを記述します。クラスタリング手法は、重心ベースの階層モデリングアプローチを使用して編成されることがよくあります。すべての方法は、データに固有の構造を使用して、データを最大の共通性を持つグループに最適に編成することに重点を置いています。

最も一般的なクラスタリングアルゴリズムは次のとおりです。

k平均法
k-中央値
期待値の最大化 (EM)
階層的クラスタリング

アソシエーションルール学習アルゴリズム

アソシエーションルール学習アルゴリズムアソシエーションルール学習メソッドは、データ内の変数間に観察された関係を最もよく説明するルールを抽出します。これらのルールは、組織が活用できる大きなキューブ内の重要で商業的に有用な関連付けを検出します。

現在、最も一般的なアソシエーションルール学習アルゴリズムは次のとおりです。

アプリオリアルゴリズムアプリオリアルゴリズム
Eclat アルゴリズム

人工ニューラルネットワークアルゴリズム

人工ニューラルネットワークアルゴリズム人工ニューラルネットワークは、生物学的ニューラルネットワークの構造や機能に着想を得たモデルです。これらはパターンマッチングの一種で、回帰問題や分類問題でよく使用されますが、実際には、さまざまな問題タイプの数百のアルゴリズムとバリエーションで構成される巨大なサブフィールドです。ディープラーニングをニューラルネットワークから分離する理由は、この分野の巨大な成長と人気のためです。ここでの焦点は、より古典的なアプローチです。

現在、最も一般的な人工ニューラルネットワークアルゴリズムは次のとおりです。

センサー
多層パーセプトロン (MLP)
誤差逆伝播法
確率的勾配降下法
ホップフィールドネットワーク
放射基底関数ネットワーク

深層学習アルゴリズム

ディープラーニングアルゴリズムは、より大規模で複雑なニューラルネットワークの構築に焦点を当てています. 前述のように、多くの方法は、画像やテキストなどのラベル付きアナログデータの非常に大きなデータセットに焦点を当てています. オーディオとビデオ。

現在、最も人気のある深層学習アルゴリズムは次のとおりです。

畳み込みニューラルネットワーク (CNN)
リカレントニューラルネットワーク (RNN)
長期短期記憶ネットワーク
自動エンコーダー
ディープボルツマンマシン (DBM)
ディープ・ビリーフ・ネットワーク (DBN)

次元削減アルゴリズム

次元削減アルゴリズムは、次元削減方法がデータの固有の構造を見つけて活用するという点でクラスタリング方法に似ていますが、この場合、教師なしの方法または順序で、より少ない情報を使用してデータを要約または説明します。

これは、教師あり学習法で使用できる次元データの視覚化やデータの単純化に役立ちます。これらの方法の多くは、分類と回帰に使用できます。

主成分分析 (PCA)
主成分回帰 (PCR)
偏最小二乗回帰
多次元スケーリング (MDS)
線形判別分析

アンサンブルアルゴリズム

アンサンブルアルゴリズムアンサンブルアプローチは、個別にトレーニングされた複数の弱いモデルで構成されるモデルであり、その予測は何らかの方法で組み合わされて全体的な予測を行います。研究者は、どのタイプの弱学習器をどのように組み合わせる必要があるかを研究するために多くの努力を費やしてきました。これは非常に強力なテクニックであるため、非常に人気があります。

例えば

勾配ブースト回帰木 (GBRT)
ランダムフォレスト

この機械学習アルゴリズムのツアーの目的は、既存のアルゴリズムの概要と、アルゴリズムを相互に接続する方法に関するいくつかのアイデアを提供することです。

参考文献：

https://machinelearningmastery.com/a-tour-of-machine-learning-algorithms/
機械学習アルゴリズムのツアー (machinelearningmastery.com)