scikit-基本的な紹介を学ぶ
Estimator
分類子として直接理解できます
これには主に、fit（x、y）とpredict（x）の2つの関数が含まれています。これらは、それぞれトレーニングアルゴリズムと予測アルゴリズムです。
モデルプロセス：
# 拟合模型
model.fit(X_train, y_train)
# 模型预测
model.predict(X_test)
# 获得这个模型的参数
model.get_params()
# 为模型进行打分
model.score(data_X, data_y)
線形回帰
from sklearn.linear_model import LinearRegression
# 定义线性回归模型
model = LinearRegression(fit_intercept=True, normalize=False, copy_X=True, n_jobs=1)
"""
fit_intercept：是否计算截距。False-模型没有截距
normalize： 当fit_intercept设置为False时，该参数将被忽略。 如果为真，则回归前的回归系数X将通过减去平均值并除以l2-范数而归一化。
n_jobs：指定线程数
"""
ロジスティック回帰
from sklearn.linear_model import LogisticRegression
# 定义逻辑回归模型
model = LogisticRegression(penalty=’l2’, dual=False, tol=0.0001, C=1.0,
fit_intercept=True, intercept_scaling=1, class_weight=None,
random_state=None, solver=’liblinear’, max_iter=100, multi_class=’ovr’,
verbose=0, warm_start=False, n_jobs=1)
"""
penalty：使用指定正则化项（默认：l2）
dual: n_samples > n_features取False（默认）
C：正则化强度的反，值越小正则化强度越大
n_jobs: 指定线程数
random_state：随机数生成器
fit_intercept: 是否需要常量
"""
ナイーブベイズ
from sklearn import naive_bayes
model = naive_bayes.GaussianNB()
model = naive_bayes.MultinomialNB(alpha=1.0, fit_prior=True, class_prior=None)
model = naive_bayes.BernoulliNB(alpha=1.0, binarize=0.0, fit_prior=True, class_prior=None)
"""
alpha：平滑参数
fit_prior：是否要学习类的先验概率；false-使用统一的先验概率
class_prior: 是否指定类的先验概率；若指定则不能根据参数调整
binarize: 二值化的阈值，若为None，则假设输入由二进制向量组成
"""
デシジョンツリー
from sklearn import tree
model = tree.DecisionTreeClassifier(criterion=’gini’, max_depth=None,
min_samples_split=2, min_samples_leaf=1, min_weight_fraction_leaf=0.0,
max_features=None, random_state=None, max_leaf_nodes=None,
min_impurity_decrease=0.0, min_impurity_split=None,
class_weight=None, presort=False)
"""
criterion ：特征选择准则gini/entropy
max_depth：树的最大深度，None-尽量下分
min_samples_split：分裂内部节点，所需要的最小样本树
min_samples_leaf：叶子节点所需要的最小样本数
max_features: 寻找最优分割点时的最大特征数
max_leaf_nodes：优先增长到最大叶子节点数
min_impurity_decrease：如果这种分离导致杂质的减少大于或等于这个值，则节点将被拆分。
"""
ベクターマシンSVMのサポート
from sklearn.svm import SVC
model = SVC(C=1.0, kernel=’rbf’, gamma=’auto’)
"""
C：误差项的惩罚参数C
gamma: 核相关系数。浮点数，If gamma is ‘auto’ then 1/n_features will be used instead.
"""
knn最近傍アルゴリズム
from sklearn import neighbors
#定义kNN分类模型
model = neighbors.KNeighborsClassifier(n_neighbors=5, n_jobs=1) # 分类
model = neighbors.KNeighborsRegressor(n_neighbors=5, n_jobs=1) # 回归
"""
n_neighbors： 使用邻居的数目
n_jobs：并行任务数
"""
多層パーセプトロン
from sklearn.neural_network import MLPClassifier
# 定义多层感知机分类算法
model = MLPClassifier(activation='relu', solver='adam', alpha=0.0001)
"""
hidden_layer_sizes: 元祖
activation：激活函数
solver ：优化算法{‘lbfgs’, ‘sgd’, ‘adam’}
alpha：L2惩罚(正则化项)参数。
"""
相互検証
from sklearn.model_selection import cross_val_score
cross_val_score(model, X, y=None, scoring=None, cv=None, n_jobs=1)
"""
model：拟合数据的模型
cv ： k-fold
scoring: 打分参数-‘accuracy’、‘f1’、‘precision’、‘recall’ 、‘roc_auc’、'neg_log_loss'等等
"""
テスト曲線
from sklearn.model_selection import validation_curve
train_score, test_score = validation_curve(model, X, y, param_name, param_range, cv=None, scoring=None, n_jobs=1)
"""
model:用于fit和predict的对象
X, y: 训练集的特征和标签
param_name：将被改变的参数的名字
param_range： 参数的改变范围
cv：k-fold
"""
変成器
データの前処理とデータ変換に使用されます
主な関数は、transform（）であり、fit_transform（）はfit（）とtransform（）を組み合わせたものです。
パイプライン
sklearn.pipeline包
- パイプラインの機能：
- 各ステップの操作を追跡および記録します（実験結果を簡単に再現するため）
- 各ステップをカプセル化する
- コードの複雑さが制御できないことを確認してください
基本的な使用方法
パイプラインの入力は一連のデータマイニングステップであり、最後のステップは推定器である必要があり、最初のステップはコンバーターです。入力データセットがコンバータによって処理された後、出力結果は次のステップの入力として使用されます。最後に、データはパイプラインの最後のステップで推定器を使用して分類されます。
各ステップはタプル（ 'name'、step）で表されます
scaling_pipeline = Pipeline([
('scale', MinMaxScaler()),
('predict', KNeighborsClassifier())
])
前処理
sklearn.preprocessing包
-
正規化：
- MinMaxScaler：最大および最小の正規化
- ノーマライザー：各データの固有値の合計を作成します1
- StandardScaler：各特徴の平均値を0にし、分散を1にするため
-
コーディング：
- LabelEncoder：文字列型のデータを整数に変換します
- OneHotEncoder：この機能は2進数で表されます
- 二値化：数値的特徴を二値化する
- MultiLabelBinarizer：マルチラベル二値化
from sklearn import preprocessing
# 标准化处理函数
# 将数据转化为标准正态分布（均值为0，方差为1）
preprocessing.scale(X,axis=0, with_mean=True, with_std=True, copy=True)
# 将数据在缩放在固定区间，默认缩放到区间 [0, 1]
preprocessing.minmax_scale(X,feature_range=(0, 1), axis=0, copy=True)
# 数据的缩放比例为绝对值最大值，并保留正负号，即在区间 [-1.0, 1.0] 内。唯一可用于稀疏数据 scipy.sparse的标准化
preprocessing.maxabs_scale(X,axis=0, copy=True)
# 通过 Interquartile Range (IQR) 标准化数据，即四分之一和四分之三分位点之间
preprocessing.robust_scale(X,axis=0, with_centering=True, with_scaling=True,copy=True)
# 标准化正态分布类
#基于mean和std的标准化
class preprocessing.StandardScaler(copy=True, with_mean=True,with_std=True)
# 属性：
# scale_：ndarray，缩放比例
# mean_：ndarray，均值
# var_：ndarray，方差
# n_samples_seen_：int，已处理的样本个数，调用partial_fit()时会累加，调用fit()会重设
##########MinMaxScaler#############
# 将数据在缩放在固定区间的类，默认缩放到区间 [0, 1]
class preprocessing.MinMaxScaler(feature_range=(0, 1),copy=True)：
# 属性：
# min_：ndarray，缩放后的最小值偏移量
# scale_：ndarray，缩放比例
# data_min_：ndarray，数据最小值
# data_max_：ndarray，数据最大值
# data_range_：ndarray，数据最大最小范围的长度
##########MaxAbsScaler##############
# 数据的缩放比例为绝对值最大值，并保留正负号，即在区间 [-1.0, 1.0] 内。可以用于稀疏数据scipy.sparse
class preprocessing.MaxAbsScaler(copy=True)：
# 属性：
# scale_：ndarray，缩放比例
# max_abs_：ndarray，绝对值最大值
# n_samples_seen_：int，已处理的样本个数
############RobustScaler###################
# 通过 Interquartile Range (IQR) 标准化数据，即四分之一和四分之三分位点之间
classpreprocessing.RobustScaler(with_centering=True,with_scaling=True, copy=True)：
# 属性：
# center_：ndarray，中心点
# scale_：ndarray，缩放比例
#################
# 生成 kernel 矩阵，用于将 svm kernel 的数据标准化
class preprocessing.KernelCenterer：
"""
fit(X[,y])：根据数据 X 的值，设置标准化缩放的比例
transform(X[,y, copy])：用之前设置的比例标准化 X
fit_transform(X[, y])：根据 X设置标准化缩放比例并标准化
partial_fit(X[,y])：累加性的计算缩放比例
inverse_transform(X[,copy])：将标准化后的数据转换成原数据比例
get_params([deep])：获取参数
set_params(**params)：设置参数
"""
機能工学
主に特徴抽出（特徴抽出）と特徴選択（特徴選択）が含まれます
-
sklearn.select_extraction
- DictVectorizer：dictタイプのリストデータをnumpy配列に変換します
- FeatureHasher：次元削減手法に相当する機能ハッシュ
- 画像：画像関連の特徴抽出
- テキスト：テキスト関連の特徴抽出
- text.CountVectorizer：テキストを各単語の出現回数のベクトルに変換します
- text.TfidfVectorizer：テキストをtfidf値のベクトルに変換します
- text.HashingVectorizer：テキストの特徴的なハッシュ
-
sklearn.feature_selection
（1）複雑さを軽減する
（2）ノイズを軽減する
（3）モデルの可読性を向上させる- VarianceThreshold：特徴値の分散が最小基準を満たさない特徴を削除します
- SelectKBest：k個の最高の機能を返します
- SelectPercentile：最高のパフォーマンスを発揮する機能の上位r％を返します
単一の特徴と特定のカテゴリーの間の相関の計算方法：カイ二乗検定（χ2）、相互情報量および情報エントロピー
分解
主にPCA
- sklearn.decomposition
主成分分析（PCA）の目的は、より少ない情報でデータセットを記述できる機能の組み合わせを見つけることです。相互に相関関係がなく、データセットの特性を記述でき、同時にデータ圧縮で役割を果たすことを目的としています。
組み合わせ（アンサンブル）
複数の分類器の予測を集約することにより、分類の精度を向上させます
- sklearn.set
一般的に使用される組み合わせ分類法：
（1）トレーニングデータセットを処理する。つまり、特定のサンプリング分布を介して、元のデータが再サンプリングされ、複数のトレーニングセットが取得されます。一般的に使用される方法は、バギングとブースティングです。
バギング：
均一な確率分布に従ってデータセットからサンプリングを繰り返します（置換あり）。各セルフサービスサンプルセットは元のデータセットと同じ大きさであり、各セルフサービスサンプルセットには元のデータセットの約63％が含まれています。 。k個の分類器をトレーニングし、テストサンプルを投票数が最も多いクラスに割り当てます。
ブースティング：
サンプルに異なる重みを設定することにより、各反復で重みが調整されます。
異なるリフティングアルゴリズムの違いは、一般に（1）サンプルの重みを更新する方法、（2）各分類器の予測を組み合わせる方法です。
Adaboostでは、サンプルの重みは誤分類されたサンプルの重みを増やすことであり、分類子C_iの重要性はそのエラー率に依存します。
ブースティングは主にバイアスの削減に焦点を当てているため、ブースティングは比較的弱い一般化パフォーマンスを持つ学習者に基づいて強力な統合を構築できます。バギングは主に分散の削減に焦点を当てているため、剪定されていない決定木やニューラルネットワークなどの学習者に対してより効果的です。
バイアスとは、アルゴリズムの予想される予測と実際の予測との間の偏差の程度を指し、モデル自体の適合能力を反映します。分散は、学習パフォーマンスの変化につながる同じサイズのトレーニングセットの変化を測定します。データ障害によって引き起こされる影響について説明します
（2）入力フィーチャを処理することによって。つまり、各トレーニングセットは、入力特徴のサブセットを選択することによって形成されます。冗長機能が多数あるデータセットに適しています。ランダムフォレスト（ランダムフォレスト）は、入力特徴を処理する組み合わせ方法です。
（3）クラスラベルを処理する。複数分類に適しています。クラスラベルはランダムに2つの互いに素なサブセットに分割され、問題は2分類問題に変換され、分類に投票するために複数の分類に対してモデルが繰り返し構築されます。
BaggingClassifier： Bagging分类器组合
BaggingRegressor： Bagging回归器组合
AdaBoostClassifier： AdaBoost分类器组合
AdaBoostRegressor： AdaBoost回归器组合
GradientBoostingClassifier：GradientBoosting分类器组合
GradientBoostingRegressor： GradientBoosting回归器组合
ExtraTreeClassifier：ExtraTree分类器组合
ExtraTreeRegressor： ExtraTree回归器组合
RandomTreeClassifier：随机森林分类器组合
RandomTreeRegressor： 随机森林回归器组合
モデル評価（メトリック）メトリック
sklearn.metricsには、スコアリング方法、パフォーマンスメトリック、ペアワイズメトリック、および距離計算が含まれています。
分類結果の測定
パラメータは、ほとんどがy_trueとy_predです。
- 精度スコア：分類精度
- condusion_matrix：分類混同行列
- Classification_report：分類レポート
- 適合率_再現率_fscore_support：計算精度、再現率、f、サポート率
- jaccard_similarity_score：jcaardの類似性を計算します
- hamming_loss：ハミング損失を計算します
- zero_one_loss：0-1損失
- ヒンジ損失：ヒンジ損失を計算します
- log_loss：対数損失の計算
その中で、F1は、適合率と再現率の2つの概念を含む、各カテゴリに基づいて定義されます。精度とは、予測結果が特定のカテゴリに属しているが、実際にはそのカテゴリに属している個人の割合を指します。リコール率は、データセット内の特定のタイプの個人の総数に対する、特定のタイプの個人であると正しく予測された個人の割合です。F1は、適合率と再現率の調和平均です。
回帰結果の測定
- Explained_varicance_score：分散を説明できる回帰スコアリング関数
- mean_absolute_error：平均絶対誤差
- mean_squared_error：平均二乗誤差
マルチラベルメトリック
- Coverage_error：カバレッジエラー
- label_ranking_average_precision_score：ランキングに基づいて平均エラーを計算しますラベルランキング平均精度（LRAP）
クラスタリング手法
- Adjusted_mutual_info_score：調整された相互情報量スコア
- Silhouette_score：すべてのサンプルのシルエット係数の平均
- Silhouette_sample：すべてのサンプルのシルエット係数
相互検証
sklearn.model_selection
model_selection
- KFold：K-Fold交差検定イテレーター。受け取った要素の数、折り目の数、クリーニングするかどうか
- LeaveOneOut：LeaveOneOut相互検証イテレーター
- LeavePOut：LeavePOut交差検定イテレーター
- LeaveOneLableOut：LeaveOneLableOut相互検証イテレーター
- LeavePLabelOut：LeavePLabelOut交差検定イテレーター
LeaveOneOut（n）はKFold（n、n_folds = n）と同等ですLeavePOut（n、p = 1）
と同等です。LeavePとLeaveOneの違いは、テストセットのサイズであるリーフの数にあります。
LeavePLabelとLeaveOneLabelの違いは、leaveのラベルにあります。タイプの数。 - 他の方法
- train_test_split：個別のトレーニングセットとテストセット（K-Foldではない）
- cross_val_score：相互検証スコア、上記のクラスのインスタンスとしてcvを指定できます
- cross_val_predict：相互検証された予測
# 将数据集分为训练集和测试集
from sklearn.mode_selection import train_test_split
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42)
# arrays：样本数组，包含特征向量和标签
# test_size：
# float-获得多大比重的测试样本 （默认：0.25）
# int - 获得多少个测试样本
# train_size: 同test_size
# random_state: int - 随机种子（种子固定，实验可复现）
# shuffle - 是否在分割之前对数据进行洗牌（默认True）
グリッド検索
グリッド検索最適なパラメータsklearn.model_selection
sklearn.model_selectionインポートGridSearchCVから
チューニング推定のハイパーパラメータ
- GridSearchCV：指定されたパラメーターグリッドで最適なパラメーターを検索します
- ParameterGrid：パラメーターグリッド
- ParameterSampler：指定された分布でパラメーターを生成するジェネレーター
- RandomizedSearchCV：ハイパーパラメータのランダム検索は、best_estimator_.get_params（）メソッドを介して最適なパラメータを取得します
マルチラベル分類
sklearn.multiclassマルチクラス
- OneVsRestClassifier：1-レストマルチ分類（マルチラベル）戦略
- OneVsOneClassifier：1-1複数分類戦略
- OutputCodeClassifier：1つのクラスはバイナリコードで表されます
モデル保存
# 保存为pickle文件
import pickle
# 保存模型
with open('model.pickle', 'wb') as f:
pickle.dump(model, f)
# 读取模型
with open('model.pickle', 'rb') as f:
model = pickle.load(f)
model.predict(X_test)
#################################################
# sklearn自带方法joblib
from sklearn.externals import joblib
# 保存模型
joblib.dump(model, 'model.pickle')
#载入模型
model = joblib.load('model.pickle')
メインモジュールの分類
1.sklearn.base: Base classes and utility function基础实用函数
2.sklearn.cluster: Clustering聚类
3.sklearn.cluster.bicluster: Biclustering 双向聚类
4.sklearn.covariance: Covariance Estimators 协方差估计
5.sklearn.model_selection: Model Selection 模型选择
6.sklearn.datasets: Datasets 数据集
7.sklearn.decomposition: Matrix Decomposition 矩阵分解
8.sklearn.dummy: Dummy estimators 虚拟估计
9.sklearn.ensemble: Ensemble Methods 集成方法
10.sklearn.exceptions: Exceptions and warnings 异常和警告
11.sklearn.feature_extraction: Feature Extraction 特征抽取
12.sklearn.feature_selection: Feature Selection 特征选择
13。sklearn.gaussian_process: Gaussian Processes 高斯过程
14.sklearn.isotonic: Isotonic regression 保序回归
15.sklearn.kernel_approximation: Kernel Approximation 核 逼近
16.sklearn.kernel_ridge: Kernel Ridge Regression 岭回归ridge
17.sklearn.discriminant_analysis: Discriminant Analysis 判别分析
18.sklearn.linear_model: Generalized Linear Models 广义线性模型
19.sklearn.manifold: Manifold Learning 流形学习
20.sklearn.metrics: Metrics 度量 权值
21.sklearn.mixture: Gaussian Mixture Models 高斯混合模型
22.sklearn.multiclass: Multiclass and multilabel classification 多等级标签分类
23.sklearn.multioutput: Multioutput regression and classification 多元回归和分类
24.sklearn.naive_bayes: Naive Bayes 朴素贝叶斯
25.sklearn.neighbors: Nearest Neighbors 最近邻
26.sklearn.neural_network: Neural network models 神经网络
27.sklearn.calibration: Probability Calibration 概率校准
28.sklearn.cross_decomposition: Cross decomposition 交叉求解
29.sklearn.pipeline: Pipeline 管道
30.sklearn.preprocessing: Preprocessing and Normalization 预处理和标准化
31.sklearn.random_projection: Random projection 随机映射
32.sklearn.semi_supervised: Semi-Supervised Learning 半监督学习
33.sklearn.svm: Support Vector Machines 支持向量机
34.sklearn.tree: Decision Tree 决策树
35.sklearn.utils: Utilities 实用工具
著者：ディープハイナンバー_willschang
リンク：https：//www.jianshu.com/p/99384414f2a7
出典：ジェーンの本
は著者が著作権を所有しています。商用の転載の場合は、著者に連絡して許可を求め、非商用の転載の場合は、出典を示してください。