sklearn决策树

sklearn.tree.DecisionTreeClassifier
(criterion=‘gini’,splitter=‘best’,max_depth=None,min_samples_split=2,min_samples_leaf=1,min_weight_fraction_leaf=0.0,max_features=None,random_state=None,max_leaf_nodes=None,min_impurity_decrease=0.0,min_impurity_split=None, class_weight=None, presort=False)

1、criterion:特征选择的标准,有信息增益和基尼系数两种,使用信息增益的是ID3和C4.5两种,使用基尼系数的是CART算法,默认使用基尼系数。
2、splitter:特征切分点选择标准,决策树是递归的选择最优切分点,splitter是用来指明在哪个集合上来递归。有best和random两种参数可供选择,best表示在所有特征上递归,适用与数据集较少的时候;random表示随机选择一部分特征来递归,适用于数据集较大的时候。
3、max_depth:决策树的最大深度,决策树模型先对所有数据集进行切分,再在子数据集上继续循环这个切分过程,max_depth可以理解为限制这个循环次数。
4、min_samples_split:子数据集再切分需要的最小样本量,默认是2。如果子数据集的样本量小于2时将不在进行切分。如果数据量较小可使用默认值;若数据量较大,为降低运算量,可适当增大这个值,即限制子数据集的切分次数。
5、min_samples_leaf:叶节点即子数据集的最小样本数,若子数据集的样本数小于这个值,则该叶节点和其兄弟节点都会被剪枝去掉,默认是1.
6、min_weight_fraction_leaf:在叶节点的所有输入样本权重总和的最小加权分数,如果不输入则表示所有叶子节点的权重是一致的。
7、max_features:特征切分时考虑的最大特征数量,默认是对所有特征进行切分,也可以传入int类型的值,表示具体的特征个数;也可以是float类型值,表示特征个数的百分比;还可以是sqrt,表示总特征数的平方根;还可以是log2,表示总特征数的log个特征。
8、random_state表示随机种子的设置,与LR一致。
9、max_leaf_nodes:最大叶节点个数,即数据集切分成子数据集的最大个数。
10、min_impurity_decrease:切分点不纯度最小减少程度,如果某个节点的不纯度减少小于这个值,那么该切分点将会被移除。
11、min_impurity_split:切分点最小不纯度,用来限制数据集的最小切分,如果某个节点的不纯度(可以理解为分类错误的概率)小于这个阈值,那么该点的数据将不再进行切分。
12、class_weights:权重设置,主要用于处理不平衡样本,与LR模型中的参数一致,可以自定义类别权重,也可以直接使用balanced参数值进行不平衡样本处理。
13、presort:是否进行预排序,默认是False,所谓预排序就是提前对特征进行排序。决策树分割数据集的依据是,优先信息增益/基尼系数大的特征进行分割,涉及的大小就需要比较。如果不进行预排序,则会在每次进行分割的时候重新把所有特征计算比较一次,如果进行了预排序,则每次分割的时候,只需要拿排名靠前的特征即可。

分类/属性
classes_:分类模型的类别,以字典形式输出
clf.classes_:array([1,2,3])表示0,1,2类
fearture_importances_:特征重要性,以列表形式输出每个特征的重要性
max_feartures_:最大特征数
n_classes_:类别数,与classes_对应,classes_输出具体的类别
n_feartures_:特征数,当数据量小时,一般max_features_与n_feartures_相等
n_outputs_:输出结果数
tree_:输出整个决策树,用于生成决策树的可视化

方法
decision_path(X):返回X的决策路径
fit(X,y):在数据集(X,y)中使用决策树模型
get_params([deep]):获取模型参数
predict(X):预测数据X的标签
predict_log_proba(X):返回每个类别概率值的对数
predict_proba(X):返回每个类别的概率值,有几类就返回几列值
Score(X,y):返回给定测试集和对应标签的平均准确率

参考文章:
https://cloud.tencent.com/developer/article/1146079

猜你喜欢

转载自blog.csdn.net/onroadliuyaqiong/article/details/89001356