手撕算法_随机森林

随机森林是典型bagging算法。
bagging算法的思想是：
step1：从原始数据中心分离出一部分数据，用这些数据训练一个模型。
step2：重复step1 N次，共形成N个模型。
step3：用这N个模型的结果，进行加工，作为最终的结果。
使用sklearn实现bagging：bagging
随机森林是bagging的特例，基学习器固定使用CART决策树，每次训练基学习器时样本和特征双随机，所以泛化能力强。分类时最终结果是投票数最多的类别，回归则采用均值。