1.stacking
给定数据集\(D\)，首先将数据集划分为训练集\(D_{train}\)和验证集\(D_{valid}\),然后将训练集划分为k份，记为\(D_{train}^1,\cdots,D_{train}^k\)。用其中的k-1份训练一个基模型并对剩余的一份进行预测，重复k次得到整个训练集的预测值(是k个相同模型使用不同训练集得到的预测结果)，再换用不同的基模型可以得到训练集的多列预测值，将这些预测值堆叠起来训练次级模型，预测的时候，用所有模型对测试集进行预测并取结果的平均送入次级模型，具体如下图（使用一个基模型的情况）
2.Blending