1.改善数据（能否获得更多的数据、能否创造更多的数据、清洗数据、重新采样、重新界定问题、重新缩放、转化数据、数据映射或降维、特征选择、特征工程）
2.改善算法（重采样、评价指标、基线性能、标准参数设置）
3.改善参数（诊断（学习曲线，overfitting or underfitting）、随机搜索、网格搜索、算法定制）
4.模型融合（bagging、boosting、 stacked generalization or stacking ）
效能大小：1 > 2 >3 >4
参考资料：http://machinelearningmastery.com/machine-learning-performance-improvement-cheat-sheet/
原文：http://blog.sina.com.cn/s/blog_99dc1f0a0102wg5y.html