最近看了台湾大学林轩田教授的《机器学习》相关课程，总结一下课程中讲解的linear models和kernel models，课程中总结的位置在《机器学习技巧》6-4（第六周，第四节）
视频中的截图
线性模型（linear models 的总结图）
从图中可以看到我们在机器学习领域中熟知的线性模型。
线性模型和Kernel模型总结图（linear/kernel models）
从图中可以看到，除了之前常见的线性模型，又加入了kernel模型。
这张图很好的总结了机器学习领域的线性模型和kernel模型的联系，通过这些联系，我们也许可以创造出更好的符合实际情况的新模型。
1.在实际生活中，图中第一行，PLA/pocket、linear SVR并不常用，因为它们在实际数据的拟合中并不良好。它们过于简单化，需要数据具有很好的特性才能达到好的效果，而实际生活中我们获得的数据往往是复杂的。
2.图中的第三行，kernel ridge regression和kernel logistic regression也比较少用，我们在求解这些模型时，很难得到多数为0的β，而dense β会使我们在预测的时候多花很多的力气，导致计算量变大。
3.对于图中的第二行，往往使用来代替第一行中的算法。第四行，往往使用来代替第三行的算法。
所以在实际生活中，我们应该根据我们的问题，优先选择合适的算法来处理我们的问题，而不是一味的对我们学过的算法进行尝试。花点时间，多做前期的选择和测试，往往比后期的改进对我们处理问题的结果会更好一些。
在此感谢台湾大学林轩田教授的视频讲解。
