春夜喜雨
好雨知时节，当春乃发生。
随风潜入夜，润物细无声。
野径云俱黑，江船火独明。
晓看红湿处，花重锦官城。
前言
周末很多城市下开了雨，下雨中也不乏忙忙碌碌的人们，有的天不亮已经忙碌匆匆，让我想起了杜甫的经典诗词。。。
好了开始正题SVM 我在第一遍看支持向量机这个算法时，看下去真的是非常难的，越往下看觉的不会的内容越多，本主数学水平大部分已经交给了老师，只好硬着头皮往下走了，毕竟路还要走下去，经过反复阅读和复习相关数学理论，理解还是很浅薄，在这里记录一下如有不周之处还望指正，分享是一种美德，人类这么久的智慧积累需要不断总结和传承下去。
PS:数学已经忘记的同学可以趁这个机会顺便补补数学，此时学习同大学时学习效果是不一样的，现在是带着疑问来学习？自己的学习动力和欲望都是不可同日而语，学习效率也会高很多，这也就是平时我们说的工程式学习方法，因此目前很多高校都在提倡理论结合实践，为的是提高学生技能和解决问题的能力。
SVM 思路
svm可以说不简单是一个简单的算法，在它的背后有一个强大的数学理论来支撑，在学习一个新东西时我往往喜欢先从整体上来把握，涉及到哪些内容分支细节等等，这种思路是要求自己对每个事情要有一个全局的把握、做事要有全局观、有了全局观后再学习自己就会知道在哪应该详略得当，为以后的学习也会有个宏观指导，让我们来看一下概览吧。
在后面SVM系列我们会按着这个顺序来逐一分析，“路漫漫其修远兮，汝将上下而求索”。
概念
主要概念如下：
涉及的数学点
SVM涉及到的数学知识点我把它收集了一下，如果想很好的理解SVM，这些都需要取复习一遍，再理解SVM会感觉轻松一些，因为这是一个提高你数学能力的好机会。
- 空间向量
空间向量是高中数学知识，如向量的加减乘、单位向量、內积、外积、正交投影灯。 - 导数和偏导数
这两概念也是高中数学，导数表示可导函数某点的函数值变化率，即一维时即切线，当自变量二维或以上，单独对某一个维度求导数即偏导，表示这个维度的变化速率，对整体维度也成为梯度。 - 矩阵变换
矩阵变换其实和方程变换是一个意思，矩阵的意义代表方程组的系数和值，方程组可以任意几个相加减得到新的方程组而解不变，同理矩阵也是，给矩阵变换行的位置、同乘标量以及两行想加减，表示的还是同一矩阵。 - 矩阵行列式
- 对称矩阵
- 顺序主子式
- 微积分
微分是高等数学里面重要概念 - 范数、二范数
范数在损失函数里面发挥的作用是按我们的想法去改变公式的结果，加入影响因素，比如L1范数让矩阵稀疏 - Hessian(海森矩阵)
- 矩阵正定、半正定
- 凸函数极小值定理
- 对偶原理（the duality principle）
- 拉格朗日乘子法
- KKT不等式约束条件
kkt不等式约束条件是在拉格朗日乘子基础之上扩展而来 - 等高线
- 矩阵求导
- 泰勒级数
总结
学习过程中要注意是系统性学习和非系统性学习，如果数学基础好的可以采用遇到不会的数学知识点去单独查询，并让这一个点融入自己已知的数学知识体系中，如果数学忘记的比较多的时间也充足，有必要从头到尾系统性的学习一变。
题外思考
论数学重要性？
不论现在的人工智能还是区块链技术，它们的核心技术都用到了非常多的数学理论，数学变换，数学是支撑它们向前发展的基石，如果没有了数学那么也就谈不上人工智能现在这么多前言技术的发展，数学所发挥的作用正在凸显，作为一个技术出身的我们也没有理由不把数学学好，所以，从现在开始学习数学吧。