机器学习记录——目录

第一周：

什么是机器学习、监督学习、无监督学习、单变量线性回归、代价函数

梯度下降、矩阵的运算、矩阵性质、多元线性回归、计算代价函数Python代码示例、特征缩放、正规方程、梯度下降与正规方程的比较

      Programming Exercise 1：Linear Regression、实验结论、梯度下降算法推导<矩阵>

分类问题、假设表示、代价函数、过拟合

正则化思想、修改代价函数、线性回归正则化、逻辑回归正则化

第二周：

      逻辑回归Matlab实现、逻辑回归Python实现

      代价函数、反向传播、梯度检验、随机初始化、使用神经网络的步骤

评估模型假设、交叉验证集、偏差方差诊断、解决高偏差/高方差、误差分析.

多元分类和神经网络实验内容、多元分类和神经网络Matlab实现、决策树基本流程、属性划分、剪枝处理、连续与缺失值、多变量决策树

基于信息熵的决策树算法Python实现

第三周：

       感知机和多层网络、误差逆传播算法、全局最小与局部最小、CNN

       间隔与支持向量、SVM对偶问题、对偶问题、核函数、软间隔与正则化

       贝叶斯决策论、极大似然估计、朴素贝叶斯分类器、半朴素贝叶斯分类器、贝叶斯网

       个体与集成、Boosting、Bagging与随机森林

第四周：

      监督学习和无监督学习、聚类任务、K-means算法、学习向量量化

      K邻近学习、低维嵌入、主成分分析、核化线性降维、度量学习

特征选择、过滤式选择、包裹式选择、稀疏表示与字典学习、压缩感知

第五周：

      PAC学习、有限假设空间、VC维、Rademacher复杂度和稳定性

      半监督学习、生成式方法、半监督SVM、图半监督学习、基于分歧的方法、半监督聚类

      隐马尔科夫模型、马尔可夫随机场、条件随机场、学习与推断、近似推断.、话题模型