百度人工智能学习笔记 L1 概念

1. 人工智能 与机器学习 、深度学习的关系：
   
   机器学习，尤其是监督学习则有更加明确的指代。机器学习是专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。
   机器学习的实现步骤可以分成两步，训练和预测。这两个专业名词类似于归纳和演绎的含义。归纳是从具体案例中抽象一般规律，机器学习中的“训练”亦是如此。从一定数量的样本（已知模型输入X和模型输出Y）中，学习出输出Ｙ与输入Ｘ的关系（可以想象成是某种表达式）。演绎则是从一般规律推导出具体案例的结果，机器学习中的预测亦是如此。
   基于训练得到的Ｙ与Ｘ之间的关系，遇到新出现的输入Ｘ，计算出输出Ｙ。在多数时候，通过模型计算得到的输出，如果和真实场景中的输出一致，说明模型是有效的。
   以H为模型的假设，它是一个关于参数 $\theta$ 和输入Ｘ的函数,用函数 $H(\theta, X)$ 表示。模型的优化目标是使得 $H(\theta, X)$的输出与真实值 $Y$ 尽量一致。那么，学习参数的过程就是在已知的样本上，不断减小该评价函数（ $H(\theta, X)$ 与 $Y$ 的差）的过程，直到学习到一个参数 $\theta$ 使得评价函数的取值最小。这个衡量模型预测值和真实值差距的评价函数也被称为损失函数（损失 Loss）。上述优化参数的过程如下图公式所示：