前向传播
机器学习的 Forward Propagation（前向传播）是指在神经网络中，从 输入层 （Input Layer）开始，按照预定义的 权重（ w ⃗ \vec{w} w） 和 偏置值 （ b b b）计算每个节点的输出值，并将这些输出传递给下一层（隐藏层 Hidden Layers），通过层层计算和激活函数（sigmoid）的处理，将输入数据传递给 输出层（Output Layer），直到输出层得出最终的预测结果，完成对输入数据的预测或分类等任务。
在 Forward Propagation 过程中，输入数据首先被送入输入层，然后在第一个隐藏层中进行计算，计算结果作为下一个隐藏层的输入，以此类推，直到最后一个隐藏层计算完毕，输出层得到了预测结果。
相比于 后向传播（Back Properagtion）来说：
- 前向传播（forward propagation） 是机器学习中用于得到预测值的一种常用方法。
- 后向传播（back propagation） 是机器学习中用于学习模型的一种常用方法。
前向传播简述：
前向传播（forward propagation）是机器学习中用于得到预测值的一种常用方法。在神经网络中，前向传播将输入数据经过层层计算和激活函数的处理，传递给输出层，得出最终的预测结果。
具体来说，前向传播从输入层开始，按照预定义的权重和偏置值计算每个节点的输出值，并将这些输出传递给下一层，直到输出层得出最终的预测结果。每个节点的输出值是前一层所有节点的输出值的加权和，这些加权和再加上一个偏置值，然后通过一个激活函数进行处理。
后向传播简述：
后向传播（back propagation）是机器学习中用于学习模型的一种常用方法。在神经网络中，后向传播用于根据预测结果和真实结果之间的差异来更新网络中每个节点的权重和偏置，以提高模型的预测能力。
具体来说，后向传播将神经网络的输出值与期望输出值之间的差异（即误差）作为反馈信号，通过梯度下降算法计算每个节点的权重和偏置的梯度，然后使用这些梯度来更新节点的权重和偏置。这个过程一直重复迭代，直到网络的性能达到预期的水平。
Reference
[1]. Andrew Ng. (2017). Inference: Making Predictions (Forward Propagation) [Video]. Coursera. Retrieved on April 3, 2023 from https://www.coursera.org/learn/advanced-learning-algorithms/lecture/vYsrR/inference-making-predictions-forward-propagation.