动手学深度学习V2.0(Pytorch)——14. 数值稳定性/模型初始化/激活函数

1. 数值稳定性

https://www.bilibili.com/video/BV1u64y1i75a?p=1

机器学习里很重要的一点,特别是当神经网络变得很深的时候,特别容易出现数值不稳定的情况。
在这里插入图片描述

  • 假设有一个 d d d层的神经网络,使用 t t

おすすめ

転載: blog.csdn.net/Castlehe/article/details/121076114
おすすめ