CV第四课 backpropagation and neural Networks

1. 输入 x W  -> 算除 scores 

2.  计算 该模型的LOSS = hinge loss + regularazation

3. backpropagation

  1)用链式规则(chain rule) 求 local gradient 再乘以 upstrean gradient 得到总导数,在给定数值的 时候,这比直接求导f(w,x) 要快得多

  2) 只要知道能算 local gradient 可以创建稍微复杂的nodes ,比如将上面的四个节点组成一个sigmoid节点

猜你喜欢

转载自www.cnblogs.com/ChevisZhang/p/12916956.html
今日推荐