1. 输入 x W -> 算除 scores
2. 计算 该模型的LOSS = hinge loss + regularazation
3. backpropagation
1)用链式规则(chain rule) 求 local gradient 再乘以 upstrean gradient 得到总导数,在给定数值的 时候,这比直接求导f(w,x) 要快得多
2) 只要知道能算 local gradient 可以创建稍微复杂的nodes ,比如将上面的四个节点组成一个sigmoid节点
1. 输入 x W -> 算除 scores
2. 计算 该模型的LOSS = hinge loss + regularazation
3. backpropagation
1)用链式规则(chain rule) 求 local gradient 再乘以 upstrean gradient 得到总导数,在给定数值的 时候,这比直接求导f(w,x) 要快得多
2) 只要知道能算 local gradient 可以创建稍微复杂的nodes ,比如将上面的四个节点组成一个sigmoid节点