深度学习与大脑之间有什么相似性呢？
我总结之后 觉得它们之间的相似度并不高 。我们先来看一下 为什么人们往往喜欢在 深度学习与人类大脑两者间进行比较。 当你构建神经网络系统时 你会运用前向传播 和反向传播 由于我们很难去直观地解释 这些复杂的方程为什么能实现理想的效果 而将深度学习和人脑类比则 让这个过程过于简化却更便于说明 这种解释的简易程度让大众更轻易地在各种媒介提及 使用或报道它 并且无疑地激发了公众的想象力。 其实这之间确实有一些可对比的方向，比如说 逻辑回归单位和sigmoid激活函数 这是一个大脑神经元的图像 在这张生物意义上的神经元的图上，这个神经元 其实是你大脑的一个细胞， 它会接到其他神经元传来的电流信号 比如神经元x1,x2,x3,或者其他神经元a1,a2,a3 会做一个简单的阈值计算 然后如果这个神经元被触发 他会沿树突传送一股电流，在方向上一直传送 可能送至其他的神经元 所以存在一个简单地类比 。这个类比体现在在独立的逻辑单位 神经网络中一个独立的神经元 和一个生物意义上的神经元（如右图所示）之间。 但是我认为，直至今天 即便是神经学专家也几乎不清楚 哪怕是一个单一的神经元如何运作。 一个神经元其实复杂得多 相比于我们用神经科学所够描述的 而它做的其中一部分工作有些像逻辑回归 但是还有很多单一神经元的工作 至今没有任何一个人，一个人类理解 比如 人脑中的神经元究竟如何学习依旧是个谜 而且至今我们不清楚到底人脑有没有一个类似 反向传播或者梯度下降的算法，亦或是 人脑运用了一个完全不同的学习原理 。所以当我理解深度学习，我认为它非常善于学习 非常灵活的方程，非常复杂的方程， x到y的映射， 监督学习中输入到输出映射 而对于深度学习和大脑的类比，也许曾经是有用的。 但是我认为，这个领域已经进步到了 可以打破这个类比的阶段 我倾向于不再运用这个类比 所以这就是我想说的神经网络和大脑的部分 我确实认为计算机视觉方向 相比于其他深度学习影响的学科，得到了更多的灵感 但是我个人比以前更少地使用人脑进行对比了。
----吴恩达
