本专栏是书《深度学习入门》的阅读笔记一共八章:
第一章深度学习中的Python基础。主要讲解了深度学习将要用到的python的基础知识以及简单介绍了numpy库和matpoltlib库,本书编写深度学习神经网络代码仅使用Python和numpy库,不使用目前流行的各种深度学习框架,适合入门新手学习理论知识。
第二章感知机(perceptron)
2.1感知机是什么
感知机接收多个输入,输出一个信号。
公式其中叫做阈值。
2.2感知机的局限性
感知机可以实现与门,非门和或门逻辑电路,但是不能实现异或门。原因是,实际上,感知机表示的是二维平面上的一条直线,而前三种门都可以用平面上的一条直线给分隔开,由直线分割开的两部分,一部分输出0,一部分输出1,但是异或门不能用二维平面中的一条直线给分开,需要用曲线(非线性)进行分割。
实际上,准确地说,应该是单层感知机无法实现异或门。回顾电子电路,异或门本身可以由前面三种门组合而成,那么对应于感知机,异或门可以由多层感知机(multi-layered perceptron MLP)来实现。单层感知机只能表示线性空间,而多层感知机可以表示非线性空间。多层感知机理论上可以表示计算机。