深度学习入门:基于python的理论与实现
2 感知机perceptron
2 感知机perceptron
感知机是由美国学者 Frank Rosenblatt 在 1957 年提出来的。 感知机也是作为神经网络(深度学习)的起源的算法。 感知机接收多个输入信号,输出一个信号。
输入信号被送往神经元时,会被分别乘以固定的权重(w1x1、w2x2)。神经元会计算传送过来的信号的总和,只有当这个总和超过 了某个界限值时,才会输出1。这也称为“神经元被激活”。这里将这个界限值称为阈值,用符号 θ 表示。
用数学式来表示: 把 − θ 命名为偏置 b,但是请注意,偏置和权重 w1、w2的作用是不 一样的。具体地说,w1和 w2是控制输入信号的重要性的参数,而偏置是调整神经元被激活的容易程度(输出信号为 1 的程度)的参数。
公式变成: 单层感知机会生成由直线分割开的两个空间。其中一个空间输出 1,另一个空间输出 0。 单层感知机的局限性就在于它只能表示由一条直线分割的空间。
由曲线分割而成的空间称为非线性空间,由直线分割而成的空间称为线性空间。
感知机 的绝妙之处在于它可以“叠加层”。叠加了多层的感知机也称为多层感知机(multi-layered perceptron)
书中小结: