站点介绍
神经网络中最基本的信息处理单元就是M-P神经元模型,一个M-P神经元模型接受来自其他m个神经元传递过来的输入信号,输入信号通过带权重的连接进行传递,到达神经元。神经元对其加权和,得到总输入值,然后将其与神经元的阈值进行比较,如果神经元的总输入值大于它的阈值,神经元就会被唤醒。通过唤醒函数的映射形成输出,具体的计算模型如下图所示:
目前神经元接受外面的世界信号x1,x2,...,xm,一共有m个信号的输入,这m个输入信号通过传递分别获得了权重w1,w2,...,wm,然后对其加权累和得到了总输入值。最后将其与目前神经元的阈值进行比较,如果总输入值大于它的阈值,神经元被唤醒。通过唤醒函数的映射形成输出,具体的计算公式如上图所示。
其实M-P神经元模型的本质就是一个广义的线性回归模型,而唤醒函数就相当于广义线性回归模型中的g函数。要解决M-P神经元模型的计算问题,还要有一个具体的唤醒函数。理论上,唤醒函数可以是任意的函数形式,通常使用的有:线性函数、非线性斜面函数、阈值函数、逻辑斯蒂函数。
线性函数f(net)=k*net+c
线性函数只能进行线性变化,不适合用来处理非线性问题。
非线性斜面函数
γ为大于0的常数,被称为饱和值,是神经元的最大输出。
阈值函数
逻辑斯蒂函数f(net)=a+b/(1+exp(-d*net))
a,b,d为常数。它的饱和值为a和a+b。
a=0,b=1,d=1时,简化为最简单的形式:
f(net)= 1/(1+exp(-net))
如下图所示,此时的M-P函数神经元模型就是一个逻辑斯蒂回归函数。
逻辑斯蒂函数形如S,也叫S形函数;将较大范围变化的输入值挤压到(0,1)的输出值范围内,因此也叫挤压函数;有较好的增益控制能力,也叫增益控制函数。