非线性激活函数,

sigmoid激活函数对特征继续非线性变换,赋予多层神经网络具有深度的
线性激活函数
激活函数的主要作用是提供网络的非线性建模能力,分层的非线性映射
sigmoid 非线性激活函数的形式是,其图形如上图左所示.
线性建模能力 当神经网络只有2,3层的时候,对于隐藏层,任意激活函数