时间：2024-05-24 12:00:49
神经网络中的激活函数
1、激活函数的作用
在神经网络中，激活函数的作用是能够给神经网络加入一些非线性因素，使得神经网络能够很好的解决比较复杂的问题。
如果不使用激活函数，神经网络中的每一层的输出只是承接了上一层输入函数的线性变换，无论神经网络有多少层，输出都是输入的线性组合。
2、激活函数的发展经历了Sigmoid–>Tanh–>ReLU–>Leaky ReLU–>Maxout这样的过程，还有一个特殊的激活函数Softmax，因为它只会被应用在网络中的最后一层，用来进行最后的分类和归一化。
《神经网络的激活函数》不代表本网站观点，如有侵权请联系我们删除
精彩推荐
点击排行
