文章预览
激活函数是向神经网络中引入非线性因素,通过激活函数神经网络就可以拟合各种曲线。 激活函数是神经网络中一个至关重要的概念,决定了某个神经元是否被激活,判断该神经元获得的信息是否有用,并决定该保留还是该去掉此神经元。 转载自丨AI科技评论 本文作者 Vandit Jain 对激活函数的相关知识进行了一个较为全面的总结,重点聚焦于以下几个方面: 1. 激活函数是什么,它在网络中有什么作用? 2. 为什么需要激活函数而不使用 线性函数 ? 3. 理想的激活函数有哪些特征? 4. 目前使用的各种非线性函数。 5. 在最新研究中涌现的值得关注的非线性激活函数。 6. 在深层神经网络中应该使用哪些激活函数以及如何使用它们? 一、激活函数是什么? 简单地说,激活函数就是加入到人工神经网络中的一个函数,目的在于帮助神经网络从数据中学习复
………………………………