量化专题 · 神经网络理论：神经元、激活函数及网络结构

文章预览

本报告观点和信息仅供符合证监会适当性管理规定的期货交易者参考。因本平台暂时无法设置访问限制，若您并非符合规定的交易者，为控制交易风险，请勿点击查看或使用本报告任何信息。对由此给您造成的不便表示诚挚歉意，感谢您的理解与配合！ 本文作者 | 姜慧丽 中信建投期货金融工程量化分析师 本报告完成时间 | 2024年6月26日 摘 要     本文主要介绍了神经网络的基础概念，如构成神经网络最基本的单元神经元、在神经网络中决定了其计算效率和学习性能的重要的组成部分激活函数、常用的激活函数类型以及其各自的优缺点、神经网络常见的网络结构类型。     激活函数我们主要介绍了sigmoid型、ReLU函数和Softplus函数。Sigmoid型函数可以将实数映射到概率空间，但可能会面临梯度消失的问题；ReLU函数稀疏性较好，但可能会有‘死亡ReLU’ ………………………………