文章预览
本文将深入探讨如何优化“学习”与“训练”过程,以提升我们模型的性能。 我们将涉及的领域包括计算性能改进、超参数调优,以及如何在PyTorch中实现这些优化,现在先让我们快速回顾一下神经网络的基础知识! 快速回顾:神经网络是什么? 神经网络是庞大的数学表达式,旨在找到能够将一组输入映射到其对应输出的“正确”函数。下面是一个神经网络的示例: 一个基础的双隐藏层多层感知器 每个隐藏层神经元执行以下计算: 每个神经元内部的处理过程 输入 :这些是数据集中的特征。 权重 :用于缩放输入的系数。算法的目标是通过梯度下降找到最优系数。 线性加权和 :将输入与权重的乘积相加,并加上一个偏置/偏移项b。 隐藏层 :存储多个神经元以学习数据集中的模式。上标表示层数,下标表示该层中的神经元数量。 箭头 :这些是从
………………………………