🧠 神经网络的构建离不开数学支持，以下是核心数学知识的简明梳理：
线性代数
- 矩阵运算：权重参数存储为矩阵，输入数据也需转换为矩阵形式
- 向量点积：计算神经元输入的加权和
- 特征提取：通过矩阵变换提取数据关键特征
点击了解矩阵运算在神经网络中的应用
微积分
- 导数概念：用于计算损失函数的梯度
- 链式法则：反向传播时的核心计算规则
- 梯度下降：通过导数调整参数的优化方法
点击了解梯度下降原理
概率统计
- 概率分布：激活函数常使用Sigmoid或ReLU
- 损失函数：均方误差（MSE）和交叉熵（Cross_Entropy）是常见选择
- 正则化：通过概率视角防止过拟合
优化算法
- 随机梯度下降（SGD）：基础但重要的优化方法
- 动量法：加速收敛的改进算法
- Adam优化器：结合动量和自适应学习率的先进算法
点击了解更多优化算法