神经网络是深度学习的核心技术，模仿人脑处理信息的方式，通过层叠的神经元实现复杂模式识别。以下是关键知识点：
基本概念
- 神经元：网络的基本单元，接收输入信号并输出激活值
- 权重与偏置：控制神经元对输入的响应强度
- 激活函数：如ReLU（🚀）、Sigmoid（📈）和Tanh（📉），决定神经元的输出特性
- 损失函数：衡量预测结果与真实值的误差，常见如MSE、交叉熵
网络结构
- 全连接层：每个神经元与前一层所有神经元相连
- 卷积层：通过滤波器提取局部特征（🎯）
- 循环层：处理序列数据，如RNN（🧠）和LSTM（🌀）
- 归一化层：加速训练，如BatchNorm（📊）
常见类型
| 类型 | 特点 | 应用场景 |
|---|---|---|
| CNN | 适合图像处理 | 图像分类、目标检测 |
| RNN | 处理时序数据 | 语音识别、文本生成 |
| GAN | 生成对抗网络 | 图像生成、数据增强 |
| Transformer | 基于自注意力机制 | 机器翻译、文本摘要 |
训练方法
- 反向传播：通过链式法则调整参数
- 梯度下降：优化损失函数的核心算法
- 正则化：防止过拟合，如Dropout（🚫）
- 优化器：如Adam、SGD，影响收敛速度