在深度学习模型训练中，损失函数是指导模型优化的核心组件。PyTorch提供了丰富的内置损失函数，适用于不同任务场景。以下是常见损失函数的分类与使用说明：

1. 回归任务常用损失函数

  • 均方误差 (MSE)
    用于预测连续值，计算真实值与预测值的平方差均值
    📌 公式：$L = \frac{1}{n} \sum_{i=1}^{n} (y_i - \hat{y}_i)^2$

    mse_loss

  • 平均绝对误差 (MAE)
    计算真实值与预测值的绝对差均值，对异常值更鲁棒
    📌 公式：$L = \frac{1}{n} \sum_{i=1}^{n} |y_i - \hat{y}_i|$

    mae_loss

2. 分类任务常用损失函数

  • 交叉熵损失 (CrossEntropyLoss)
    适用于多分类问题，衡量预测概率分布与真实分布的差异
    📌 公式：$L = -\sum_{c} y_c \log(\hat{y}_c)$

    cross_entropy_loss

  • 二元交叉熵损失 (BCELoss)
    用于二分类任务，计算预测值与真实标签的对数损失
    📌 公式：$L = -[y \log(\hat{y}) + (1 - y) \log(1 - \hat{y})]$

    bce_loss

3. 其他特殊损失函数

  • Huber损失
    结合MSE和MAE的优点，对异常值敏感度较低
    📌 适用场景：鲁棒回归

    huber_loss

  • Focal损失
    通过调整样本权重，解决类别不平衡问题
    📌 适用场景：目标检测、分类

    focal_loss

扩展阅读

如需了解更详细的实现方式，可访问 PyTorch官方文档 - 损失函数 进行深入学习。