SENET(Squeeze-and-Excitation Networks)是由微软研究院提出的一种改进深度学习模型性能的网络结构,其核心思想是通过通道注意力机制增强模型对关键特征的感知能力。以下是其核心要点:

📘 1. 核心思想

  • Squeeze:通过全局平均池化(Global Average Pooling)压缩通道维度,获取每个通道的全局信息
  • Excitation:使用多层感知机(MLP)学习通道间的依赖关系,生成通道权重
  • 重校准:将权重应用于原始特征图,实现对重要通道的动态加权

📊 2. 技术优势

  • 提升特征表达能力(📈 1-2% mAP提升)
  • 支持任意卷积架构的模块化接入(📦 可扩展性强)
  • 计算成本低(🧠 仅需额外2%的参数量)

📁 3. 应用场景

  • 图像分类(🖼️ 如ResNet-50集成SE模块)
  • 目标检测(🔍 与Faster R-CNN结合)
  • 语义分割(🧩 改善特征图细节表现)
SENET_channel_attention

如需深入了解通道注意力机制的进阶应用,可参考:/[articles/attention_mechanism]