前言
本文介绍了焦点调制网络(FocalNets)及其在YOLOv11中的结合应用。FocalNets完全用焦点调制模块替代自注意力,该模块由焦点上下文化、门控聚合和逐元素仿射变换组成,能有效建模视觉中的标记交互。它通过局部特征聚焦、全局信息调制和多尺度处理增强模型表达能力。我们将FocalModulation模块集成进YOLOv11。
文章目录: YOLOv11改进大全:卷积层、轻量化、注意力机制、损失函数、Backbone、SPPF、Neck、检测头全方位优化汇总
专栏链接: YOLOv11改进专栏
介绍

摘要
本研究提出焦点调制网络(FocalNets),该网络采用焦点调制模块完全替代自注意力(SA)机制,用于视觉任务中的标记交互建模。焦点调制模块由三个核心组件构成:(i)焦点上下文化组件,通过深度卷积层序列实现从短距离到长距离的视觉上下文编码;(ii)门控聚合组件,选择性将上下文信息聚合至每个查询标记的调制器中;(iii)逐元素仿射变换组件,将调制器注入查询标记。大量实验验证表明,FocalNets展现出卓越的可解释性特征,并在图像分类、目标检测及分割任务中以相近计算成本超越了当前最先进的SA模型(如Swin和Focal Transformers)。具体而言,FocalNets小型与基础版本在ImageNet-1K数据集上分别实现了82.3%和83.9%的top-1准确率;在ImageNet-22K数据集以224×224分辨率预训练后,微调至224×224和384×384分辨率时分别达到86.5%和87.3%的top-1准确率。在目标检测任务中,基于Mask R-CNN框架的FocalNet基础版本以1×训练计划超越Swin对照组2.1个百分点,且已超过采用3×训练计划的Swin模型(49.0对48.5);在语义分割任务中,基于UPerNet框架的FocalNet基础版本在单尺度测试下超越Swin模型2.4个百分点,多尺度测试下同样表现优异(50.5对49.7)。进一步地,采用大型Foca
订阅专栏 解锁全文
15万+

被折叠的 条评论
为什么被折叠?



