深度学习领域中的耦合与解耦

在阅读论文的时候应该会看到两个操作,一个是耦合,一个是解耦,经常搭配着出现的就是两个词语,耦合头(Coupled head)以及Decoupled head(解耦合头),那为什么要耦合,又为什么要解耦。

耦的概念

以下是来自耦的词语百科

耦耕(两人并力一起耕种。为古代犁田的一种方式);耦犁(一种耕作法)。引申为二人一组。

可见,耦的基础含义是共同为某一目标同时作用,再看Coupled和Decoupled这俩单词,是不是觉得耦合和解耦这俩翻译很精妙呢。

同时在知乎某文章中,也很通俗易懂的阐述了耦合与解耦的区别:通俗地理解耦合、解耦这两个概念 - 知乎

深度学习中耦合与解耦的作用

在论文《An Integrated Model for On-Site Teaching Quality Evaluation Based on Deep Learning》中有一张简洁明了的图表面了深度学习中耦合和解耦的区别;

**在目标检测中,分类任务和回归任务之间的冲突是不可避免的。因此,用于分类和定位的解耦合头被广泛用于大多数单阶段检测器。**YOLO系列的骨干网络和特征金字塔网络在不断发展,但检测头仍然是耦合的。对于每一级FPN特征,首先通过1×1卷积归一化激活函数进行特征积分,以将特征通道的数量减少到256个。然后分别为分类和回归任务添加两个并行分支(如图2所示)。每个分支有两个3×3卷积归一化激活函数用于特征提取。Cls分支通过1×1卷积来确定输入特征点的类型。另一个分支也分为两个平行的分支。其中,Reg分支通过1×1卷积获得特征点的回归系数,以调整预测帧;并且Obj分支通过1×1卷积来确定特征点是否具有对应的对象。实验表明,将耦合头替换为解耦头大大提高了收敛速度,而解耦合头对于端到端版本的YOLO至关重要。

相关推荐
WeeJot嵌入式11 分钟前
OpenCV:计算机视觉的瑞士军刀
计算机视觉
思通数科多模态大模型21 分钟前
10大核心应用场景,解锁AI检测系统的智能安全之道
人工智能·深度学习·安全·目标检测·计算机视觉·自然语言处理·数据挖掘
数据岛25 分钟前
数据集论文:面向深度学习的土地利用场景分类与变化检测
人工智能·深度学习
学不会lostfound1 小时前
三、计算机视觉_05MTCNN人脸检测
pytorch·深度学习·计算机视觉·mtcnn·p-net·r-net·o-net
红色的山茶花1 小时前
YOLOv8-ultralytics-8.2.103部分代码阅读笔记-block.py
笔记·深度学习·yolo
龙的爹23331 小时前
论文翻译 | RECITATION-AUGMENTED LANGUAGE MODELS
人工智能·语言模型·自然语言处理·prompt·gpu算力
白光白光1 小时前
凸函数与深度学习调参
人工智能·深度学习
sp_fyf_20241 小时前
【大语言模型】ACL2024论文-18 MINPROMPT:基于图的最小提示数据增强用于少样本问答
人工智能·深度学习·神经网络·目标检测·机器学习·语言模型·自然语言处理
weixin_543662861 小时前
BERT的中文问答系统33
人工智能·深度学习·bert
爱喝白开水a1 小时前
Sentence-BERT实现文本匹配【分类目标函数】
人工智能·深度学习·机器学习·自然语言处理·分类·bert·大模型微调