深度学习领域中的耦合与解耦

在阅读论文的时候应该会看到两个操作,一个是耦合,一个是解耦,经常搭配着出现的就是两个词语,耦合头(Coupled head)以及Decoupled head(解耦合头),那为什么要耦合,又为什么要解耦。

耦的概念

以下是来自耦的词语百科

耦耕(两人并力一起耕种。为古代犁田的一种方式);耦犁(一种耕作法)。引申为二人一组。

可见,耦的基础含义是共同为某一目标同时作用,再看Coupled和Decoupled这俩单词,是不是觉得耦合和解耦这俩翻译很精妙呢。

同时在知乎某文章中,也很通俗易懂的阐述了耦合与解耦的区别:通俗地理解耦合、解耦这两个概念 - 知乎

深度学习中耦合与解耦的作用

在论文《An Integrated Model for On-Site Teaching Quality Evaluation Based on Deep Learning》中有一张简洁明了的图表面了深度学习中耦合和解耦的区别;

**在目标检测中,分类任务和回归任务之间的冲突是不可避免的。因此,用于分类和定位的解耦合头被广泛用于大多数单阶段检测器。**YOLO系列的骨干网络和特征金字塔网络在不断发展,但检测头仍然是耦合的。对于每一级FPN特征,首先通过1×1卷积归一化激活函数进行特征积分,以将特征通道的数量减少到256个。然后分别为分类和回归任务添加两个并行分支(如图2所示)。每个分支有两个3×3卷积归一化激活函数用于特征提取。Cls分支通过1×1卷积来确定输入特征点的类型。另一个分支也分为两个平行的分支。其中,Reg分支通过1×1卷积获得特征点的回归系数,以调整预测帧;并且Obj分支通过1×1卷积来确定特征点是否具有对应的对象。实验表明,将耦合头替换为解耦头大大提高了收敛速度,而解耦合头对于端到端版本的YOLO至关重要。

相关推荐
leoZ2316 小时前
本地跑大模型实战(七):llama.cpp 性能调优,让推理更快更省
java·人工智能·spring·生成对抗网络·语言模型·自然语言处理·llama
To_OC6 小时前
我把《天龙八部》塞进向量数据库后,终于搞懂了 RAG 到底是个啥
人工智能·llm·agent
蜡台6 小时前
AI Agent(智能体)入门基础教程
人工智能
Akir.weiwen7 小时前
Token 层差异:从颜色值到语义状态的三层跃迁
人工智能·设计规范
迷迭香yy7 小时前
集合竞价数据挖掘实战:用Python构建开盘信号识别系统
人工智能·python·数据挖掘
大模型momo7 小时前
Spring AI 实战:多 Agent 协作实战 —— 分工拆解复杂旅游行程任务
人工智能·spring·ai·agent·旅游
小程故事多_808 小时前
从A2C、TRPO、PPO到GRPO,强化学习策略梯度算法完整演进与大模型落地实战解析
人工智能·算法
冬奇Lab8 小时前
开源项目第176期:Better Harness — 不审查 diff,审查工作流本身,给 AI 编程 Agent 的五维评估框架
人工智能·开源·agent
冬奇Lab8 小时前
代码库知识库系列(07):混合检索 BM25 + 向量——Q8 还是失败,而且总分退步了
人工智能
ajassi20008 小时前
AI语音智能体开发日记(十一)为智能设备“声”临其境——详解音频资源自动化生成流程
人工智能·ai·ai编程