深度学习J7周 对于ResNeXt-50算法的思考

需要解决的疑问:代码是否有误?对错与否给出思考。

打卡要求:请查找相关资料、逐步推理模型、详细写下思考过程

问题:如果conv_shortcut=False,那么执行"x=Add()..."语句时,通道数不一致,为什么不会报错

因为在ResNext50整个模型中,在定义残差单元的时候,将conv_shortcut=False,表示使用identity_shortcut而不是Conv2D层作为快捷链接。

对于定义残差单元block模块,Add()是x和shortcut的加和,x通道数是filters*2.

对于shortcut、conv_shortcut=True则是filters*2,filters*2,否则是原始输入通道数。

对于堆叠残块模块stack模块,第二次调用block,conv_shortcut=False,使用identity_shortcut,这种情况,快捷连接将直接传递输入x给块的最后一层,因此,在执行"x=Add()",快捷连接通道数与该层不一致,但Add()在通道数不同时,会自动对快捷连接进行零填充,所以不会出现不匹配的错误。

相关推荐
掘金安东尼1 分钟前
用 Python 搭桥,Slack 上跑起来的 MCP 数字员工
人工智能·面试·github
skywalk81635 分钟前
体验智谱清言的AutoGLM进行自动化的操作(Chrome插件)
运维·人工智能·自动化·glm·autoglm
Chaos_Wang_26 分钟前
NLP高频面试题(三十)——LLama系列模型介绍,包括LLama LLama2和LLama3
人工智能·自然语言处理·llama
新智元32 分钟前
美国 CS 专业卷上天,满分学霸惨遭藤校全拒!父亲大受震撼引爆热议
人工智能·openai
新智元34 分钟前
美国奥数题撕碎 AI 数学神话,顶级模型现场翻车!最高得分 5%,DeepSeek 唯一逆袭
人工智能·openai
Baihai_IDP44 分钟前
「DeepSeek-V3 技术解析」:无辅助损失函数的负载均衡
人工智能·llm·deepseek
硅谷秋水1 小时前
大语言模型智体的综述:方法论、应用和挑战(下)
人工智能·深度学习·机器学习·语言模型·自然语言处理
TGITCIC1 小时前
BERT与Transformer到底选哪个-下部
人工智能·gpt·大模型·aigc·bert·transformer
Lx3521 小时前
AutoML逆袭:普通开发者如何玩转大模型调参
人工智能
IT古董1 小时前
【漫话机器学习系列】185.神经网络参数的标准初始化(Normalized Initialization of Neural Network Parameter
人工智能