【pytorch】torch.nn.Unfold操作

说明

一个代码里涉及到了unfold的操作,看了半天官网都没整明白维度怎么变化的,参考这个链接搞明白了:

https://blog.csdn.net/ViatorSun/article/details/119940759

https://zhuanlan.zhihu.com/p/361140988

维度计算

输入( N, C, H, W)

输出(N,C×∏(kernel_size),L)

L 是通过卷积核 滑动裁剪 后,得到的区块的数量。

C×∏(kernel_size)是怎么来的?

从第一个参考链接的图可以看到,就是窗口滑动的时候,把窗口同一个位置的值放在了一个通道,所以窗口有多少个像素,就变成了多少个通道。

用参考博客的代码做一个示例:

python 复制代码
inputs = torch.randn(1, 2, 4, 4)
print(inputs.size())
print(inputs)
unfold  = torch.nn.Unfold(kernel_size=(2, 2), stride=2)
patches = unfold(inputs)
print(patches.size())
print(patches)

输出结果

python 复制代码
torch.Size([1, 2, 4, 4])
tensor([[[[ 0.4448, -1.8525, -1.8243, -1.0243],
          [ 0.0224, -1.2402, -0.7154, -1.2538],
          [-0.6515, -0.6022,  0.2263, -1.6286],
          [ 0.2067,  0.8257, -1.9318,  1.0372]],

         [[ 2.4799, -0.5248, -0.3170,  1.5934],
          [-0.3643,  1.1624, -1.5762, -0.1827],
          [-0.0553,  0.1629, -1.3280, -0.8468],
          [ 0.0671,  1.6328,  1.1706,  1.7891]]]])
torch.Size([1, 8, 4])
tensor([[[ 0.4448, -1.8243, -0.6515,  0.2263],
         [-1.8525, -1.0243, -0.6022, -1.6286],
         [ 0.0224, -0.7154,  0.2067, -1.9318],
         [-1.2402, -1.2538,  0.8257,  1.0372],
         [ 2.4799, -0.3170, -0.0553, -1.3280],
         [-0.5248,  1.5934,  0.1629, -0.8468],
         [-0.3643, -1.5762,  0.0671,  1.1706],
         [ 1.1624, -0.1827,  1.6328,  1.7891]]])

用两个窗口的情况来举例,每个位置对应的结果情况如下:

相关推荐
leoZ2318 小时前
本地跑大模型实战(七):llama.cpp 性能调优,让推理更快更省
java·人工智能·spring·生成对抗网络·语言模型·自然语言处理·llama
To_OC8 小时前
我把《天龙八部》塞进向量数据库后,终于搞懂了 RAG 到底是个啥
人工智能·llm·agent
蜡台8 小时前
AI Agent(智能体)入门基础教程
人工智能
傻啦嘿哟9 小时前
某短视频平台视频爬虫实战:抓取推荐流视频信息,绕过反爬的3种技巧
开发语言·爬虫·python
Akir.weiwen9 小时前
Token 层差异:从颜色值到语义状态的三层跃迁
人工智能·设计规范
迷迭香yy9 小时前
集合竞价数据挖掘实战:用Python构建开盘信号识别系统
人工智能·python·数据挖掘
大模型momo9 小时前
Spring AI 实战:多 Agent 协作实战 —— 分工拆解复杂旅游行程任务
人工智能·spring·ai·agent·旅游
小程故事多_8010 小时前
从A2C、TRPO、PPO到GRPO,强化学习策略梯度算法完整演进与大模型落地实战解析
人工智能·算法
冬奇Lab10 小时前
开源项目第176期:Better Harness — 不审查 diff,审查工作流本身,给 AI 编程 Agent 的五维评估框架
人工智能·开源·agent
冬奇Lab10 小时前
代码库知识库系列(07):混合检索 BM25 + 向量——Q8 还是失败,而且总分退步了
人工智能