pytorch常用张量构造词句表和nn.组件速查表

常用pytorch 的nn.组件速查表

常用张量构造词句表:

目的 语句 输出类型 例子
全 0 torch.zeros(shape) float torch.zeros(2,3)
全 1 torch.ones(shape) float torch.ones(2,3)
随机 0~1 torch.rand(shape) float torch.rand(2,3)
随机正态 torch.randn(shape) float torch.randn(2,3)
随机整数 torch.randint(low, high, shape) int torch.randint(0,10,(2,3))
指定数据 torch.tensor([...]) 看内容 torch.tensor([1,2,3])
等差序列 torch.arange(n) int torch.arange(5)→0...4
均匀分割 torch.linspace(a,b,steps) float torch.linspace(0,1,5)

常用nn.组件速查表

组件 写法 作用 输入→输出形状(常见)
Embedding nn.Embedding(V, D) id → 向量 [B,L]→[B,L,D]
Linear nn.Linear(in, out) 全连接变换 [...,in]→[...,out]
LayerNorm nn.LayerNorm(D) 归一化稳定训练 [...,D]→[...,D]
Dropout nn.Dropout(p) 随机丢弃防过拟合 shape不变
ReLU/GELU F.relu(x) F.gelu(x) 非线性 shape不变
Softmax F.softmax(x, dim=-1) 变成概率分布 shape不变

再结合Pytorch-速查表-常用层和模块以及使用方法,可以速查一些pytorch的用法

相关推荐
羲云网络6 分钟前
GPT Image 2.6 动态表情怎么改:从情绪歧义到动作节奏验收
人工智能·gif·图像编辑
EatFan35 分钟前
AI Agent 工程化元年:从单体智能到 Agent 集群的架构演进与落地路径
人工智能·架构·ai agent·autogen·crewai·agent集群·记忆工程
2601_967980111 小时前
python pytest如何编写测试
python·测试用例·pytest·函数·assert
泯泷1 小时前
别再“裸聊”大模型了!你家的 AI 为什么总胡说八道?根子在 RAG
人工智能·算法·架构
玖米GEO运营王总监1 小时前
成都AI数字人视频怎么批量生产?流程与合规标注
大数据·人工智能·音视频
f6m274dww2cmd2 小时前
拆一个类目第一的20个曝光词:43% 的搜索量来自第二页
人工智能
2601_967980112 小时前
Python中heapq模块的各种用法实例
数据结构·python·算法·应用实例·heapq模块
大胖爱学习_MJ2 小时前
超越向量检索:用 Spring Boot + Neo4j 手搓 GraphRAG 知识图谱记忆
java·后端·python
RobinDevNotes2 小时前
24GB Mac 做数字人:声音放本地,画面租云端
人工智能·python·macos·开发工具
user4465117917913 小时前
Agent 也能「过安检」:AgentScope 权限系统设计拆解
人工智能