Pytorch中的广播机制

一、广播(broadcast)机制概述

在PyTorch中,广播机制(Broadcast)允许对不同形状的张量执行逐元素操作,而无需显式地复制数据。这一机制使得编写代码更加简洁和高效。广播机制遵循一定的规则来扩展较小的张量,使其与较大的张量具有相同的形状

二、广播机制规则:

如果遵守以下规则,则两个张量tensor是可广播的:

(1)每个张量tensor至少有一个维度;

(2)遍历两个张量的所有维度时,从末尾随开始遍历。两个tensor张量如果维度(维度的数目)相等或两个tensor张量的维度不等且其中一个维度为1或不存在,那么这两个张量是可以广播的;如果两个tensor张量的维度不等且其中一个维度不为1则不能进行广播

如果两个张量是"可广播的",则计算过程遵循下列规则:

(1)如果两个张量tensor的维度不同则在维度较小的tensor的前面增加维度使它们维度相等;

(2)对于每个维度计算结果的维度值取两个张量tensor中较大的那个值;

(3)两个张量tensor扩展维度的过程是将数值进行复制

相关推荐
大千AI助手8 分钟前
SPT:选择性提示调优——让模型自动学习最佳提示插入策略
人工智能·神经网络·llm·提示词·大千ai助手·spt·选择性提示调优
夫唯不争,故无尤也9 分钟前
PyTorch中张量和模型的核心属性解析
人工智能·pytorch·深度学习
钛投标免费AI标书工具16 分钟前
AI标书vs人工标书,到底哪个好?
人工智能
杰瑞哥哥24 分钟前
标准 Python 项目结构
开发语言·python
鲸鱼在dn26 分钟前
大型语言模型推理能力评估——李宏毅2025大模型课程第9讲内容
人工智能·语言模型·自然语言处理
笨鸟笃行34 分钟前
人工智能备考小结篇(后续会更新对应的题解)
人工智能
不当菜鸡的程序媛34 分钟前
Flow Matching|什么是“预测速度场 vt=ε−x”?
人工智能·算法·机器学习
kyle~39 分钟前
数学基础---四元数
人工智能·数学·机器人·旋转
PKNLP40 分钟前
14.大语言模型微调语料构建
人工智能·语言模型·模型微调
西部森林牧歌43 分钟前
Arbess零基础学习 - 使用Arbess+GitLab实现Python项目构建/主机部署
python·ci/cd·gitlab·tiklab devops