Pytorch中的广播机制

一、广播(broadcast)机制概述

在PyTorch中,广播机制(Broadcast)允许对不同形状的张量执行逐元素操作,而无需显式地复制数据。这一机制使得编写代码更加简洁和高效。广播机制遵循一定的规则来扩展较小的张量,使其与较大的张量具有相同的形状

二、广播机制规则:

如果遵守以下规则,则两个张量tensor是可广播的:

(1)每个张量tensor至少有一个维度;

(2)遍历两个张量的所有维度时,从末尾随开始遍历。两个tensor张量如果维度(维度的数目)相等或两个tensor张量的维度不等且其中一个维度为1或不存在,那么这两个张量是可以广播的;如果两个tensor张量的维度不等且其中一个维度不为1则不能进行广播

如果两个张量是"可广播的",则计算过程遵循下列规则:

(1)如果两个张量tensor的维度不同则在维度较小的tensor的前面增加维度使它们维度相等;

(2)对于每个维度计算结果的维度值取两个张量tensor中较大的那个值;

(3)两个张量tensor扩展维度的过程是将数值进行复制

相关推荐
土星云SaturnCloud3 分钟前
边缘计算赋能电子焊接工位双摄AI管控:土星云SE110S-WC8实现合规检测与质量追溯全闭环
服务器·人工智能·ai·边缘计算
程序员雷欧4 分钟前
LongAdder
开发语言·python
月光船幽幽15 分钟前
分层阈值规避归藏协议过度重置
人工智能·python
世冠科技16 分钟前
世冠科技CEO张桥:从“一句话完成产品研发”到工程智能,AI 原生如何重构复杂装备研发(上篇)
人工智能·科技·重构
行业研究员17 分钟前
TDSQL-C:云原生架构与AI能力解析
人工智能·云原生·架构·云原生数据库·ai能力解析
Wang's Blog20 分钟前
AI Agent白手起家63: LangGraph 人机交互——让人类介入 AI 工作流
人工智能·算法·人机交互
SMF191921 分钟前
【Linux】完美解决缩略图工具gm调用java.io.FileNotFoundException: gm问题
java·开发语言·python
㳺三才人子23 分钟前
初探 Data Analysis - Matplotlib
python·plotly·pandas·matplotlib
_codemonster28 分钟前
Transformer的核心机制
人工智能·深度学习·transformer
Python私教34 分钟前
0、null、未采集:AI Agent 反馈系统最容易踩的语义坑
人工智能·python