Pytorch中的广播机制

一、广播(broadcast)机制概述

在PyTorch中,广播机制(Broadcast)允许对不同形状的张量执行逐元素操作,而无需显式地复制数据。这一机制使得编写代码更加简洁和高效。广播机制遵循一定的规则来扩展较小的张量,使其与较大的张量具有相同的形状

二、广播机制规则:

如果遵守以下规则,则两个张量tensor是可广播的:

(1)每个张量tensor至少有一个维度;

(2)遍历两个张量的所有维度时,从末尾随开始遍历。两个tensor张量如果维度(维度的数目)相等或两个tensor张量的维度不等且其中一个维度为1或不存在,那么这两个张量是可以广播的;如果两个tensor张量的维度不等且其中一个维度不为1则不能进行广播

如果两个张量是"可广播的",则计算过程遵循下列规则:

(1)如果两个张量tensor的维度不同则在维度较小的tensor的前面增加维度使它们维度相等;

(2)对于每个维度计算结果的维度值取两个张量tensor中较大的那个值;

(3)两个张量tensor扩展维度的过程是将数值进行复制

相关推荐
小程故事多_804 分钟前
Kthena 引爆云原生推理革命:K8s 分布式架构破解 LLM 编排困局,吞吐狂飙 273%
人工智能·分布式·云原生·kubernetes·aigc
csuzhucong8 分钟前
4种棋盘魔方(三A、三B、五A、五B)
人工智能
腾飞开源9 分钟前
05_Spring AI 干货笔记之 Advisors API
人工智能·可观测性·检索增强生成·spring ai·advisors api·对话记忆·提示词增强
2301_7951672012 分钟前
Python 高手编程系列九:上下文管理器 — with 语句
数据库·python·mysql
讓丄帝愛伱15 分钟前
excel导出实例
java·python·excel
老欧学视觉15 分钟前
ubuntu20.04系统下安装SlowFast行为检测项目并跑通训练
python·深度学习·计算机视觉
飞哥数智坊24 分钟前
告别繁琐部署:TRAE SOLO 帮我一键跑通 Z-Image 模型
人工智能·trae·solo
学历真的很重要39 分钟前
Hello-Agents —— 03大语言模型基础 通俗总结
开发语言·人工智能·后端·语言模型·自然语言处理·面试·langchain
aloha_7891 小时前
联易融测开面试准备
java·python·面试·单元测试
OpenCSG2 小时前
OpenCSG 2025年11月月报:智能体平台、AI技术合作与开源生态进展
人工智能·开源·opencsg·csghub