Pytorch中的广播机制

一、广播(broadcast)机制概述

在PyTorch中,广播机制(Broadcast)允许对不同形状的张量执行逐元素操作,而无需显式地复制数据。这一机制使得编写代码更加简洁和高效。广播机制遵循一定的规则来扩展较小的张量,使其与较大的张量具有相同的形状

二、广播机制规则:

如果遵守以下规则,则两个张量tensor是可广播的:

(1)每个张量tensor至少有一个维度;

(2)遍历两个张量的所有维度时,从末尾随开始遍历。两个tensor张量如果维度(维度的数目)相等或两个tensor张量的维度不等且其中一个维度为1或不存在,那么这两个张量是可以广播的;如果两个tensor张量的维度不等且其中一个维度不为1则不能进行广播

如果两个张量是"可广播的",则计算过程遵循下列规则:

(1)如果两个张量tensor的维度不同则在维度较小的tensor的前面增加维度使它们维度相等;

(2)对于每个维度计算结果的维度值取两个张量tensor中较大的那个值;

(3)两个张量tensor扩展维度的过程是将数值进行复制

相关推荐
ZhengEnCi2 小时前
09bad-斯坦福CS336作业一-构建优化器
人工智能
ZhengEnCi2 小时前
09bac-斯坦福CS336作业一-实现训练损失计算
人工智能
冬奇Lab3 小时前
Skill 系列(01):Skill 评测体系——如何量化一个 AI Skill 的质量
人工智能
兵慌码乱5 小时前
基于 MediaPipe 与 PySide2 的手势交互音乐控制系统实现:轻量化视觉交互全流程解析
python·opencv·计算机视觉·人机交互·手势识别·mediapipe·pyside2
IT_陈寒6 小时前
Redis内存爆了,原来我漏掉了这个致命配置
前端·人工智能·后端
luckdewei7 小时前
FastAPI 资产管理系统实战:复杂 ORM 关联、Alembic 迁移与 N+1 查询优化
python
用户3521802454757 小时前
🎆从 Prompt 到 Skill:让 Spring AI Agent 学会"装新技能"
人工智能·spring boot·ai编程
米小虾8 小时前
手把手教你搭建第一个生产级AI Agent:从选型到实战的完整指南
人工智能·agent
任沫8 小时前
Agent之Function Call
javascript·人工智能·go
米小虾8 小时前
2026年AI Agent全面爆发:从开源生态到企业级应用的进化之路
人工智能·agent