深度学习常用语句for param in params问题:为什么修改param之后,params对应元素也随之改变?

python 复制代码
def sgd(params, lr, batch_size):  #@save
    """小批量随机梯度下降"""
    with torch.no_grad():
        for param in params:
            param -= lr * param.grad / batch_size
            param.grad.zero_()

sgd([w, b], lr, batch_size)

上述代码中,param遍历params的所有元素,并进行sgd梯度下降,但是其仅仅对param进行修改,为何params元素会随之改变?

于是我进行实验,发现无论是最简单的数组还是np.array(ndarray格式),都是只修改了param而不修改params,如下图所示:

于是询问copilot:

然而为何源码中的params会改变?继续询问:

继续:

由 你 发送:

为什么一个是副本,一个是引用,两者有什么区别,如何判断

由 Copilot 发送:

这是一个很好的问题!在 Python 中,变量是如何传递的取决于它们的类型和使用方式。让我们详细解释一下副本和引用的区别,以及如何判断它们:

副本

当你创建一个变量的副本时,你实际上是在内存中创建了一个新的对象,并将原始对象的值复制到这个新对象中。修改副本不会影响原始对象。

例如:

Python

复制代码
a = 10
b = a  # 创建副本
b += 5
print(a)  # 输出 10
print(b)  # 输出 15

.

在这个例子中,ab 是两个独立的变量,修改 b 不会影响 a

引用

当你创建一个变量的引用时,你实际上是在创建一个指向原始对象的指针。修改引用会直接影响原始对象。

例如:

Python

复制代码
a = [1, 2, 3]
b = a  # 创建引用
b.append(4)
print(a)  # 输出 [1, 2, 3, 4]
print(b)  # 输出 [1, 2, 3, 4]

在这个例子中,ab 指向同一个列表对象,修改 b 会直接影响 a

如何判断

判断一个变量是副本还是引用,主要取决于变量的类型和操作方式:

  1. 不可变对象(如整数、字符串、元组):赋值操作通常会创建副本。
  2. 可变对象(如列表、字典、集合):赋值操作通常会创建引用。

在你的代码中:

Python

复制代码
for param in params:
    param -= lr * param.grad / batch_size

paramparams 列表中的元素的引用,因此修改 param 会直接影响 params 列表中的元素。

于是可以肯定,数据类型不同,同样的语句,params会出现修改和不修改两种情况,见下图:

可见tensor类型是可以通过该语句直接修改params的值,而ndarray则不行。

相关推荐
CareyWYR2 分钟前
每周AI论文速递(251020-251024)
人工智能
晚霞apple7 分钟前
Graph + Agents 融合架构:2025年七大创新路径
论文阅读·人工智能·深度学习·神经网络·机器学习
纪伊路上盛名在13 分钟前
如何批量获取蛋白质序列的所有结构域(domain)数据-2
数据库·人工智能·机器学习·统计·计算生物学·蛋白质
这张生成的图像能检测吗17 分钟前
(论文速读)InteractVLM: 基于2D基础模型的3D交互推理
人工智能·计算机视觉·交互·生成模型·图像生成·视觉语言模型·3d重建
浣熊-论文指导34 分钟前
人工智能与生物医药融合六大创新思路
论文阅读·人工智能·深度学习·计算机网络·机器学习
文火冰糖的硅基工坊41 分钟前
[人工智能-大模型-48]:模型层技术 - 大模型与大语言模型不是一回事
人工智能·语言模型·自然语言处理
居7然1 小时前
DeepSeek OCR:重新定义AI文档处理的“降本增效”新范式
人工智能·算法·语言模型·自然语言处理·大模型·ocr
xingxing_F1 小时前
Topaz Video AI for Mac AI视频无损放大 视频画质增强
人工智能·macos·音视频
普蓝机器人1 小时前
面向智慧农业的自主移动果蔬采摘机器人:融合视觉识别与自动驾驶的智能化农作系统研究
人工智能·学习·机器人·移动机器人·三维仿真导航
卷福同学1 小时前
AI浏览器comet拉新,一单20美元(附详细教程)
人工智能·后端