深度学习常用语句for param in params问题:为什么修改param之后,params对应元素也随之改变?

python 复制代码
def sgd(params, lr, batch_size):  #@save
    """小批量随机梯度下降"""
    with torch.no_grad():
        for param in params:
            param -= lr * param.grad / batch_size
            param.grad.zero_()

sgd([w, b], lr, batch_size)

上述代码中,param遍历params的所有元素,并进行sgd梯度下降,但是其仅仅对param进行修改,为何params元素会随之改变?

于是我进行实验,发现无论是最简单的数组还是np.array(ndarray格式),都是只修改了param而不修改params,如下图所示:

于是询问copilot:

然而为何源码中的params会改变?继续询问:

继续:

由 你 发送:

为什么一个是副本,一个是引用,两者有什么区别,如何判断

由 Copilot 发送:

这是一个很好的问题!在 Python 中,变量是如何传递的取决于它们的类型和使用方式。让我们详细解释一下副本和引用的区别,以及如何判断它们:

副本

当你创建一个变量的副本时,你实际上是在内存中创建了一个新的对象,并将原始对象的值复制到这个新对象中。修改副本不会影响原始对象。

例如:

Python

复制代码
a = 10
b = a  # 创建副本
b += 5
print(a)  # 输出 10
print(b)  # 输出 15

.

在这个例子中,ab 是两个独立的变量,修改 b 不会影响 a

引用

当你创建一个变量的引用时,你实际上是在创建一个指向原始对象的指针。修改引用会直接影响原始对象。

例如:

Python

复制代码
a = [1, 2, 3]
b = a  # 创建引用
b.append(4)
print(a)  # 输出 [1, 2, 3, 4]
print(b)  # 输出 [1, 2, 3, 4]

在这个例子中,ab 指向同一个列表对象,修改 b 会直接影响 a

如何判断

判断一个变量是副本还是引用,主要取决于变量的类型和操作方式:

  1. 不可变对象(如整数、字符串、元组):赋值操作通常会创建副本。
  2. 可变对象(如列表、字典、集合):赋值操作通常会创建引用。

在你的代码中:

Python

复制代码
for param in params:
    param -= lr * param.grad / batch_size

paramparams 列表中的元素的引用,因此修改 param 会直接影响 params 列表中的元素。

于是可以肯定,数据类型不同,同样的语句,params会出现修改和不修改两种情况,见下图:

可见tensor类型是可以通过该语句直接修改params的值,而ndarray则不行。

相关推荐
lijianhua_97126 小时前
国内某顶级大学内部用的ai自动生成论文的提示词
人工智能
EDPJ6 小时前
当图像与文本 “各说各话” —— CLIP 中的模态鸿沟与对象偏向
深度学习·计算机视觉
蔡俊锋6 小时前
用AI实现乐高式大型可插拔系统的技术方案
人工智能·ai工程·ai原子能力·ai乐高工程
自然语6 小时前
人工智能之数字生命 认知架构白皮书 第7章
人工智能·架构
大熊背6 小时前
利用ISP离线模式进行分块LSC校正的方法
人工智能·算法·机器学习
eastyuxiao6 小时前
如何在不同的机器上运行多个OpenClaw实例?
人工智能·git·架构·github·php
诸葛务农6 小时前
AGI 主要技术路径及核心技术:归一融合及未来之路5
大数据·人工智能
光影少年6 小时前
AI Agent智能体开发
人工智能·aigc·ai编程
ai生成式引擎优化技术7 小时前
TSPR-WEB-LLM-HIC (TWLH四元结构)AI生成式引擎(GEO)技术白皮书
人工智能
帐篷Li7 小时前
9Router:开源AI路由网关的架构设计与技术实现深度解析
人工智能