python打卡day42@浙大疏锦行

知识点回顾

  1. 回调函数
  2. lambda函数
  3. hook函数的模块钩子和张量钩子
  4. Grad-CAM的示例

一、回调函数示例

复制代码
# 训练过程中的回调函数
class Callback:
    def on_train_begin(self):
        print("训练开始")

    def on_epoch_end(self, epoch, logs=None):
        print(f"Epoch {epoch} 完成")

# 使用示例
callback = Callback()
callback.on_train_begin()
for epoch in range(10):
    # ...训练代码...
    callback.on_epoch_end(epoch)

二、lambda函数示例

复制代码
# 简单lambda
add = lambda x, y: x + y

# 在PyTorch中的使用
data = torch.randn(10)
processed = list(map(lambda x: x*2, data))  # 每个元素乘以2

三、hook函数示例

复制代码
# 模块钩子
model = nn.Sequential(nn.Linear(10,5), nn.ReLU())
def module_hook(module, input, output):
    print(f"{module.__class__.__name__} 输出形状: {output.shape}")
model[0].register_forward_hook(module_hook)

# 张量钩子
x = torch.randn(3, requires_grad=True)
x.register_hook(lambda grad: grad * 0.5)  # 梯度修改

四、Grad-CAM示例

复制代码
class GradCAM:
    def __init__(self, model, target_layer):
        self.model = model
        self.gradients = None
        self.activations = None
        target_layer.register_forward_hook(self.save_activations)
        target_layer.register_backward_hook(self.save_gradients)

    def save_activations(self, module, input, output):
        self.activations = output.detach()

    def save_gradients(self, module, grad_input, grad_output):
        self.gradients = grad_output[0].detach()

    def __call__(self, x, class_idx=None):
        # ...前向/反向传播逻辑...
        cam = torch.relu(torch.sum(self.activations * weights, dim=1))
        return cam

关键点说明:

  1. 回调函数常用于训练过程监控

  2. lambda适合简单操作,复杂逻辑建议用普通函数

  3. 模块钩子获取中间输出,张量钩子修改梯度

  4. Grad-CAM通过hook获取梯度和激活值生成热力图

相关推荐
guozhetao1 分钟前
【ST表、倍增】P7167 [eJOI 2020] Fountain (Day1)
java·c++·python·算法·leetcode·深度优先·图论
墨染点香7 分钟前
第七章 Pytorch构建模型详解【构建CIFAR10模型结构】
人工智能·pytorch·python
枫叶丹427 分钟前
【Qt开发】信号与槽(二)-> 信号和槽的使用
开发语言·qt
阿什么名字不会重复呢30 分钟前
在线工具+网页平台来学习和操作Python与Excel相关技能
python·数据分析
Vertira1 小时前
python 阿里云 安装 dashscope的简介、安装
开发语言·python
gc_22992 小时前
学习Python中Selenium模块的基本用法(1:简介)
python·selenium
先做个垃圾出来………3 小时前
2116. 判断一个括号字符串是否有效
python
兮℡檬,3 小时前
房价预测|Pytorch
人工智能·pytorch·python
hqxstudying3 小时前
Java异常处理
java·开发语言·安全·异常
wjs20246 小时前
状态模式(State Pattern)
开发语言