day39

@浙大疏锦行

  1. CPU 与 GPU 性能对比

CPU:核心少,线程多,适合复杂逻辑、分支判断,以及少量数据的计算。

GPU:核心极多,线程多,适合大规模并行计算(如图像处理、深度学习矩阵运算)。

关键指标:

CPU:核心数、线程数、主频、缓存。

GPU:CUDA 核心数、显存大小、显存带宽、算力

2.GPU 训练的方法

PyTorch 中 GPU 训练的核心是将 "模型" 和 "数据" 都移动到 GPU 设备上,步骤如下:

(1)确定可用 GPU 设备:

(2)模型移动到 GPU:

(3)数据(张量 / 数据集)移动到 GPU:

3.类的 call 方法

在 Python 中,call 让类实例可以像函数一样被调用。

在 PyTorch 中,nn.Module 实现了 call,调用时会自动执行 forward() 方法,并做额外的 hook、参数管理等。

所以可以写:

4.对比不同loss记录频率对训练耗时的影响

相关推荐
敏编程3 小时前
一天一个Python库:jsonschema - JSON 数据验证利器
python
前端付豪3 小时前
LangChain记忆:通过Memory记住上次的对话细节
人工智能·python·langchain
databook4 小时前
ManimCE v0.20.1 发布:LaTeX 渲染修复与动画稳定性提升
python·动效
花酒锄作田16 小时前
使用 pkgutil 实现动态插件系统
python
前端付豪20 小时前
LangChain链 写一篇完美推文?用SequencialChain链接不同的组件
人工智能·python·langchain
曲幽21 小时前
FastAPI实战:打造本地文生图接口,ollama+diffusers让AI绘画更听话
python·fastapi·web·cors·diffusers·lcm·ollama·dreamshaper8·txt2img
老赵全栈实战21 小时前
Pydantic配置管理最佳实践(一)
python
阿尔的代码屋1 天前
[大模型实战 07] 基于 LlamaIndex ReAct 框架手搓全自动博客监控 Agent
人工智能·python
AI探索者2 天前
LangGraph StateGraph 实战:状态机聊天机器人构建指南
python
AI探索者2 天前
LangGraph 入门:构建带记忆功能的天气查询 Agent
python