Torch 加速

loss.item()

  1. 费时
python 复制代码
loss.backward()
loss_item = loss.item()  # todo loss.item() 这个比较费时间  0.2743 秒
  1. 省时
python 复制代码
loss_item = loss.item()   #todo 把它 移到 loss.backward() 前面,这个操作只需要 0.00027 秒
loss.backward()

Index

python 复制代码
d_inv[torch.isinf(d_inv)] = 0.0  # todo 这个超级费时间 大约 0.04秒

Top-k 替换 argsort

python 复制代码
torch.argsort(pc1_sampling_confidence, dim=-1, descending=True)[:, :64] # 费时
torch.topk(pc1_sampling_confidence, 64, dim=-1) # 省时

申明对象

python 复制代码
torch.arange(B, dtype=torch.long, device="cuda") # 省时
torch.arange(B, dtype=torch.long).to("cuda")  # 费时

A.to("cuda") 与 A.cuda() 是一样的时间
相关推荐
imbackneverdie几秒前
撰写系统性综述/叙述性综述,如何搭建清晰的领域发展脉络?
大数据·人工智能·aigc·论文·科研·ai写作·学术
CCYe、6 分钟前
企业内训知识助手:怎么搭才不踩坑
人工智能
2601_963282777 分钟前
寒地专网通信实战:对讲机技术选型、组网优化与东北多行业落地全指南
大数据·数据库·人工智能
广凌股份(广凌科技)14 分钟前
广凌智慧大内控一体化平台:告别纸上内控,把握真实运行状态
大数据·人工智能
Zldaisy3d14 分钟前
船舶与海工增材制造市场迎来规范化新阶段!中国船级社新指南9月1日生效
人工智能
ZhouDevin15 分钟前
算法论文/模型微调1——CNN架构做lora微调训练
人工智能·深度学习·算法·架构·cnn
ZGi.ai16 分钟前
ZGI Runtime:切换模型后 Agent 为什么失效?
人工智能·aiagent·企业ai·模型切换·zgi·agentruntime
YH552698422 分钟前
有什么AI工具能将网课和视频播客的内容转化成文档?
人工智能·音视频
你最豪士23 分钟前
效率黑洞:被渲染进度条偷走的时间
人工智能
额恩6627 分钟前
NLP五类核心任务:归纳总结与详细讲解
人工智能·自然语言处理