技术栈
深度学习优化
小何code
21 天前
模型压缩
·
知识蒸馏
·
模型量化
·
深度学习优化
·
模型剪枝
人工智能【第47篇】深度学习优化:模型压缩与加速技术
作者的话:随着深度学习模型越来越庞大(GPT-4有万亿级参数),如何在资源受限的设备上部署这些模型成为一个巨大挑战。模型压缩与加速技术能够在保持模型精度的同时,显著减小模型体积和提升推理速度。本文将深入解析这些技术的原理、方法和实战技巧!
gs80140
1 年前
分布式训练
·
deepspeed
·
多机多卡
·
深度学习优化
·
colossal-ai
分布式多机多卡训练全景指南:MPI、DeepSpeed 与 Colossal-AI 深度解析
分布式多机多卡训练技术是深度学习领域提高训练效率和加快模型收敛的重要手段。以下是几个流行的框架和工具:
scdifsn
2 年前
pytorch
·
笔记
·
深度学习
·
深度学习优化
动手学深度学习11.1. 优化和深度学习-笔记&练习(PyTorch)
本节课程地址:72 优化算法【动手学深度学习v2】_哔哩哔哩_bilibili本节教材地址:11.1. 优化和深度学习 — 动手学深度学习 2.0.0 documentation
我是有底线的