深度学习的计算环境

目录

1.深度学习的计算环境

1.1.深度学习依赖GPU的原因

1.2.深度学习环境的安装

2.算力租用平台

[3.VSCode连接SSH Server的开发模式](#3.VSCode连接SSH Server的开发模式)

---

1.深度学习的计算环境

1.1.深度学习依赖GPU的原因

4090实际是消费型玩游戏的显卡，不是专门用来做科学计算的显卡，主要区别在于通信带宽比较差，影响计算速度，很多时间通信带宽消耗的时间可能比计算机进行计算的时间还要长。很多大模型的优化是在减少通信次数，就能显著提高计算速度。

1.2.深度学习环境的安装

一般深度学习是基于英伟达的CUDA，但deepseek刚开源的模型底层是绕过了英伟达的CUDA的，实现复杂度高很多。主要目的可能是为了防止美国卡脖子。

PyTorch核心的算子一般都是基于C实现的。

https://pytorch.org/get-started/previous-versions/https://pytorch.org/get-started/previous-versions/

https://www.nvidia.cn/drivers/lookup/https://www.nvidia.cn/drivers/lookup/

https://blog.csdn.net/Blackoutdragon/article/details/130233562https://blog.csdn.net/Blackoutdragon/article/details/130233562

https://pytorch.org/https://pytorch.org/

2.算力租用平台

平台地址：https://www.autodl.com/https://www.autodl.com/login

3.VSCode连接SSH Server的开发模式