深度学习的计算环境

目录

1.深度学习的计算环境

1.1.深度学习依赖GPU的原因

1.2.深度学习环境的安装

2.算力租用平台

[3.VSCode连接SSH Server的开发模式](#3.VSCode连接SSH Server的开发模式)


1.深度学习的计算环境

1.1.深度学习依赖GPU的原因

4090实际是消费型玩游戏的显卡,不是专门用来做科学计算的显卡,主要区别在于通信带宽比较差,影响计算速度,很多时间通信带宽消耗的时间可能比计算机进行计算的时间还要长。很多大模型的优化是在减少通信次数,就能显著提高计算速度。

1.2.深度学习环境的安装

一般深度学习是基于英伟达的CUDA,但deepseek刚开源的模型底层是绕过了英伟达的CUDA的,实现复杂度高很多。主要目的可能是为了防止美国卡脖子。

PyTorch核心的算子一般都是基于C实现的。

https://pytorch.org/get-started/previous-versions/https://pytorch.org/get-started/previous-versions/

https://www.nvidia.cn/drivers/lookup/https://www.nvidia.cn/drivers/lookup/

https://blog.csdn.net/Blackoutdragon/article/details/130233562https://blog.csdn.net/Blackoutdragon/article/details/130233562

https://pytorch.org/https://pytorch.org/

2.算力租用平台

平台地址:https://www.autodl.com/https://www.autodl.com/login

3.VSCode连接SSH Server的开发模式

相关推荐
QYR-分析2 分钟前
高端精密制造赋能,管材旋锻机行业市场格局、痛点趋势与发展研判
人工智能·制造
Hody912 分钟前
【XR硬件介绍】苹果N50智能眼镜技术解读:Vision Pro让位之后,“无屏AI眼镜”凭什么接棒
人工智能·xr
kaixin_啊啊4 分钟前
PandaWiki 本地 AI 知识库实战:文档导入、智能问答与远程访问
linux·服务器·人工智能·windows·ai
海宇数据6 分钟前
零信任架构实战:基于海宇运营商近3个月平均账单构建自动化分布式租赁网关
人工智能·分布式·架构·自动化
2601_967935566 分钟前
PCB制造检测机器视觉系统哪个牌子好?五大品牌能力解析
人工智能·microsoft
Elastic 中国社区官方博客12 分钟前
Elasticsearch:ES|QL 搜索教程
大数据·数据库·人工智能·sql·elasticsearch·搜索引擎·全文检索
程序员于老七17 分钟前
漫话大模型:训练效率翻倍的秘密——Muon 优化器凭什么干翻 AdamW
深度学习·大模型·ai编程·优化器·muon
程序员柒叔18 分钟前
Dify -- 定时任务系统
人工智能·github·agent·dify·rag
嘉立创FPC苗工20 分钟前
软硬共生:FPC与机器人的双向赋能,解锁智能装备进化新势能
人工智能·机器人·制造·fpc·电路板
MicrosoftReactor22 分钟前
技术速递|解码 AI 新术语:Loops、Harnesses、Squads、Hill Climbing……到底都是什么?
人工智能·agent·harness