PyTorch项目源码学习(1)

PyTorch

PyTorch是一个开源的深度学习框架,项目地址 https://github.com/pytorch/pytorch 在学术工作中的使用频率较高。其主体由C++开发,PyTorch是Torch的Python调用版本。学习PyTorch项目源代码的目的在于学习其中的实现方法与技巧,增加训练优化经验以及丰富设计思路。

资料整理

目前网上相关的资料较少(或者说信息空间大都被Pytorch应用相关文章挤占),目前主要进行相关研究文章的搜集整合,对项目进行自上而下的学习

前人文章
复制代码
腾讯工程师整理
https://zhuanlan.zhihu.com/p/598044604

知乎用户整理
https://www.zhihu.com/column/c_1556947351318720512

简书用户整理
https://www.jianshu.com/p/e3bf5f4dfd93

推理框架原理文章
https://zhuanlan.zhihu.com/p/654499244
官方相关资料
复制代码
设计思想
https://pytorch.org/docs/master/community/design.html

项目贡献者Guide
https://pytorch.org/docs/master/community/contribution_guide.html

官方文档
https://pytorch.org/docs/stable/index.html

官方目录介绍
https://github.com/pytorch/pytorch/blob/main/CONTRIBUTING.md#codebase-structure
原理相关图书
复制代码
鱼书深度学习两本,斋藤康毅著
深度学习入门:基于Python的理论与实现
深度学习入门2:自制框架

国内框架原理图书
用Python实现深度学习框架 张觉非 陈震 著
相关工具
复制代码
pybind 将c++与python链接 https://github.com/pybind/pybind11

CUDA 并行编程 https://docs.nvidia.com/cudnn/index.html
相关推荐
Dawson Zhu15 小时前
Agent自我纠错死循环:从原理剖析到工程化防御体系构建
人工智能·语言模型·架构·aigc
ZJU_统一阿萨姆15 小时前
【算子开发】卷积算子基础实现与优化
人工智能·语言模型
Justin3go15 小时前
DeepSeek Harness 如何做到 99% 缓存命中率(原理详解)
人工智能·开源·agent·deepseek
luckystar513~15 小时前
自己动手写Agent Harness【hooks】:生命周期钩子实现
人工智能
weixin_4402132915 小时前
BERT预训练原理详解:MLM掩码预测 + NSP句子预测
深度学习·自然语言处理·掩码·bert预训练
fightcrap15 小时前
DeepSeek Harness:Cordis 插件树与 Agent 主链路
人工智能·后端·程序员
for_ever_love__15 小时前
PySpark学习: 数据输出
开发语言·python·学习·spark
呆萌很15 小时前
Sigmoid 与 Tanh 激活函数(S 型饱和激活函数)
人工智能·深度学习·机器学习
leeyi15 小时前
MultiAgent Host 源码 + ADK prebuilt 三种预制模式(第92篇-E78)
人工智能·aigc·agent
前沿在线15 小时前
WRC2026丨当机器开始理解人的意图,人机交互走向更多场景
人工智能·ai·大模型