pytorch

模型训练工程师必须搞懂的DDP和FSDP当模型大到一张 GPU 装不下、或者数据多到一张卡跑不动的时候，PyTorch 提供了两套分布式训练方案来解决这个问题：DDP（DistributedDataParallel）和 FSDP（FullyShardedDataParallel）。它们都不是独立的框架，而是 PyTorch 内置的分布式训练技术，分别代表了"数据并行"和"参数分片"两种完全不同的思路，也是目前几乎所有大模型训练岗位都会要求熟悉的基本功。

AI-PyTorch（一）基础代码实操和自动求导Anaconda +VSC+PyTorch。VSC我已经有了，只需安装插件，这就不详说了。https://repo.anaconda.com/archive/Anaconda3-2025.12-1-Windows-x86_64.exe

磁场转动100万匹

PyTorch 食物图像分类实战：从数据准备到 CNN 训练全流程解析本文围绕一段完整的 PyTorch 食物图像分类代码展开，逐段讲解从数据集整理、自定义 Dataset、数据预处理、CNN 网络搭建到训练与测试循环的完整流程。代码以食物图片二分类（train/test 目录）为背景，适合初学者理解 PyTorch 图像分类任务的基本套路。

PyTorch梯度累积与裁剪实战：小显存也能稳定训练大批次深度学习项目使用GPU算力平台时，经常出现“批次稍大就显存溢出、批次缩小后训练又不稳定”的矛盾。梯度累积可以用多个小批次模拟大批次，梯度裁剪则能抑制异常更新。本文用PyTorch实现一套可复用的训练流程。

pytorch 适合初学者 0基础学习代码作用：把一个图片文件夹包装成 PyTorch 数据集，让你能查询图片数量，并按编号取出图片标签。class 表示定义一个“类”。

论文复现现场

本地 PyTorch 训练 OOM，第一次租 RTX 4090 云 GPU 怎么迁移项目？从环境检查到 100 Step 跑通很多小型 AI 团队都会遇到类似问题：项目在本地已经能运行，但 12GB 或 16GB 显卡频繁 OOM；想临时租一张 RTX 4090，又担心 CUDA、PyTorch、数据路径和依赖全部需要重配。第一次使用云 GPU，应该从哪里开始？

在Python中使用LSTM和PyTorch进行时间序列预测原文链接：从名称就能知道, 时间序列数据属于一种会随时间产生变化的数据形式, 举例来说, 24小时之内出现的温度情况, 一个月里各类产品的价格状况, 一年之中特定公司的股票价格情形。像长期短期记忆网络也就是LSTM这种高级的深度学习模型, 能够捕捉时间序列数据当中的模式, 所以能够用以对数据未来的趋势做预测。在此文章里, 您会看到怎样运用LSTM算法借助时间序列数据来进行将来的预测。

论文复现现场

单卡RTX 3090能训练，切到4卡却OOM：Accelerate多卡训练怎么排查？单卡训练正常，切换到4卡后出现CUBLAS_STATUS_NOT_INITIALIZED，通常应先检查进程绑定、单卡显存余量和并行策略，而不是直接重装CUDA。

小白说大模型

去AI味提示词大全：25个实用Prompt帮你降低AI率有没有发现，AI 写出来的东西读起来总有一种说不出的「怪」——句子太工整、用词太标准、结构太套路。你明明知道它想表达什么，但就是感觉不像人写的。

PyTorch 内存布局，.view()要合并哪两个维度（比如 B 和 G），这两个维度在内存里就必须“紧挨着”。在实现 Transformer、Deformable DETR 或多头注意力（Multi-Head Attention / MSDA）机制时，我们经常需要把 Batch 维度 (NNN) 和 Head 维度 (GGG) 打平为一个合并的 Batch 轴（N×GN \times GN×G），以便利用底层高效的算子（如 F.grid_sample 或 GEMM 矩阵乘法）进行并行计算。

Pytorch转ONNX详解早先的几个月, 参与了模型转ONNX的那个工作（即 : drcut）, 其主要的目标呢, 是对一些模型予以从到ONNX转换的支持。这几个月就算没有做出什么成果, 不过依旧踩了大量的坑, 在这儿记录下来, 期望能够帮助其他的人。

【从零开始大模型开发与微调:基于PyTorch与ChatGLM】(实战训练自己的ChatGPT从续写模型到对齐助手:RLHF、奖励模型与PPO精读)在2023年年初,OpenAI推出了一种大型语言模型,名为ChatGPT.这个模型最大的特点是可以像聊天机器人一样进行对话.与其他语言模型不同的是,ChatGPT经过微调,能够以对话的方式执行各种任务,比如回答查询、解决编码、制定营销计划、解决数学问题等.用户只需使用电子邮件地址创建OpenAI账户,登录ChatGPT并输入查询,就可以与这个模型进行对话.ChatGPT可以用自然人类语言回答用户的问题,如果回答不满足用户的需求,可以微调输入查询,直到获得预期的结果为止.对于用户来说,ChatGPT是一个非

【HarmonyOS AI】通用文字识别详解通用文字识别，也就是 OCR（Optical Character Recognition，光学字符识别），用来把图片中的文字转换成应用可以处理的文本。例如，一张书页照片经过识别后，里面的内容就能被复制到笔记里；一张包含快递单号的截图，也可以提取出单号，用于查询物流。

CODrone 无人机航拍车辆检测基于 YOLO11-OBB（Oriented Bounding Box，旋转目标检测）的无人机航拍图像车辆要素检测工程。本文档根据工程源码、训练日志（console_print.txt）与数据集结构整理，覆盖数据预处理、模型训练、推理预测与可视化全流程。

PyTorch计算机视觉（9）——变分自编码器（VAE）详解与实现本节介绍用于无监督学习的变分自编码器 (Variational Autoencoder, VAE)，以生成模拟的二次曲线和 MNIST 图像。VAE 模型易于训练，但其生成的图像质量不如生成对抗网络 (Generative Adversarial Network, GAN)。我们已经学习了如何使用 GAN 生成伪造图像，然而，由于模型坍塌等问题，DCGAN 和 cDCGAN 的模型训练仍然具有挑战性。调整初始学习率、学习率调度器和其他超参数以实现成功的模型训练需要很长时间，我们学习了使用 WGAN-GP

PyTorch 手写数字识别学习笔记最近学习了 PyTorch 框架的基础知识，并尝试使用 MNIST 手写数字数据集完成一个简单的图像识别任务。整个过程涉及神经网络结构、激活函数、梯度下降、反向传播、损失函数、数据加载和模型测试等内容。

PyTorch深度学习与实践【04】【迭代周期、autograd、构建计算图、*params参数解包、.grad属性】你拿一个批次 (batch)的数据送入网络前向：算出预测值、算出损失 loss反向：autograd 自动求导算出梯度

AI Infra 配置 Conda + CUDA + LibTorch + PyTorch 开发环境：解决版本漂移、编译报错的完整指南做 CUDA C++ 开发、LibTorch 自定义算子、PyTorch C++ 部署时，由于在conda环境中安装的 CUDAToolkit 安装源不匹配导致后面使用 LibTorch 时一直出现错误，折腾了整整一周才算把问题解决，遂总结以下出现的问题和正确安装过程：

LlmCraft｜大模型工程实践

【PyTorch NLP实战】从零实现 LSTM 酒店评论情感分析（附完整代码逐行讲解）摘要：本文用一个不到 250 行的完整项目，带你走通 NLP 最经典的入门任务——文本情感分类。从中文分词、建词表、文本转数字序列，到 Embedding + LSTM 建模、训练、评估、预测，全流程逐行讲解。学完这篇，你就拥有了文本分类任务的通用骨架。

HarmonyOS ArkGraphics 2D 自定义字体实操：注册字体并验证中文回退这篇做一个字体实验室：把 OTF 字体放进 rawfile，注册成 InterDisplay，再用 TextStyle.fontFamilies 切换自定义字体、系统字体和中英混排回退链。先看真机动态效果，再看实现。