gpu

Smoothcloud润云

远程纳管GPU怎么安全升级？驱动、组件灰度与回滚实战远程纳管节点需要更新驱动、系统补丁或管理组件时，直接全量升级风险很高。版本不兼容可能让GPU从AI算力平台离线，也可能中断大模型训练和推理部署任务。更稳妥的做法是先盘点依赖、设置维护窗口、灰度验证，再逐步扩大范围。本文给出一套可执行的升级流程。

KVM显卡直通实战_RTX4090分时复用作者：杨显钊版本： 1.0 日期： 2026年10月27日标签： KVM、GPU直通、VFIO、IOMMU、libvirt、NVIDIA、虚拟化适合人群：虚拟化运维、AI 环境搭建、Linux 系统工程师

从 huggingFace 下载大模型命令备忘假设是为2张 2080Ti显卡（11GB/GPU）下载一个10GB左右的模型需要hf的tokenCUDA_VISIBLE_DEVICES=0,1 python3 -m sglang.launch_server –model-path /data/models/Qwen2.5-14B-Instruct-AWQ –tp 2 –dtype float16 –host 0.0.0.0 –port 30000 –context-length 8192 –mem-fraction-static 0.80

Smoothcloud润云

GPU远程纳管安全吗？最小权限、网络边界与日志审计实战将闲置GPU接入AI算力平台进行远程纳管时，技术团队最关心的通常不是安装速度，而是权限边界是否清晰。纳管组件如果使用过高权限、开放不必要入站端口或把密钥写进脚本，会增加运维风险。本文从账户、网络、目录和审计四个层面，给出适合开发者落地的安全配置流程。

从推理到训练：Intel Ultra 核显 GPU 加速 YOLO 模型训练在本专栏的前面文章中，介绍了使用 OpenVINO 在 Intel Ultra 处理器的 CPU、NPU、核显 GPU 上加速 YOLO12 模型的推理：

墨抒颖 msy.plus

矩阵、注意力与 GPU：拆解 DeepGEMM 与 FlashMLALLM 推理的时间几乎都花在矩阵乘上。一层 Transformer 里，Q/K/V/O 四个投影是四个 GEMM，MLP 的两个线性层是两个 GEMM，注意力本身还是两个 GEMM。一个 token 走完一层，绝大多数 FLOPs 都在做 C = A × B C = A \times B C=A×B。

本地化文档

cutile-rs-book-l10n🎉 cutile-rs-book-l10n 已发布！🚀 预览翻译：https://projects.localizethedocs.org/cutile-rs-book-l10n

IB Specification Vol 1 Chapter 3 体系结构与 rdma-core-2410mlnx54 实现关联分析分析对象：IB Spec Chapter 3 从宏观上定义了 InfiniBand 架构的：在 rdma-core-2410mlnx54 中，这些概念主要分布在：

全文 - 第03章 - 架构概述 - InfiniBand Specification release 1.4本章自上而下地描述了 InfiniBand 架构（IBA）的特性、功能、组件和要素，并阐述了各种操作原理。这是一个高层次的概述，旨在作为指导性内容，因此为清晰起见，某些细节被有意省略。

全文 - 第01章 - 简介 - InfiniBand Specification release 1.4「译注：本章适合浏览，不需要精读」本文档是 InfiniBand 架构规范的第一卷。它是描述该架构的一系列文档中的第一份。

关于 doca_gpu_dev_verbs_fence_acquire 的一些分析文件: fence_acquire_test.cu 内容概要:参数说明:参数说明:关于 -arch 与 -code 的区别:

探索云原生

Ascend vNPU 实战：从原生 Docker 到 Ascend Docker Runtime本文以 Ascend 310P3（Atlas 300I Pro）为例，介绍昇腾 NPU vNPU 的基本使用方法。内容包括从原生 Docker 开始，演示手动创建 vNPU 并挂载到容器，以及 Ascend Docker Runtime 下的静态挂载和动态虚拟化。

Smoothcloud润云

GPU算力平台跑知识库问答，模型回答总跑偏？先排查检索链路在GPU算力平台上部署知识库问答后，如果回答流畅却引用错误内容，升级显卡通常无法解决。准确性取决于文档切分、向量检索、重排和提示词，GPU只加速部分计算。

拆解 Meta Prometheus 网络：20,736 张 GPU 如何互联？4 个设计取舍值得关注Meta 的 Prometheus AI 超级集群把数万张 GPU 连接在一起，网络设计需要同时应对高带宽、低时延、长距离传输和故障恢复等挑战。

云原生分布式训练怎么调度才不浪费算力？CubeStudio 分布式训练与加速架构解析（CRD+Operator / gang 调度 / 亲和反亲和 / GPU 利用率 / 共享 GPU）CubeStudio 是一款国产化、云原生的一站式开源人工智能平台，同时覆盖传统机器学习、深度学习与大模型全链路（MLOps / MaaS / 算力调度 / 训推平台），开源协议 MIT，开源免费商用，开源版本已有数千家企业私有化部署。平台提供多租户与算力纳管调度、算力租赁与 Token 中转站、拖拉拽 Pipeline 任务流编排、多机多卡分布式训练、超参搜索、推理服务、vGPU 虚拟化、云边端协同与边缘计算、图文音多模态自动化标注、大模型 SFT 微调 / 奖励模型 / 强化学习训练、vLLM / O

星核0penstarry

## 一、为什么 Spark UDF 越来越成为瓶颈企业级数据应用的负载在快速膨胀。一边是业务侧需要更频繁、更复杂的查询；另一边是智能体类应用的崛起，让数据被反复读取、拼接、聚合，处理量远高于以往。

国产 AI 卡推理引擎工程对标调研（C++ CUDA + TensorRT → 国产栈）调研日期：2026-10-15　|　视角：C++ CUDA + TensorRT，含自定义 TensorRT Plugin 与自定义预处理/后处理 CUDA Kernel，YOLOv5/v8 在线检测，多路视频 + 大 batch

# Chiplet GPU 的 CP 建模：gem5 AMDGPU 分析、MI250X 驱动详解与建模路径代码证据来源：gem5 这么做的原因：目标是跑通 ROCm 应用，瓶颈在 CU 执行，CP 只负责启动/收尾；且 CP 固件闭源，无法精确建模。想做"较为精细的 CP 建模"，gem5 给不了现成的，但它是各选项中最适合自研扩展的底座——前提是把建模粒度定在"队列/包处理时序"而非"CP 固件执行"（后者因闭源在任何平台都做不到）。

AMD Infinity Fabric 中 Data Fabric 的结构与全互联实现关键词：Scalable Data Fabric (SDF)、CAKE、IFOP、IFIS/xGMI、GMI、全互联 mesh、中心交换适用范围：Zen 1 ~ Zen 4 (EPYC) 及 Instinct MI300 系列 GPU

全文 - Learning Exact NVIDIA SASS Encoders with [特殊字符]₂ Linear Algebra作者：Jiading Gai（独立研究者，通信邮箱：jiading.gai@gmail.com）代码：https://github.com/JiadingGai/f2asm