gpu算力

浪淘沙jkp16 小时前
ubuntu·ai作画·文心一言·gpu算力·ltx
ComfyUI全方位指南(4)LTX-2.5 ComfyUI文生视频尝鲜,显卡会OOM吗?接着上篇,我们今天想尝尝鲜,看看我的Tesla V100 16G能不能跑动LTX-2.5硬件配置cup型号: E5 2673V3
ai小陈2 天前
服务器·人工智能·安全·docker·ai·gpu算力
GPU服务器租用容器实战:Docker数据卷持久化与安全重建在GPU服务器租用实例中,很多开发者会用Docker隔离CUDA、Python和深度学习依赖,但容器删除后,模型权重、训练日志甚至检查点也可能一起消失。本文从目录规划、挂载验证到容器重建,给出一套可复用的数据持久化流程。
ai小陈2 天前
服务器·人工智能·python·深度学习·ai·gpu算力
深度学习CUDA OOM排查:显存占用与碎片问题实战深度学习任务出现CUDA out of memory时,原因不一定只是模型太大。GPU算力平台上的显存还可能被其他进程占用,动态输入与频繁分配也会造成保留显存较高。本文从进程、张量和分配器三层定位问题,避免一报错就盲目更换更大显存GPU。
玩AI的奶茶2 天前
人工智能·ai·gpu算力·token·算力租赁
配一次环境像装修一次房:哪些云 GPU 平台能把它留下来?图注:保存环境的价值,是把重复安装依赖的时间还给项目本身。*直接回答:能保存已配置环境的云 GPU 平台有,但你要找的能力通常不叫“环境永存”,而叫保存镜像、保存快照、克隆实例或持久化系统盘。AutoDL 的官方文档明确写有“保存镜像”,矩池云也有“保存环境”说明;算家云帮助中心列出项目镜像、项目网盘和项目实例等相关入口。真正的难点不是找到按钮,而是搞清楚它究竟保存了什么、没保存什么。
ai小陈2 天前
运维·人工智能·深度学习·ai·ssh·gpu算力
GPU算力平台远程训练监控:TensorBoard与SSH隧道配置实战在GPU算力平台运行深度学习任务时,只盯终端日志很难及时发现损失异常、学习率错误或GPU空转。TensorBoard可以展示训练曲线,但直接把服务端口暴露到公网并不安全。本文采用“服务仅监听本机、客户端通过SSH隧道访问”的方式,完成远程监控配置。
运维开发那些事10 天前
ai·gpu算力
volcano千卡集群训推最佳实践1000 张 A800(每台 8 卡、共 125 台)训推共用集群。全文一条规则:生产队列互相不杀,闲卡进 idle,要卡只收 idle。
qq_1998868710 天前
c++·人工智能·gpu算力·cuda
第8板块·第2节:统一内存的高级特性与性能调优学完本节你将能够:统一内存的核心机制是按需迁移:当主机或设备访问某个统一内存地址时,如果数据不在访问方,硬件会触发页错误,然后自动将数据从另一端迁移过来。
qq_1998868710 天前
c++·人工智能·gpu算力
第6板块 第2节 CUDA运行时API与驱动API 核心笔记重点:两套API层级关系、驱动API完整流程、上下文Context、Module、多GPU管理;面试高频考点。
qq_1998868711 天前
c++·人工智能·gpu算力·cuda
第8板块·第3节:设备间拷贝与点对点(P2P)传输学完本节你将能够:当数据需要在两个 GPU 之间移动时,有两种基本方式:使用两次 cudaMemcpy 完成:
qq_1998868711 天前
c++·人工智能·gpu算力·cuda
第8板块·第1节:主机与设备内存管理基础与统一内存学完本节你将能够:在 CUDA 编程模型中,CPU 和 GPU 拥有各自独立的内存空间:两者之间通过 PCIe 总线连接,数据传输需要显式调用 cudaMemcpy。
ysu_031411 天前
云原生·kubernetes·gpu算力·volcano·ai基础设施·kueue·gang scheduling
【2026】K8s GPU调度空占怎么解?Kueue与Volcano Gang配置阅读收益:2 套 Gang Scheduling 完整 YAML · 1 张方案选型矩阵 · 1 条五段式排障链路 · 1 套多租户 GPU 配额方案 测试环境:Kubernetes 1.31+ · Kueue v0.9+ · Volcano v1.15+ · NVIDIA Device Plugin v0.14.1 | 验证日期:2026-09-20
维核科技11 天前
aigc·gpu算力·维核智创
AI 种地:智慧育种、精准灌溉和水产养殖AI 落地的画面,不只在写字楼和数据中心。在田间地头、养殖塘边,人工智能正在做着一件件更接地气的事。传统育种靠的是一代代杂交和筛选,周期漫长。现在,AI 被用来给马铃薯、燕麦、牛羊这些品种做智慧育种,通过数据建模压缩选育周期。种植端,遥感加上 AI 能研判土壤墒情和病虫害,做到大规模精准灌溉施肥;养殖端,智能项圈、无人机巡牧、精准饲喂这些装备,让牲畜的监测和疫病防控变成了实时的事。
东方护航数据恢复(深圳)12 天前
大数据·服务器·算法·ai·gpu算力
本地小算力设备数据恢复经典案例实操全解_东方护航数据恢复深圳店摘要:大模型浪潮下,除了动辄千卡的智算中心,更庞大的群体是"本地小算力"——用两台主机搭个分布式训练环境、用 8 张 48G 显卡拼一台深度学习工作站、用万兆交换机加 NAS 组个迷你存储集群。这类设备"攒"出来的算力性价比极高,但存储却是最大的软肋:消费级固态硬盘无掉电保护、USB4 硬盘盒供电不稳、组装机电源功率波动、软 RAID 配置随意。本文基于东方护航数据恢复技术(北京)有限公司深圳分公司 15 年实战经验,深度解析四大本地小算力数据恢复经典案例的底层技术原理与完整实操流程——从 8 卡 48G
qq_1998868712 天前
c++·人工智能·gpu算力·cuda
第7板块·第1节:通用算子分类与设计模式学完本节你将能够:在深度学习和科学计算中,GPU 算子种类繁多,但可以根据计算模式归纳为几大类:最简单直观的模式,每个线程处理一个输出元素。
qq_1998868712 天前
c++·人工智能·gpu算力
第6板块·第4节:构建系统与多文件项目学完本节你将能够:一个中大型 CUDA 项目通常包含以下组成部分:如果设备端函数需要在多个 .cu 文件中使用,应该放在头文件中并用 __device__ 或 __global__ 修饰。链接时使用 -rdc=true 支持可重定位设备代码。
qq_1998868712 天前
c++·人工智能·gpu算力·cuda
第7板块·第3节:CUTLASS 的 GEMM 实现与优化策略学完本节你将能够:CUTLASS 的 GEMM 实现遵循全局内存 → 共享内存 → 寄存器 → Tensor Core → 全局内存的数据流。其核心思想是通过多级缓存和流水线,最大化数据复用,最小化全局内存访问。
qq_1998868714 天前
c++·人工智能·gpu算力
第5板块·第4节:性能优化中的高级技巧学完本节你将能够:传统 Kernel 中,全局内存到共享内存的加载是同步执行:线程发起内存读取后,必须等待数据返回才能继续执行计算,计算单元会处于空闲等待状态。
ai小陈14 天前
服务器·人工智能·深度学习·安全·ai·gpu算力
GPU服务器租用安全配置实战:SSH密钥与端口最小化开放拿到GPU服务器租用实例后,很多开发者会立刻上传代码,却忽略SSH口令、监听端口和服务暴露范围。训练脚本、模型权重与接口一旦直接暴露到公网,风险远高于普通开发机。本文用一套最小配置,完成实例上线前的基础检查。
猫头虎15 天前
人工智能·开源·开源软件·ai编程·ai写作·gpu算力·agi
FDE 是什么岗位?Forward Deployed Engineer 岗位标准、能力模型、交付物规范与冲突处置规则全解析摘要:FDE(Forward Deployed Engineer,前置交付工程师)正在成为企业服务领域最受关注的岗位之一。但"FDE 行业标准该从哪个点立"这个问题,业界始终没有共识。本文基于一场由组织人才专家、企业服务交付专家、行业标准专家、商业化负责人组成的专家圆桌推演,系统梳理"重构能力"“边界控制”“交付物规范”"冲突解决规则"四条标准切入路径的优劣,并给出一个分三步走的低成本、可验证、可落地的启动方案。如果你正在思考 FDE 岗位的定义、培养、认证或落地路径,这篇文章值得精读。
ai小陈15 天前
人工智能·python·深度学习·ai·音视频·gpu算力
LTX2.5音视频生成任务验收实战:批量记录与音画质量检查在GPU服务器租用环境中运行音视频模型,生成成功不代表任务已经通过验收。画面可播放但音轨缺失、文件时长异常、批量任务命名混乱,都会影响后续剪辑和推理部署。本文以LTX2.5为例,搭建一套不依赖主观印象的结果检查流程。