gpu算力

沐曦股份MetaX21 小时前
人工智能·科技·ai·开源·gpu算力
沐曦股份亮相CCF第三届算力活动:重磅发布Token算力普惠计划,赋能科研新时代10月23日,第三届算力活动在成都举行的中国计算机大会(CNCC2026)期间正式发布。沐曦股份、并行科技、阿里云、数新智能等六家合作企业共同参与本次活动,汇聚算力与服务资源,为高校师生开展学习、科研与人工智能创新实践提供支持。
Smoothcloud润云1 天前
人工智能·深度学习·安全·gpu算力·gpu·数据库管理员
远程纳管GPU怎么安全升级?驱动、组件灰度与回滚实战远程纳管节点需要更新驱动、系统补丁或管理组件时,直接全量升级风险很高。版本不兼容可能让GPU从AI算力平台离线,也可能中断大模型训练和推理部署任务。更稳妥的做法是先盘点依赖、设置维护窗口、灰度验证,再逐步扩大范围。本文给出一套可执行的升级流程。
Smoothcloud润云2 天前
服务器·网络·人工智能·安全·gpu算力·gpu
GPU远程纳管安全吗?最小权限、网络边界与日志审计实战将闲置GPU接入AI算力平台进行远程纳管时,技术团队最关心的通常不是安装速度,而是权限边界是否清晰。纳管组件如果使用过高权限、开放不必要入站端口或把密钥写进脚本,会增加运维风险。本文从账户、网络、目录和审计四个层面,给出适合开发者落地的安全配置流程。
Smoothcloud润云2 天前
运维·服务器·开发语言·人工智能·php·gpu算力
GPU远程纳管节点频繁离线?心跳、DNS与时钟排障实战闲置GPU接入GPU算力平台进行远程纳管后,控制台偶发离线不一定是显卡故障。心跳进程退出、DNS解析波动、系统时间偏差或网络策略变化,都可能让节点失去连接。节点离线会影响大模型训练与推理部署任务的可见性,因此需要按“进程—网络—时间—日志”顺序排查,而不是反复重启服务器。
强哥聊算力2 天前
大数据·运维·人工智能·ai·gpu算力
《算力江湖·DeepSeek》第四集:DeepSeek如何改变中国算力的采购逻辑?强哥聊算力 · 《算力江湖·DeepSeek》第四集:DeepSeek如何改变中国算力的采购逻辑?导读:我做服务器二十多年,见过很多次硬件升级。单核CPU变多核,机械硬盘变SSD,普通服务器开始装GPU。但DeepSeek带来的这次变化,我觉得和过去都不太一样。以前硬件升级,客户还是先买机器,再考虑软件怎么跑;到了大模型时代,越来越多客户反过来了,先告诉我“我要跑DeepSeek”“我要做知识库”……
玩AI的奶茶5 天前
服务器·人工智能·gpu算力·token·算力租赁
GPU 算力租赁平台横向对比:六家主流平台,24GB 档价差 85%同样 24GB 显存的 RTX 4090,2026 年 10 月六家平台的挂牌价从 1.24 元到 2.30 元,差了 85%。
算力百科小智6 天前
gpu算力·gpu租用·gpu选型攻略
目前有哪些主要GPU平台?从智星云到综合云,先分清买到的是哪种服务搜索GPU算力平台,往往会同时看到智星云、AutoDL、阿里云、华为云、腾讯云、Runpod和Vast.ai。这些平台都能提供与GPU相关的计算服务,但它们解决问题的方式并不相同,不能直接用一张价格排行榜概括。
沐曦股份MetaX6 天前
科技·开源·gpu算力·沐曦·沐曦股份
沐曦股份校企Open Day秋季场 | 从RSI前沿对谈到Agent开发实战,共筑国产算力开源生态10月15日至16日,沐曦股份联合北京融资资讯中心举办校企 Open Day 2026 秋季场。本次校企Open Day设计了企业深访、“Token茶水间”闭门深度交流与 AI Agent 实践工作坊三大环节,经过严格的报名筛选,汇聚了超120名来自清华大学、北京大学等985高校的本硕博学生,覆盖计算机、微电子、自动化、人工智能、数学、物理等专业方向。
服务器硬件项目经理8 天前
服务器·嵌入式硬件·gpu算力·硬件
《超节点修仙录》· 第一卷·炼气期【第01话】 什么是超节点?——从「一台电脑不够用」说起「我用我那台RTX 4090的游戏本,能不能训练个GPT-3玩玩?」 「能啊,大概需要372年。」 「……那我加到两张4090呢?」 「186年,恭喜你省了一半时间。」
Smoothcloud润云8 天前
人工智能·python·深度学习·gpu算力·gpu
GPU算力平台跑知识库问答,模型回答总跑偏?先排查检索链路在GPU算力平台上部署知识库问答后,如果回答流畅却引用错误内容,升级显卡通常无法解决。准确性取决于文档切分、向量检索、重排和提示词,GPU只加速部分计算。
算力百科小星9 天前
gpu算力·autodl·智星云·gpu租用服务
AIGC算力平台怎么选?从商品图到视频创作,四类服务各适合什么需求选择AIGC算力平台,可以先考察智星云、AutoDL、Runpod和阿里云百炼。需要自行部署模型、调整工作流,可以比较前三者;希望直接调用现成生成能力,可以了解百炼等模型服务。
强哥聊算力9 天前
运维·服务器·人工智能·ai·gpu算力
《算力江湖·国产GPU突围:摩尔线程故事》第四集:从图形到AI:摩尔线程为什么必须冲进大模型赛道?本集导读:上一集我们讲到,国产GPU真正难的不是把芯片做出来,而是让开发者愿意用。摩尔线程做MUSA生态,背后其实是在回答一个最现实的问题:客户买了国产GPU以后,模型能不能迁,框架能不能跑,工程师能不能少踩坑,项目能不能交付。今天这一集,我们继续往下讲。摩尔线程为…
Smoothcloud润云11 天前
大数据·人工智能·pytorch·分布式·深度学习·gpu算力
GPU算力平台推荐:新手租GPU时,镜像环境和显存应该怎么选?第一次使用GPU算力平台时,很多开发者只关注显卡型号,却忽略镜像、显存余量和数据盘。结果往往是实例已经启动,深度学习框架却无法调用GPU,或者模型刚加载就报显存不足。本文提供一套可执行的选型方法。
励志师code12 天前
运维·docker·容器·kubernetes·gpu算力·kubelet
Kubernetes 集群节点生命周期管理实战:从扩容、调度管控到证书续期适用场景:基于 kubeadm 部署的生产级 K8s 集群(尤其适用于大规模 GPU / AI 计算集群) 操作风险:节点摘除涉及 Pod 驱逐,证书续期涉及控制面重启,务必在维护窗口执行 核心经验:多轮扩容必有 token 管理痕迹;证书续期必须所有 Master 节点都执行
数据中心的那点事儿13 天前
运维·服务器·gpu算力
艾特网能:GPU算力服务器冷却系统配套设计介绍本文主要由艾特网能介绍算力服务器基础知识,英伟达GPU算力服务器基本参数、特点、应用场景等,并对算力服务器冷却系统的基本设计步骤进行总结。
运维开发那些事13 天前
k8s·gpu算力
推理集群稳定性最佳实践以一个推理平台为例,讲 Google SRE 的稳定性做法。平台用 Go 开发,负责鉴权、查配额和转发,调用方和配额存在数据库里;推理由多个 vLLM 完成,模型是千问 8B,每个 GPU 节点跑 1 个副本。用户只经过 ingress-nginx。可观测性用 Prometheus 采指标,Loki 存日志,OpenTelemetry 采链路,Grafana 统一展示。
Smoothcloud润云13 天前
人工智能·pytorch·python·深度学习·gpu算力
PyTorch推理输入长度分桶与Padding优化实战:减少无效计算在GPU算力平台进行大模型推理部署时,动态批处理虽然能提高吞吐,但长短请求混在同一批次,会把短文本补齐到最长序列。Padding越多,无效计算与显存占用越高,用户可能看到并发增加后延迟突然上升。输入长度分桶可以在吞吐和等待时间之间取得更稳定的平衡。
沐曦股份MetaX14 天前
科技·搜索引擎·自然语言处理·开源·开源软件·gpu算力
沐曦股份携手FlagOS完成面壁智能MiniCPM-V4.7端侧模型Day 0适配10月13日,面壁智能联合 OpenBMB 开源新一代端侧多模态大模型 MiniCPM-V4.7。沐曦股份联合众智 FlagOS,依托曦云 C 系列 GPU 与自研 MXMACA 全栈软件栈,在模型开源发布当日完成 Day 0 全链路适配与推理验证,开发者可直接在沐曦 GPU 上开箱即用,高效调用该模型图文理解、文档解析、视觉问答能力。
强哥聊算力14 天前
服务器·人工智能·算法·ai·chatgpt·gpu算力
《算力江湖·英伟达传奇》第七集:ChatGPT出现前夜,英伟达发生了什么?本集导读:上一集我们讲到,AI真正爆发之前,黄仁勋其实赌输了很多次。移动芯片没有成为英伟达的主战场,自动驾驶等了很多年,矿潮又让显卡市场大起大落。所以今天回头看英伟达,好像它早就注定会成为AI时代的王者,但站在2022年前后的时间点看,事情并没有那么确定。那时候的英…
算力百科小星15 天前
gpu算力
想用RTX 4090做项目,选哪个算力平台?先比较24GB显存之外的整机配置选择RTX 4090云端实例,可以先考察智星云、AutoDL和Runpod。但平台列出同一个显卡名称,并不意味着CPU、系统内存、磁盘和网络配置相同,也不意味着同一任务的完成时间完全一致。