2026年上半年GPU算力租赁市场行情分析:一卡难求,价格坚挺

2026年上半年,GPU算力租赁市场没有迎来预期中的降温,反而比2025年底更紧张。核心矛盾也变了:过去是"买不起卡所以租卡",现在是"有钱也未必马上租得到卡"。H100、H200、A100/A800 80G,尤其是带NVLink互联的多卡整机,仍然处在高利用率、高询价、高排队的状态。

据SemiAnalysis追踪,H100一年期租赁合约价格从2025年10月的1.70美元/GPU/小时,一路涨到2026年3月的2.35美元/GPU/小时,涨幅接近40%。要知道H100已经不是最新一代GPU了,按常理新卡上市老卡应该降价,但这次没有。

一、需求端:不只是训练,推理才是大头

这一轮需求爆发,核心驱动力来自两块。一是大模型全面转向行业落地,推理算力需求已经达到训练算力的3到4倍;二是大量传统企业在上半年集体决策入场,IT部门开始批量采购云算力,不再是互联网公司唱独角戏。

从Token调用量能看出需求有多猛。摩根大通跟踪OpenRouter数据显示,2026年6月LLM Token总量环比增长70%,同比增速达到20倍。国内六大模型(DeepSeek、Qwen、Kimi、Z.ai、MiniMax、小米)Token调用总量达66.6T,较5月环比增长70.3%。

需求主要来自四类客户:

  • 大模型和AI应用公司:不只是训练阶段集中租卡,现在需要长期部署推理服务,对H100、H200、A800、H800、4090等各层级GPU形成持续需求;
  • 企业私有化部署客户:金融、制造、医疗、政务等行业出于数据安全和成本考虑,转向租用GPU云主机或专属集群,更看重稳定性和售后,不只是单卡时租;
  • 科研、高校和中小AI团队:价格敏感,偏好按小时、按天、包月的弹性租赁,4090、3090、A100 40G/80G是高频选择;
  • 算力套利和二级资源整合平台:通过自建机房、闲置服务器上云等方式补充供给,但优质多卡资源仍经常排队。

供给端同样吃紧。千卡级GPU采购订单交付周期已延长至2027年,等待时间长达12至15个月。有云服务商通知客户,英伟达B200租赁价格将在2026年10月续约时从每小时2.63美元涨到5.10美元,涨幅约94%。

进入2026年6月,随着Blackwell系列(B200/B300)供给逐步放量,H100的按需(on-demand)现货租赁价格其实出现了阶段性回落,回到每小时2.01至2.53美元区间,低于3月的紧张峰值。但这更像是"代际让位"------H100从最紧俏的顶配卡降级为中端卡,B200/B300接棒成为新的稀缺资源,B200按需均价约5.18美元/小时,B300更高达约9.16美元/小时。换句话说,紧张没有消失,只是转移到了更新的卡型上。

二、二手市场:整机比单卡更值钱

2026年上半年二手市场的一个明显特点是:真正涨价的不是单张卡,而是"能直接投入训练的整机资产"。单卡容易买到,但能稳定跑大模型训练的NVLink多卡服务器,涉及电源、散热、主板、驱动、NCCL通信、机房电力一整套要求,供给天然稀缺。

消费级显卡这边,2026年6月RTX 4090二手价仍徘徊在18000元左右;RTX 5090从发售价1.85万元被炒到二手接近4万元;RTX 5070 Ti等中端卡涨幅达71%,国内渠道报价6999至9000元,比官方定价高出四成以上。

数据中心级GPU涨幅更夸张。受出口管制影响,A100整机服务器在中国市场价格从2025年底约40万元飙升至最高80万元;英伟达DGX B300服务器在中国市场的报价被炒至800万元以上,较半年前的400万元翻倍。海外二手H100服务器(8卡)交易价大约在15万至18万美元区间,二手A100根据SKU和成色不同,价格在7800至18900美元之间。

保值能力也值得一提。据Business Insider援引Silicon Data数据,H100等AI GPU二手折旧速度很慢,第二年翻新H100仍可能卖到原价的85%左右,第三年也接近84%,这在传统IT硬件里几乎是反常识的。

硬件 2026上半年二手价格区间 较此前涨幅
RTX 4090(消费级) 约18000元 高位持稳
RTX 5090(消费级) 发售价1.85万→约4万元 超一倍
A100服务器(中国市场) 40万→最高80万元 约2倍
DGX B300服务器(中国市场) 400万→800万元以上 翻倍
H100服务器8卡(海外) 15万--18万美元 ---
二手A100单卡(海外) 7800--18900美元 ---

内存市场则出现了结构性分化,是这轮"缺芯"叙事里比较特殊的一段插曲。2026年一季度DRAM合约价环比涨幅一度上调至90%至95%,DDR5内存较2025年7月累计涨幅一度冲到300%以上,个别型号涨幅甚至超过400%。但3月下旬开始,消费级DDR5零售端出现回落,部分品牌降价最高达30%左右,德国市场DDR5零售均价环比一度下跌7.2%,是连续8个月上涨后的首次月度下跌。不过这轮回落主要发生在消费级零售端,服务器内存、HBM等AI相关高端内存仍受数据中心需求支撑,价格并未全面转弱------毕竟一台AI服务器的DRAM需求量约是普通服务器的8倍,云厂商对价格并不敏感,上游产能自然优先倾向企业级订单。

三、公有云:贵,但也未必抢得到

大厂公有云的优势是合规、网络、安全和SLA,这些对金融、政企客户来说,往往比单卡价格更重要。但价格确实不便宜,而且高端卡配额申请复杂,不是随时可用。

海外公有云方面,AWS H100 8-GPU实例价格约为每小时55至60美元,Google Cloud约80至90美元,Azure接近每小时98美元;折算到单卡,AWS P5实例约6.88美元/GPU/小时,Azure ND H100 v5约12.29美元/GPU/小时,Oracle Cloud约10美元/GPU/小时。相比之下,Lambda Labs、RunPod等专业算力云的H100按需价格只要每小时2至4美元,价差非常明显。

国内公有云方面,2026年4月18日,阿里云宣布AI算力相关服务产品提价5%至34%不等,百度智能云同步提价5%至30%。H100 GPU一年期租赁价格从2025年10月每小时1.70美元的低点飙升至2026年3月的2.35美元,涨幅接近40%;更高端的H200租金涨到了3.5美元/小时。所有类型GPU按需租赁容量基本售罄,高端卡现货排期已经到2028年。有从业者形容这种感受:"找GPU算力就像在最后一班飞机起飞前订机票------价格奇高,座位几乎没有。"

云服务商 H100 8卡实例/小时 折算单卡/小时
AWS 约55--60美元 约6.88美元(P5)
Google Cloud 约80--90美元 ---
Azure 约98美元 约12.29美元(ND H100 v5)
Oracle Cloud --- 约10美元
专业GPU云(Lambda/RunPod等) --- 约2--4美元

北美四大云厂商(微软、谷歌、亚马逊、Meta)2026年合计资本开支约725亿美元,同比增长77%,谷歌与Meta增幅接近翻倍。这里有个值得单独说的事:2026年7月1日,彭博社率先报道Meta正在筹划一项云基础设施业务,计划对外出售自家闲置的AI算力和模型使用权,随后CNBC也证实了这一消息。消息传出当天Meta股价大涨近9%,但同时CoreWeave、Nebius等专业算力租赁公司股价分别下跌约11%和12%------市场担心的是"Meta都要卖算力了,是不是意味着算力开始过剩"。不过截至发稿,Meta官方并未正式确认细节,这更多还是知情人士透露的规划阶段消息。业内比较主流的解读是,这未必是过剩信号,而是算力从"资本开支承付"走向"商业价值变现"的一个转折点------毕竟Meta 2026年全年资本开支指引高达1250亿至1450亿美元,闲置产能变现是很自然的商业动作。

四、专业垂直算力平台:价格分层明显

跟公有云比,专业垂直算力平台更像一个"GPU资源市场",在价格、开通速度、镜像环境、包月折扣上更灵活。但平台之间的能力差异也在拉大。头部平台胜在资源量和调度系统;中小平台价格更灵活、商务响应快;但也有平台存在卡源不稳、网络质量差、隐性收费的问题。

2026年国内市场出现了明显的价格分层。不少服务商用极低的单卡时租吸引客户,再通过内网带宽、存储扩容、工单服务费、跨节点流量等项目收取隐性费用,算下来全周期支出反而比合规平台高出15%至28%。所以选垂直平台不能只看"每小时多少钱",至少要看四点:能不能持续拿到目标型号、是否支持稳定多卡训练、存储带宽是否另收费、售后能不能处理掉卡和任务中断这类问题。

以RTX 4090为例,各平台时租参考价大致在1.6至2.5元/小时区间,明显低于海外公有云的A100按需价格。

五、云容器与云主机:两条差异化路径

在垂直平台内部,又能细分出云容器和云主机两种模式,以AutoDL和晨涧云为代表,二者上半年表现相对稳健,价格波动不大。

AutoDL是国内最老牌的云容器平台,核心优势是镜像生态丰富,预置图像、语音、视频、大模型等多领域框架镜像,新手10到30分钟就能上手;开发者社区活跃,教程资源多;平台卡量储备超过1万张,调度效率较高。短板也很明显:用户基数太大,高峰期4090"秒空"是常态,"刷不到就要等大半天"是很多用户的日常。从成本角度看,AutoDL适合短期实验和快速验证,长期租用性价比偏低,每日存储超出基础额度还要收0.3元/GB的附加费,挂机久了总支出可能反超其他平台。

晨涧云起步于淘宝算力租赁,主打云主机模式,跟AutoDL的容器模式形成互补:所有显卡都支持Ubuntu和Windows镜像,选择比较丰富;资源相对充裕,大平台"卡荒"时晨涧云往往仍有现货,3090和4090基本不用抢,是AutoDL抢不到时的重要备选;长租折扣力度在同类平台里也比较高,长期用户综合性价比更好;还支持4卡/8卡整机租赁,非切片式虚拟化,算力损耗低。局限是部分高端卡仅支持按天租用,弹性不如小时计费的平台,整体定位更偏中低端卡和长期稳定用卡场景。

对比维度 AutoDL 晨涧云
租赁模式 云容器 云主机
4090参考时租 约1.61--2.50元/小时 约1.80--2.20元/小时
资源紧张程度 高峰期经常秒空 偶尔需要抢
核心优势 镜像丰富、社区活跃 长租折扣大、现货充足
适合场景 短期实验、快速验证 长期稳定用卡、大显存需求

不少用户的实际策略是:先在AutoDL类平台调试模型和环境,跑通之后再迁移到晨涧云这类云主机或专属服务器上长期运行------训练用容器,调试和创作用主机,两者并不是完全替代关系。

六、下半年怎么看

综合来看,2026年上半年的市场关键词就是三个字:紧、贵、分化。

紧,体现在高端卡和多卡整机资源仍然抢手,单卡4090、3090相对好租,但H100/H200/A100 80G整机和高速互联集群依然紧张;贵,体现在租赁价格、二手整机价格和服务器内存成本都在高位,即便部分消费级内存价格回落,也不足以改变AI服务器整体成本高企的局面;分化,则体现在不同平台、不同客户、不同GPU型号走势不一样------公有云贵但服务体系强,垂直平台便宜但能力参差不齐,云容器适合快速实验,云主机适合长期运行。

预计下半年不会简单进入全面降价周期。中端卡和消费级GPU资源可能因平台扩容和竞争加剧保持平稳甚至局部下降,但H100、H200、B200、A100 80G等高端训练资源,尤其是带NVLink和高容量内存的整机资源,价格大概率仍将维持强势。真正可能改变趋势的变量有三个:一是新一代GPU大规模交付;二是大模型推理效率继续提升,降低单位任务的GPU需求;三是国内外专业算力平台扩容后出现阶段性供给过剩。Meta下场卖算力,以及此前SpaceX旗下xAI也传出类似计划,都算是这个方向上比较早的信号。

对普通用户和团队来说,2026年上半年已经证明一件事:算力采购不能只看标价,得看"可用性、稳定性、总成本和任务匹配度"。短期实验选云容器,长期运行选云主机,高端训练最好提前锁定整机和周期------这可能是眼下更稳妥的策略。

相关推荐
字节跳动视频云技术团队11 小时前
Agent 进化论:从对话到协作
人工智能·agent·音视频开发
犀利豆11 小时前
AI in Harness(三)
人工智能·后端
xcLeigh12 小时前
提示词基础:什么是Prompt以及它为何如此重要
人工智能·ai·大模型·prompt·ai写作·提示词
行走的陀螺仪12 小时前
深入理解 Agent Loop(一):从 Agent 爆发到传统 LLM 的局限
人工智能·chatgpt·agent
英姿202612 小时前
敖维标签打印系统满足汽车标签打印
人工智能
IT_陈寒12 小时前
Java的Stream.parallel()把我CPU跑爆了,这种优化要谨慎
前端·人工智能·后端
IvorySQL12 小时前
IvorySQL Agent 探索与实践
数据库·人工智能·postgresql·oracle·ivorysql
谙忆102413 小时前
图片放大为什么会糊?从插值到AI超分,超分辨率技术是怎么演进的
人工智能·计算机视觉
程序员小杰@13 小时前
AI工程与开发生成:DeepMetier如何用AI生成CAD图纸、3D模型、代码和JSON
人工智能
阿黎梨梨13 小时前
Node.js 工程化路上的“路径”与“IO”避坑指南
人工智能