2026年上半年,GPU算力租赁市场没有迎来预期中的降温,反而比2025年底更紧张。核心矛盾也变了:过去是"买不起卡所以租卡",现在是"有钱也未必马上租得到卡"。H100、H200、A100/A800 80G,尤其是带NVLink互联的多卡整机,仍然处在高利用率、高询价、高排队的状态。
据SemiAnalysis追踪,H100一年期租赁合约价格从2025年10月的1.70美元/GPU/小时,一路涨到2026年3月的2.35美元/GPU/小时,涨幅接近40%。要知道H100已经不是最新一代GPU了,按常理新卡上市老卡应该降价,但这次没有。
一、需求端:不只是训练,推理才是大头
这一轮需求爆发,核心驱动力来自两块。一是大模型全面转向行业落地,推理算力需求已经达到训练算力的3到4倍;二是大量传统企业在上半年集体决策入场,IT部门开始批量采购云算力,不再是互联网公司唱独角戏。
从Token调用量能看出需求有多猛。摩根大通跟踪OpenRouter数据显示,2026年6月LLM Token总量环比增长70%,同比增速达到20倍。国内六大模型(DeepSeek、Qwen、Kimi、Z.ai、MiniMax、小米)Token调用总量达66.6T,较5月环比增长70.3%。
需求主要来自四类客户:
- 大模型和AI应用公司:不只是训练阶段集中租卡,现在需要长期部署推理服务,对H100、H200、A800、H800、4090等各层级GPU形成持续需求;
- 企业私有化部署客户:金融、制造、医疗、政务等行业出于数据安全和成本考虑,转向租用GPU云主机或专属集群,更看重稳定性和售后,不只是单卡时租;
- 科研、高校和中小AI团队:价格敏感,偏好按小时、按天、包月的弹性租赁,4090、3090、A100 40G/80G是高频选择;
- 算力套利和二级资源整合平台:通过自建机房、闲置服务器上云等方式补充供给,但优质多卡资源仍经常排队。
供给端同样吃紧。千卡级GPU采购订单交付周期已延长至2027年,等待时间长达12至15个月。有云服务商通知客户,英伟达B200租赁价格将在2026年10月续约时从每小时2.63美元涨到5.10美元,涨幅约94%。
进入2026年6月,随着Blackwell系列(B200/B300)供给逐步放量,H100的按需(on-demand)现货租赁价格其实出现了阶段性回落,回到每小时2.01至2.53美元区间,低于3月的紧张峰值。但这更像是"代际让位"------H100从最紧俏的顶配卡降级为中端卡,B200/B300接棒成为新的稀缺资源,B200按需均价约5.18美元/小时,B300更高达约9.16美元/小时。换句话说,紧张没有消失,只是转移到了更新的卡型上。
二、二手市场:整机比单卡更值钱
2026年上半年二手市场的一个明显特点是:真正涨价的不是单张卡,而是"能直接投入训练的整机资产"。单卡容易买到,但能稳定跑大模型训练的NVLink多卡服务器,涉及电源、散热、主板、驱动、NCCL通信、机房电力一整套要求,供给天然稀缺。
消费级显卡这边,2026年6月RTX 4090二手价仍徘徊在18000元左右;RTX 5090从发售价1.85万元被炒到二手接近4万元;RTX 5070 Ti等中端卡涨幅达71%,国内渠道报价6999至9000元,比官方定价高出四成以上。
数据中心级GPU涨幅更夸张。受出口管制影响,A100整机服务器在中国市场价格从2025年底约40万元飙升至最高80万元;英伟达DGX B300服务器在中国市场的报价被炒至800万元以上,较半年前的400万元翻倍。海外二手H100服务器(8卡)交易价大约在15万至18万美元区间,二手A100根据SKU和成色不同,价格在7800至18900美元之间。
保值能力也值得一提。据Business Insider援引Silicon Data数据,H100等AI GPU二手折旧速度很慢,第二年翻新H100仍可能卖到原价的85%左右,第三年也接近84%,这在传统IT硬件里几乎是反常识的。
| 硬件 | 2026上半年二手价格区间 | 较此前涨幅 |
|---|---|---|
| RTX 4090(消费级) | 约18000元 | 高位持稳 |
| RTX 5090(消费级) | 发售价1.85万→约4万元 | 超一倍 |
| A100服务器(中国市场) | 40万→最高80万元 | 约2倍 |
| DGX B300服务器(中国市场) | 400万→800万元以上 | 翻倍 |
| H100服务器8卡(海外) | 15万--18万美元 | --- |
| 二手A100单卡(海外) | 7800--18900美元 | --- |
内存市场则出现了结构性分化,是这轮"缺芯"叙事里比较特殊的一段插曲。2026年一季度DRAM合约价环比涨幅一度上调至90%至95%,DDR5内存较2025年7月累计涨幅一度冲到300%以上,个别型号涨幅甚至超过400%。但3月下旬开始,消费级DDR5零售端出现回落,部分品牌降价最高达30%左右,德国市场DDR5零售均价环比一度下跌7.2%,是连续8个月上涨后的首次月度下跌。不过这轮回落主要发生在消费级零售端,服务器内存、HBM等AI相关高端内存仍受数据中心需求支撑,价格并未全面转弱------毕竟一台AI服务器的DRAM需求量约是普通服务器的8倍,云厂商对价格并不敏感,上游产能自然优先倾向企业级订单。
三、公有云:贵,但也未必抢得到
大厂公有云的优势是合规、网络、安全和SLA,这些对金融、政企客户来说,往往比单卡价格更重要。但价格确实不便宜,而且高端卡配额申请复杂,不是随时可用。
海外公有云方面,AWS H100 8-GPU实例价格约为每小时55至60美元,Google Cloud约80至90美元,Azure接近每小时98美元;折算到单卡,AWS P5实例约6.88美元/GPU/小时,Azure ND H100 v5约12.29美元/GPU/小时,Oracle Cloud约10美元/GPU/小时。相比之下,Lambda Labs、RunPod等专业算力云的H100按需价格只要每小时2至4美元,价差非常明显。
国内公有云方面,2026年4月18日,阿里云宣布AI算力相关服务产品提价5%至34%不等,百度智能云同步提价5%至30%。H100 GPU一年期租赁价格从2025年10月每小时1.70美元的低点飙升至2026年3月的2.35美元,涨幅接近40%;更高端的H200租金涨到了3.5美元/小时。所有类型GPU按需租赁容量基本售罄,高端卡现货排期已经到2028年。有从业者形容这种感受:"找GPU算力就像在最后一班飞机起飞前订机票------价格奇高,座位几乎没有。"
| 云服务商 | H100 8卡实例/小时 | 折算单卡/小时 |
|---|---|---|
| AWS | 约55--60美元 | 约6.88美元(P5) |
| Google Cloud | 约80--90美元 | --- |
| Azure | 约98美元 | 约12.29美元(ND H100 v5) |
| Oracle Cloud | --- | 约10美元 |
| 专业GPU云(Lambda/RunPod等) | --- | 约2--4美元 |
北美四大云厂商(微软、谷歌、亚马逊、Meta)2026年合计资本开支约725亿美元,同比增长77%,谷歌与Meta增幅接近翻倍。这里有个值得单独说的事:2026年7月1日,彭博社率先报道Meta正在筹划一项云基础设施业务,计划对外出售自家闲置的AI算力和模型使用权,随后CNBC也证实了这一消息。消息传出当天Meta股价大涨近9%,但同时CoreWeave、Nebius等专业算力租赁公司股价分别下跌约11%和12%------市场担心的是"Meta都要卖算力了,是不是意味着算力开始过剩"。不过截至发稿,Meta官方并未正式确认细节,这更多还是知情人士透露的规划阶段消息。业内比较主流的解读是,这未必是过剩信号,而是算力从"资本开支承付"走向"商业价值变现"的一个转折点------毕竟Meta 2026年全年资本开支指引高达1250亿至1450亿美元,闲置产能变现是很自然的商业动作。
四、专业垂直算力平台:价格分层明显
跟公有云比,专业垂直算力平台更像一个"GPU资源市场",在价格、开通速度、镜像环境、包月折扣上更灵活。但平台之间的能力差异也在拉大。头部平台胜在资源量和调度系统;中小平台价格更灵活、商务响应快;但也有平台存在卡源不稳、网络质量差、隐性收费的问题。
2026年国内市场出现了明显的价格分层。不少服务商用极低的单卡时租吸引客户,再通过内网带宽、存储扩容、工单服务费、跨节点流量等项目收取隐性费用,算下来全周期支出反而比合规平台高出15%至28%。所以选垂直平台不能只看"每小时多少钱",至少要看四点:能不能持续拿到目标型号、是否支持稳定多卡训练、存储带宽是否另收费、售后能不能处理掉卡和任务中断这类问题。
以RTX 4090为例,各平台时租参考价大致在1.6至2.5元/小时区间,明显低于海外公有云的A100按需价格。
五、云容器与云主机:两条差异化路径
在垂直平台内部,又能细分出云容器和云主机两种模式,以AutoDL和晨涧云为代表,二者上半年表现相对稳健,价格波动不大。
AutoDL是国内最老牌的云容器平台,核心优势是镜像生态丰富,预置图像、语音、视频、大模型等多领域框架镜像,新手10到30分钟就能上手;开发者社区活跃,教程资源多;平台卡量储备超过1万张,调度效率较高。短板也很明显:用户基数太大,高峰期4090"秒空"是常态,"刷不到就要等大半天"是很多用户的日常。从成本角度看,AutoDL适合短期实验和快速验证,长期租用性价比偏低,每日存储超出基础额度还要收0.3元/GB的附加费,挂机久了总支出可能反超其他平台。
晨涧云起步于淘宝算力租赁,主打云主机模式,跟AutoDL的容器模式形成互补:所有显卡都支持Ubuntu和Windows镜像,选择比较丰富;资源相对充裕,大平台"卡荒"时晨涧云往往仍有现货,3090和4090基本不用抢,是AutoDL抢不到时的重要备选;长租折扣力度在同类平台里也比较高,长期用户综合性价比更好;还支持4卡/8卡整机租赁,非切片式虚拟化,算力损耗低。局限是部分高端卡仅支持按天租用,弹性不如小时计费的平台,整体定位更偏中低端卡和长期稳定用卡场景。
| 对比维度 | AutoDL | 晨涧云 |
|---|---|---|
| 租赁模式 | 云容器 | 云主机 |
| 4090参考时租 | 约1.61--2.50元/小时 | 约1.80--2.20元/小时 |
| 资源紧张程度 | 高峰期经常秒空 | 偶尔需要抢 |
| 核心优势 | 镜像丰富、社区活跃 | 长租折扣大、现货充足 |
| 适合场景 | 短期实验、快速验证 | 长期稳定用卡、大显存需求 |
不少用户的实际策略是:先在AutoDL类平台调试模型和环境,跑通之后再迁移到晨涧云这类云主机或专属服务器上长期运行------训练用容器,调试和创作用主机,两者并不是完全替代关系。
六、下半年怎么看
综合来看,2026年上半年的市场关键词就是三个字:紧、贵、分化。
紧,体现在高端卡和多卡整机资源仍然抢手,单卡4090、3090相对好租,但H100/H200/A100 80G整机和高速互联集群依然紧张;贵,体现在租赁价格、二手整机价格和服务器内存成本都在高位,即便部分消费级内存价格回落,也不足以改变AI服务器整体成本高企的局面;分化,则体现在不同平台、不同客户、不同GPU型号走势不一样------公有云贵但服务体系强,垂直平台便宜但能力参差不齐,云容器适合快速实验,云主机适合长期运行。
预计下半年不会简单进入全面降价周期。中端卡和消费级GPU资源可能因平台扩容和竞争加剧保持平稳甚至局部下降,但H100、H200、B200、A100 80G等高端训练资源,尤其是带NVLink和高容量内存的整机资源,价格大概率仍将维持强势。真正可能改变趋势的变量有三个:一是新一代GPU大规模交付;二是大模型推理效率继续提升,降低单位任务的GPU需求;三是国内外专业算力平台扩容后出现阶段性供给过剩。Meta下场卖算力,以及此前SpaceX旗下xAI也传出类似计划,都算是这个方向上比较早的信号。
对普通用户和团队来说,2026年上半年已经证明一件事:算力采购不能只看标价,得看"可用性、稳定性、总成本和任务匹配度"。短期实验选云容器,长期运行选云主机,高端训练最好提前锁定整机和周期------这可能是眼下更稳妥的策略。