NPU 算力不再注水:拿量产世界模型实测芯片,700 TOPS 里 98.7% 真能干活

TL;DR

Momenta 的「姐妹公司」、成立两年多的芯片公司**新芯航途(XHEART)**首次公开亮相,发布车规级大模型芯片 X7 Ultra :700 TOPS「大模型算力」,Transformer 量产大模型计算利用率 98.7% ,量化输出与 FP32 相似度 99.99% ,内存带宽消耗比行业旗舰低 80%、推理能效翻倍。比参数更值得注意的是它的评测思路:不报实验室基准,直接拿 Momenta R7 世界模型上车实测------这可能是「算力注水」问题第一次被摆上台面正面回答。

先说一个搞部署的人都懂痛:TOPS 是「含水量」最高的指标

买过算力卡的都知道那个经典落差:标称 200 TOPS 的板子,模型一跑,实际吞吐打对折都算给面子。

原因不神秘。稠密算力、稀疏算力这些标称值,衡量的是「计算单元理论上限」。但真实大模型推理是一整条链路:计算单元会等数据(访存瓶颈)、高频「配角」算子会拖后腿(LayerNorm、Softmax、Transpose 算不快,后面全排队)、任务调度一乱整套流水线就空转。单环节再快,链路堵住就白搭。

所以当 10 月 29 日新芯航途发布 X7 Ultra、10 月 31 日量子位以《世界模型首次指导设计芯片!超大核NPU700TOPS,99%算力可用》报道时,真正值得看的不是 700 这个数字------2026 年底 700 TOPS 已经不算炸裂------而是它报算力的方式变了。

「大模型算力」:把量产模型搬上台面实测

X7 Ultra 引入了一个新口径:大模型算力。规则很直接:

  • 不用合成的实验室基准,直接跑真实量产智驾模型------现阶段就是 Momenta 的 R7 世界模型;
  • 模型结构不许改(不能为了适配芯片砍分支、换算子);
  • 计算精度必须保证(后述的量化相似度硬指标);
  • 驾驶体验不能打折。

在这些约束全部成立的前提下,实测出 700 TOPS、利用率 98.7%。也就是说,这 700 TOPS 的定义是「你的模型在我芯片上真的能跑出来的算力」,而不是「我的晶体管理论上能算出来的算力」。

这里要先澄清一个容易被标题带偏的点:「世界模型指导设计芯片」并不是说 AI 自动设计了这颗芯片 。它的实际含义有两层:一是 R7 世界模型作为评测基准(上面说的实测体系);二是把模型侧的计算、访存、数据流需求拿过来反向定义芯片架构------先理解大模型需要什么,再倒推芯片该长什么样。至于 AI 参与自动布局布线这类「AI 设计芯片」流程,报道中没有披露(uncertain:官方未公开协同设计的具体流程细节)。

三个硬指标怎么看

98.7% 计算利用率(标题里「99% 算力可用」的出处):NPU 计算单元在跑实测任务时,98.7% 的时间在做有效计算,闲置极少。对照行业现状------利用率常年被访存和调度拖到六七成甚至更低------这个数字意味着架构、互连和软件栈是作为一个整体优化的。

量化输出与 FP32 相似度 > 99.99%:量化是省算力省内存的标配,但压得越狠输出偏得越远。X7 Ultra 把「量化后输出贴住 FP32 基准」写成了指标,等于承诺「我这里的推理效率提升不靠牺牲精度换」。对要在功耗预算内塞下更大模型的车端场景,这笔账直接决定能跑多大的模型。

内存带宽消耗 -80%、能效 +100%(对比「行业旗舰产品」,未指名对标谁,uncertain):大模型推理的真正瓶颈往往不是算,而是数据搬运。这两项省的就是搬运。

超大核 + 专用引擎 + 工具链:架构怎么「围着模型转」

拆开看 X7 Ultra 的设计,每一项都对应上面那条链路上的一个堵点。

超大核 NPU + TB/s 级核间互连。模型规模上去后,计算任务要跨计算单元协作、互换数据。超大核加高带宽互连,减少协作损耗,让计算资源「连贯地」干活,而不是各算各的、中间互相等。

配角算子专用引擎。神经网络里 LayerNorm、Softmax、Transpose 这类算子计算量不大,却在执行路径上反复出现------一个慢,后面全等「接棒」。X7 Ultra 给它们配了专用计算引擎,相当于把高频杂活单独安排工位,不占通用算力的时间。

AI 工具链:整网融合 + 零拷贝。硬件安排好了,软件还得会派活。如果每个算子独立执行,中间结果不断写回外部内存再读出来,计算单元就全耗在等数据上。配套工具链做计算图融合、并行执行和任务调度,能合并的计算连起来算,减少中间搬运------前面说的带宽 -80%,一大半是这里省出来的。

传感器前端不拖后腿。智驾不是只有神经网络:激光雷达线数上去后点云处理量暴涨,X7 Ultra 加了专用激光雷达加速器,每秒处理 2000 万点,官方称支持千线级激光雷达;摄像头链路则优化了多核处理和流水线控制,称处理稳定性提升 100%。

车规底座。Arm v9 车规级 CPU(官方称 Arm v9 架构中国首发量产),性能 +20%、能效 +10%,带 SVE2 向量引擎;功能安全上 SoC 达 ASIL-B、集成 MCU 达 ASIL-D。上量产车,这一层是入场券。

把这些连起来看,X7 Ultra 的思路不是「把 NPU 堆到最大」,而是模型计算少等待、数据进出更顺畅、前端处理不拖后腿------三件事一起做,整条链路才快得起来。

背景:模型定义芯片,和被重新计时的「智驾摩尔定律」

这次亮相也是 Momenta CEO 曹旭东第一次对外更新他的行业判断清单。前两个判断------数据飞轮、两条腿走路------当年属于「格格不入」,现在是行业共识。第三个就是这次提出的「大模型定义芯片」:智驾模型能力持续增长,计算架构必须跟着模型一起演进。

这个认知成型于 2022 年,2023 年开始由新芯航途实践。落到数字上:过去行业普遍认「智驾摩尔定律」约每两年体验提升 10 倍;在模型定义芯片的正反馈链路里(模型定需求 → 芯片按需求演进 → 量产规模反哺数据),他们给出的新目标是每年 10 倍。曹旭东判断,L4 要规模化落地,端侧模型至少要 10B 甚至 100B 参数级------这个量级的模型要在车端功耗、车规和成本约束下实时跑,靠的正是这种软硬协同。

值得留意的是公司结构:新芯航途与 Momenta 无直接股权隶属,Momenta 创始团队成员曹旭东、夏炎通过控股股东间接持股,「姐妹公司」的表述更准确。上一代 X7 已在上汽大众新车上量产,X7 Ultra 这次是公司第一次正式对外亮相。英文名里保留的「X」,官方的说法是今天做汽车、未来可能延伸到机器人等智能体终端。

对开发者来说,这件事的启发不在芯片本身

不是每个人都会买这颗车规芯片。但它把一个通用问题摆上了台面:当你评估任何「算力」指标时,先问 benchmark 是什么。

  • 标称 TOPS 问的是「理论上限」;「大模型算力」问的是「你的真实模型能跑多快、多稳」。选型、做容量规划时,后者的口径才接得上实际体验。
  • 98.7% 利用率 + 99.99% 量化相似度这组指标给出一个参照系:下次有厂商报利用率,可以追问「什么模型、什么约束、精度保不保」------问完这三个问题,「注水」基本就现形了。
  • 「模型定义芯片」的协同设计思路,对做端侧 AI 的团队同样适用:模型结构还没冻结之前,就把访存模式、算子分布和硬件约束拉通对齐,比模型定死了再调优要省力得多。

至于「每年 10 倍」的新摩尔定律,先记下,让 L4 的无人车队来验证。


参考来源

一级来源(原始报道)

  1. 量子位:《世界模型首次指导设计芯片!超大核NPU700TOPS,99%算力可用》(贾浩楠,2026-10-31)--- www.qbitai.com/2026/10/506...
  2. 快科技(凤凰网转载):《一图看懂新芯航途X7 Ultra大模型芯片:700 TOPS算力》(2026-10-29)--- feng.ifeng.com/c/8xcWLG9AT...

二级来源(转载与整理,用于交叉核验)

  1. 网易订阅转载量子位稿(2026-10-31)--- www.163.com/dy/article/...
  2. 凤凰网大风号转载(2026-10-31)--- feng.ifeng.com/c/8xfY8dObN...
  3. zmj.net:《世界模型首次指导芯片设计,超大核NPU达700TOPS》(2026-10-31)--- www.zmj.net/news/3617
  4. AI热报:《世界模型指导芯片设计:NPU 算力达 700TOPS,利用率 99%》(2026-10-31)--- airebao.com/item/51473

说明:本文性能数据(98.7%、99.99%、-80%、+100% 等)均为官方口径、经媒体转述,未获独立第三方实测验证;对标对象与协同设计流程细节官方未公开,文中已标注 uncertain。

相关推荐
CAIE研习社1 小时前
30岁以后学习AI应用,证书能起到什么作用?
人工智能·学习
Dawson Zhu1 小时前
【Runtime推理引擎①】Runtime架构设计:从Session到Graph Executor的完整骨架
人工智能·语言模型·架构·aigc·agi
长不大的杨瑞杰1 小时前
OpenCode v2 LSP 实战:内置语言服务器、自定义配置与诊断闭环
java·人工智能·typescript·lsp·opencode
在所不辞兄1 小时前
【零基础学智能仿真-68】本地仿真助手的工具调用
人工智能·机器学习
郝学胜-神的一滴1 小时前
AI 编程智能体 20:技术栈选型与架构落地全攻略
人工智能·python·架构·langchain·1024程序员节·智能体
zwc32104320551 小时前
第四周第五天——重构成类
c++·人工智能·opencv·算法·计算机视觉
zhippt_10141 小时前
教师做课件太耗时?AI生成PPT工具与图转PPT实测梳理
人工智能·html·powerpoint
环境栈笔记1 小时前
指纹浏览器安卓怎么用?从运行位置到功能验收,先把三种方案分清
前端·人工智能·后端·自动化
赛博山人1 小时前
DeepSeek发布Super-agent
人工智能