智博会上的国产芯:重新定义 Token 价值链路

AI 时代,算力是核心引擎,Token 是信息处理的最小单元,两者都是智能化产线上的「硬通货」。然而,近年来算力新基建持续提速,Token 调用量爆发式增长,真实业务场景中的价值产出却未能有效同步,业界情绪开始从「算力不足恐惧症」转向「Token 焦虑」。

天津智博会上,海光信息总裁助理兼智能计算产品部总经理杜夏威指出,「过去大家谈算力,比的是单卡峰值;现在谈 Token,比的是单位产出。」在他身后,海光展台上全系 CPU 和 DCU 产品一字排开,从通用计算到 AI 加速,从数据中心到边缘工控,几乎覆盖了 Token 效益产出的每一个环节。


Token 焦虑,本质是算力到生产力的转化效率问题

「Token 焦虑未必是坏事。如果大家对算力和大模型没有感知,自然不会焦虑。焦虑说明产业在快速流动。」杜夏威对 Token 热的判断有些出人意料。

他认为,Token 的出现本身就是一个进步------它把算力和算法之间的度量衡统一了。「以前你说算力有多强,用户听不懂。现在你说一个 Token 多少钱、响应多快,所有人都能算账。」

但这个统一的度量衡也暴露了问题:算力指标和 Token 吞吐力之间,存在一条不小的鸿沟。杜夏威打了个比方:「芯片算力是物理天花板,决定了上限;Token 吞吐力是转化效率,决定了用户实际能用到多少。」

海光过去几年做的事,可以理解为逐级搭建价值转化阶梯:算力性能-适配效率-模型效率-Token 效率。每一步都有具体动作------400 多款主流大模型做到了 Day0 适配,自研 DTK 软件栈让 CUDA 代码平滑迁移,DCU 在多个模型推理场景下的首 Token 延迟做到低于 NVIDIA H20。

杜夏威指出,「训练看集群效率,推理看单位成本」正在成为行业共识。在计算集群方面,算力精度不足导致的应用能效下降,甚至场景覆盖不足等问题颇为显见,超智融合成为提升 Token 效益的重要途径。

为此,海光基于 DCU 全精度计算能力,已支撑多个万卡级超智融合智算集群成功落地,并且广泛覆盖了万亿参数模型训练、AI4S、AI4E 等前沿场景需求。

除此之外,海光 DCU 在推理场景的优化已经深入到算子层------Attention 算子融合、KV Cache 压缩管理、FP8/INT4 低精度支持,目的是让客户「训得起,也推得起」。


CPU 被低估了:它是 Token 经济的「中枢大脑」

智博会现场,另一个被反复讨论的话题是 CPU 在 AI 时代的新角色。

「过去在 AI 训练阶段,Token 或者说 CPU 的性能并没有充分体现。」海光信息总裁助理、创新产品线总经理李成指出,随着 OpenClaw 等智能体(Agent)爆发,CPU 的重要性正在回归。因为 Agent 不是简单问答,而是「长在线、高交互」------持续运行、调用工具、访问记忆、执行任务。

有研究显示,在智能体工作负载中,CPU 端的处理延迟占比最高可达 90% 以上。GPU 负责「算得快」,CPU 负责「跑得久、调度稳」。如果 CPU 扛不住,GPU 再强也只能空转。这是 Token 价值产出的又一个关键环节。

「大模型参数量越来越大,MoE(混合专家)成为主流结构,我们不得不将 KV Cache 和部分算力 offload 到 CPU 端。」杜夏威补充道,「这导致即便在数据中心内部,CPU 和 GPU 的耦合也越来越紧,CPU 的作用只会越来越大」。

海光 C86 系列 CPU 恰好卡位在这个趋势上。其原生兼容 x86 生态,端侧和边缘场景表现出色,同时从指令集层面内置了国密算法和可信计算能力,对熔断、幽灵等漏洞原生免疫。用杜夏威的话说:「算力底座稳了,上层 Token 产出才稳得住、跑得快。」


端侧算力崛起:AI 落地的「最后一公里」

AI 的下一步,不能只靠数据中心。尤其在现实生产场景中,Token 不会永远飘在云端,工厂产线、变配电站、交通路口,数据实时处理必须在现场完成,端侧算力成为快速响应的关键。

光合组织嵌入式产品专家张考华在采访中指出,「AI 这场大戏,数据中心训练只是开场。未来能发展多深、影响多广,要看边端。」他判断,边端算力需求必将迎来爆发式增长。

端侧场景已经铺开。从智能制造、能源电力到机器人,边缘侧对高可靠、低延迟 AI 算力的需求正在激增。张考华特别提到一个趋势:「算力上天」------星际探索中很多算力不需要传回地面,「边缘侧算力和 Token 引流的意义,远超大多数人想象」。

海光与光合组织的打法是「云边协同」:通过云上算力网络服务中小企业和个人开发者,同时提供私有化算力方案,让对数据安全敏感的行业用户可以在本地完成 AI 转型。

「云端提供便捷 Token 服务,私域沉淀数据资产、做深度业务整合。」张考华说,两种模式互为补充,共同覆盖了从消费端到产业端的全场景算力需求。

在双芯产品阵列中,海光这次专门展出了工控和嵌入式芯片解决方案。据介绍,这款芯片继承了 C86 架构的技术积累,宽温支持、工业可靠性、内生安全等方面均做了针对性设计,在很多边端实测场景中打破了国产工控芯片「能用但不好用」的印象。

从数据中心到边缘节点,国产芯片展现的能力版图已经清晰:不止是在单一维度上比拼参数,而是用一套覆盖「端、边、云」的算力协同体系,系统性解决 Token 从生产到变现的堵点。


我是木易,Top2 + 美国 Top10 CS 硕,现在是 AI 产品经理。

关注「AI信息Gap」,让 AI 成为你的外挂。


相关推荐
chaojihaomai1 小时前
AI电商商品图生成中的材质保真问题——扩散模型重建优先级分析与锁定式方案
人工智能·材质
大模型探索者3 小时前
2026 企业智能体平台选型指南:从通用到行业深耕,怎么选?
大数据·人工智能
深圳行云创新3 小时前
北极星知识图谱平台|太空越来越“拥挤”,知识图谱如何预测空间碎片碰撞风险?
人工智能·知识图谱
Am-Chestnuts3 小时前
国产AI多轮对话归档与多格式导出实践
人工智能·word
麻瓜生活睁不开眼4 小时前
Android16修改全局桌面视图边框四直角显示为弧边圆角
android·java·深度学习
workflower4 小时前
装备企业的 AI 路线图
人工智能·深度学习·机器学习·设计模式·机器人
AKAMAI4 小时前
Linode接口及默认防火墙现已全面开放使用
人工智能·云计算
前端开发江鸟5 小时前
RAG 回答错了,问题到底出在召回、重排,还是生成?
人工智能
美狐美颜SDK开放平台5 小时前
直播app开发如何实现主播级美颜效果?美颜sdk开发方案详解
人工智能·音视频·美颜sdk·视频美颜sdk·美颜api
东方小月5 小时前
从零开发一个 Coding Agent(四):使用状态机校验大模型事件流
前端·人工智能·后端