《从“人工适配“到“智能生成“:KernelSwift 跨国产芯片算子迁移全栈方案解读》 —— 强调范式跃迁和跨硬件属性,适合偏架构分析的写法

是的,这两条消息反映的其实是同一套技术底座在两类国产硬件上的落地,这个方向挺值得关注的。我帮你梳理一下脉络和意义:

上海人工智能实验室的 DeepLink(OpenDILab 体系下)一开始的目标就是解决"算力碎片化"问题------不同加速卡(NVIDIA CUDA、海光 DCU、昇腾 CANN、寒武纪、天数智芯等)的算子接口、编译工具链互不兼容,导致框架和上层应用每换一个硬件就要重新适配一遍。DeepLink 做的就是跨硬件的抽象层和兼容层。

而 KernelSwift 是在这个基础上往前走了一步:不再靠人工写兼容层,而是用大模型 + Agent 技术来自动生成和迁移算子(kernel)。

两条合作其实是同一系统的两个落地

合作方 硬件平台 落点
海光信息 DCU(类 ROCm/HIP 生态) KernelSwift 全栈系统:大模型赋能智能算子生成
昇腾 + 毕昇编译器团队 昇腾 CANN 生态 基于 Agent 的智能算子迁移系统,面向多硬件平台
技术路径大致是这样的:
  1. 代码理解:Agent 解析现有算子(比如 CUDA 写的 kernel)的语义、数据流和计算模式
  2. 目标平台生成:LLM 生成对应目标硬件的 kernel 代码(HIP / Ascend C 等)
  3. 编译 + 运行验证:调用目标平台的编译器(毕昇编译器、海光工具链)做编译,跑单元测试和数值对齐
  4. 性能 Profiling 反馈闭环:拿 profiling 数据反馈给 Agent,迭代优化性能(tiling 策略、内存访问模式、并行划分等),形成"生成→验证→修复→优化"的循环

为什么这个方向有价值

  • 算子适配是国产算力最大的痛点之一。PyTorch 生态里数千个算子,靠人工一个个移植到新硬件,成本极高、周期极长。LLM 自动生成 + 自动验证,理论上能把移植成本压下一个数量级。
  • 两家厂商同时接入,说明系统有一定的硬件无关性------这也正是 DeepLink 一贯的卖点。昇腾(编译器自研、CANN 生态相对封闭)和海光(类 CUDA/ROCm 路线)的技术栈差异很大,同一个系统能同时服务两边,说明抽象层设计是过关的。
  • 与毕昇编译器的联动是关键。算子生成不是"能跑就行",性能高度依赖编译器的调度和优化。KernelSwift 把编译器反馈纳入 Agent 循环,是比纯 LLM 代码生成务实得多的做法。

可以关注的几个问题

  • 性能能到人工调优的几成:LLM 生成的 kernel 在数值正确性上通常好验证(对齐测试),但性能往往在 CUDA/手写 kernel 的 70%~95% 区间浮动,长尾算子尤其难
  • 覆盖范围:首发一般覆盖高频算子(GEMM、Attention、LayerNorm 等),长尾算子和动态 shape 场景是真正的考验
  • 生态策略 :这个系统本质上是把"跨硬件迁移"的成本中心变成了可以标准化的工具,如果跑通,对中小芯片厂商(寒武纪、燧原、摩尔线程等)的吸引力会很大
    如果你在做国产算力选型或者移植评估,这类工具的成熟度其实是一个值得纳入考量的"软指标"------它直接决定了你迁移到该硬件平台的工程成本。你目前是在做相关平台的适配工作,还是在做选型调研?
相关推荐
老金带你玩AI7 小时前
集万家所长,一键复制的Agent.md!
人工智能
ZhuoAIStage7 小时前
舞台工艺多专业审图提速:用 AI 智能体编排 A+B+C+G 四段读图流水线
人工智能·自动化·工作流编排·舞台工艺·审图智能体
小奶包他干奶奶8 小时前
AI学习——1、机器学习概念
人工智能·机器学习
展讯快报8 小时前
悬浮提词器免费App评估报告:说得AI的免费策略与可用性分析
人工智能
Yuzhiyuxia8 小时前
【AI Agent面试系列】AI Agent记忆机制知识点1
人工智能·面试·职场和发展
2601_965448878 小时前
AI视频制作:做系列历史人物视频音色不搭,AI 音色克隆的方法实测
人工智能·音视频
UIU1148 小时前
P1233 [ICPC 2001 Taejon R] 木棍加工
数据结构·c++·算法·动态规划
2分钟速写快排8 小时前
ggg! 潜行摸鱼被 Trae 爆改成 3D!
人工智能·程序员·数据可视化
“AI国潮设计-小江”8 小时前
【AIGC实战】Python+Stable Diffusion打造“英歌舞财神”IP,解锁“马到成功”等爆款情绪营销文案设计
开发语言·人工智能·python·prompt·aigc