《从“人工适配“到“智能生成“:KernelSwift 跨国产芯片算子迁移全栈方案解读》 —— 强调范式跃迁和跨硬件属性,适合偏架构分析的写法

是的,这两条消息反映的其实是同一套技术底座在两类国产硬件上的落地,这个方向挺值得关注的。我帮你梳理一下脉络和意义:

上海人工智能实验室的 DeepLink(OpenDILab 体系下)一开始的目标就是解决"算力碎片化"问题------不同加速卡(NVIDIA CUDA、海光 DCU、昇腾 CANN、寒武纪、天数智芯等)的算子接口、编译工具链互不兼容,导致框架和上层应用每换一个硬件就要重新适配一遍。DeepLink 做的就是跨硬件的抽象层和兼容层。

而 KernelSwift 是在这个基础上往前走了一步:不再靠人工写兼容层,而是用大模型 + Agent 技术来自动生成和迁移算子(kernel)。

两条合作其实是同一系统的两个落地

合作方 硬件平台 落点
海光信息 DCU(类 ROCm/HIP 生态) KernelSwift 全栈系统:大模型赋能智能算子生成
昇腾 + 毕昇编译器团队 昇腾 CANN 生态 基于 Agent 的智能算子迁移系统,面向多硬件平台
技术路径大致是这样的:
  1. 代码理解:Agent 解析现有算子(比如 CUDA 写的 kernel)的语义、数据流和计算模式
  2. 目标平台生成:LLM 生成对应目标硬件的 kernel 代码(HIP / Ascend C 等)
  3. 编译 + 运行验证:调用目标平台的编译器(毕昇编译器、海光工具链)做编译,跑单元测试和数值对齐
  4. 性能 Profiling 反馈闭环:拿 profiling 数据反馈给 Agent,迭代优化性能(tiling 策略、内存访问模式、并行划分等),形成"生成→验证→修复→优化"的循环

为什么这个方向有价值

  • 算子适配是国产算力最大的痛点之一。PyTorch 生态里数千个算子,靠人工一个个移植到新硬件,成本极高、周期极长。LLM 自动生成 + 自动验证,理论上能把移植成本压下一个数量级。
  • 两家厂商同时接入,说明系统有一定的硬件无关性------这也正是 DeepLink 一贯的卖点。昇腾(编译器自研、CANN 生态相对封闭)和海光(类 CUDA/ROCm 路线)的技术栈差异很大,同一个系统能同时服务两边,说明抽象层设计是过关的。
  • 与毕昇编译器的联动是关键。算子生成不是"能跑就行",性能高度依赖编译器的调度和优化。KernelSwift 把编译器反馈纳入 Agent 循环,是比纯 LLM 代码生成务实得多的做法。

可以关注的几个问题

  • 性能能到人工调优的几成:LLM 生成的 kernel 在数值正确性上通常好验证(对齐测试),但性能往往在 CUDA/手写 kernel 的 70%~95% 区间浮动,长尾算子尤其难
  • 覆盖范围:首发一般覆盖高频算子(GEMM、Attention、LayerNorm 等),长尾算子和动态 shape 场景是真正的考验
  • 生态策略 :这个系统本质上是把"跨硬件迁移"的成本中心变成了可以标准化的工具,如果跑通,对中小芯片厂商(寒武纪、燧原、摩尔线程等)的吸引力会很大
    如果你在做国产算力选型或者移植评估,这类工具的成熟度其实是一个值得纳入考量的"软指标"------它直接决定了你迁移到该硬件平台的工程成本。你目前是在做相关平台的适配工作,还是在做选型调研?
相关推荐
垆边人似月.5 小时前
华为机试题 :字符串压缩
算法·华为
ggb喔5 小时前
52pojie 的图片工具:为什么无损转换后体积涨了 6 倍、照片方向还是歪的
图像处理·python·算法·计算机视觉·图形渲染·媒体
菜鸟~noob2335 小时前
【电子战】第25篇:自由空间、双射线与菲涅尔区【含matlab代码】
开发语言·算法·matlab
a努力。5 小时前
三插件协同破局前端故障排查困局
人工智能
要吃这碗饭5 小时前
AI 智能体如何通过 auth.md 注册 Bright Data 账号
数据库·人工智能·php
VIP_CQCRE5 小时前
Visual Studio 接入 AI 助手:LMLocal × Ace Data Cloud 配置指南
大模型·api·ai编程·visual studio·acedatacloud
地平线开发者5 小时前
地平线征程6M YOLOv8s 部署
算法·自动驾驶
Run_Teenage6 小时前
算法:Manacher(马拉车)算法、中心扩展算法
算法
天远Date Lab6 小时前
零信任架构实战:基于天远学籍核验三要素构建自动化竞赛资格审查网关
运维·人工智能·架构·自动化
海盗12346 小时前
AI 新闻日报 2026-10-09:企业代理独立身份、便利店机器人上岗、世界模型接棒
人工智能·机器人·人工智能aigc