昇腾

昇腾CANN4 天前
人工智能·昇腾·cann·cann开源
10月26日直播丨DeepSeek推理性能跃迁4.5倍,ACL Graph技术解密
昇腾CANN5 天前
人工智能·开源·昇腾·cann·cann开源
基于CANNBot PyPTO Pro的DeepSeek-V4.1融合算子Agent生成实践PyPTO Pro是昇腾 CANN 体系下的AI算子编程框架,兼顾易用性与高性能。在本次 DeepSeek-V4.1 高性能算子生成实践中,基于CANNBot PyPTO Pro Agent强大的算子生成能力,结合PyPTO Pro简洁易用的 Python 编程接口、灵活高效的计算表达以及对 AI Agent 的良好适配,实现了算子分析、代码生成、精度验证和性能调优的全流程协同,提供了一种更加高效、智能的 NPU 算子开发方式。
昇腾CANN7 天前
人工智能·昇腾·cann·cann开源
10月23日直播丨CANN挑战赛决赛赛题解析
昇腾CANN7 天前
人工智能·开源·昇腾·cann·cann开源
CANNBot PyPTO 算子编程智能体的使用,从一段 Prompt 开始写过融合算子的开发者大概都遇到过这样的时刻:一个 shape 刚跑通,换成其他规格,精度验证又失败了;减少一次数据搬运,实测性能反而下降;单融合 kernel 性能验证结果符合预期,但接入整模型后,融合算子性能收益被调度及同步开销抵消。
昇腾CANN9 天前
人工智能·开源·昇腾·cann·cann开源
10月21日16点直播丨CANN社区Agent能力介绍——模型、TileLang、AMCT开发围绕DeepSeek V4.1,昇腾950端到端训推参考实践分享 10月21日16点直播丨CANN社区Agent能力介绍——模型、TileLang、AMCT开发
昇腾CANN15 天前
人工智能·昇腾·cann·cann开源
10月16日16点直播丨基于950超节点的万亿MoE模型预训练参考实践围绕DeepSeek V4.1,昇腾950端到端训推参考实践分享
昇腾CANN17 天前
人工智能·昇腾·cann
开发者说直播预告|10月13日19:00 社区任务开发经验分享🎥 视频号、B站、昇腾社区多平台同步直播🎁 戳链接参与互动,赢惊喜定制好礼👉 issue链接:https://gitcode.com/org/cann/discussions/292
昇腾CANN1 个月前
人工智能·昇腾·cann·cann开源
CANN 端云协同:节约开发、运行成本,支撑Mate90发布会鸿蒙独占应用创新CANN端云协同将云侧研发积累延伸至终端开发。依托昇腾与麒麟NPU同源的达芬奇(DaVinci)架构,以及CANN软件开发能力,开发者在昇腾上完成的部分模型适配与算子实现,可以继续沿用于麒麟端侧,在降低开发投入的同时,也有助于降低云侧推理成本。
智码看视界1 个月前
昇腾·moe·开源大模型·智能体agent·本地推理·xing4.0-29b-a4b·单卡部署
开源大模型追踪:中电信人工智能Xing4.0-29B-A4B:SWE-bench 75.0逼近Qwen3.6-35B一句话定位:面向 Agent 的轻量 MoE,单张消费级显卡就能私有化跑长上下文智能体。这里要先说清一个容易混淆的点:总参 29B 听着比 7B 大,但本地跑得快不快,看的是"每 token 激活"而不是"总参"。Xing4.0 每 token 只点亮 4B 专家,推理算力开销接近一个 4B 稠密模型,显存却要装下全部 29B 权重——所以量化后单卡能跑,但原始 BF16 必须多卡。换句话说,它的"聪明"来自大权重库,"便宜"来自稀疏激活,两者分开看才不会误判部署门槛。
GitCode官方1 个月前
人工智能·开源·昇腾·atomgit
“开源共生 共赢未来”2026北京昇腾生态先锋中心系列活动之算子实操工坊成功举办近日,北京昇腾生态先锋中心在北京市门头沟区政府指导下,联合昇腾 CANN 开源社区、AtomGit AI 社区等,共同发起 「“开源共生 共赢未来”2026 北京昇腾生态先锋中心系列活动之算子实操工坊」 活动。
AI模力圈1 个月前
推荐算法·昇腾·生成式推荐
从级联架构到生成式推荐:推荐算法演进与昇腾落地作者:昇腾实战派 知识地图:https://blog.csdn.net/Lumos_Lovegood/article/details/161601003
昇腾CANN2 个月前
人工智能·昇腾·cann·cann开源
9月14日直播丨人芯对话:昇腾950算力落地算子的编程范式探索
是Yu欸2 个月前
人工智能·开源·大模型·昇腾·pangu
实测openPangu-2.0-Pro:昇腾原生, 505B大模型的开源答卷版权声明:本文为原创,遵循 CC 4.0 BY-SA 协议。转载请注明出处。505B 混合专家模型如何在昇腾上完成预训练、后训练和推理部署
昇腾CANN3 个月前
人工智能·昇腾·cann
基于 PyPTO 与 Agent,2周完成模型 QAT 算子开发与优化模型量化能够通过低比特表示降低推理阶段的存储和计算开销,但直接进行训练后量化(Post-Training Quantization,PTQ)时,模型往往会因量化误差而出现精度下降,尤其是低比特量化场景下,这一问题更加明显。为缓解量化带来的精度损失,量化感知训练(Quantization-Aware Training,QAT)在训练过程中模拟部署时的量化行为,使模型逐步适应低精度表示带来的数值扰动,从而在获得量化部署收益的同时,尽可能保持模型精度。
昇腾CANN3 个月前
昇腾·cann
昇腾软件说系列直播预告 | 7月28日19:00,昇腾算子编程专场【昇腾CANN】视频号、B站、昇腾社区多平台直播昇腾社区观看链接:昇腾直播-昇腾社区B站观看链接:https://live.bilibili.com/h5/23361884
网络工程小王3 个月前
人工智能·学习·华为·迁移学习·昇腾
【HCIE-AI】11.模型 昇腾迁移适配-精度调试-性能调优昇腾迁移适配1.1 torch.cuda → torch.npu 逐项替换清单1.1.1 设备管理类1.1.2 内存管理类
网络工程小王3 个月前
人工智能·pytorch·分布式·学习·昇腾·deepspeed
【HCIE-AI】12.deepspeed分布式并行训练进阶版概述: 训练大模型(7B+)时,会依次遇到显存、计算、通信、工程四个方面的瓶颈。理解这些瓶颈是理解后续所有解决方案的前提。
昇腾CANN3 个月前
昇腾·cann
昇腾软件说系列直播预告|7月27日19:00,昇腾算力环境专场【昇腾CANN】视频号、B站、昇腾社区多平台直播昇腾社区观看链接:昇腾直播-昇腾社区B站观看链接:https://live.bilibili.com/h5/23361884
高级打杂工程师-伍六六4 个月前
昇腾·npu·vllm·claude code
【昇腾】本地 27B 编程模型接入 Claude Code 实战:Qwopus3.6-27B-Coder 在 vLLM-Ascend 上的部署与踩坑四张 910B4 跑 27B 模型,接入 Claude Code,效果比预期要好——虽然慢Qwopus 是一个由社区开发者 Jack Rong 自费训练的开源模型系列,名字是 Qwen + Opus 的组合——用高质量推理轨迹对 Qwen 基座模型做微调,目标是在本地硬件上达到接近 Claude Opus 的推理和编程能力。
昇腾CANN4 个月前
线性代数·性能优化·矩阵·昇腾·cann
【cann-samples系列】GroupedMatmul MX量化矩阵乘的深度性能优化实践cann-samples是CANN社区提供的高性能实践样例库,致力于为开发者提供可复用的优化方法论和优秀实践代码。本系列文章将陆续介绍仓库中的典型样例,分享我们在算子优化过程中的思考与经验。