昇腾npu

万事可爱^14 天前
人工智能·深度学习·语言模型·gitcode·本地部署·昇腾npu
GitCode+昇腾部署Rnj-1模型实践教程GitCode Notebook是GitCode平台推出的云端交互式开发环境,对标Google Colab,为开发者提供了免本地配置的算力资源和一站式开发体验。其核心优势体现在三个方面:
禁默16 天前
llama·昇腾npu·atlas 800t
在昇腾 NPU上跑通 Llama 3-8B:从环境部署到 100% 算力满载本文记录了在GitCode云端环境(Ascend )上部署 Meta-Llama-3-8B-Instruct 的全过程。涵盖了从环境自检、ModelScope 模型下载、推理代码实战到“算力满载”验证的详细步骤。本文不仅展示了 Llama 3 在国产算力上的代码实现,还通过后台监控揭示了 NPU 在推理时的真实负载表现。
Lethehong16 天前
人工智能·语言模型·sglang·昇腾npu
昇腾Atlas 800T平台下Qwen-14B大语言模型的SGLang适配与性能实测目录摘要引言一、GitCode Notebook 环境配置与 Qwen-14B 模型准备1.1 环境规格确认
禁默16 天前
大模型·ascend·昇腾npu·atlas 800t
在昇腾 NPU上压测 Qwen1.5-MoE:AtomGit 云端部署全记录Qwen1.5-MoE-A2.7B 是一个架构非常有趣的“怪兽”:它拥有 14.3B 的庞大身躯(显存占用大),但在干活时只动用 2.7B 的脑细胞(计算速度快)。
●VON2 个月前
架构·昇腾·昇腾npu·gpt-oss-20b·昇腾训练营
深入昇腾NPU:从架构到算子开发的全栈探索在当今人工智能高速发展的浪潮中,算力已成为推动AI创新的核心驱动力。作为国产AI芯片的代表,华为昇腾NPU(Neural Processing Unit)凭借其创新的达芬奇架构和强大的异构计算能力,正在重塑AI计算的格局。本文将深入探讨昇腾NPU的技术特性,并重点介绍基于CANN(Compute Architecture for Neural Networks)的算子开发实践。
●VON2 个月前
人工智能·昇腾·昇腾npu·昇腾训练营
CANN卷积算子深度优化:以ResNet推理为例2025年昇腾CANN训练营第二季,基于CANN开源开放全场景,推出0基础入门系列、码力全开特辑、开发者案例等专题课程,助力不同阶段开发者快速提升算子开发技能。获得Ascend C算子中级认证,即可领取精美证书,完成社区任务更有机会赢取华为手机,平板、开发板等大奖。
熊文豪3 个月前
昇腾·1024程序员节·昇腾npu·gpt-oss-20b
昇腾NPU部署GPT-OSS-20B混合专家模型:从环境配置到性能优化的完整实践指南本文详细记录了使用GitCode平台的免费昇腾Notebook实例,完成GPT-OSS-20B模型(一个21B参数的混合专家模型,激活参数3.6B)的环境配置、模型部署、性能测试与优化的全过程。通过编写自定义转换脚本将PyTorch模型转换为MindSpore格式,并在昇腾NPU上运行基准测试脚本,进行5次重复测试以获取可靠的数据统计。最终,我们评估了模型在不同场景下的推理速度和吞吐量,并提供了优化建议。整个过程旨在帮助开发者在昇腾NPU上高效部署大型MoE模型。
wangshuo(24考研上岸版)7 个月前
llamafactory·昇腾npu·npu微调qwen3
基于昇腾NPU部署llamafactory单机多卡微调Qwen3教程华为云首页 点击右上角控制台点击搜索框->搜索“ModelArts”->选择AI开发平台ModelArts->进入平台后点击开发者空间
我是有底线的