技术栈
昇腾
zjun3021
1 个月前
c++
·
人工智能
·
华为
·
昇腾
·
cann
·
ascendc
什么是CANN和Ascend C
异构计算架构CANN(Compute Architecture for Neural Networks)是华为针对AI场景推出的异构计算架构,向上支持多种AI框架,包括MindSpore、PyTorch、TensorFlow等,向下服务AI处理器与编程,发挥承上启下的关键作用,是提升昇腾AI处理器计算效率的关键平台。同时针对多样化应用场景,提供多层次编程接口,支持用户快速构建基于昇腾平台的AI应用和业务。
Seal软件
2 个月前
ai
·
大模型
·
llm
·
昇腾
·
genai
在昇腾Ascend 910B上运行Qwen2.5推理
目前在国产 AI 芯片,例如昇腾 NPU 上运行大模型是一项广泛且迫切的需求,然而当前的生态还远未成熟。从底层芯片的算力性能、计算架构的算子优化,到上层推理框架对各种模型的支持及推理加速,仍有很多需要完善的地方。
华为云开发者联盟
2 个月前
人工智能
·
鸿蒙
·
昇腾
·
1024程序员节
1024 | 码客聚会,云上跃迁,探秘华为云和他的开发者朋友们的故事
叶庭云
3 个月前
人工智能
·
华为
·
昇腾
·
计算产品线
·
ai 大模型时代
了解华为计算产品线,昇腾的业务都有哪些?
🍉 CSDN 叶庭云:https://yetingyun.blog.csdn.net/随着 ChatGPT 的现象级爆红,它引领了 AI 大模型时代的深刻变革,进而造成 AI 算力资源日益紧缺。与此同时,中美贸易战的持续也使得 AI 算力国产化适配成为必然趋势。
华为云开发者联盟
3 个月前
大模型
·
华为云
·
鸿蒙
·
鲲鹏
·
昇腾
技术解读:华为云如何携手昇腾、鸿蒙等根生态,助力开发者技术创新
本文分享自华为云开发者联盟公众号《华为云携手根生态,助力开发者成长》9月21日,华为全联接大会2024期间,华为云开发者联盟成功举办了“华为云携手根生态,全栈使能开发者技术创新”专题演讲分论坛,吸引了众多行业专家和开发者齐聚上海世博中心,共同探讨技术创新的新趋势。
西西弗Sisyphus
3 个月前
香橙派
·
昇腾
·
orangepi aipro
·
ascendcl
OrangePi AIpro 香橙派 昇腾 Ascend C 算子开发 与 调用
flyfish开发Ascend C算子的基本流程图Add算子的数学表达式为:Add算子有两个输入:x与y,输出为z。
西西弗Sisyphus
4 个月前
香橙派
·
昇腾
·
算子开发
·
orangepi aipro
·
ascendcl
OrangePi AIpro 香橙派 昇腾 Ascend C算子开发 - HelloWorld
flyfishAscend C算子编程是SPMD(Single-Program Multiple-Data)编程 假设,从输入数据到输出数据需要经过3个阶段任务的处理(T1、T2、T3)。如下图所示,SPMD会启动一组进程,并行处理待处理的数据。对待处理数据切分,把切分后数据分片分发给不同进程处理,每个进程对自己的数据分片进行3个任务的处理。 具体到Ascend C编程模型中的应用,是将需要处理的数据被拆分并同时在多个计算核心(类比于上文介绍中的多个进程)上运行,从而获取更高的性能。多个AI Core共享
西西弗Sisyphus
4 个月前
c++
·
昇腾
·
ascendcl
昇腾 - AscendCL C++应用开发 推理部分 模型执行
flyfish使用aclmdlDataset类型的数据描述模型的输入/输出数据,模型可能存在多个输入、多个输出。
华为云开发者联盟
5 个月前
人工智能
·
昇腾
·
cann
·
算子优化
·
graph engine
深度解读昇腾CANN小shape算子计算优化技术,进一步减少调度开销
本文分享自华为云社区《深度解读昇腾CANN小shape算子计算优化技术,进一步减少调度开销》,作者:昇腾CANN。
Tensorrrrrr
5 个月前
c语言
·
开发语言
·
华为
·
昇腾
·
算子开发
·
ascend c
【2024第一期CANN训练营】全面掌握Ascend C算子
近期参加了华为的CANN训练营,学习到了Ascend C的很多知识,训练营也步入尾声,在这里利用所学知识,分享Sinh的算子实现过程
华为云开发者联盟
5 个月前
昇腾
·
华为云开发者联盟
基于MindSpore实现BERT对话情绪识别
本文分享自华为云社区《【昇思25天学习打卡营打卡指南-第二十四天】基于 MindSpore 实现 BERT 对话情绪识别》,作者:JeffDing。
华为云开发者联盟
5 个月前
大模型
·
昇腾
·
cann
·
华为云开发者联盟
深度解读昇腾CANN模型下沉技术,提升模型调度性能
本文分享自华为云社区《深度解读昇腾CANN模型下沉技术,提升模型调度性能》,作者:昇腾CANN。AI模型的运行通常情况下需要CPU和NPU(昇腾AI处理器)等AI专用处理器协同工作,CPU所在位置称为主机端(Host),而NPU所在位置称为设备端(Device)。对于采用Host调度的AI模型来说,Host下发Task的时序和Device执行Task的时序是异步的,如果Device执行Task的速度比Host下发Task的速度快,则Device会处于空闲状态。比如,大模型场景的增量推理或训练的FineTu
skywalk8163
6 个月前
人工智能
·
paddlepaddle
·
昇腾
·
npu
·
paddlenlp
openi启智社区 aarch64 npu环境安装飞桨paddlepaddle和PaddleNLP(失败)
以前在启智社区都是编译安装飞桨,这回看到飞桨提供了npu安装包,兴冲冲的以为安装很简单。之所以安装飞桨,是因为想在启智社区的启智大脑调试环境使用最新的PaddleNLP,结果报错:No module named 'paddle.nn.layer.layers',提issuenpu下import paddlenlp报错:No module named 'paddle.nn.layer.layers' · Issue #64996 · PaddlePaddle/Paddle · GitHub
华为云开发者联盟
7 个月前
开发板
·
昇腾
·
华为云开发者联盟
·
模型推理
【AI应用开发全流程】使用AscendCL开发板完成模型推理
本文分享自华为云社区《【昇腾开发全流程】AscendCL开发板模型推理》,作者:沉迷sk。学会如何安装配置华为云ModelArts、开发板Atlas 200I DK A2。 并打通一个Ascend910训练到Ascend310推理的全流程思路。
机器人梦想家
7 个月前
arm64
·
香橙派
·
昇腾
香橙派OriengePi AiPro 华为昇腾芯片开发板开箱测评
香橙派OriengePi AiPro 华为昇腾芯片开发板开箱测评博主有幸受邀CSDN测评香橙派与华为昇腾共同研发的OriengePi AiPro的开箱测评,本文会对正常使用的一些情况做记录,包括常用配置,docker配置使用,以及可能包含机器人相关的一些配置等,同时也会对产品的性能及使用的感受做分享。
华为云开发者联盟
7 个月前
算子
·
昇腾
·
cann
·
华为云开发者联盟
·
ascend c
一文教你如何调用Ascend C算子
本文分享自华为云社区《一文教你如何调用Ascend C算子》,作者: 昇腾CANN。Ascend C是CANN针对算子开发场景推出的编程语言,原生支持C和C++标准规范,兼具开发效率和运行性能。基于Ascend C编写的算子程序,通过编译器编译和运行时调度,运行在昇腾AI处理器上。使用Ascend C,开发者可以基于昇腾AI硬件高效实现自定义的创新算法。
worthsen
7 个月前
华为
·
harmonyos
·
麒麟
·
鲲鹏
·
昇腾
·
欧拉
华为芯片与系统详细梳理--Kirin麒麟 & Ascend昇腾 & Kunpeng鲲鹏 & HarmonyOS鸿蒙 & Euler欧拉
华为致力于构建算力底座和系统软件生态,本文做了梳理。华为芯片分多个系列:有麒麟、昇腾、鲲鹏,还有鸿鹄等。
陈 洪 伟
7 个月前
c++
·
昇腾
华为昇腾310B1平台视频解码失败[ERROR] Send frame to vdec failed, errorno:507018
目录1 [ERROR] Send frame to vdec failed, errorno:507018
陈 洪 伟
7 个月前
人工智能
·
昇腾
·
算法模型
华为昇腾310B1平台深度学习算法模型转换
目录1 模型转换(集成nms算子到模型中)1.1 基础模型说明1.2 模型转换1.2.1 设置环境变量
内卷焦虑人士
8 个月前
人工智能
·
昇腾
·
npu
【NPU】A800-9000服务器8*Ascend 910 B的HCCS测试
HCCS集合通信带宽数据timeline信息在msprof_*.json文件的HCCS层级展示summary信息在hccs_*.csv文件汇总。