ascend

zjun302115 天前
ascend·hccl·带宽测试·ascend-dmi
Ascend上如何进行通信带宽测试https://www.hiascend.com/developer/download/community/result?module=dl%2Bcann
zjun302124 天前
arm开发·npu·ascend·step-audio
在ARM+Ascend NPU上适配Step-Audio模型Step-Audio 是业界首个集语音理解与生成控制一体化的产品级开源实时语音对话系统,支持多语言对话(如 中文,英文,日语),语音情感(如 开心,悲伤),方言(如 粤语,四川话),可控制语速及韵律风格,支持RAP和哼唱等。其核心技术突破体现在以下四大技术亮点: • 1300亿多模态模型: 单模型能实现理解生成一体化完成语音识别、语义理解、对话、语音克隆、语音生成等功能,开源千亿参数多模态模型 Step-Audio-Chat。 • 高效数据生成链路: 基于130B 突破传统 TTS 对人工采集数据的依赖,
工具人呵呵1 个月前
香橙派·昇腾·ascend·算子开发
[嵌入式AI从0开始到入土]18_Ascend C算子开发环境(S5赛季)注:等我摸完鱼再把链接补上 可以关注我的B站号工具人呵呵的个人空间,后期会考虑出视频教程,务必催更,以防我变身鸽王。
Nicolas8932 个月前
华为·信创·模型部署·昇腾·ascend·vllm·模型推理
【大模型实战篇】华为信创环境采用vllm部署QwQ-32B模型本文分享在华为昇腾机器上部署QwQ-32B模型的实践。首先华为自己是提供了一套在信创机器(NPU)上部署模型的方案【1】,但是部署之后,测试发现会有输出截断的现象。QwQ-32B本身是支持128k的最大上下文长度,定位可能是max-model-len的设置没有生效,但是华为的启动参数中只有maxSeqLen以及maxInputTokenLen参数,修改后也不奏效。
哦豁灬4 个月前
人工智能·pytorch·学习·ascend
基于香橙派 KunpengPro学习CANN(2)——Ascend Extension for PyTorch 配置与安装将 PyTorch 网络迁移到昇腾平台并执行训练或推理,直接使用昇腾提供的构图接口构图。Ascend Extension for PyTorch插件用于适配PyTorch框架,可以使用昇腾AI处理器的算力。
就是一顿骚操作1 年前
人工智能·python·语言模型·自然语言处理·ascend
glm2大语言模型服务环境搭建ChatGLM2-6B 是开源中英双语对话模型 ChatGLM-6B 的第二代版本,在保留了初代模型对话流畅、部署门槛较低等众多优秀特性的基础之上,ChatGLM2-6B 引入了如下新特性:
就是一顿骚操作1 年前
人工智能·pytorch·ascend
基于Pytorch+昇腾NPU部署baichuan2-7B大模型项目地址:https://github.com/baichuan-inc/baichuan-7B预训练模型:https://huggingface.co/baichuan-inc/baichuan-7B
工具人呵呵1 年前
人工智能·opencv·ascend
[嵌入式AI从0开始到入土]14_orangepi_aipro小修补含yolov7多线程案例注:等我摸完鱼再把链接补上 可以关注我的B站号工具人呵呵的个人空间,后期会考虑出视频教程,务必催更,以防我变身鸽王。
Zain Lau2 年前
c++·ubuntu·docker·ascend·atlas
Ubuntu部署docker及docker常用操作Ubuntu上安装Docker步骤:注意,要在不使用sudo的情况下运行docker命令,您可以将当前用户添加到docker组中,然后注销并重新登录:
fdd0960300792 年前
人工智能·pytorch·python·昇腾·npu·ascend
Ascend-pytorch插件介绍及模型迁移用于昇腾适配PyTorch框架,为使用PyTorch框架的开发者提供昇腾AI处理器的超强算力。当前(2023.9.20)AscendPyTorch支持的pytorch版本如下: