npu

Industio_触觉智能2 天前
嵌入式硬件·ai·硬件架构·npu·ai视觉·rk3576·采集终端
把NPU检测直接嵌进采集终端|RK3576 AI采集终端全链路拆解教程-下上篇把采集链路讲清楚了:相机取帧 → NPU 出框 → 框烧进照片。这一篇专门解决一个问题——这套 AI 能力怎么真正落到 RK3576 板子上。
Vex2une3 天前
边缘计算·模型量化·npu·本地ai·onnx runtime·copilot+ pc·directml
Windows Copilot+ PC本地AI开发:2026年NPU编程与模型部署实战指南对 Windows 开发者而言,Copilot+ PC 不再只是“能跑 AI 的电脑”,而是 2026 年端侧智能应用的基础设施。NPU 以极低功耗提供持续推理能力,使隐私敏感、低延迟或离线场景成为可能。然而,NPU 并非 GPU 的替代品——其架构专为 INT8/FP16 量化模型优化,对动态形状、自定义算子支持有限。盲目移植云端模型往往导致性能倒退甚至运行失败。本文聚焦可落地的 NPU 开发范式,将硬件算力转化为可靠的应用能力。
Industio_触觉智能6 天前
人工智能·嵌入式硬件·硬件架构·硬件工程·智能硬件·npu·rk3576
把NPU检测直接嵌进采集终端|RK3576 AI采集终端全链路拆解教程-上很多项目里“相机”和“AI 识别”是两套程序:相机管拍,识别另起进程跑。本文基于触觉智能RK3576开发板Purple Pi OH2开发板制作的采集终端(RkDataTerminal)Demo里做的另一种结合方式——把NPU检测直接嵌进采集链路:相机取帧→模型出框→框烧进照片→连同当时的通道数据一起归档上报;值守时更是1fps持续检测,人/动物经过就自动拍下带框的留证照片。
Industio_触觉智能7 天前
硬件架构·npu·核心板·瑞芯微·rk3562·模组·rk3562j
1TOPS+WiFi6双频+千兆PHY,兼容树莓派CM4/CM5引脚|触觉智能SOM6208核心板过去一年,树莓派 CM4/CM5 的交期与价格,逼着不少做工业设备的团队做了同一个动作:改板。然而随之而来的Layout、打样、EMC、老化、量产验证,一轮下来少则两三个月,多则半年——成本不止一颗芯片。
m0_617493948 天前
npu
昇腾 NPU 推理环境安装与配置文档适用场景:昇腾 aarch64 服务器 / 推理盒子,离线或内网环境,Python 3.10,Ubuntu 22.04。 本文档不包含 Docker 部署内容。
yuanyun_elber10 天前
npu
用sysview优化npu固件调度的方法NPU的调度如何去优化,一般场景下聊的是上层调度的策略,比如如何规避权重搬运带宽墙,如何拆分计算图等等。
Industio_触觉智能14 天前
人工智能·嵌入式硬件·硬件架构·智能硬件·npu·瑞芯微·端侧ai
瑞芯微AI算力NPU路线图与协处理器|触觉智能瑞芯微RK方案商出品从0.5TOPS低功耗RV1106,到20TOPS的RK182X离线大模型 ——瑞芯微这条路线走了十余年,算力从0.5TOPS一路铺到20TOPS,中途还分出一条「独立协处理器」的支线。
Java后端的Ai之路19 天前
服务器·网络·数据库·npu·大模型服务
昇腾NPU显存管理避坑指南:从npu-smi输出精准识别空闲卡的底层逻辑与实战在人工智能飞速发展的今天,大语言模型(LLM)的参数规模不断攀升,从早期的几亿参数到如今动辄几百亿甚至上千亿参数。为了支撑这些庞然大物的推理和训练,企业对底层算力的需求呈现指数级增长。在这个过程中,华为昇腾(Ascend)系列NPU凭借其强大的算力和本土化生态优势,成为了众多企业构建AI基础设施的重要选择。
zhangfeng11331 个月前
人工智能·华为·ai编程·npu
Ag / Cu / Au / Ru / Ir / Rh银 铜 金 钌铱 铑 纳米尺度下的 导电性 + 扩散/迁移缺点块体银是常温下导电性最好的金属:σ≈6.3×107 S/m\sigma\approx6.3\times10^7\ \text{S/m}σ≈6.3×107 S/m,电阻率 1.59 μΩ⋅cm1.59\ \mu\Omega\cdot\text{cm}1.59 μΩ⋅cm。 到纳米尺度(纳米颗粒、纳米线、超薄银膜):
zhangfeng11331 个月前
人工智能·华为·ai编程·npu
Reward Hacking 奖励钻空子 / 奖励作弊 Specification Gaming(规范博弈)中文:奖励钻空子 / 奖励作弊,也叫 Specification Gaming(规范博弈)一句话定义:智能体找到奖励函数里的漏洞,把奖励分数拉满,但并没有完成设计者真正想要的目标。 本质是 古德哈特定律(Goodhart’s Law) 在AI优化上的体现:当一个指标变成优化目标,它就不再是一个好指标。
zhangfeng11331 个月前
人工智能·算法·ai编程·npu
国产GPU/AI算力芯片现状(修订完整版 · 截至2026年9月根据豆包和kimi 生成 ai生成修订说明:本版在原稿(7轮审核版)基础上,叠加2025年报、2026年中报、IDC出货数据及各公司招股书/上市信息,更新评级与事实;保持原稿口径——区分事实陈述与市场传闻、区分出货量与硬件销售收入、区分资本绑定订单与市场化订单,规避夸大与绝对化表述。
熊猫钓鱼>_>1 个月前
人工智能·搜索引擎·harmonyos·鸿蒙·npu·图像超分·文搜图
Harmony Intelligence AI 开放能力深度解读 | 图像超分 + 文搜图:端侧视觉的“放大镜“与“搜索引擎“HarmonyOS 7.0.0(API 26)· Core Vision Kit 端侧视觉 AI 新能力
zhangfeng11331 个月前
人工智能·算法·ai编程·npu
qjlDim 含义 TurboQuant QJL Quantized Johnson-Lindenstrauss,量化JL随机投影mse2:就是 MSE最优标量量化(Lloyd‑Max)阶段,TurboQuant 的 Stage1;然后 Stage2 对残差做 QJL(Quantized Johnson-Lindenstrauss,量化JL随机投影) 1bit残差校正。 qjlDim = QJL sketch维度(投影后的草图向量长度 m),这里等于384。
zhangfeng11331 个月前
人工智能·华为·ai编程·npu·cann
Ubuntu 版的 CANN 9.2.0-beta.1 的下载方式 三大云厂商的服务器系统截图里看不到 Ubuntu,并不代表 CANN 不支持 Ubuntu——本质原因是你勾选的「950 系列产品 + X86_64 + 离线安装」过滤条件,把选项筛到了只剩 veLinux / Tlinux / AliOS 这三家云厂商的系统。把条件换成「在线安装 或 容器镜像」就会出现 Ubuntu 22.04、openEuler 等选项,官方镜像仓库里也有大量 9.2.0-beta.1-950-ubuntu22.04-py3.x 的 Docker 镜像。另外截图里版本号是 9.2.0-beta.1,bet
zhangfeng11331 个月前
人工智能·华为·ai编程·npu·cann
ATK(华为算子测试平台)详细介绍 CANN(Compute Architecture for Neural Networks,神经网络计算架构ATK(ApiToolKits)是华为昇腾生态中面向算子接口的端到端测试工具,属于 MindStudio 工具链家族(项目地址:gitcode.com/Ascend/ATK),定位是为算子开发者和算子测试人员提供"用例泛化生成 + 用例测试执行"的一站式框架,用来简化昇腾 NPU 算子的验证流程。
zhangfeng11331 个月前
人工智能·算法·华为·ai编程·npu
《从“人工适配“到“智能生成“:KernelSwift 跨国产芯片算子迁移全栈方案解读》 —— 强调范式跃迁和跨硬件属性,适合偏架构分析的写法是的,这两条消息反映的其实是同一套技术底座在两类国产硬件上的落地,这个方向挺值得关注的。我帮你梳理一下脉络和意义:
zhangfeng11331 个月前
人工智能·华为·ai编程·npu·cann
昇腾 950PR/950DT 新增regbase 编程方式和MemBase SIMD/SIMT 混合编程模型开发者通过 __simd_vf__ 标记的 Vector Function 和 AscendC::Reg 命名空间下的 Reg API,直接操作 AIV 核内新加的一级 SIMD Register File(VF Reg),把一段连续矢量计算完整保留在寄存器里,只在进入和退出时与 Unified Buffer(UB)交互一次。
zhangfeng11331 个月前
人工智能·ai编程·算子·npu·cann
cann 华为npu 算子开发直接访问L2高速缓存 的可行性分析大概率不行——L2 直访和 UB 指针化是两类性质不同的问题。 你之前那个 VECTOR 指针化任务之所以改 asc-devkit 就够,是因为 __ubuf__ 是编译器已经原生支持的地址空间关键字,只是 Basic API 层没开放入口。而 L2 的情况是:当前 Ascend C 的语言扩展里根本不存在 L2 的地址空间限定符,这不是库层能补的缺口。不过"L2 直访"这个需求要拆成两种含义,结论也不一样。
@嵌入式扫地僧2 个月前
雷达点云·mimo·npu·tiny-asil·tflite micro
车载毫米波雷达分类芯驰 D9-Pro 部署全流程本文针对车载低速前向碰撞预警场景,拆解从 MIMO 雷达点云预处理到 PointNet-Tiny-ASIL 模型 1ms 低延迟推理、ASIL-B 功能安全适配的全流程,基于芯驰 D9-Pro 车规芯片和 TFLite Micro 车规版框架,给出量产级可运行 C 代码实现,实测推理延迟最低 0.78ms,功能安全故障检测覆盖率达 92%。