mlir

xier_ran6 天前
mlir
【infra之路】编译优化MLIR做pass的详细过程本质上不管是静态图还是动态图都是由3个部分组成的Tensor、算子(Ops)、依赖关系Edge。这是我们在图捕获得到静态/动态图之后需要这个图Lowering到相应的中间层IR做相关的优化。
xier_ran6 天前
mlir
【infra之路】MLIR中dialect的转换过程我标注“执行了什么 Pass”以及“IR 树发生了什么变化”。 假设我们的模型是:Y = ReLU(MatMul(A, B))。
梦帮科技6 天前
网络·人工智能·深度学习·神经网络·自然语言处理·cnn·mlir
端侧编译原理:TVM / MLIR 计算图模式匹配、算子融合与显存生命周期复用专栏名称:《QNL-36:从量子张量网络到端侧异构认知大模型全栈实战》 分卷归属:卷六·端侧编译器、极限推理加速与可证伪性测评(Volume VI: Edge Compilation, Extreme Inference & Falsifiable QC) 文档编号:QNL-36-VOL06-ART21 主笔专家:QNL-009 COMPILER-TVM(端侧编译专家)· QNL-020 MLIR-DIALECT(计算图方言专家) 联署质检:QNL-031 VRAM-GUARD(显存守卫架构师)· QNL
Ivanqhz25 天前
开发语言·人工智能·python·深度学习·mlir
Ping-Pong 双缓冲Ping-Pong 双缓冲为了让"搬数据"和"算数据"同时进行,用两块缓冲区轮流工作,把搬运时间"藏"在计算时间后面。
Ivanqhz1 个月前
python·深度学习·神经网络·cnn·mlir
BM1688 双核架构BM1688 把两个独立的计算核封装在一颗芯片里,每个核有自己的指令队列、局部存储和 L2BM1684X 是单核组、64 Lane:
xier_ran1 个月前
mlir
【infra之路】MLIR 中 Region 和 Block 的关系在 MLIR 中,Operation 可以包含 Region,Region 包含 Block,Block 包含 Operation —— 这是一个递归的层次结构。
Ivanqhz1 个月前
开发语言·人工智能·python·深度学习·mlir
Unigram 算法Unigram 是 SentencePiece 中常用的一种子词分词算法,和 BPE、WordPiece 的“从字符合并”方向相反:它先构建一个很大的候选词表,然后反复删除对语料似然影响最小的 token,直到词表缩小到目标大小。
Ivanqhz1 个月前
开发语言·python·mlir
MLIR OpBuilder在 MLIR 里,你不能随便 new 一个 op,必须通过 OpBuilder 这个“工厂”来创建。在 MLIR 中,一个 Operation 不是孤立存在的。它必须:
清钟沁桐1 个月前
笔记·学习·mlir
mlir 编译器学习笔记之十四 -- cpu算子自动生成在 Triton 的 CPU 后端编译流程中,LinalgLowerToAffineLoops Pass(其运行参数为 --convert-linalg-to-affine-loops)是一个关键步骤。它的作用就是将 linalg 方言中声明式的、硬件无关的线性代数操作(如 linalg.matvec),降级为显式的、带有仿射(Affine)访存模式的循环嵌套(affine.for)和操作(affine.load/affine.store)
早日退休!!!2 个月前
mlir
MLIR 层次化编译规范MLIR(Multi-Level Intermediate Representation)的核心方法论是分层渐进式降阶(Progressive Lowering):将复杂的 AI 编译问题拆解为多个抽象层次,每层只关注单一维度的语义表达与优化,通过明确的边界和约束实现可维护、可扩展的编译器架构。
小L~~~3 个月前
笔记·学习·mlir
MLIR学习笔记部分内容由豆包生成MLIR(Multi-Level Intermediate Representation,多级中间表示)是 LLVM 项目下的一个编译器基础设施框架,由 Chris Lattner 主导开发。它的核心目标是解决传统编译器在面对异构计算、领域特定语言(DSL)和深度学习时的扩展性问题。
清钟沁桐5 个月前
笔记·学习·mlir
mlir 编译器学习笔记之十 -- 数据类型1、MLIR区分三种整数类型IntegerType::get(context, 32, IntegerType::Signless); // 简写IntegerType::get(context, 32) IntegerType::get(context, 32, IntegerType::Signed); IntegerType::get(context, 32, IntegerType::Unsigned);
清钟沁桐5 个月前
笔记·学习·mlir
mlir 编译器学习笔记之九 -- 后端生成方案1、在mlir中使用标准的emitc转换生成EmitC 是 MLIR(Multi-Level Intermediate Representation)框架中的一个官方方言(Dialect),而不是一个独立的编程语言标准(如 C++11 或 C99 那样的标准),其中总体实现可以参数社区的现有实现方法:
喜欢打篮球的普通人6 个月前
数据库·mlir
MLIR入门采用cmake,而不采用bazelMLIR 自 LLVM 14 (2022) 起正式进入 LLVM 稳定发布系列,所有稳定版中 Clang 与 MLIR 完全配套、ABI 稳定.
greatofdream6 个月前
笔记·mlir
LLVM安装使用LLVM官方的下载在github上,下载速度很缓慢,可以用tuna提供的二进制下载位置 。其中包括很多工具,比如格式检查工具clang-format,可以配置到VsCode里的LSP工具llvm-lsp。
Shining05967 个月前
人工智能·架构·大模型·mlir·infinitensor·hivm·前沿模型
前沿模型系列(五)《多模态智能及其应用》目录Nano Banana Pro 技术原生多模态模型与长上下文思考数据生产与评估反馈开源多模态生成模型的挑战
喜欢打篮球的普通人7 个月前
neo4j·mlir
MLIR快速入门Clang 对 AST 进行静态分析和转换操作,各个语言的 AST 都需要进行类似的静态分析和转换操作。
Shining05967 个月前
人工智能·架构·mlir·infinitensor·hivm·ascendnpu ir
AI 编译器系列(七)《(MLIR)AscendNPU IR 编译堆栈》目录AscendNPU IR 架构概述Triton-Ascend + AscendNPU IRMLIR 简介:
读书读傻了哟10 个月前
mlir·llvm
MLIR编译安装一、下载 下载链接:https://github.com/llvm/llvm-project二、编译LLVM 编译命令:
氵文大师10 个月前
mlir
MLIR 中最常用的方言MLIR 的强大之处在于它的多层方言栈。通过不同层级的方言,MLIR 可以从高级的算法描述一直转换到最底层的机器码。