技术栈
推理平台
小哈里
10 天前
大模型
·
编译器
·
1024程序员节
·
计算机系统原理
·
算子优化
·
推理平台
【编译器】从计算机系统原理到 LLM 编译器与算子优化
很多人学习大模型编译器时,会直接从 TVM、MLIR、XLA 或 Triton 的 API 开始。这样虽然能很快写出一个例子,但遇到性能问题时,往往不知道应该检查数据类型、指令生成、显存访问,还是异步执行。
文慧的科技江湖
1 年前
人工智能
·
开源
·
gpu池化
·
推理平台
·
训练平台
·
gpu管理平台
·
ai人工智能操作系统
开源 | 企业级开源人工智能训练推理平台 - GPU池化平台 - GPU算力平台 - GPU调度平台 - AI人工智能操作系统
🔥 Github 主仓库(优先更新)https://github.com/roinli/SSD-GPU-POOL | Gitee 镜像仓库
我是有底线的