triton

Triton - 官方文档介绍https://triton-lang.org/main/getting-started/tutorials/index.html

GoCodingInMyWay

Triton + RISC-V如何深入学习 Triton 的编译器技术栈？为此，我设定了一个 Triton + RISC-V 的学习目标：尝试将一个简单的向量加法算子，通过 Triton 编译并运行到 RISC-V 仿真环境上。

GoCodingInMyWay

Triton 开始Triton，本文指 OpenAI Triton，先看官方介绍，Triton is a language and compiler for parallel programming. It aims to provide a Python-based programming environment for productively writing custom DNN compute kernels capable of running at maximal throughput on modern GP

AI 编译器系列（四）《AI 编译器中的后端优化》目录内存管理优化1. 优化思路2. Naive 版本3. 优化版本4. 惰性分配（Lazy Allocation）

爱听歌的周童鞋

斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Assignment 2: FlashAttention-2本篇文章记录 CS336 作业 Assignment 2: Systems 中的 FlashAttention-2 作业要求，仅供自己参考😄

突破 ComfyUI 环境枷锁：RTX 3090 强行开启 comfy-kitchen 官方全后端加速库实战https://pypi.org/project/comfy-kitchen/https://github.com/Comfy-Org/comfy-kitchen

HyperAI超神经

【Triton 教程】triton_language.loadTriton 是一种用于并行编程的语言和编译器。它旨在提供一个基于 Python 的编程环境，以高效编写自定义 DNN 计算内核，并能够在现代 GPU 硬件上以最大吞吐量运行。

超越CUDA：Triton硬件无关性在昇腾平台上的实现挑战与突破目录摘要1. 引言：硬件生态锁定的技术困局1.1 CUDA生态的"软锁定"效应1.2 昇腾平台的差异化架构挑战

Triton算子开发范式：从向量加法和Gather算子看高效编程实践目录摘要1. Triton算子开发范式的核心价值1.1 昇腾平台算子开发的挑战与机遇1.2 Triton编程模型的核心优势

Triton - Ascend算子开发基础解析：解锁高效NPU编程的新范式目录摘要1 引言：为什么选择Triton进行Ascend算子开发？2 Triton与Ascend C架构对比分析

爱听歌的周童鞋

斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Lecture 6: Kernels，Triton学习斯坦福的 CS336 课程，本篇文章记录课程第六讲：高性能 GPU 代码的编写，记录下个人学习笔记，仅供自己参考😄

triton backend 模式docker 部署 pytorch gpu模型镜像选择参考官方tag 对应的镜像地址 https://catalog.ngc.nvidia.com/orgs/nvidia/containers/tritonserver?version=25.09-trtllm-python-py3

tensorRT配合triton部署模型initializer：拓扑关系：先conv，后relu3.1 边 3.2 算子 3.3 模型 3.4 图

llamafactory微调模型报错ModuleNotFoundError: No module named ‘triton.ops‘在阿里云Notebook上使用llamafactory微调Meta-Llama-3-8B-Instruct模型报错ModuleNotFoundError: No module named ‘triton.ops’

✦昨夜星辰✦

Triton Inference Server 架构原理上篇文章进行了 TensorRT-LLM & Triton Server 部署，本篇简单讲讲 Triton Inference Server 的架构原理，便于大家更好的做配置和开发。

不使用 Docker 构建 Triton 服务器并在 Google Colab 平台上部署 HuggingFace 模型根据Triton 环境对应表，Colab 环境缺少 tensorrt-8.6.1，cudnn9-cuda-12，triton-server 版本应该选择 r23.10。

Triton Server Python 后端优化接上文不使用 Docker 构建 Triton 服务器并在 Google Colab 平台上部署 HuggingFace 模型

扫地的小何尚

(含代码)利用NVIDIA Triton加速Stable Diffusion XL推理速度扩散模型正在改变跨行业的创意工作流程。这些模型通过去噪扩散技术迭代地将随机噪声塑造成人工智能生成的艺术，从而基于简单的文本或图像输入生成令人惊叹的图像。这可以应用于许多企业用例，例如创建个性化营销内容、为照片中的对象生成富有想象力的背景、设计动态的高质量环境和游戏角色等等。

碰到一个用pip死活装不上模块的问题（ModuleNotFoundError: No module named ‘triton‘）折腾了半天才发现问题的根源在于平台不同。当我在windows上尝试用pip install triton命令安装该模块的时候，总会提示