加速推理 - 加速推理技术,学习,经验文章

superior tigre

3 小时前

CUDA算子开发（LLM方向）常见的一些术语在CUDA算子开发（尤其是LLM场景下），核心术语主要围绕GPU硬件架构、CUDA编程模型、算子优化、性能分析四大类，下面我会按类别整理高频术语+通俗解释+应用场景，帮你快速掌握核心概念，适配LLM算子开发岗位的学习和面试需求。