PyPTO Pro是昇腾 CANN 体系下的AI算子编程框架，兼顾易用性与高性能。在本次 DeepSeek-V4.1 高性能算子生成实践中，基于CANNBot PyPTO Pro Agent强大的算子生成能力，结合PyPTO Pro简洁易用的 Python 编程接口、灵活高效的计算表达以及对 AI Agent 的良好适配，实现了算子分析、代码生成、精度验证和性能调优的全流程协同，提供了一种更加高效、智能的 NPU 算子开发方式。
01 使用PyPTO Pro Agent快速生成DeepSeek-V4.1融合算子
CANNBot已完成PyPTO Pro Agent工作流构建，结合PyPTO易用性优化与Agent亲和优化，支持稳定生成高性能的复杂融合算子。PyPTO Pro Agent分为5个stage，端到端完成算子的开发和优化：
通过CANNBot Agent智能体选择PyPTO Pro Agent工作流，输入算子需求描述，即可端到端高效的完成算子开发和性能调优。
添加图片注释，不超过 140 字（可选）
本次DeepSeek-V4.1 算子生成过程中，不是让 Agent 只生成一版代码，而是让它持续参与"理解---实现---验证---调优"的完整闭环。Agent 负责大量重复分析、编码和迭代工作，工程师负责目标定制、少量调优与结果验收。这种协作让复杂算子的迁移不再完全依赖手工探索，也让优化过程更容易复现和延续。在一周内完成了DeepSeek-V4.1融合算子的生成并达成高效的性能，极大的提升了开发效率。
02 生成的DeepSeek-V4.1 融合算子性能表现
面向DeepSeek-V4.1 模型，本次在 Ascend 950 上基于 PyPTO Pro Agnet工作流实现了以下8个算子，经理论分析和实测，所有算子均已达成高效性能:
| 算子 | 性能表现 |
|---|---|
| mhc_pre_fuse | 该算子性能上限由mte搬运性能决定，MFU占用率较低，当前MTE2 已到 96% ~ 98%，当前已做到MTE2 bound。 |
| quant_lightning_indexer | 该算子CV流水深度并行，性能上限由fixpipe+ MTE决定，长序列场景， FIXPIPE 占用约 69.7%--73.6%，AIC MTE2 约 69.1%--72.8%，性能达成情况符合理论预期。 |
| mixed_quant_sparse_flash_mla | 该算子性能上限由在离散访存、片上复用和 Cube--Vector 并行决定，当前gather的离散访存性能符合理论预期 |
| engram_hash | 该算子性能上限由vector算力界定，当前aiv_vec 约 92.5%--98.9%，做到vector bound |
| quant_sparse_lightning_indexer | 该算子性能上限由AIV 侧 MTE2 的 paged-K gather 搬运，与CV并行程度共同决定，MFU月12%左右符合理论预期。 |
| engram_gate_fwd | 该算子为纯vector算子，当前buffer流水已做到GM->UB搬运与vector计算互相掩盖，达成MTE bound |
| indexer_prologue_k | 该算子cube计算占比较低，性能开销主要由尾部离散访存决定，当前通过simt指令已实现高效的性能 |
| indexer_prologue_qw | 该算子cube计算占比较低，性能开销主要由尾部离散访存决定，当前通过simt指令已实现高效的性能 |
相关代码实践与性能数据请参考附录。
03 总结
本次DeepSeek-V4.1 算子生成实践充分展现了PyPTO Pro 在易用性、高性能和AI agent协同的优势；PyPTO Pro不仅让高性能算子更容易开发，更在于把 AI Agent 变成真正参与开发的伙伴，帮助开发者更高效地释放昇腾 NPU 算力。
附录
PyPTO 框架代码仓：
https://atomgit.com/cann/pypto
PyPTO-Gym仓 DeepSeek-V4.1 算子代码与性能数据：
https://atomgit.com/cann/pypto-gym/tree/master/ops/pypto_pro/deepseek_v4_1
CANNBot PyPTO Pro Agent工作流：
若想了解更多 CANNBot PyPTO Pro算子编程智能体硬核技术及复杂融合算子开发实操，欢迎报名活动：
主题：CANN 开发者 Meetup PyPTO 算子编程专场
时间：2026年10月24日（周六） 14:00-18:00
地点：上海市杨浦区创智天地广场7号楼一楼会议室