ge-pass - ge-pass技术,学习,经验文章

嗝oﾟ

7 小时前

昇腾CANN ge 仓的图优化 Pass：哪些 Pass 真正影响推理性能你训练好一个模型，导出 ONNX，转成 CANN 的 OM 模型。推理时发现：延迟 89ms，吞吐只有 1200 samples/s。