技术栈
quantization
伊织code
4 个月前
llama
·
量化
·
autogptq
·
quantization
·
awq
·
quanto
·
aqlm
Llama - 量化
本文翻译整理自: https://llama.meta.com/docs/how-to-guides/quantization/
爱听歌的周童鞋
1 年前
pytorch
·
模型量化
·
yolov7量化
·
quantization
TensorRT量化实战课YOLOv7量化:YOLOv7-PTQ量化(一)
手写 AI 推出的全新 TensorRT 模型量化实战课程,链接。记录下个人学习笔记,仅供自己参考。该实战课程主要基于手写 AI 的 Latte 老师所出的 TensorRT下的模型量化,在其课程的基础上,所整理出的一些实战应用。