技术栈
aqlm
伊织code
10 个月前
llama
·
量化
·
autogptq
·
quantization
·
awq
·
quanto
·
aqlm
Llama - 量化
本文翻译整理自： https://llama.meta.com/docs/how-to-guides/quantization/