技术栈
大模型量化方案
a flying bird
2026-01-02 9:31
null
https://zhuanlan.zhihu.com/p/6281447174
大模型量化概述
量化感知训练:
大模型量化感知训练技术原理:LLM-QAT
大模型量化感知微调技术原理:QLoRA
训练后量化:
大模型量化技术原理:GPTQ、LLM.int8()
大模型量化技术原理:SmoothQuant
大模型量化技术原理:AWQ、AutoAWQ
大模型量化技术原理:SpQR
大模型量化技术原理:ZeroQuant系列
大模型量化技术原理:FP8
大模型量化技术原理:FP6
大模型量化技术原理:KIVI、IntactKV、KVQuant
大模型量化技术原理:Atom、QuaRot
大模型量化技术原理:QoQ量化及QServe推理服务系统
大模型量化技术原理:FP4
大模型量化技术原理:总结
大模型
量化
上一篇:
bash前面的(base)实现的原理
下一篇:
技能学习的隐形陷阱:理论过载(Theory Overload)与高效学习框架
相关推荐
深海鱼肝油ya
5 小时前
小说自动生成系统(二)
人工智能
·
大模型
·
agent
·
智能体
·
自动化编程
·
小说生成系统
在水一缸
12 小时前
深度解析 GPT-5.6:大模型架构演进与复杂任务实战指南
大数据
·
人工智能
·
gpt
·
架构
·
大模型
·
架构演进
·
gpt-5.6
Tbisnic
14 小时前
26.AI大模型:RNN、LSTM、GRU
人工智能
·
python
·
rnn
·
gru
·
大模型
·
llm
·
lstm
Nebula_g
15 小时前
大模型应用技术速通笔记
笔记
·
深度学习
·
机器学习
·
大模型
程序猿编码
18 小时前
没有AI框架,没有GPU,一个C语言文件跑通大模型
c语言
·
开发语言
·
人工智能
·
深度学习
·
ai
·
大模型
_codemonster
2 天前
从零手搓大模型(七)GPT 转 Llama:从教学版 GPT 走向现代 LLM 架构
人工智能
·
gpt
·
大模型
·
llama
战族狼魂
2 天前
广东备案大模型超百款
人工智能
·
算法
·
大模型
·
大语言模型
带娃的IT创业者
2 天前
开源新纪元:深度解析小米 MiMo Code 的技术架构与实战应用
架构
·
开源
·
大模型
·
小米
·
代码生成
·
技术架构
·
mimo code
zhayujie
2 天前
如何设计一个 Agent 友好的 CLI 工具
ai
·
大模型
·
agent
·
cli
·
harness
热门推荐
01
GitHub 镜像站点
02
2026年7月AI圈大地震:GPT-5.6被政府限制、Claude入驻Slack、Anthropic自研芯片
03
AI科技热点日报 | 2026年07月01日
04
幻兽帕鲁 - 服务器管理员权限与 GM 命令完全指南
05
国内可直接用、免费额度/永久免费的大模型API清单(含 SiliconFlow、火山、阿里、智谱、百度、Kimi、DeepSeek、DMXAPI 等)
06
AI 编程 IDE 全景解析 2026:Agent 全面接管开发链路
07
Codex 下载安装指南:Windows 和 macOS 官方版下载
08
2026 国产 AI 大模型横评:DeepSeek、通义千问、Kimi、文心一言、星火、豆包谁更能打?
09
昇腾910B系列芯片完全指南:四款型号对比、服务器选型与大模型部署实战
10
2026 年 AI 大模型 & AI 编程工具实战全总结