技术栈
大模型量化方案
a flying bird
2026-01-02 9:31
null
https://zhuanlan.zhihu.com/p/6281447174
大模型量化概述
量化感知训练:
大模型量化感知训练技术原理:LLM-QAT
大模型量化感知微调技术原理:QLoRA
训练后量化:
大模型量化技术原理:GPTQ、LLM.int8()
大模型量化技术原理:SmoothQuant
大模型量化技术原理:AWQ、AutoAWQ
大模型量化技术原理:SpQR
大模型量化技术原理:ZeroQuant系列
大模型量化技术原理:FP8
大模型量化技术原理:FP6
大模型量化技术原理:KIVI、IntactKV、KVQuant
大模型量化技术原理:Atom、QuaRot
大模型量化技术原理:QoQ量化及QServe推理服务系统
大模型量化技术原理:FP4
大模型量化技术原理:总结
大模型
量化
上一篇:
bash前面的(base)实现的原理
下一篇:
技能学习的隐形陷阱:理论过载(Theory Overload)与高效学习框架
相关推荐
程序猿编码
4 天前
告别改源码适配模型:纯 C++ 可配置 LLM 推理引擎,全格式全结构兼容
c++
·
大模型
·
llm
·
推理引擎
蔡俊锋
4 天前
华为昇腾 960 超节点发布:4096 卡、5500 个光引擎替 4.8 万光模块——国产算力拐点到了吗?
大模型
·
模型部署
·
ai架构
·
国产算力
·
华为昇腾
O。O蛋黄酥啊
4 天前
Claude Code 记忆机制全拆解:Auto Memory 与 CLAUDE.md 双轨解析
大模型
·
agent
·
memory
·
claude
·
codex
·
记忆
BlackStar_L
4 天前
第二章 上下文工程
大模型
·
llm
·
agent
User_芊芊君子
4 天前
让 Claude Code 换上国产大脑:蓝耘元生代上 GLM-5.2 / DeepSeek / Qwen 模型横评实测
人工智能
·
ai
·
大模型
寻道码路
4 天前
大模型工程化实战(十二):RAG 数据工程底座——采集到入库流水线(离线+在线双链路)
大模型
·
知识库
·
rag
·
ai工程化
·
llmops`
·
数据工程底座
·
文档采集
Web3&Basketball
4 天前
CRM Agent 后训练实战:3 倍更少错误
python
·
架构
·
大模型
·
agent
·
推理
蚁小二官方
4 天前
AI 安全治理框架更新|大模型训练数据合规,企业实操落地思路
大模型
·
数据合规
·
ai安全
AI模力圈
4 天前
On-Policy Distillation:原理、变体与工程实现解析
大模型
·
强化学习
·
知识蒸馏
长谷深风111
5 天前
根因定位:三步隔离法破解AIBadcase
人工智能
·
ai
·
大模型
·
retrieval
·
ai智能体
·
aiagent
·
aibadcase
热门推荐
01
国内可直接用、免费额度/永久免费的大模型API清单(含 SiliconFlow、火山、阿里、智谱、百度、Kimi、DeepSeek、DMXAPI 等)
02
Telegram APK 下载安装完整指南 — 2026年最新
03
GitHub 镜像站点
04
2026 爱知・名古屋亚运会怎么看?直播平台+赛程安排分享
05
历年考研数学一、数学二、数学三真题试卷及答案PDF
06
蜘蛛磁力 搜索引擎大全,如何使用蜘蛛磁力查找磁力链接
07
微信历史版本含下载地址( Windows PC | 安卓 | MAC )及设置微信不更新
08
2026 国产 AI 大模型横评:DeepSeek、通义千问、Kimi、文心一言、星火、豆包谁更能打?
09
人工智能(AI)发展史:详细里程碑
10
2026年CSP-J初赛分数线-----预测