技术栈
大模型量化方案
a flying bird
2026-01-02 9:31
null
https://zhuanlan.zhihu.com/p/6281447174
大模型量化概述
量化感知训练:
大模型量化感知训练技术原理:LLM-QAT
大模型量化感知微调技术原理:QLoRA
训练后量化:
大模型量化技术原理:GPTQ、LLM.int8()
大模型量化技术原理:SmoothQuant
大模型量化技术原理:AWQ、AutoAWQ
大模型量化技术原理:SpQR
大模型量化技术原理:ZeroQuant系列
大模型量化技术原理:FP8
大模型量化技术原理:FP6
大模型量化技术原理:KIVI、IntactKV、KVQuant
大模型量化技术原理:Atom、QuaRot
大模型量化技术原理:QoQ量化及QServe推理服务系统
大模型量化技术原理:FP4
大模型量化技术原理:总结
大模型
量化
上一篇:
bash前面的(base)实现的原理
下一篇:
技能学习的隐形陷阱:理论过载(Theory Overload)与高效学习框架
相关推荐
组工部管理能手李哥
9 小时前
一次政务知识库体验:AI回答之外,我更在意那行引用来源
大数据
·
人工智能
·
大模型
·
政务
Flynn Liang
14 小时前
AgentScope Java 深度解析:ReActAgent、HarnessAgent 与多智能体编排——JVM 上的自治 Agent 底座
java
·
大模型
·
架构设计
·
ai agent
·
spring ai
·
langchain4j
·
agentscope
香吧香
16 小时前
彻底理解RRF混合检索的实现机制和流程
大模型
隔窗听雨眠
16 小时前
大模型强化学习训练的工程实现与调优路径
大模型
·
强化学习
·
llm训练
codigger
17 小时前
2026年,AI PC靠什么反超传统PC?
ai
·
大模型
·
编程语言
Flynn Liang
2 天前
Spring AI 2.0 深度解析:ChatClient、Advisor 链与 MCP——Java 工程师的 AI 落地最优解
java
·
人工智能
·
spring
·
大模型
·
架构设计
·
spring ai
DevOps老兵
2 天前
Transformer拆解06:Self-Attention,一句话里的词怎样互相看见
大模型
·
transformer
·
自注意力
·
self-attention
·
注意力矩阵
我喜欢就喜欢
2 天前
RAG 重排序 Rerank 实战:用 bge-reranker 把 Top-K 命中率拉回来
python
·
大模型
·
向量检索
·
rag
·
rerank
VIP_CQCRE
2 天前
在 VS Code 等编辑器里用 OpenCode 接入 Ace Data Cloud:Provider 配置与 IDE 验证
大模型
·
ai编程
·
vs code
·
opencode
·
ace data cloud
行走的陀螺仪
2 天前
Super-Agent 架构演进(下):解耦设计与 NestJS 工程落地
架构
·
大模型
·
agent
热门推荐
01
国内可直接用、免费额度/永久免费的大模型API清单(含 SiliconFlow、火山、阿里、智谱、百度、Kimi、DeepSeek、DMXAPI 等)
02
历年考研数学一、数学二、数学三真题试卷及答案PDF
03
几个好用的ip纯净度检测网站
04
GitHub 镜像站点
05
昇腾910B系列芯片完全指南:四款型号对比、服务器选型与大模型部署实战
06
苹果iPA游戏软件资源下载网站
07
蜘蛛磁力 搜索引擎大全,如何使用蜘蛛磁力查找磁力链接
08
如何新建文件夹? 电脑新建文件夹的4种方法
09
微信历史版本含下载地址( Windows PC | 安卓 | MAC )及设置微信不更新
10
Dify:一站式AI应用开发平台全解析与Windows部署指南