技术栈
大模型量化方案
a flying bird
2026-01-02 9:31
null
https://zhuanlan.zhihu.com/p/6281447174
大模型量化概述
量化感知训练:
大模型量化感知训练技术原理:LLM-QAT
大模型量化感知微调技术原理:QLoRA
训练后量化:
大模型量化技术原理:GPTQ、LLM.int8()
大模型量化技术原理:SmoothQuant
大模型量化技术原理:AWQ、AutoAWQ
大模型量化技术原理:SpQR
大模型量化技术原理:ZeroQuant系列
大模型量化技术原理:FP8
大模型量化技术原理:FP6
大模型量化技术原理:KIVI、IntactKV、KVQuant
大模型量化技术原理:Atom、QuaRot
大模型量化技术原理:QoQ量化及QServe推理服务系统
大模型量化技术原理:FP4
大模型量化技术原理:总结
大模型
量化
上一篇:
bash前面的(base)实现的原理
下一篇:
技能学习的隐形陷阱:理论过载(Theory Overload)与高效学习框架
相关推荐
梦想三三
7 分钟前
Qwen Function Calling实战:重构电商客服AI Agent
人工智能
·
python
·
langchain
·
大模型
·
rag
VIP_CQCRE
27 分钟前
用 Cherry Studio 接入 Ace Data Cloud:一个 Token 打通 Claude、GPT、Gemini、DeepSeek 等主流模型
ai
·
大模型
·
api
·
cherry studio
·
ace data cloud
小七-七牛开发者
20 小时前
Agent 小知识|长任务不重来:Agent 状态保存的工程设计
ai
·
大模型
·
agent
·
claude
·
token
·
工作流
·
skill
·
claudecode
·
ai coding
安逸sgr
20 小时前
Zero-shot、Few-shot 和 One-shot Prompt 有什么区别?
人工智能
·
ai
·
大模型
·
agent
·
智能体
IDIOT___IDIOT
1 天前
JSON-RPC 2.0 与 MCP 协议:从消息格式到进程通信 大模型MCP
rpc
·
大模型
·
json
·
agent
·
mcp
ShallWeL
1 天前
Orin 上目标检测 + 大模型做端侧应用
人工智能
·
目标检测
·
大模型
·
端侧
菩提小狗
1 天前
AI每日资讯|AI落地|最新情报|skill精选|2026年07月28日(11案例+10爆款Skill)
大模型
·
agent
·
skill
·
ai资讯
·
ai落地
DQQzero
1 天前
AI办公三国杀:阿里千问、腾讯WorkBuddy、字节飞书豆包的路径分歧与产业拐点
ai
·
大模型
GoAI
2 天前
# AI Agent 记忆框架横向对比报告总结
人工智能
·
大模型
·
llm
·
多模态
AndrewHZ
2 天前
【LLM技术全景】阶段总结:技术原理篇核心知识回顾
人工智能
·
深度学习
·
算法
·
语言模型
·
大模型
·
llm
·
芯片开发
热门推荐
01
如何新建文件夹? 电脑新建文件夹的4种方法
02
GitHub 镜像站点
03
国内可直接用、免费额度/永久免费的大模型API清单(含 SiliconFlow、火山、阿里、智谱、百度、Kimi、DeepSeek、DMXAPI 等)
04
AI 编程 IDE 全景解析 2026:Agent 全面接管开发链路
05
2026 国产 AI 大模型横评:DeepSeek、通义千问、Kimi、文心一言、星火、豆包谁更能打?
06
Agnes AI 免费 API 接入指南:文本、生图、生视频,一套接口全免费
07
微信历史版本含下载地址( Windows PC | 安卓 | MAC )及设置微信不更新
08
2026年7月AI圈大地震:GPT-5.6被政府限制、Claude入驻Slack、Anthropic自研芯片
09
00 Debian字符界面如何支持中文
10
历年考研数学一、数学二、数学三真题试卷及答案PDF