分析transformer模型的参数量、计算量、中间激活、KV cache
https://zhuanlan.zhihu.com/p/624740065
该帖子是很经典的计算大模型FLOPs和显存的，值得细读
LLM训练指南(二):模型参数、计算量、显存、计算时间计算
相关推荐
打工仔折腾 AI5 分钟前
Prometheus 告警推钉钉：从单群 Webhook 到跨网络 Alertmanager 实战人工智能AI技术7 分钟前
LLM 应用的 Bulkhead 设计Ivanqhz10 分钟前
Ping-Pong 双缓冲bmxy小明同学18 分钟前
2026-09-18-embedding选型superxxd21 分钟前
基于rust的多平台原生GIS引擎就叫你天选之人啦22 分钟前
安装torch+vllm+flash_attn的prompt音视频牛哥29 分钟前
从 LLM、VLA、LLA、SLIM 到实时音视频感知底座：具身智能真正需要的不只是大模型code2cat37 分钟前
【随笔】从聊天到调用工具：理解MCP在AI应用中的位置东离与糖宝41 分钟前
元数据知识库我是小邵1 小时前
长对话先收口：用“工作记忆 vs 长期记忆“管理 AI 上下文