通过模型文件估算模型参数量大小

1. 关键文件解析

文件名 作用 参数信息提取线索
adapter_model.safetensors 存储微调后的适配器权重 直接反映可训练参数量
adapter_config.json 记录LoRA/Adapter的配置参数 包含ranktarget_modules

2. 参数规模计算(以您的文件为例)

步骤1:检查safetensors文件
  • 文件大小:139.51MB

    如果是FP32精度(4字节/参数):
    参数量 ≈ 139.51 × 1024² ÷ 4 ≈ 36.6M 参数

    如果是FP16精度(2字节/参数):
    参数量 ≈ 139.51 × 1024² ÷ 2 ≈ 73.2M 参数

步骤2:验证配置(adapter_config.json)
复制代码
// 典型内容示例
{
  "r": 8,                     // LoRA秩
  "target_modules": ["q_proj", "v_proj"],  // 目标模块
  "base_model_name_or_path": "llama-7b"    // 基础模型
}
  • 计算原理

    假设基础模型为LLaMA-7B(隐藏层维度=4096),LoRA仅作用于q_projv_proj两个模块:

    单个模块参数量 = r × (d_input + d_output) = 8 × (4096 + 4096) = 65,536

    总参数量 = 65,536 × 2模块 = 131,072 参数(约0.13M)

    与文件大小不符,说明实际可能是全参数微调适配器而非标准LoRA。

相关推荐
Sokach10153 小时前
Linux Shell 脚本从零到能用:一个新手的一天学习总结
linux
AlfredZhao19 小时前
Docker 容器时区不对,`timedatectl` 不存在怎么办?
linux·timezone
zzzzzz3102 天前
9K Star 炸裂开源!这个 C 语言写的代码知识图谱,把 Linux 内核索引压缩到了 3 分钟
linux·服务器·sql
XIAOHEZIcode2 天前
Linux系统鼠标偏移常见原因以及修复方案
linux·运维·游戏
A小辣椒4 天前
TShark:Wireshark CLI 功能
linux
A小辣椒4 天前
TShark:基础知识
linux
AlfredZhao4 天前
OCI 明明分配了 200G 系统盘,为什么 df 只看到 30G?
linux·oci
AlfredZhao5 天前
vi 删除指定范围的行,不用再反复按 dd
linux·vi
用户9718356334665 天前
银河麒麟 KY10 申威(SW64) 安装 nginx-1.16.1-2.p01.ky10.sw_64.rpm 详细步骤
linux
猪脚踏浪5 天前
linux 拷贝文件或目录到指定的位置
linux