DeepSpeed的json配置讲解：ds_config_zero3.json

Ven%2024-12-28 17:32

ds_config_zero3.json文件内容如下：

python 复制代码

{
   
    "fp16": {
   
        "enabled": "auto",
        "loss_scale": 0,
        "loss_scale_window": 1000

上一篇：面经zhenyq

下一篇：【hackmyvm】hacked靶机wp

热门推荐

01基于STM32的智能电池管理系统 02KGG转MP3工具|非KGM文件|解密音频 03YOLOv8入门 | 重要性能衡量指标、训练结果评价及分析及影响mAP的因素【发论文关注的指标】04海康Visionmaster-常见问题排查方法-启动阶段 05从零安装 LLaMA-Factory 微调 Qwen 大模型成功及所有的坑 06【SpeedAI科研小助手】2分钟极速解决知网维普重复率、AIGC率过高，一键全文降！文件格式不变，公式都保留的！07VMware虚拟机安装Win7专业版保姆级教程（附镜像包）08DeepSeek各版本说明与优缺点分析 09组基轨迹建模 GBTM的介绍与实现（Stata 或 R）10柬埔寨语翻译通App，一款真正实现高棉语翻译、语音识别和中柬双语无障碍交流的应用程序。