【bug】通过lora方式微调sdxl inpainting踩坑

报错内容

ValueError: Attempting to unscale FP16 gradients.

报错位置

python 复制代码
                if accelerator.sync_gradients:
                    params_to_clip = (
                        itertools.chain(unet_lora_parameters, text_lora_parameters_one, text_lora_parameters_two)
                        if args.train_text_encoder
                        else unet_lora_parameters
                    )
                    accelerator.clip_grad_norm_(params_to_clip, args.max_grad_norm)

解决

https://github.com/huggingface/accelerate/issues/1778

相关推荐
朝九晚五ฺ2 小时前
【Linux探索学习】第十四弹——进程优先级:深入理解操作系统中的进程优先级
linux·运维·学习
猫爪笔记4 小时前
前端:HTML (学习笔记)【1】
前端·笔记·学习·html
如若1234 小时前
主要用于图像的颜色提取、替换以及区域修改
人工智能·opencv·计算机视觉
pq113_64 小时前
ftdi_sio应用学习笔记 3 - GPIO
笔记·学习·ftdi_sio
澄澈i4 小时前
设计模式学习[8]---原型模式
学习·设计模式·原型模式
爱米的前端小笔记5 小时前
前端八股自学笔记分享—页面布局(二)
前端·笔记·学习·面试·求职招聘
alikami6 小时前
【前端】前端学习
学习
一只小菜鸡..6 小时前
241118学习日志——[CSDIY] [ByteDance] 后端训练营 [06]
学习
加密新世界6 小时前
优化 Solana 程序
人工智能·算法·计算机视觉
Hacker_Oldv7 小时前
网络安全的学习路线
学习·安全·web安全