【bug】通过lora方式微调sdxl inpainting踩坑

报错内容

ValueError: Attempting to unscale FP16 gradients.

报错位置

python 复制代码
                if accelerator.sync_gradients:
                    params_to_clip = (
                        itertools.chain(unet_lora_parameters, text_lora_parameters_one, text_lora_parameters_two)
                        if args.train_text_encoder
                        else unet_lora_parameters
                    )
                    accelerator.clip_grad_norm_(params_to_clip, args.max_grad_norm)

解决

https://github.com/huggingface/accelerate/issues/1778

相关推荐
__Wedream__30 分钟前
ICMR2024 | 当对比学习遇上知识蒸馏:轻量超分模型压缩新框架
人工智能·深度学习·计算机视觉·知识蒸馏·超分辨率重建·对比学习
我命由我123452 小时前
程序员的心理学学习笔记 - 空杯心态
经验分享·笔记·学习·职场和发展·求职招聘·职场发展·学习方法
ComputerInBook2 小时前
数字图像处理(4版)——第 9 章——形态学图像处理(Rafael C.Gonzalez&Richard E. Woods)
图像处理·人工智能·计算机视觉·形态学·数学形态学
stm32 菜鸟2 小时前
nucleo-f411re学习记录-13,flash的操作
学习
晓梦林2 小时前
3170靶场学习笔记
笔记·学习
技术人生黄勇3 小时前
GitNexus 把代码库变成知识图谱|审核 AI 产出更清晰,改 Bug 更精准
人工智能·bug
ErizJ3 小时前
Redis|学习笔记
redis·笔记·学习
加油20193 小时前
方法论:如何系统性的学习?
学习·学习方法·方法论
XingshiXu4 小时前
【NWAFU×KUL】不打扰,也能看懂一头牛:非接触式技术正在改变精准畜牧
人工智能·python·深度学习·目标检测·机器学习·计算机视觉·目标跟踪