【bug】通过lora方式微调sdxl inpainting踩坑

报错内容

ValueError: Attempting to unscale FP16 gradients.

报错位置

python 复制代码
                if accelerator.sync_gradients:
                    params_to_clip = (
                        itertools.chain(unet_lora_parameters, text_lora_parameters_one, text_lora_parameters_two)
                        if args.train_text_encoder
                        else unet_lora_parameters
                    )
                    accelerator.clip_grad_norm_(params_to_clip, args.max_grad_norm)

解决

https://github.com/huggingface/accelerate/issues/1778

相关推荐
后端小张9 分钟前
【AI 学习】从0到1深入理解Agent AI智能体:理论与实践融合指南
人工智能·学习·搜索引擎·ai·agent·agi·ai agent
九年义务漏网鲨鱼20 分钟前
【大模型学习】现代大模型架构(二):旋转位置编码和SwiGLU
深度学习·学习·大模型·智能体
TracyCoder12327 分钟前
微服务框架选型学习笔记
笔记·学习·微服务
CoovallyAIHub30 分钟前
破局红外小目标检测:异常感知Anomaly-Aware YOLO以“俭”驭“繁”
深度学习·算法·计算机视觉
专注于大数据技术栈1 小时前
java学习--单例模式之懒汉式
java·学习·单例模式
hd51cc1 小时前
MFC多线程学习笔记一:用户界面线程和工作线程
笔记·学习·mfc
Mrliu__2 小时前
Opencv(十六) : 图像边缘检测
人工智能·opencv·计算机视觉
先生沉默先3 小时前
Nginx 反向代理学习:单端口统一访问多服务
学习·nginx·arcgis
LFly_ice5 小时前
学习React-24-路由传参
前端·学习·react.js
陈天伟教授6 小时前
基于学习的人工智能(3)机器学习基本框架
人工智能·学习·机器学习·知识图谱