Stable Diffusion教程:LoRA模型

LoRA模型是一种微调模型,它不能独立生成图片,常常用作大模型的补充,用来生成某种特定主体或者风格的图片。

下载模型

在模型下载网站,如果模型是LoRA模型,网站会特别标识出来。以 liblib.ai 为例:

模型左上角会有一个模型类型的标记,CHECKPOINT代表大模型,LORA代表这是一个LoRA模型。

点击进入模型详情之后,我们可以看到它的一些介绍,以及下载按钮。注意看下图我标出来的这几个地方:

1、下载按钮:点击即可下载,可能需要先登陆。LoRA模型文件一般不大,几十M到几百M不等。

2、基础算法:LoRA模型适配的大模型版本,常见的就是 1.5 和 XL。如果是 1.5,那么搭配的大模型也需要是 1.5 的模型,而不能是 XL 的模型。大模型的算法版本我们也可以在模型的详情页面上找到。

3、触发词:在提示词中包含这些词可以在生成图片中强调LoRA模型提供的独特主体或风格,这些触发词有时候不是必须的,但是建议写到提示词中,以稳定出图效果。

4、模型发布者提供的一些LoRA模型的使用说明。

5、模型发布者提供的使用当前LoRA模型生图的参数,包括提示词、采样器、采样步数、随机种子等等,使用完全一致的生图参数可以生成完全一样的图片。

在页面的下方还有其它爱好者使用这个模型的一些返图,以及图片对应的生成参数,你可以直接拿来主义。

使用模型

安装模型

我们需要把下载的模型放到 Stable Diffusion WebUI 的 LoRA 模型的文件夹下边。

javascript 复制代码
<stable-diffusion-webui>/models/Lora

注意替换 为你的 SD WebUI 安装目录,然后重启 Stable Diffusion WebUI。

如果部署成功,我们可以在"文生图"或者"图生图"页面的"低秩微调模型(LoRA)"中看到刚刚上传的模型。

使用模型

使用模型就是在提示词中引用模型,格式是:

lora:模型的名字:模型的权重

模型的名字和模型的文件名不一定相同,我们可以在"低秩微调模型(LoRA)"中点击这个模型,WebUI就会自动在提示词中增加对这个模型的引用。

模型的权重越高生成图片时越贴近模型提供的主体或者风格,权重的取值范围是:0-1。

以下是不同权重时的效果展示:

生成图片时可以同时使用多个LoRA模型,最终效果会综合多个模型的风格。

训练LoRA模型

LoRA模型训练成本不高,往往只需要几十张图片就能训练出比较好的效果,广泛用于在生成图片时强化特定事物,比如某个高级脸、某种穿搭风格、某种绘画风格等等,经常用来做模特换衣、插画生产等,比较方便普通用户试玩。

有兴趣的可以看我另一篇文章:手把手教你在云环境炼丹:Stable Diffusion Lora 模型保姆级炼制教程

资源下载

如果你对 Stable Diffusion 感兴趣,我整理了很多 SD 相关的模型、插件,都已经上传到我整理的 Stable Diffusion 绘画资源中,后续也会持续更新,如有需要,请关/注/公/众/号:萤火遛AI(yinghuo6ai),发消息:SD,即可获取下载地址。


以上就是本文的主要内容了,如有问题,欢迎留言沟通交流。

相关推荐
春末的南方城市8 小时前
阿里发布新开源视频生成模型Wan-Video,支持文生图和图生图,最低6G就能跑,ComFyUI可用!
人工智能·计算机视觉·自然语言处理·开源·aigc·音视频
AIGC龙哥10 小时前
Stable Diffusion教程|快速入门SD绘画原理与安装
stable diffusion·aigc·ai绘画·sd·安装包·本地部署·炼丹师
anyup10 小时前
最终!我还是抛弃了 VSCode 这个开发工具
前端·aigc·visual studio code
张晋涛11 小时前
KCD 北京站丨云原生与AI的双向奔赴,超强Speakers阵容公开
云原生·aigc·线下活动
LucianaiB14 小时前
Trae编程:用腾讯云 HAI 快速开发一个智能客服助手,白嫖党的福利到底有多香?
后端·aigc
九歌AI大模型16 小时前
Dify 搭建私有数据可视化智能体,效果直逼 ChatGPT
aigc
离线请留言17 小时前
OpenManus+DeepSeek体验
aigc·deepseek
AntonCook17 小时前
AI工作流平台Dify本地部署
aigc·workflow
精灵vector17 小时前
【Agent的革命之路——LangGraph】如何使用config
人工智能·python·aigc
AntonCook17 小时前
Dify搭建私有化RAG应用
aigc·workflow