Stable Diffusion,一款强大的AI模型,让我们能够创造出惊人的艺术作品。本文将为您介绍如何安装Stable Diffusion以及深入使用的学习教程。
1. 安装Stable Diffusion
(需要的小伙伴可以文末自行扫描获取)
Stable Diffusion的安装可能是第一步,但它绝对是重要的一步。以下是一些安装方式:AutoDL: AutoD镜像版本,现在维护到V16。镜像地址:AUTOMATIC1111/stable- diffusion-webui/tzwm_sd_webui_A1111。webui 1.6.0 整合版,支持 SDXL,一键启动,带视频教程。预置 ControlNet v1.1.410 所有模型含 IP-Adapter、汉化、tagger 等常用插件、模型路径优化。有问题可以在微信交流讨论群咨询。
● 秋叶整合包:**可在B站搜索,Stable Diffusion,第一个就是秋叶大佬。Stable Diffusion整合包有适合不同环境的版本。Stable Diffusion整合包v4.4发布
● 星空大佬:**AI绘画整合包(新增 Controlnet1.1和SadTalker)
● kaggle:**Kaggle上也可以找到稳定的版本。stable-diffusion-webui-kaggle、zh-stable- diffusion-webui-kaggle
● 腾讯云:**腾讯云也提供了低成本的Stable Diffusion部署方式。
2. 模型Checkpoint
Checkpoint文件对于训练模型的作者和使用者都至关重要。它们包含了模型参数和优化器状态等信息,是训练过程中的状态快照。对于使用者而言,可以将
Checkpoint 文件理解为一种风格滤镜,例如肖像、漫画、水墨、写实风等。通过选择对应的 Checkpoint 文件,您可以将 Stable Diffusion 模型生成的结果转换为您所选择的特定风格。
下载Checkpoint文件时,请查看相关的模型说明,作者通常提供了文件和使用说明,以帮助您更好地使用和理解文件。
Checkpoint按画风可以分为三类:
官方发布的Stable Diffusion1.4/1.5/2.0/2.1等模型效果都比较一般,现在大家用的比较多的,都是私炉模型。目前主流的模型下载网站有:Hugging Face、Civitai(需要有魔法) 、libilibi等。
3. VAE(变分自解码器)
VAE负责将加噪后的潜空间数据转为正常图像,可以简单理解为模型的调色滤镜,主要影响画面的色彩质感。目前大多数新模型在文件中已经融合了VAE,还有一些作者会在model 介绍中推荐合适的VAE。
VAE文件后缀一般是.pt,或者是.safetensor,存放路径是将VAE文件也放在models/Stable- diffusion文件夹下,然后将文件名改成和模型名一致,再在后缀.pt前添加.vae字段,这样就可以在加载模型时选择自动加载VAE了。
4. Embeddings
Embeddings技术可以将输入数据转化为向量表示,以便模型更好地进行处理和生。Embeddings可以用于控制人物特征、动作和风格。与其他模型(如LORA)相比,Embeddings的大小较小,更加方便存储和使用。它通常用于生成特定的样本,而不需要手动输入大量描述词汇。下面是一些常用的Embeddings:
● 特定人物形象:例如Corneo's D.va,这些Embeddings用于控制特定角色的特征。
● 风格Embeddings:用于控制生成图片的风格。
● 画风Embeddings:用于赋予生成图片不同的画风。
● 概念(Concept)Embeddings:用于实现不同概念或主题的图片生成。
● 服饰Embeddings:用于控制角色的服装。
在C站或者liblibai网站上,常用的负面embeddings:
badhandv4、EasyNegativeV2(针对二次元模型训练的,解决肢体混乱、颜色混杂、灰度异常等等一系列负面问题,触发词easynegative)、Deep Negative V1.x(针对真人模型训练的。解决包括错误的人体解剖结构、令人反感的配色方案、颠倒的空间结构等等问题。触发词NG_DeepNegative_V1_75T。)
5. LORA(Local Operation Repeatedly Applied)
LORA是一种重要的技术,用于改善整体的画风,使生成的图片更具特定特征。LORA模型可以被用来实现以下几种效果:
● 人物角色LORA:用于控制特定人物的外貌和特征。
● 画风LORA:改变生成图片的整体画风。
● 概念(Concept)LORA:用于实现特定概念或主题的图片生成。
● 服饰LORA:用于控制角色的服装。
新手必备的lora:
Detail Tweaker LoRA (细节调整LoRA)、leosam's filmgirl 胶片风 lora、Adjuster 衣物增/减 LoRA、Polaroid LoRA(拍立得LORA)、娜乌斯嘉角色lora、墨幽角色LoRa、国风未来lora、汉服宋服lora、小李国风系列。
需要注意的是,在LORA作者的信息总,会介绍 LORA 模型对应的底模和触发、权重,需要注意查看。
加载LORA扩展模型方法:
SD1.5版本:我们点击文生图下面红色小按钮,就可以显示扩展模型选项。
SD1.6版本如下图:点击窗口中的lora,TAB页切换。
点击lora图片上的图标,可在弹出窗口页面维护触发词和权重,下次使用时可自动带出。
在设置------扩展模型中,可以设置一些细节。比如设置模型展示方式是卡牌还是缩略图,卡牌宽高尺寸、LORA模型加载权重等等。
LORA使用介绍:
使用真实系大模型+角色LORA,就可以得到一个真人coser形象。结合controlnet还可以设计角色的姿势及构图,定制自己的作品。
idillustration互联网插画风模型
真实室内模型_realistic interior design v1
永一丨凤冠霞帔
当想强化作品中某种方面的特质时,可以叠加使用多个lora,例如使用人物+服装+风格lora来生成图片。具体使用时,你可以通过控制不同lora的权重,使得作品更像某一种lora。
6. Hypernetwork
Hypernetwork与LORA类似,但通常用于改善整体的画风,而不是改变画风。Hypernetwork的效果更细腻,可以处理不同画风之间的微小差异。这对于创造特定的画面风格非常有用。
7. 插件安装
为了更好地使用Stable Diffusion,您可以安装一些插件,例如图库浏览器、提示词补全、提示词反推、局部细节重绘等。这些插件可以提供更多的功能和便捷性。
1. 安装方法:网址安装
打开可安装选框,点击load form就可以看到所有可安装的插件。在搜素框搜索到要安装的插件,点击右侧install就可以自动安装了。
2. 安装方法:可下载-加载可安**装应用**
3. 安装方法:下载安装
前两种方式在网络不好时可能会安装错误,更彻底的方式是直接下载插件安装包进行安装。比如将下载好的压缩包解压后放到extensions文件夹下。https://github.com/Physton/sd- webui-prompt-all-in-one.git
安装完后点击重启webui进行刷新,插件安装正确就会出现在已安装列表中。
如果某个插件不能用了,点击右侧的检查更新按钮,一般更新到最新版本就可以解决了。如果某个插件还是有问题,可以点击前面的复选框暂时取消使用。
也可以在启动器中的模型管理--扩展栏目进行更新,卸载。
介绍几款常用插件:
中文语言包:搜索zh(取消勾选本地化/Localization的筛选)
图库浏览器:搜索image browser
提示词补全: 搜索tag complete,中文词库见网盘
提示词反推:搜索tagger
Ultimate Upscale脚本:SD upscale升级版,用于图片放大。 搜索ultimate upscale
Local Latent Couple:局部细节重绘,搜索llul
Cutoff:精准控色,防止串色,搜索cut off
prompt-all-in-one:prompt综合插件,《提示词补全插件》
8.提示词工具:
魔咒百科词典、NovelAi魔导书、AI提示词加速器、AI tag生成工具、NovelAI tag生成器 V2.1、:可以简单生成提示词:
提示词参考网站:Civitai(魔法) 、libilibi、炼丹阁、DesAi、openart(偏欧美)、arthub(偏亚洲)这几个网站都有很多优秀的图片可以参考。
总结
Stable Diffusion是一款令人印象深刻的AI模型,它让我们能够创造出惊人的艺术作品。通过安装合适的Checkpoint文件、使用Embeddings、LORA和Hypernetwork,以及使用插件,您可以发挥Stable Diffusion的最大潜力,创造出独一无二的艺术作品。
Stable Diffusion正在改变艺术创作的方式,它的潜力无限。让我们一起探索这个充满创意和可能性的世界!