在本地跑一个AI模型(5) - Stable Diffusion

在之前的文章中,我们使用ollama在本地运行了大语言模型,它可以与你聊天,帮助你理解和生成文本内容。使用coqui-tts在本地运行了文本转语音模型,它可以将大语言模型生成的文字转换成语音,让你的应用更有趣。今天我们将要介绍Stable Diffusion,一种扩散神经网络的深度学习模型,使用它可以生成各种不可思议的图片。

我们使用的工具是huggingface提供的diffusers,一个在纯python环境下运行的库。废话不多说,我们进入今天的教程。

安装

diffusers目前不支持python 3.12,因此我们使用虚拟环境来安装。

shell 复制代码
# 使用3.10版本的python创建venv
/opt/homebrew/opt/python@3.10/libexec/bin/python3 -m venv .venv
# 激活venv
source .venv/bin/activate 

安装diffusers及其依赖:

shell 复制代码
pip install diffusers accelerate transformers

下载模型

和之前文章里介绍的一样,模型我们还是选择自己下载。你可以到huggingface网站下载已经训练好的模型,比如runwayml/stable-diffusion-v1-5

Tips:你可以使用如下命令下载huggingface上的模型:

shell 复制代码
git lfs install
git clone git@hf.co:<MODEL ID> # example: git clone git@hf.co:bigscience/bloom

此外,diffusers支持AUTOMATIC1111的模型,因此你可以去Civitai下载各种CheckPointLoRA。本文使用的模型就是Civitaidreamshaper。选择模型时要注意以下几点:

  • 根据自己的喜好选择模型的风格,比如"写实"、"动漫"或者"魔幻"
  • 模型有一个属性是"基础模型",如下图。对应的诸如SD 1.5SDXL 1.0SDXL Turbo等等。SD系列只能生成512x512的图片,SDXL系列可以生成1024x1024及以上的图片。而Turbo系列可以将生成所需的时间缩短。根据自己的电脑配置选择合适的模型吧。

选择好模型后,就点击Download下载吧。

加载模型

如果你的模型是单个safetensors格式的,使用from_single_file加载,如果是从huggingface下载的预训练模型,使用from_pretrained加载。此外如果你的模型是SDXL,使用StableDiffusionXLPipeline,因此dreamshaperXL模型加载的代码如下:

python 复制代码
from diffusers import StableDiffusionXLPipeline

pipe = StableDiffusionXLPipeline.from_single_file("your/path/dreamshaperXL_v21TurboDPMSDE.safetensors")

使用GPU运行

windows用户可以根据如下代码判断自己的电脑能否进行GPU推理:

python 复制代码
device = "cuda" if torch.cuda.is_available() else "cpu"

MACM1M2芯片可以使用如下代码:

python 复制代码
device = 'mps'

然后:

python 复制代码
pipe = pipe.to(device)

调度器

diffusers的调度器对应的是AUTOMATIC1111中的Sampling method,它对获得高质量的图像至关重要。Sampling methoddiffusers的调度器的对应关系可以参照此处

至于如何选择调度器,在模型的详情页可以找到作者给出的建议,比如:

这里作者建议的是DPM++ SDE Karras,可以参照上面的对应表找到对应的调度器为DPMSolverSinglestepScheduler,初始化参数为use_karras_sigmas=True

调度器代码如下:

python 复制代码
pipe.scheduler = DPMSolverSinglestepScheduler.from_config(pipe.scheduler.config, use_karras_sigmas=True)

提示词

提示词的质量对最终生成的图像质量有很大的影响。提示词的写法这里不做展开,提示词的例子:

python 复制代码
prompt = "masterpiece, cat wizard, gandalf, lord of the rings, detailed, fantasy, cute, adorable, Pixar, Disney"

negative_prompt = "worst quality, low quality, normal quality, lowres, low details, oversaturated, undersaturated, overexposed, underexposed"

提示词目前有77个长度的限制,要突破这个限制,可以将提示词向量化,以下是代码例子:

shell 复制代码
pip install compel
python 复制代码
compel = Compel(
    tokenizer=[pipe.tokenizer, pipe.tokenizer_2] ,
    text_encoder=[pipe.text_encoder, pipe.text_encoder_2],
    returned_embeddings_type=ReturnedEmbeddingsType.PENULTIMATE_HIDDEN_STATES_NON_NORMALIZED,
    requires_pooled=[False, True]
)

conditioning, pooled = compel(prompt)
negative_prompt_embeds, negative_pooled = compel(negative_prompt)

图片生成

python 复制代码
image = pipe(
            prompt_embeds = conditioning,
            pooled_prompt_embeds=pooled,
            negative_prompt_embeds = negative_prompt_embeds,
            negative_pooled_prompt_embeds=negative_pooled,
            # height=800,
            # width=512,
            num_inference_steps=6,
            guidance_scale=2,
            strength=0.5
        ).images[0]

image.save("data/out.jpg")

这里对图片生成质量有影响的几个参数是guidance_scalenum_inference_steps,这两个参数分别对应AUTOMATIC1111里的CFG ScaleSampling steps。你也可以在模型的详情页找到作者给出的建议:

至此,运行代码,你应该可以获得模型生成的图片了。

总结

本文介绍了使用diffusers在本地运行Stable Diffusion的方法,并进行了一次基本的Text to Image的实践。下篇文章将继续介绍diffusers使用LoRAControlNetAdapter生成高级图片的实践。

本文首发于:babyno.top/posts/2024/...

公众号:机器人小不

相关推荐
古月居GYH11 分钟前
【计算机视觉】opencv-停车位检测原理及代码演示
人工智能·opencv·计算机视觉
m0_7482345215 分钟前
BERT模型入门(1)BERT的基本概念
人工智能·深度学习·bert
CES_Asia21 分钟前
工信部“人工智能+”制造行动点亮CES Asia 2025
人工智能·科技·数码相机·制造·智能音箱·智能手表
Fuweizn23 分钟前
富唯智能 3D 视觉定位:为汽车零部件制造注入高效精准 “源动力”
人工智能·视觉引导·无序抓取
研一计算机小白一枚1 小时前
图像处理中的图像配准方法
图像处理·人工智能·计算机视觉
踢足球的,程序猿1 小时前
AI工具类总结,门槛低,简单易上手!
人工智能
HUIBUR科技1 小时前
人工智能与云计算的结合:如何释放数据的无限潜力?
人工智能·ai·云计算
Ekine1 小时前
【Flink-scala】DataSet编程模型介绍及数据源
人工智能·flink·scala
that's boy1 小时前
突围边缘:OpenAI开源实时嵌入式API,AI触角延伸至微观世界
人工智能·gpt·chatgpt·开源·openai·midjourney
司南OpenCompass1 小时前
顶会评测集解读-AlignBench: 大语言模型中文对齐基准
人工智能·语言模型·自然语言处理·大模型评测