Stable Diffusion 3 发布 吹爆 | 更好的细节、多元素控图、生成文字

赶了个晚集~

前天,Stability AI 在一夜之间更新了两项重大举措

一个是发布了新一代的 Stable Diffusion 3 (SD3),一种文本到图像的模型。目前来看应该是最强大的文生图模型

另外一个则是 视频生成平台 Stable Video Diffusion(SVD)也正式开启了公测。它很可能是Sora 未来的强大竞争对手,目前和 Sora 比还是个弟弟

今个我们主要讲讲 SD3 的更新到底牛逼在哪

Stability AI 公布了 Stable Diffusion 3 (SD3) 的早期预览版,这是其下一代文本到图像模型。

SD3采用了类似于Sora的DiT(Diffusion Transformer)架构,提供了更强大的图像生成能力。它充分利用了Transformer技术的最新进展,能够处理更复杂和多样化的数据类型,并接受多模态输入(视频、图像),从而在理解和生成图像内容方面提供更大的灵活性和准确性。此外,SD3还结合了流匹配技术和其他增强功能,以进一步提高生成图像的质量和多样性,使得生成的图像更连贯、更自然。SD3 的模型参数从 800M 到 8B 不等。

目前还是在预览版,不过官方提供了白名单体验入口 stability.ai/stablediffu... 可以申请一波~

接着,直观的来看看到底更新了啥功能~

Multi-Prompt Handling 多提示的理解和处理

SD3 对包含多个主题或元素的提示具有更好的理解和处理能力。

这意味着用户可以在单个提示中描述更复杂的场景,并且模型可以根据这些描述更准确地生成图像。

vbnet 复制代码
Prompt: a painting of an astronaut riding a pig wearing a tutu holding a pink umbrella, on the ground next to the pig is a robin bird wearing a top hat, in the corner are the words "stable diffusion". 

提示词:一幅宇航员骑着一头穿着芭蕾舞短裙的猪,手里拿着一把粉红色的雨伞,猪旁边的地上是一只戴着礼帽的知更鸟,角落里是"稳定扩散"的字样。
sql 复制代码
prompt: Three transparent glass bottles on a wooden table. The one on the left has red liquid and the number 1. The one in the middle has blue liquid and the number 2. The one on the right has green liquid and the number 3.  

提示词:木桌上放着三个透明玻璃瓶。左边的那个是红色液体,数字是 1。中间的那个是蓝色液体,数字是 2。右边的那个是绿色液体,数字是 3。
vbnet 复制代码
prompt: A horse balancing on top of a colorful ball in a field with green grass and a mountain in the background.

提示词:一匹马在田野上平衡一个五颜六色的球,背景是绿草和山脉。

Spelling and Text Processing 拼写&文本处理

SD3在处理文本元素时具有更好的拼写和文本理解能力,尤其是直接显示在图像中的文本信息(如标语、数字、标签等)。

这包括更准确地识别和呈现用户提示中的文本,即使在复杂的视觉背景中也是如此。不过比较遗憾的是目前中文的支持并不好

csharp 复制代码
prompt: Epic anime artwork of a wizard atop a mountain at night casting a cosmic spell into the dark sky that says "Stable Diffusion 3" made out of colorful energy.  

提示词:史诗般的动漫艺术作品,一个巫师在晚上在山顶上向黑暗的天空施放一个宇宙咒语,上面写着"Stable Diffusion 3",由五颜六色的能量制成。
arduino 复制代码
prompt:  a grandma wearing a "Go big or go home sweatshirt"
提示词:奶奶穿着"Go big or go home sweatshirt"的图像
vbnet 复制代码
prompt: Resting on the kitchen table is an embroidered cloth with the text 'good night' and an embroidered baby tiger. Next to the cloth there is a lit candle. The lighting is dim and dramatic.  

提示词: 厨房桌子上放着一块绣花布,上面写着"晚安"和一只绣有小老虎。在布的旁边有一根点燃的蜡烛。灯光昏暗而引人注目。
csharp 复制代码
prompt: Epic anime artwork of a wizard atop a mountain at night casting a cosmic spell into the dark sky that says "Stable Diffusion 3" made out of colorful energy.  
提示词:史诗般的动漫艺术作品,一个巫师在晚上在山顶上向黑暗的天空施放一个宇宙咒语,上面写着"Stable Diffusion 3",由五颜六色的能量制成。

Image Accuracy and Quality 图像精度和质量

SD3 显着提高了图像质量,包括更精细的细节表示、更准确的色彩匹配以及更自然的光影处理。这些改进使生成的图像更加逼真,并更好地捕捉用户的创作意图。

arduino 复制代码
Prompt: studio photograph closeup of a chameleon over a black background  
提示词:黑色背景上变色龙的工作室照片特写
makefile 复制代码
prompt: Moody still life of assorted pumpkins.  
提示词:什锦南瓜的喜怒无常的静物。

说实话,目前官方给出的样图的功能效果非常惊艳。

以后是不是就可以不用 ControlNet 来控制图片的位置姿态了。。

广告海报生成是不是也轻轻松松了...

更强的是,SD3 竟然可以理解自然语言的了,可以理解句子了,可以更好的控制图片的生成!

期待 SD3 的正式发布!!!

本文使用 mdnice 排版

相关推荐
-XWB-19 分钟前
【LLM】Agent Planning 完全指南:8 种纯 LLM 范式 + 8 种混合规划模式详解(二)
人工智能·经验分享·aigc·学习方法·ai编程
爱听歌的周童鞋2 小时前
霹雳吧啦Wz | AIGC | 图像生成篇 | DDPM介绍与公式推导 | 笔记 | (二) 优化目标引入 ELBO/VLB
aigc·diffusion model·ddpm·reverse process·image generate·forward process
-XWB-7 小时前
【 LLM】Agent Planning 完全指南:8 种纯 LLM 范式 + 8 种混合规划模式详解(一)
人工智能·aigc·学习方法·ai编程
TheBestRucy7 小时前
RAG知识库问答系统落地:从向量检索到上下文增强的全链路实践
人工智能·python·langchain·aigc·交互
智行合一科技8 小时前
WAIC释放关键信号:合规能力正成为AIGC营销的核心竞争壁垒
aigc
爱听歌的周童鞋10 小时前
霹雳吧啦Wz | AIGC | 图像生成篇 | DDPM介绍与公式推导 | 笔记 | (一) 前向加噪 & 优化目标引入
aigc·diffusion model·ddpm·reverse process·image generate·forward process
longxibo10 小时前
第 15 章 政务/制造业落地案例
人工智能·深度学习·aigc·政务
卡卡罗特AI11 小时前
AI编程入门教程02-LLM发展历程,AI 御四家十年风云:OpenAI 分裂、Anthropic 出走、谷歌掉队、马斯克上桌
aigc·openai·ai编程
Am-Chestnuts11 小时前
AI长回答批量导出PDF与长图:多轮内容整理和免费Markdown备份
人工智能·pdf·aigc
leeyi11 小时前
RAG 流水线设计:Eino 的 Loader → Transformer → Indexer → Retriever(第60篇-E46)
aigc·agent·ai编程