生成模型

大数据AI人工智能培训专家培训讲师叶梓

优化扩散模型中的采样计划在生成模型领域，扩散模型（Diffusion Models, DMs）因其卓越的生成质量而成为最新的技术趋势。但这些模型的一个关键缺点是它们的采样速度较慢，需要通过大型神经网络进行多次顺序函数评估。扩散模型通过一个称为采样计划的离散噪声水平集来解决微分方程。尽管过去的研究主要集中在开发高效的求解器上，但很少有人关注寻找最优的采样计划。大多数现有工作都依赖于手工制定的启发式计划，如简单多项式和余弦函数。本文提出了一种新的框架，名为“Align Your Steps”（AYS），用于优化扩散模型中的采样计划，

读《Diffusion Models: A [Comprehensive Survey of Methods and Applications》综述关于此文，我的一个见解想法，重点关注他怎么描述「Diffusion Model」的引用的，以及未来方向就好了。当然从这篇文章可以知道「Diffusion Model」的一个基石是什么，以及他跟其他生成模型的一个简单的关系，让我有对「Diffusion Model」有一个更好的理解吧。

【AI视野·今日NLP 自然语言处理论文速览第七十八期】Wed, 17 Jan 2024AI视野·今日CS.NLP 自然语言处理论文速览 Wed, 17 Jan 2024 (showing first 100 of 163 entries) Totally 100 papers 👉上期速览✈更多精彩请移步主页

【AI视野·今日NLP 自然语言处理论文速览第六十七期】Mon, 1 Jan 2024AI视野·今日CS.NLP 自然语言处理论文速览 Mon, 1 Jan 2024 Totally 42 papers 👉上期速览✈更多精彩请移步主页

Diffusion：通过扩散和逆扩散过程生成图像的生成式模型在当今人工智能大火的时代，AIGC 可以帮助用户完成各种任务。作为 AIGC 主流模型的 DDPM，也时常在各种论文中被提起。DDPM 本质就是一种扩散模型，可以用来生成图片或者为图片去噪。

多模态——使用stable-video-diffusion将图片生成视频近期，stabilityAI发布了一个新的项目，是将图片作为基础，生成一个相关的小视频，其实也算是其之前研究内容的扩展。早在stable-diffusion的模型开源出来的时候，除了由prompt生成图片之外，也可以生成连续帧的短视频。

NLP实践——LLM生成过程中防止重复循环本文介绍如何使用LogitsProcessor避免大模型在生成过程中出现重复的问题。首先实例化一个大模型，以GLM2为例：

【AI视野·今日Robot 机器人论文速览第六十五期】Mon, 30 Oct 2023AI视野·今日CS.Robotics 机器人学论文速览 Mon, 30 Oct 2023 Totally 18 papers 👉上期速览✈更多精彩请移步主页

以Llama-2为例，在生成模型中使用自定义StoppingCriteria在之前的文章中，介绍了使用transformers模块创建的模型，其generate方法的详细原理和使用方法，文章链接：

以Llama-2为例，在生成模型中使用自定义LogitsProcessor在上一篇文章以Llama-2为例，在生成模型中使用自定义StoppingCriteria中，介绍了怎样在生成的过程中，使用stopping criteria来控制生成过程的结束，本文将继续这一话题，结合具体的场景，介绍如何实现自定义的logits processor，并以此来控制生成的过程。