生成模型

PyTorch实战（7）——生成对抗网络(Generative Adversarial Network, GAN)实践详解生成对抗网络 (Generative Adversarial Network, GAN) 最早由 Ian Goodfellow 于 2014 年提出，其中“对抗”一词指的是两个神经网络之间在零和博弈框架下相互竞争的特性。生成器试图创建与真实样本无法区分的数据样本，而判别器则试图区分生成器生成的样本与真实样本。GAN 模型可以生成多种形式的内容，从几何形状和数字序列到高分辨率的彩色图像，甚至逼真的音乐作品。在本节中，我们将介绍 GAN 的理论基础。然后，介绍如何使用 PyTorch 从零开始构建 GAN，以

清华大学：基于生成模型的上肢外骨骼机器人助力个性化中风康复清华大学自动化系李翔老师团队针对上肢外骨骼机器人提出一种基于生成模型的轨迹优化框架，该框架能够生成高度个性化的运动轨迹并确保安全性，从而为中风患者提供个性化康复辅助训练。相关研究论文“Upper-limb rehabilitation with a dual-mode individualized exoskeleton robot: A generative-model-based solution”发表于机器人研究领域顶级期刊The International Journal of Robotics

Index-AniSora模型论文速读：基于人工反馈的动漫视频生成论文开头指出，尽管视频生成模型不断涌现，但动漫视频生成面临动漫数据稀缺和运动模式异常的挑战，导致生成视频存在运动失真和闪烁伪影等问题，难以满足人类偏好。现有奖励模型主要针对现实世界视频，无法捕捉动漫的独特外观和一致性要求。为此，作者提出利用人类反馈对动漫视频生成进行对齐的流程，包括构建首个动漫视频多维奖励数据集、开发AnimeReward奖励模型，以及引入Gap-Aware Preference Optimization（GAPO）训练方法，在实验中展示这些方法对提升动漫视频质量的有效性。

开源的跨语言GUI元素理解8B大模型：AgentCPM-GUIAgentCPM-GUI 是由清华大学自然语言处理实验室 (THUNLP) 和 ModelBest 联合开发的开源大模型。该模型基于 MiniCPM-V 架构，拥有 80 亿参数规模，是一个能够直接在终端设备上运行的轻量化智能体。它创新性地将多模态输入与 GUI 操作相结合，主要面向移动终端应用交互场景，通过接收智能手机屏幕截图作为输入，自动执行用户指定的各类任务。这标志着智能体技术在移动端 GUI 操作领域迈出了重要一步，为后续研究和应用开发提供了新的思路。

阿里开源通义万相Wan2.1-VACE-14B：用于视频创建和编辑的一体化模型Wan2.1是一个全面且开放的视频基础模型套件，旨在突破视频生成的边界。该模型在多个基准测试中持续超越现有的开源模型和商业解决方案的性能。Wan2.1支持多种任务，包括文本到视频、图像到视频、视频编辑、文本到图像和视频到音频，推动了视频生成领域的发展。此外，Wan2.1还具备生成中英文文本的能力，极大增强了其实际应用价值。

每天都要写算法（努力版）

【神经网络与深度学习】生成模型-单位高斯分布 Generating Models-unit Gaussian distribution在生成模型的研究与应用中，单位高斯分布（标准正态分布）作为数据采样的基础扮演着至关重要的角色。其数学特性、潜在空间的连续性、灵活性以及通用性，使得生成模型能够高效且稳定地学习和生成样本。本文将详细探讨从单位高斯分布获取数据点的核心原因，并通过目录结构提供清晰的逻辑框架。

每天都要写算法（努力版）

【神经网络与深度学习】深度学习中的生成模型简介openai 的一个古早介绍深度学习中的生成模型能够学习数据分布并生成新数据，在人工智能的多个领域中都有重要应用。不同类型的生成模型在原理和结构上各有特点，适用于不同的任务，如图像生成、文本生成和时间序列预测等。本文将介绍几种常见的生成模型，并分析其核心特点和应用场景。

【大模型理论篇】关于生成式模型中联合分布概率学习必要性以及GPT是生成式模型的讨论之前我们在《生成式模型与判别式模型对比(涉及VAE、CRF的数学原理详述)》以及《生成式模型算法原理深入浅出（涉及Stable Diffusion、生成对抗网络、高斯混合模型、隐马尔可夫模型、朴素贝叶斯等算法原理分析及生成式模型解释）》中，我们对一些常见的算法做了分析。刚好最近和同事聊天，聊起生成式模型，这里做一些额外信息的补充。

复现：latent diffusion（LDM）stable diffusion下载项目 https://github.com/CompVis/latent-diffusion然后运行环境配置：

机器学习-无监督学习总结无监督学习（Unsupervised Learning）是机器学习中的一种范式，它在没有明确标注的数据上进行训练，旨在发现数据的潜在结构、模式或分布。常见的无监督学习任务包括聚类（Clustering）、降维（Dimensionality Reduction）、密度估计（Density Estimation）和生成建模（Generative Modeling）。以下是无监督学习的关键方法和应用场景。

理论最高的吻

智能技术【机器学习】总结简述岭回归、Lasso、Elastic 之间的联系与区别? 答：联系：岭回归、Lasso 和 Elastic Net 都是用于线性回归的正则化方法，通过添加惩罚项来防止过拟合并提升模型的泛化能力。区别： ①岭回归通过在损失函数中添加 L2 正则化项来限制回归系数的大小。使用 L2 正则化，这意味着惩罚项是回归系数的平方和。岭回归不会导致系数完全为零，因此它不能用于特征选择。 ②Lasso 通过在损失函数中添加 L1 正则化项来约束回归系数。使用 L1 正则化，这意味着惩罚项是回归系数的绝

大数据AI人工智能培训专家培训讲师叶梓

优化扩散模型中的采样计划在生成模型领域，扩散模型（Diffusion Models, DMs）因其卓越的生成质量而成为最新的技术趋势。但这些模型的一个关键缺点是它们的采样速度较慢，需要通过大型神经网络进行多次顺序函数评估。扩散模型通过一个称为采样计划的离散噪声水平集来解决微分方程。尽管过去的研究主要集中在开发高效的求解器上，但很少有人关注寻找最优的采样计划。大多数现有工作都依赖于手工制定的启发式计划，如简单多项式和余弦函数。本文提出了一种新的框架，名为“Align Your Steps”（AYS），用于优化扩散模型中的采样计划，

读《Diffusion Models: A [Comprehensive Survey of Methods and Applications》综述关于此文，我的一个见解想法，重点关注他怎么描述「Diffusion Model」的引用的，以及未来方向就好了。当然从这篇文章可以知道「Diffusion Model」的一个基石是什么，以及他跟其他生成模型的一个简单的关系，让我有对「Diffusion Model」有一个更好的理解吧。

【AI视野·今日NLP 自然语言处理论文速览第七十八期】Wed, 17 Jan 2024AI视野·今日CS.NLP 自然语言处理论文速览 Wed, 17 Jan 2024 (showing first 100 of 163 entries) Totally 100 papers 👉上期速览✈更多精彩请移步主页

【AI视野·今日NLP 自然语言处理论文速览第六十七期】Mon, 1 Jan 2024AI视野·今日CS.NLP 自然语言处理论文速览 Mon, 1 Jan 2024 Totally 42 papers 👉上期速览✈更多精彩请移步主页

Diffusion：通过扩散和逆扩散过程生成图像的生成式模型在当今人工智能大火的时代，AIGC 可以帮助用户完成各种任务。作为 AIGC 主流模型的 DDPM，也时常在各种论文中被提起。DDPM 本质就是一种扩散模型，可以用来生成图片或者为图片去噪。

多模态——使用stable-video-diffusion将图片生成视频近期，stabilityAI发布了一个新的项目，是将图片作为基础，生成一个相关的小视频，其实也算是其之前研究内容的扩展。早在stable-diffusion的模型开源出来的时候，除了由prompt生成图片之外，也可以生成连续帧的短视频。

NLP实践——LLM生成过程中防止重复循环本文介绍如何使用LogitsProcessor避免大模型在生成过程中出现重复的问题。首先实例化一个大模型，以GLM2为例：

【AI视野·今日Robot 机器人论文速览第六十五期】Mon, 30 Oct 2023AI视野·今日CS.Robotics 机器人学论文速览 Mon, 30 Oct 2023 Totally 18 papers 👉上期速览✈更多精彩请移步主页