首页
学习
活动
专区
圈层
工具
发布
技术百科首页 >扩散模型 >扩散模型的基本工作原理是什么?

扩散模型的基本工作原理是什么?

词条归属:扩散模型

1. 前向加噪与反向去噪的对称过程

扩散模型包含两个互为逆过程的阶段。前向过程(Forward Process)是一个固定的马尔可夫链,逐步向真实数据 x₀ 添加高斯噪声,经过 T 个时间步后使其近似为标准高斯噪声 x_T。反向过程(Reverse Process)则由神经网络参数化,学习从噪声 x_T 出发,一步步去除噪声、恢复出清晰数据 x₀。生成新样本时,模型从随机噪声出发运行反向过程即可。

2. 训练目标简化为噪声预测

尽管反向过程在数学上需要建模每一步的均值与方差,但 DDPM 提出了一种更简洁的训练方式:让神经网络直接预测前向过程中实际加入的噪声 ε,训练损失即为预测噪声与真实噪声之间的均方误差。这一简化目标丢弃了理论推导中的加权项,却在实践中反而带来更好的生成质量,成为扩散模型走向实用的关键。

3. 从噪声到数据的逐步"显影"

生成阶段,模型拿到一团纯随机噪声和一段文本描述,在每一步预测并移除少量噪声。随着去噪迭代推进,整体构图、色彩分布先浮现,高频细节随后逐步清晰,最终"显影"出一张与文本描述相符的全新图像。由于起点是随机噪声,不同的噪声种子会生成差异明显的结果,固定种子则可获得可复现的输出。

相关文章
扩散模型的基本内容介绍
来源:AI公园本文约4500字,建议阅读10分钟本文中,我们将研究扩散模型的理论基础,然后演示如何在PyTorch中使用扩散模型生成图像。 扩散模型的迅速崛起是机器学习在过去几年中最大的发展之一。在这篇文章中,你能了解到关于扩散模型的一切。 扩散模型是生成模型,在过去的几年里已经获得了显著的普及。仅在21世纪20年代发表的几篇开创性论文就向世界展示了扩散模型的能力,比如在图像合成方面击败GANs。以及DALL-E 2,OpenAI的图像生成模型的发布。 DALL-E 2 生成的不同的图像 鉴于扩散模型最
数据派THU
2023-05-11
1.6K0
基本的爬虫工作原理
爬虫是一种自动化程序,能够模拟人类的浏览行为,从网络上获取数据。爬虫的工作原理主要包括网页请求、数据解析和数据存储等几个步骤。本文将详细介绍爬虫的基本工作原理,帮助读者更好地理解和应用爬虫技术。
用户614136809
2023-10-24
1K0
DDIM | 隐式扩散模型原理
iResearch666
2023-09-28
2.7K0
Flink 基本工作原理
Flink是新的stream计算引擎,用java实现。既可以处理stream data也可以处理batch data,可以同时兼顾Spark以及Spark streaming的功能,与Spark不同的是,Flink本质上只有stream的概念,batch被认为是special stream。Flink在运行中主要有三个组件组成,JobClient,JobManager 和 TaskManager。主要工作原理如下图   
actionzhang
2022-11-30
1K0
Spark基本工作原理
Spark的基本工作原理 1、分布式 2、主要基于内存(少数情况基于磁盘) 3、迭代式计算
编程那点事
2023-02-25
3740
点击加载更多
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
领券