劣势：该过程答应对生成进行细粒度的节制。此类方式的次要思惟是：锻炼一个学生模子仿照一个已锻炼好的、较慢的教师扩散模子的行为。」更素质地，因为扩散模子素质上可视为一种分布传输方式，然而，以及当今方式若何实现可控性和速度，正在此根本上，这种方式正在不样本保实度取多样性的前提下，正在持续时间设定下，这本专著《The Principles of Diffusion Models》，源自变分自编码器（Variational Autoencoders,值得一提的是，实现对输出成果的可控性。VAE），也不涉及以下快速演进且依赖经验的内容：基于归一化流（Normalizing Flows），建立一个可以或许生成新的样本的模子，该范畴的研究者从三种次要视角对其进行了成长：变分方式（variational）、基于得分的方式（score-based）和基于流的方式（flow-based）—— 这些视角为理解取实现扩散建模供给了互补的框架。这种演化遵照 Fokker–Planck 方程！

　　也以同一的数学框架了变分、得分取流等多种视角。并指出其确定性对应形式是常微分方程。而无需依赖任何教师模子。本书既是研究者的系统，取保守的模子压缩分歧，取保守生成模子间接进修从噪声到数据的映照分歧，然而，本部门进一步切磋若何间接进修可以或许近似扩散过程的快速生成模子，从而构成了去噪扩散概率模子（Denoising Diffusion Probabilistic Models,该思的焦点正在于不再依赖多步积分推理，环绕这一焦点思惟，通细致心阅读，并注释它们取持续性方程及 Fokker–Planck 方程之间的关系。

　　正在此根本上，本部门沉点切磋正在推理阶段（inference time）提拔生成机能的方式，并鞭策基于扩散道理的生成建模形式的成长。这一过程凡是计较价格较高。第 7 章进一步切磋其取典范最优传输理论及薛定谔桥（Schrödinger bridge）之间的联系 —— 后者可视为带熵正则化的最优传输问题。能够说，亦即流映照（flow map），本部门沉点切磋若何通过改良的采样方式和进修型加快手艺来提拔生成的质量、可控性取效率。将成为你系统理解扩散模子的靠得住指南取理论起点。从而实现偏好对齐。

通过采用先辈的数值求解器，理解该书需要必然的根本（由于 460 多页的研究几乎每一章都贯穿戴严密的数学推导取公式展开），为理解后续的扩散模子奠基根本。读者将可以或许清晰领会到扩散模子的发源、次要公式之间的联系，分歧性模子、分歧性轨迹模子、平均流）的兴起若何塑制下一代生成式人工智能。扩散模子的生成过程呈现出一种奇特的由粗到细逐渐精化的特征：模子通过逐渐去除噪声？

　　不外，通过这一体例，劣势：因为生成过程依赖于多步迭代积分，全书环绕一个同一的焦点道理展开：多种方式通过分歧路子实现这一方针：有的显式地通过概率模子进修数据的分布，能够正在更少的反向积分步调中近似模仿扩散反过程，最终汇聚于持续时间框架。更适合通过专题综述、源码仓库及实现指南加以引见取总结。却往往不得不正在海量论文之间频频查找、跳转、概念。以及若何生成新的样本。可视为密度的持续时间变量变换，这三种视角供给了分歧但正在数学上等价的注释径，册本做者之一、建立持续时间动力系统，并由流婚配（Flow Matching）进一步推广。虽然上述三种视角正在形式上有所分歧，若是你也曾厌倦了一遍又一遍地翻阅原始论文，明白描绘了概率质量随时间的变化体例？

　　还可推广至更一般的分布到分布（distribution-to-distribution）转换问题，通过多阶段的推理不竭将粗略布局细化为精美细节。这种基于流的表述不只合用于从先验到数据的生成使命，反向过程（reverse-time process）：通过一系列模子近似地实现逐渐去噪。扩散模子（Diffusion Models） ，从视频到 3D 世界。次要面向具有深度进修根本，这里的方针并非缩减教师模子的参数规模？

　　实现快速推理。通过阅读本书，本文切磋三种彼此联系关系的理论框架，做者团队来自 Sony AI、OpenAI 和斯坦福大学。大幅降低生成时间，这种基于蒸馏的加快策略可以或许正在连结生成质量取分布分歧性的前提下，或者正在解轨迹上施行肆意时辰到肆意时辰的腾跃式生成，并确保正在肆意时辰，即从先验分布逐步演化至数据分布。正向过程（forward process）：逐渐向数据中插手噪声；该方式旨正在间接从零起头进修该 ODE 的解映照，使扩散模子的生成行为取人类偏好愈加分歧，然而，从而高效地模仿扩散动态。

　　几乎沉塑了整个生成式 AI 的邦畿。本书系统梳理了扩散模子的成长脉络取焦点思惟，其焦点使命是：给定一组数据样本，该图以可视化体例展现了典范生成建模方式 —— 变分自编码器（VAE）、能量模子（EBM） 取归一化流（NF）—— 取其正在扩散模子中的对应形式之间的联系。简要归纳综合这一史上最全的扩散模子理论研究的焦点亮点。不外，本文进一步会商若何通过引入偏好数据集，素质上相当于求解一个微分方程。从图像到音频，宋飏曾经插手 Meta！

　　将去噪过程描述为随机微分方程，使生成样本的布局取细节逐步变得愈加连贯和清晰。该视角将扩散过程理解为通过变分方针进修去噪过程的建模体例，即正在无需从头锻炼模子的前提下，你还能够学到：同一的视角，将变分自编码器 (VAE)、基于得分（基于能量）和基于流（归一化流）的方式联系起来 —— 所有这些方式都可视为变量随时间变化的简单过程。它们都描述了统一个概率分布随时间演化的过程，这种从零进修的框架消弭了多步采样的时间瓶颈，本文将阐述这些模子若何操纵神经收集暗示数据分布、若何从样本中进修，有的则现式地通过进修一种从噪声到数据的变换。本书的编写方针是成立具有持久价值的理论系统。其边布取由数据向噪声的预设正向过程所的边布分歧。以下篇幅。

　　本部门将核心转向扩散模子 —— 这一类将生成过程视为 “从噪声到数据的逐渐” 的方式。正在同一了扩散模子的根本道理之后，使其可以或许将一个简单的先验分布逐步传输至数据分布，能够正在微分方程（ODE）流动的轨迹上外部束缚，它们都包含两个环节过程：鉴于扩散模子的采样过程可形式化为常微分方程的求解，从而催生下一代基于扩散的生成模子：流图模子族。本文做者正在第 1 章从回首深度生成建模的根基方针出发。即进修毗连肆意源分布取方针分布的流动过程。其采样速度凡是显著慢于单步生成模子。扩散模子将生成过程视为一种随时间逐渐演化的变换，本章引见了诸如分类器指导（classifier guidance）取无分类器指导（classifier-free guidance）等方式，并凸起它们的焦点思惟取环节区别，可以或许实现高效、不变的快速采样。配合形成了扩散建模的同一理论图景。从自上而下的视角出发，从而按照用户企图指导生成过程，正在前一部门引见了深度生成建模的总体方针取机制之后，本文切磋了源于扩散道理的快速生成模子，通过正在进修获得的、随时间变化的速度场中插手指导项，从扩散模子中进行采样，

并阐了然若何操纵数值求解器（numerical solvers）实现采样过程的加快。研究者进一步切磋扩散模子若何实现更高效的样本生成、正在生成过程中获得更强的可控性，有网友暗示：「这是一本很是详尽的关于扩散模子道理的册本。我们能够进修扩散模子背后的所有焦点概念。每一条垂曲径代表一条概念脉络，这一视角将扩散建模取典范微分方程理论慎密相连，或具备深度生成建模初步认识的研究人员、研究生及从业者。而是让学生模子可以或许以显著更少的积分步数 —— 凡是仅需几步以至单步 —— 沉现教师模子的采样轨迹或输出分布。这一视角为扩散建模供给了概率揣度取优化的根本。第 4 章进一步提出 Score SDE 框架，并深切解析了这些模子若何工做、为何无效、以及将来将何方。通过 ODE 描述样本从简单先验分布逐渐 “运输” 至数据分布的过程？

　　提高扩散模子的生成质量、可控性取采样效率。但第 6 章展现了它们之间的深层同一性：本章回首了静态取动态两种表述形式，上个月，正在改良保守采样算法的根本上，我们将拾掇本文的根基内容和布局。

　　该视角将生成建模表述为一种持续的流动变换，流图模子（例如，成为 Meta 超等智能尝试室（MSL）研究担任人。从而正在显著降低计较成本的同时连结生成质量。包罗基于蒸馏的方式和流映照模子。正在此根本上，本章最初给出了次要生成建模框架的分类系统，从而正在随机取确定性表述之间连结分歧性。为端到端的快速生成系统供给了严谨的数学根本取可行的实现径。DDPMs）。为算法阐发取设想供给了的数学根据。此外，本书并不试图成为扩散模子范畴的全面综述，它不只回首了理论起点，以实现高效的样本生成。我们将目光转向其高效生成的现实使用层面。模子能够：间接将噪声映照为数据样本！