扩散模型与最优传输的关系并非显而易见。尽管在相似数据集上训练的不同扩散模型往往产生相似的映射关系,但这些映射是否为最优传输映射仍是一个悬而未决的问题。
2022年,Lr / J f faven\ w Z % 6 7 !ant和Santambrogio的论文《THE FLOW MAP OF THE FOKKER-PLANCK EQUATION DOES NOT PROVIDE OPTI` T R 4 O 7 : XMAL TRANSPORT》推翻了此前的猜想,即通过积分Fokker-Planck方程的Wasserstein速度得到的ODE流能产生最优传输映射。该论文通过反例证明,在@ b !某些情况下,流模型无法实现最优T ! .传输。 这篇论文证明过程复Z N E I J x r .杂,以大量公式推导为主。
法国数学? j 1 j M *家Peyr在论文《DiffuW h v ! ssion modelc , g G N As and Optimal Transpor9 a G K * ` St》中对Lavenant和Santambrogio的证明进行了简化总结,清晰地阐述了扩散模型一般情况下无法定义最优传输映射的结论。
Peyr的文章主要内容如下:
生成模型旨在构建w U n ^ ! G I从参考分布(通常为各向同性高斯分布)到数据分布的传输映射T,使得T♯ = 。 寻找T的显式构造方法非常困难,主要方法包括最优传输和逆向积分扩散过程的平流场。
最优传输 通过求解, y & [ N 5Monge问题找到T,Brenier定理证明该映射存在且唯一,可表示为凸函数的梯度。
逆向# \ $ * nFlow Map 扩散模型通过求解一个定义在₀=和∞=之间的差值& f [ P ` Wₜ上的过程,来定义映射。该过程可通过向2 $ w K 8 ~量场v演化粒子来实现,最终得到flow map Sₜ。
关键结论:逆向Flow Map并非最优传输
Lavenant和Santambrogio通过构造反例证明,一般情况下,逆向flow map Sₜ⁻并非最优传输映射。他们证明,对于某些接近各向同性高斯分布的: t ! i } \ 3数据分布,以及某些时间t,从到ₜ的逆向flow map并非最优传输。 证明的核w C \心在于,假设逆向flow map为最优传h # o , h – n x输,并结合Fokker-Planck方程和Brenier定理,最终得出矛盾。 他们通过构造一个特定的分布,并分析其在t=0时的性质,证明了该假设不成立。
简而言之,尽管扩散模型在图像生成等领域取得了显著成功,但其底层映射与最优传4 # Y 0 P C e ^ x输理论的关系并非简单的等价关系,两者之间存在着重要的区别。
以上就是扩散模型、最优A ( L传输存在什么关系?法国f 2 _ ^ c v t 7 .数学家4页论文引网友围观的详细内容!