以流為基礎的深度生成模型藉助正規化流這一強大的統計工具來解決密度估計這個困難問題。對 p(x) 的良好估計使得有效完成許多下游任務成為可能：取樣未觀察到但真實的新數據點（數據生成）、預測未來事件的稀有程度（密度估計）、推斷潛在變量、填補不完整的數據樣本等。
生成模型的類型
以下是生成對抗網路（GAN）、變分自編碼器（VAE）和以流為基礎的生成模型之間差異的簡單介紹：
生成對抗網路：GAN提供了一個巧妙的解決方法，將資料生成這個非監督式學習問題轉化為監督式學習問題。判別器模型學習區分真實資料和生成器模型產生的假樣本資料。兩個模型在訓練過程中如同進行極小極大博弈過程。
變分自編碼器：VAE通過最大化證據下界（ELBO）來間接最佳化數據的對數相似性。
基於流的生成模型：基於流的生成模型由一系列可逆變換建構。與其他兩種模型不同，該模型明確地學習數據分佈 p(x)，因此損失函數就是簡單的負對數相似性。
什麼是正規化流？
密度估計是一種幫助解決機器學習問題的重要方法，但要進行一個精準的密度估計非常困難。例如，由於我們需要在深度學習模型中運行反向傳播，嵌入的機率分佈（即後驗 p(z∣x)）必須要簡單到能夠容易且快速地計算導數。正規化流（NF）方法在此時採用更好的分佈近似而被廣泛應用。正規化流通過使用一系列可逆變換函數，將簡單的分佈轉換為複雜的分佈。通過一連串的變換，我們根據變量變換定理反覆替換變量，最終得到目標變量的機率分佈。
Reference
1. Normalizing Flows by Adam Kosiorek.
- Danilo Jimenez Rezende, and Shakir Mohamed. “Variational inference with normalizing flows.” ICML 2015.
- Laurent Dinh, Jascha Sohl-Dickstein, and Samy Bengio. “Density estimation using Real NVP.” ICLR 2017.
