深度粒子最优传输（DPOT）

深度粒子最优传输（DeepParticle Optimal Transport, DPOT）是一种基于深度学习方法计算连续分布间最优传输映射的框架。该方法由 Li 等人于2025年提出，基于 DeepParticle 方法，通过神经网络直接从非配对样本学习最优传输映射，具有坚实的理论基础和广泛的应用前景。¹

1. 连续最优传输的计算挑战

1.1 经典最优传输问题

最优传输（Optimal Transport, OT）研究的是如何以最小成本将一个概率分布 $P$ 传输到另一个概率分布 $Q$。对于连续分布，Monge 形式的最优传输映射 $T:{\mathbb{R}}^d\to {\mathbb{R}}^d$ 满足：

$$T_{\#}P=Q$$

其中 $T_{\#}P$ 表示由映射 $T$ 推前分布 $P$ 得到的新分布。该映射应使得传输成本

$${\int }_{{\mathbb{R}}^d}c(x,T(x))dP(x)$$

最小，其中 $c(x,y)$ 为代价函数（通常取 $c(x,y)=\Vert x-y{\Vert }^2$）。¹

1.2 计算复杂度问题

传统计算最优传输映射的方法面临严峻挑战：

方法	复杂度	局限性
线性规划	$O(n^3)$	难以扩展到高维
Sinkhorn算法	$O(n^2/\epsilon )$	仅适用于熵正则化问题
插值方法	需显式密度函数	难以处理复杂分布

对于连续分布间的最优传输，当分布非对数凹（non-log-concave）或维度较高时，精确计算变得几乎不可能。这催生了基于学习的 OT 方法。

2. DeepParticle 方法核心

2.1 方法起源

DeepParticle 方法最初由 Wang 等人提出，用于学习随机动力系统的不变测度，通过深度神经网络最小化 Wasserstein 距离来生成样本。该方法已在化学趋向性模型（Keller-Segel系统）和反应扩散方程等复杂系统中得到验证。¹

2.2 最小-最小优化框架

DPOT 的核心是 min-min 双层优化 框架。设源分布为 $P$，目标分布为 $Q$，神经网络参数为 $\theta$，则优化目标为：

$$\underset{\theta }{\min }\mathcal{L}(\theta )=\underset{\theta }{\min }{\mathbb{E}}_{x\sim P}[\Vert T_{\theta }(x)-S(x){\Vert }^2]$$

其中 $S(x)$ 是从 $P$ 采样后经过某种变换得到的”软目标”。更形式化地，DPOT 通过以下两步迭代进行：

1. 内部最小化：对于固定的传输映射 $T_{\theta }$，找到最优的样本配对关系
2. 外部最小化：更新网络参数以最小化配对后的传输成本

该框架的数学表述为：

$$\underset{\theta }{\min }\left(\underset{\pi \in \Pi (P,Q)}{\min }\int c(x,T_{\theta }(x))d\pi (x,y)\right)$$

其中 $\Pi (P,Q)$ 为所有耦合分布的集合。¹

2.3 网络结构无限制

与许多基于神经网络的最优传输方法不同，DPOT 不限制网络结构：

• 可使用标准前馈网络、ResNet、Transformer 等任意架构
• 不需要特殊的正则化项或约束
• 网络容量的选择由具体任务决定

这一灵活性使得 DPOT 可以适配各种复杂度和维度的数据。

3. 理论保证

DPOT 的一个重要贡献是提供了严格的理论分析，建立了 弱收敛保证 和 定量误差界。¹

3.1 弱收敛性

定理（弱收敛）：设 $\{T_n{\}}_{n=1}^{\infty }$ 为 DPOT 学习得到的传输映射序列，$T^{\ast }$ 为理论最优传输映射。若网络族 $\mathcal{N}$ 在连续函数空间中是一致紧的，则当样本量趋于无穷时，有：

$$T_n\stackrel{w}{\to }{T}^{\ast }\text{当 }n\to \infty$$

其中 $\stackrel{w}{\to }$ 表示弱收敛（对于所有测试函数 $\phi \in C_b({\mathbb{R}}^d)$）。

3.2 定量误差界

DPOT 给出了学习误差的非渐进上界。设 $n$ 为训练样本数，$m$ 为网络参数数，则有：

$$\mathbb{E}[\Vert T_n-T^{\ast }{\Vert }_{L^2(P)}^2]\le \underset{\text{采样误差}}{\underbrace{\mathcal{O}\left(\frac{1}{\sqrt{n}}\right)}}+\underset{\text{逼近误差}}{\underbrace{\mathcal{O}\left(\sqrt{\frac{m}{n}}\right)}}+\underset{\text{优化误差}}{\underbrace{\mathcal{O}\left(\frac{1}{n}\right)}}$$

该误差分解清晰地揭示了：

• 样本量是控制采样误差的关键
• 网络复杂度（参数数量）需与样本量平衡
• 优化误差可通过更好的优化器进一步降低

3.3 弱收敛的意义

弱收敛相比逐点收敛是更宽松但更实用的收敛概念：

收敛类型	要求	DPOT保证
逐点收敛	$T_n(x)\to T^{\ast }(x)$ 对所有 $x$	不需要
弱收敛	$\int \phi (T_n)\to \int \phi (T^{\ast })$ 对所有有界连续 $\phi$	保证

这意味着 DPOT 学习的映射在分布层面是准确的，即使某些点可能有偏差——这在实际应用中通常足够。

4. 实际应用场景

4.1 图像生成与合成

DPOT 可用于学习不同图像分布间的映射，实现风格迁移、数据增强等任务。由于其理论保证，生成的样本分布与目标分布的 Wasserstein 距离可被控制。

4.2 异常检测

通过学习正常样本到异常样本的最优传输映射，DPOT 可以识别分布外（out-of-distribution）数据点。传输映射的”反向”距离可作为异常分数。

4.3 科学计算

• 分子动力学：学习不同势能面间的最优传输，用于增强采样
• 偏微分方程：计算解空间的概率分布传输，用于不确定性量化
• 计算流体力学：不同流动状态间的映射

4.4 代码实现

import torch
import torch.nn as nn
 
class DPOT(nn.Module):
    """
    DeepParticle Optimal Transport
    """
    def __init__(self, dim, hidden_dim=128):
        super().__init__()
        self.transport_map = nn.Sequential(
            nn.Linear(dim, hidden_dim),
            nn.ReLU(),
            nn.Linear(hidden_dim, hidden_dim),
            nn.ReLU(),
            nn.Linear(hidden_dim, dim)
        )
    
    def forward(self, x):
        """
        x: 从源分布 P 采样的样本
        返回: 传输后的样本 (近似来自目标分布 Q)
        """
        return self.transport_map(x)
    
    def loss(self, x, y):
        """
        计算 DPOT 损失 (min-min 框架的内层)
        x: 源分布样本
        y: 目标分布样本
        """
        # 外层: 最小化传输成本
        transported_x = self.forward(x)
        transport_cost = torch.mean((transported_x - y) ** 2)
        return transport_cost

5. 与 UNOT 的区别与联系

UNOT（Universal Neural Optimal Transport）和 DPOT 都是神经最优传输领域的重要方法，但设计目标和实现方式有所不同。¹

5.1 核心差异

特性	UNOT	DPOT
主要任务	预测 OT 距离和传输计划	学习 OT 映射
网络架构	Fourier 神经算子 (FNO)	任意架构
优化目标	熵正则化 OT 距离	最小-最小传输成本
泛化能力	离散化不变（可跨分辨率）	依赖网络逼近能力
理论保证	预测准确性	弱收敛 + 误差界

5.2 互补性

两种方法可以互补使用：

1. UNOT → DPOT：用 UNOT 快速估计 OT 距离，用 DPOT 精确实学习映射
2. 联合训练：同时优化传输距离预测和映射学习
3. 跨方法验证：用一种方法的输出验证另一种方法的结果

5.3 方法论联系

尽管实现不同，两者都依赖于：

• Wasserstein 距离 作为核心度量
• 神经网络 作为函数逼近器
• 样本驱动 的学习范式
• 端到端 的优化流程

6. 总结

DPOT（深度粒子最优传输）为连续分布间的最优传输映射学习提供了一个理论扎实、实现灵活的框架。其核心贡献包括：

1. Min-min 优化框架：通过双层优化直接学习 OT 映射
2. 网络结构无关性：可使用任意神经网络架构
3. 严格的理论保证：弱收敛性和定量误差界
4. 广泛的应用前景：从图像生成到科学计算

随着神经最优传输领域的快速发展，DPOT 与 UNOT 等方法共同推动着这一交叉领域向更高效、更可靠的方向前进。

参考

Footnotes

1. Li et al. DPOT: A DeepParticle Method for Computation of Optimal Transport with Convergence Guarantee. arXiv:2506.23429, 2025. ↩ ↩² ↩³ ↩⁴ ↩⁵ ↩⁶