📚旁证博引

去相关 距离相关性 库尔巴克–莱布勒散度

🎯要点

1. 神经求解器求解对偶方程，并学习两个空间之间的单调变换，最小化它们之间的瓦瑟斯坦距离。
2. 使用概率密度函数解析计算，神经求解器去耦合
3. 条件正则化流使用变量变换公式的生成模型
4. 瓦瑟斯坦距离量化评估神经求解器

🍪语言内容分比

pie title 语言分比
 "Python":90
 "C/C++":20

pie title 内容分比
 "算法":90
 "神经模型":80
 "数学,概率":40
 "量化评估":50
 "生成式网络":60
 "生成对抗网络":50

✂️梗概

🍇Python瓦瑟斯坦距离

在数学中，瓦瑟斯坦距离是在给定度量空间 M 上的概率分布之间定义的距离函数。其定义是：

令 $(M, d)$ 为度量空间，该空间是波兰空间。对于 $p \in[1,+\infty]$，有限 $p$ 矩的 $M$ 上两个概率测度 $\mu$ 和 $\nu$ 之间的瓦瑟斯坦 p-距离为

$$ W_p(\mu, \nu)=\inf _{\gamma \in \Gamma(\mu, \nu)}\left( E _{(x, y) \sim \gamma} d(x, y)^p\right)^{1 / p} $$

其中 $\Gamma(\mu, \nu)$ 是 $\mu$ 和 $\nu$ 的所有耦合的集合； $W_{\infty}(\mu, \nu)$ 被定义为 $\lim _{p \rightarrow+\infty} W_p(\mu, \nu)$ 并对应于最高范数。耦合 $\gamma$ 是 $M \times M$ 上的联合概率测度，其边际分别为第一个和第二个因子的 $\mu$ 和 $\nu$。也就是说，对于所有可测量的 $A \subset M$ ，耦合满足

$$ \begin{aligned} & \int_A \int_M \gamma(x, y) d y d x=\mu(A), \\ & \int_A \int_M \gamma(x, y) d x d y=\nu(A) . \end{aligned} $$

瓦瑟斯坦距离示例

瓦瑟斯坦距离，也称为“推土机距离”。假设 P = (0.2, 0.1, 0.0, 0.0, 0.3, 0.4) 和 Q = (0.0, 0.5, 0.3, 0.0, 0.2, 0.0, 0.0)。如果您将分布 P 视为土堆，将分布 Q 视为洞，则瓦瑟斯坦距离就是将 P 中的所有土转移到 Q 中的洞所需的最小工作量。

    xychart-beta
    title "P"
    x-axis [0,1,2,3,4,5,6]
    y-axis  0.1 --> 0.6
    bar [0.2,0.1,0,0,0.3,0.4]