Gromov-Wasserstein 距离
（Monge-Kantorovich-Rubinstein 度量、推土机距离、EMD）
推荐帖子：【统计】第5-2章。 距离函数和相似度
1. 概述
2. 康托罗维奇问题
3. 最佳运输计划
5. 应用程序
1.概述
⑴【联合概率分布】(https://jb243.github.io/pages/1624)（联合概率质量函数、联合概率分布；耦合）
① 离散随机变量：对于 X =｛x1, ···, xm｝, Y =｛y1, ···, yn｝，函数 π(xi, yj) = π(X = xi, Y = yj)
② 连续随机变量：对于 ∂2F(x, y) / ∂x ∂y = π(x, y)，函数 π(x, y)
③ 性质1. π(x,y) ≥ 0
④ 性质 2. ΣΣ π(x, y) = 1
⑵【边际概率分布】(https://jb243.github.io/pages/1624)
①定义：将联合概率分布转换为随机变量X或Y的分布
② 离散随机变量的边际概率分布
③ 连续随机变量的边际概率分布
2. 康托罗维奇问题
⑴ 定义：给定X的概率分布（即πX）、Y的概率分布（即πY）和成本函数（即c(x,y)），问题是找到使期望成本最小化的联合概率分布π。
① X称为源，Y称为目标。
图 1. Kontorovich 问题
⑵ 假设：X和Y之间一定存在函数关系（∵使得π(x,y)具有实际意义）
⑶ 代替πX，可以给出诸如{x1,x2,…,xn}之类的条件（但πX=x1=πX=x2=…=πX=xn）
⑷ 示例：{x1, x2, ···, xn} 和 {y1, y2, ···, yn} 紧密配对的问题。
图 2. Kontorovich 问题的示例
⑸ Kantorovich-Rubinstein 对偶性（KD）问题仅仅是上述定义的修改。
3. 最优运输方案
⑴ 定义：Kontorovich问题的解，形成凸集
⑵ 解的存在性：在温和条件下始终存在，如下半连续
⑶ 求解的方法
① 西北角法
② Vogel近似法
③ 最小成本法
④ 各种数值分析技术
⑷ 示例1. 在需求和供给固定的情况下决定如何分配资源
图 3. 经济学中的最优交通规划
⑸ 示例 2. 连续变量和离散变量的最优传输计划的差异
图 4. 连续变量和离散变量的最佳运输计划的差异
4。瓦瑟斯坦距离⑴ 特殊Kontorovich问题场景中成本函数的期望值，其中成本函数c(x, y)是欧几里德距离d(x, y)
① 得出与距离单位相同的距离期望值
② 测量一堆沙子从一个地方移动到另一个地方时形状发生了多少变化，这正是瓦瑟斯坦距离
图5. 移动一堆沙子的过程
⑵ 还可以测量不同度量空间中两个样本组之间的距离
① 示例：当X是一组2D数据点，Y是一组3D数据点时
⑶ 示例：WGAN（Wasserstein 生成对抗神经网络）
5。应用
⑴ 应用 1. p阶Wasserstein距离：利用p阶矩（p阶矩，p≥1），然后将其进行1/p次方，得到与欧氏距离相同单位的距离的期望值。
⑵ 应用2. 部分Wasserstein距离：仅使用X和Y的部分值计算Wasserstein距离
① 示例 1. 生成 X = {x1, x2, ···, xn}, Y = {y1, y2, ···, yn} 作为示例，并计算 2D 部分 Wasserstein 距离（[参考]（https://pythonot.github.io/auto_examples/unbalanced-partial/plot_partial_wass_and_gromov.html））
○ 文件链接
⑶ 应用3. 熵Wasserstein距离：结合乘积测度（即X ⊗ Y），相对熵(Kullback-Leibler divergence)
① 熵 Wasserstein 距离也称为 Sinkhorn 散度
② 优点1. 使Kontorovich的问题可微，允许使用基于梯度的优化方法
③ 优势2. 引入𝝐，提供调整最优运输计划的灵活性
⑷ 应用4. 鲁棒Wasserstein距离：使用cλ(x, y) = min { c(x, y), 2λ }代替c(x, y)
⑸ 应用5. Sinkhorn-Knopp算法：通过标准化成本函数，可以实现最优传输的超快速优化。
⑹ 应用 6. 集体 OT (COT)：一种同时优化多个线对之间最佳传输的技术。 （例如，COMMOT)
图6. COMMOT图
⑺ 最优传输定理相关论文
① 棉絮OT
② 赛奥特
③ SCOT（Demetci 等人，2022）
④ SCOOTR（Demetci 等人，2022）
⑤ 扰动-OT
⑥ COMMOT
⑦ SCOTIA
输入：2023年11月4日02:09