非平衡測度網絡及超網絡的傳輸度量錐規劃

Conic Formulations of Transport Metrics for Unbalanced Measure Networks and Hypernetworks

非平衡測度網絡及超網絡的傳輸度量錐規劃

https://arxiv.org/pdf/2508.10888

摘要

最優傳輸的Gromov-Wasserstein (GW) 變體旨在比較定義于不同度量空間上的概率密度，現已成為分析點云或網絡集合等復雜結構數據的重要工具。為克服某些局限性（例如僅限于比較質量相等的測度，以及對異常值敏感等問題），近期文獻中已引入了GW距離的若干非平衡或偏傳輸松弛形式。本文關注由Séjourné、Vialard與Peyré [35] 提出的錐Gromov-Wasserstein (CGW) 距離。我們提出了一種基于半耦合（semi-couplings）的新表述，并將該框架推廣至度量測度空間設定之外，用于比較更一般的網絡與超網絡結構。借助這一新表述，我們確立了CGW度量的若干基本性質，包括其在縮放下的尺度行為、體積增長約束極限下的變分收斂性，以及與現有最優傳輸度量之間的比較界。我們進一步推導了定量界，用以刻畫CGW度量對底層測度擾動的魯棒性。CGW的超網絡表述支持一種簡單且可證明收斂的塊坐標上升算法用于其估計。我們通過在合成數據集與真實世界的高維結構化數據集上的實驗，驗證了該方法的計算易處理性與可擴展性。

關鍵詞： 錐Gromov-Wasserstein；錐協同最優傳輸；Gromov-Wasserstein；測度網絡；測度超網絡

1. 引言

最優傳輸（OT）技術已成為應用數學中的一個基礎工具 [41, 34, 31]。廣義上講，OT理論涵蓋了通過確定將質量從一個分布分配到另一個分布的最佳方式來比較概率分布的方法，其中最優性由選定的目標函數來衡量。經典OT定義在固定度量空間上的概率分布設定中，其目標涉及度量函數的積分。本文主要關注OT的Gromov-Wasserstein (GW) 變體 [28, 29]，它通過將經典OT的線性目標替換為基于相關兩個度量定義的二次目標，從而允許比較定義在不同度量空間上的分布。具體而言，我們關注最近引入的GW距離的一個擴展——錐Gromov-Wasserstein距離（CGW）——它允許比較不同度量空間上的一般正測度（即不一定是概率分布）[35]。

在我們對CGW距離的研究中，我們提供了一種新的表述，從而導出了能夠比較更一般類別對象的擴展。我們的表述使我們能夠推導該度量的理論性質，包括精確刻畫經典GW距離如何作為CGW距離的變分極限出現，以及一個表明CGW距離對噪聲具有魯棒性的結果。這種新穎的表述和擴展還提出了一種用于近似CGW距離的高效數值格式。

本文的結構及我們的主要貢獻描述如下。

第2節 介紹了將在全文使用的符號約定，以及來自最優傳輸的一些總體背景概念。

第3節 詳細描述了本文要研究的主要構造，即錐Gromov-Wasserstein距離（CGW）。具體而言：

• 新表述（New Formulation）。 我們給出了基于**半耦合（semi-couplings）**的CGW距離的另一種表述；這是定義3.1，命題3.8表明其等價于 [35] 的原始定義（回顧于定義2.6）。
• 廣義設定（Generalized Setting）。 在定義我們版本的CGW距離時，我們將其范圍從度量測度空間擴展到**測度網絡（measure networks）**的空間，即賦予任意可測核的波蘭測度空間 [15]。我們在定理3.5中證明了CGW距離在這些對象的空間上定義了一個偽度量，并刻畫了零距離等價關系。

第4節 關注CGW距離的理論性質。我們考慮：

• 縮放性質（Scaling Properties）。 由于CGW距離不再受限于比較具有相同總質量的分布，因此理解質量的縮放如何影響距離是很重要的。我們在第4.1節中收集了若干刻畫這種行為的結果。
• 變分收斂（Variational Convergence）。 我們的CGW距離定義包含一個參數 δ ，它本質上控制在分布間執行傳輸時的質量重縮放的目標成本。我們在定理4.6和推論4.9中表明，當 δ → ∞ 時，CGW距離以精確的意義（通過 Γ -收斂的語言）收斂到經典的GW距離。這類似于 [14, 定理 5.10]，后者展示了Wasserstein-Fisher-Rao設定下的類似收斂性。
• 魯棒性性質（Robustness Properties）。 我們在定理4.13和推論4.14中證明，與經典GW距離不同（見命題4.15），CGW距離對輸入分布中的噪聲具有魯棒性。

第5節 進一步將CGW框架擴展到**協同最優傳輸（Co-Optimal transport）**表述 [40, 16]。雖然這一擴展本身很有趣，但一個主要的動機是它使我們能夠開發一種用于近似CGW距離的新計算框架。

第6節 通過在真實數據和合成數據上的數值實驗，說明了上述計算框架。這些實驗特別表明，我們要提出的用于計算CGW距離的新算法比 [35] 中提出的樸素算法高效得多。

2. 最優傳輸的背景

本節收集了將在全文中有用的背景材料。

2.1. 符號

我們首先回顧標準術語并確定通用的慣例和符號。

2.2. 非平衡最優傳輸的錐表述

正如我們在引言中所述，固定度量空間上概率分布之間的經典 Wasserstein 距離 (1.1) 已通過多種方式進行了擴展，以允許比較可能具有不相等總質量的測度。這種類型的擴展通常被稱為非平衡最優傳輸（unbalanced optimal transport）。我們現在描述例如在 [13, 14, 35] 中采取的特定方法的細節。

2.3. Gromov-Wasserstein 距離

Mémoli [28, 29] 通過公式 (1.2) 對 Wasserstein 距離進行了調整，以允許比較定義在不同度量空間上的概率測度。事實上，即使不假設函數 為度量，該公式依然有意義。這引出了 [15] 中引入的 Gromov-Wasserstein 距離的廣義概念，我們現在回顧其細節。

2.4. 錐 Gromov-Wasserstein 距離。

在本文的其余部分， 度量測度空間（mm-空間） M X = ( X , μ X , d X ) 被允許具有任意（非負，有限）的總質量 μ X ( X ) 。類似于上述描述的錐非平衡最優傳輸構造，可以將類似的技巧應用于 GW 距離，將其擴展為具有不同總質量的 mm-空間之間的距離。這種構造在 [35] 中被引入，我們在此回顧該定義。

注意到，盡管它也依賴于錐度量，但該定義與定義 2.4 中的 UOT 距離構造有著相當不同的風格。本文的首要目標是利用半耦合（semicouplings）重新表述 CGW 距離。在此過程中，我們也將其擴展到了測度網絡設定。

3. 非平衡測度網絡的錐 Gromov-Wasserstein 距離

在本節中，我們在測度網絡的一般框架內，探討 Gromov-Wasserstein 距離的一種非平衡變體的半耦合表述，這類似于 [35, 25] 中描述并在定義 2.3 中陳述的 Wasserstein-Fisher-Rao 距離的表述。進而，我們證明了我們表述的一個特例等價于 [35] 中引入的錐 Gromov-Wasserstein 距離（Conic Gromov-Wasserstein distance）。

3.1. 錐 Gromov-Wasserstein 距離

我們在本文中研究的主要構造定義如下

3.2. 度量性質

Chowdhury 與 Mémoli 在 [15] 中為測度網絡引入了一種稱為弱同構（weak isomorphism）的等價關系，而在錐設定中，對其進行適當的推廣將是有益的。我們在下文給出了無任何質量約束的測度網絡背景下的定義，而 [15] 專門考慮了概率測度網絡；這種推廣僅是表面上的。

3.3. 與 Séjourné, Vialard 和 Peyré 的表述的等價性。

一個簡短的論證表明，定義 （如定義 3.1 所示）的優化問題與錐 Gromov-Wasserstein 距離 的原始表述（如定義 2.6 所示）實際上是等價的。

4. 錐 Gromov-Wasserstein 距離的性質

本節確立了錐 Gromov-Wasserstein 距離的各種理論性質。

4.1. 縮放性質

當將傳輸度量推廣到非平衡情形時，理解該度量關于網絡總質量縮放的行為至關重要。為此，我們利用 [23] 中的以下結果。

函數 U 、 V 和 W 隨后由該表達式各行中括號內的公式相應地定義。尚需證明這些函數滿足所聲稱的性質。根據 [14, 引理 2.9]，函數 U 是下半連續的。此外，將柯西-施瓦茨（Cauchy-Schwarz）不等式應用于這些函數

接下來，我們陳述一個推論，作為定理 4.6 的結果，該推論將我們在 (2.7) 中定義的 CGW 度量與 GW2 度量聯系起來（參見圖 1 的實際演示）。該推論類似于 [14, 注 5.11] 中陳述的 WFR 距離的性質。該證明是 Γ -收斂背景下的一個標準論證。

接下來，我們通過 UOT 度量建立一個下界。這類似于 [29, 第 6 節] 中推導出的關于 GW2 距離的界。我們的結果發揮了雙重作用：既確立了測度網絡某些分布不變量的 Lipschitz 穩定性，又提供了一個計算上可行的 CGW 距離下界估計。

4.4. 魯棒性保證

5. 針對非平衡超網絡的錐協同最優傳輸

在本節中，我們定義了一種錐 GW 距離的概念——稱為錐協同最優傳輸（conic Co-Optimal transport）——它作用于被稱為測度超網絡（measure hypernetworks）的廣義結構上。本節首先解釋超網絡和協同最優傳輸的術語。

5.1. 超網絡與協同最優傳輸

粗略地說，Gromov-Wasserstein 框架是一種比較方形核的方法，而 [33] 中的協同最優傳輸框架則調整了這一思想，為矩形核提供了一種比較方法。我們回顧在 [16] 中發展的該框架的數學形式體系。

注 5.2. 測度超網絡（measure hypernetwork）這一術語是參照 [15] 中的測度網絡（measure network）術語而來的；其思想在于測度超網絡可作為加權超網絡自然且通用的模型。實踐中出現的超網絡示例包括特征矩陣（這是在 [33] 中開發該框架的原始動機）以及一般代價函數，例如在最優傳輸背景下（參見 [30]）。

5.2. 錐協同最優傳輸

我們在本節中研究的距離定義如下。

下一個結果表明，錐協同最優傳輸距離實際上在測度超網絡的弱同構意義下定義了一個距離。其證明與定理 3.5 的證明相同，只需調整論證以適應更復雜的符號，因此我們將其省略。關于協同最優傳輸距離的類似結果已在 [16, 定理 1] 中詳細證明。

5.3. 與 UCOT 的關系

我們現在考察錐協同最優傳輸（CCOT）距離與 [38] 中引入的非平衡協同最優傳輸（UCOT）之間的關系，我們在下文的超網絡背景下重述其定義。

5.4. 與 CGW 距離的關系

5.5. CCOT 算法

在本節中，我們考察離散超網絡之間的錐協同最優傳輸（CCOT）問題，并開發一種用于尋找最優半耦合對的計算方法。我們的方法緊密遵循 [4] 中的做法（在 WFR 距離的背景下），采用循環塊坐標上升算法來計算最優半耦合，在保持其他塊固定的同時，為每個塊上的最優解給出閉式形式。為討論該算法，我們首先需要 [4, 定義 2.4] 中的離散半耦合概念。

我們用于確定 CCOT 距離的計算方法采用了一種直接的循環塊坐標上升法。然而，我們方法的關鍵在于，當其中三個塊固定時，剩余塊的最優解可表示為閉式形式。在下面的引理中，我們展示了在保持其他塊固定的同時，如何計算每個塊的最優解。

6. 數值實驗

我們現在展示數值實驗的結果，以支持為 CGW 和 CCOT 度量建立的理論。

6.1. 單細胞多組學對齊

我們展示了 CCOT 度量（如 5.4 中所定義）和 COT 度量（如 (5.1) 中所定義）在細胞群體跨模態部分重疊的場景下，用于對齊單細胞多組學數據集的用法。這種不完全的重疊是由于技術限制（例如，檢測通量或捕獲效率）和生物學約束（例如，采樣中的細胞類型排他性）而產生的，這些限制阻礙了對單個細胞進行全面的各種組學分析。我們利用了一個基準 CITE-seq 數據集 [37]，它與 [38] 中使用的數據集密切相關。雖然實驗設置相似，但由于細胞、基因和蛋白質等生物實體的隨機抽樣，存在細微差異。盡管如此，這允許我們將使用 CCOT 得到的定性結果與 [38] 中的 UCOT（如 5.9 中所定義）結果進行近似比較。

該數據集同時包含了 1,000 個人類外周血單個核細胞（PBMCs）的基因表達和表面蛋白豐度譜，每個細胞譜包含 17,014 個基因和 10 種表面蛋白。選擇該數據集是因為它包含特征之間已知的生物學對應關系（即基因及其編碼的蛋白質，例如 CD4 基因和 CD4 蛋白），這使我們能夠嚴格評估 CCOT 聯合對齊細胞和特征的能力。盡管基因表達和蛋白質豐度是具有不完美相關性的不同生物學測量，但這些已知的對應關系可作為評估特征對齊的真實依據（ground truth）。

預處理利用 Muon 包來適當地處理每種模態：RNA 數據經過質量過濾、歸一化、對數變換以及高變基因的選擇，而蛋白質數據使用中心化對數比（CLR）變換進行歸一化，以調整技術變異性。降維是在每種模態上獨立執行的，以獲得適合對齊的低維嵌入。

為了評估對齊質量，我們使用針對細胞的“更接近真實匹配的樣本比例”（FOSCTTM）度量 [10, 26, 18]，其中較低的分數表示更好的細胞級對齊，以及針對特征級對齊的正確匹配基因 - 蛋白質對的比例。為了測試魯棒性，我們模擬了三種實驗條件：一種平衡場景，具有相等數量的細胞（固定為 1,000）和匹配的特征（10 個基因與其對應的 10 種蛋白質配對）；一種非平衡場景（特征），具有相等數量的細胞（1,000），但不相等數量的特征（5 個基因對比 10 種蛋白質），模擬缺失或不匹配的特征；以及一種非平衡場景（細胞），其中跨模態的細胞數量不同，以模擬部分細胞重疊。

平衡場景（特征）。 我們選擇相等數量的細胞（固定為 1000）和特征（10 個基因及其對應的 10 種蛋白質）。COT 和 CCOT 都能準確對齊特征（圖 2 (a)-(b)），但 CCOT 實現了更好的細胞對齊，具有更低的 FOSCTTM 分數（0.0059 對比 0.0234）。CCOT 性能的提升源于其對噪聲的魯棒性，導致相對于 COT 距離而言更清晰的對角線（深紅色）對齊模式（如定理 5.12 和 4.13 所理論證明的那樣）。

非平衡場景（特征）。 我們選擇相等數量的細胞（1000）并將 10 種蛋白質與 5 個基因對齊，從而創建一個非平衡設置。COT 無法恢復正確的特征對應關系，導致對齊偏離對角線（圖 2 (d)）。相比之下，CCOT 對質量守恒約束的松弛允許對未匹配的蛋白質細胞進行降權，從而提高對齊質量（圖 2 (c)）。

平衡與非平衡場景（樣本）。 我們還考慮了跨兩種模態細胞數量相等和不相等的情況。對于平衡情況，我們為兩種模態對齊 1000 個細胞。對于非平衡情況，我們將蛋白質模態下采樣 25%，并與基因模態中的全套細胞執行對齊。我們計算數據集中所有已知真實匹配的細胞的 FOSCTTM 分數并報告平均值。CCOT 保持了較低的 FOSCTTM 分數（0.0073，而平衡場景中為 0.0059），表明其性能穩健，而 COT 則出現了更明顯的下降（0.1104，而平衡場景中為 0.0234）。為了進一步說明對齊質量，我們使用主成分分析（PCA）圖可視化了對齊后的細胞（圖 2 (e)-(h)），這揭示了來自兩種模態的細胞在對齊后聚集在一起的程度。

最后，在圖 3 中，我們要通過對兩種模態固定的細胞數量進行變化，來對齊不相等數量的特征（5 個基因和 10 種蛋白質），我們注意到收斂診斷指標呈下降趨勢，包括 CCOT 距離和迭代中的相對對數誤差。這種行為表明隨著迭代次數的增加，求解器逐漸穩定其解。觀察到的這些指標的減少反映了對求解器變量的一致性越來越高且幅度越來越小的更新，提供了算法正在接近穩定點的證據（見推論 5.19）。因此，這些結果支持了求解器和度量在實現數據集之間有意義且穩定的對齊方面的可靠性和魯棒性。

6.2. 測度網絡 CCOT 的半耦合相等性

6.3. 數字分類比較

我們利用 MNIST 數據集 [24] 解決一個二分類任務，該數據集包含 70,000 張 0 到 9 的手寫數字灰度圖像，每張大小為 28 × 28 像素。對于我們的實驗設置，我們要專門關注數字 1 和 7，從每個類別中選擇 N = 1000個樣本，形成一個大小為 2 N = 2000的數據集。為了增強數據內部的變異性，向一半圖像的像素強度引入了加性高斯噪聲（見圖 5(a)）。

原文鏈接：https://arxiv.org/pdf/2508.10888