Hypergraphs, percolation, and hierarchical clustering
Hypergraphes, percolation et clustering hiérarchique
Résumé
We are interested in, firstly, measuring the theoretical performance of hierarchical clustering algorithms which depend on a scale parameter; and secondly, in improving the State-of-the-Art of the family of hierarchical clustering with respect to our new measure.
Single-Linkage is perhaps the simplest and the most famous algorithm belonging to this family of hierarchical clustering.
Nowadays, the State-of-the-Art clustering algorithm, HDBSCAN, works in a similar way to Single-Linkage (with some refinements we will study later). Herein, we explain why the percolation phenomenon is omnipresent behind this family of clustering algorithms. Previously, we defined an index which we have named "percolation rate" to measure the theoretical capability of algorithms to identify different high-density levels.
In this paper, we show that using hypergraphs is a natural way to generalize Single-Linkage with higher-order interactions (not just `single'). New high-order connected components on hypergraphs, "K-polyhedra", have much better percolation rates than the classic `robustification' of Single-Linkage (used e.g. by HDBSCAN), the K-Robust Single-Linkage components. We investigate in detail the important cases of R² and R³ for K∈{1,2,3}.
Nous souhaitons, d'une part, mesurer les performances théoriques des algorithmes de clustering hiérarchique qui dépendent d'un paramètre d'échelle et, d'autre part, améliorer l'état de l'art de la famille des clusterings hiérarchiques par rapport à cette nouvelle mesure.
Le Single-Linkage est peut-être l'algorithme le plus simple et le plus célèbre parmi cette famille d'algorithmes de clustering hiérarchique.
Aujourd'hui, le meilleur algorithme dans ce domaine, HDBSCAN, a pour fondements le Single-Linkage (avec quelques raffinements que nous étudierons plus tard). Nous expliquons pourquoi le phénomène de percolation est omniprésent dans cette famille d'algorithmes.
Précédemment, nous avions défini un indice que nous avions appelé « vitesse de percolation » qui mesurait la capacité théorique d'un algorithme à identifier différents niveaux de haute densité.
Dans cet article, nous montrons que l'utilisation d'hypergraphes est un moyen naturel de généraliser le Single-Linkage avec des interactions d'ordre supérieur (pas seulement « single »). Les nouvelles composantes connexes d'ordre supérieur sur ces hypergraphes, les « K-polyèdres », ont des vitesses de percolation bien meilleures que la `robustification' classique du Single-Linkage (utilisée par exemple par HDBSCAN). Nous étudions en détail les cas importants de R² et R³ pour K∈{1,2,3}.
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|
