A Data-Driven Bound on Covariance Matrices for Avoiding Degeneracy in Multivariate Gaussian Mixtures
Abstract
Unbounded likelihood for multivariate Gaussian mixture is an important theoretical and practical problem. Using the weak information that the latent sample size of each component has to be greater than the space dimension, we derive a simple strategy relying on non-asymptotic stochastic lower bounds for monitoring singular values of the covariance matrix of each component. Maximizing the likelihood under this data-driven constraint is proved to give consistent estimates in the univariate situation, consistency for the multivariate case being still to establish. This strategy is implemented in an EM algorithm and its excellent performance is assessed through simulated data.
Le fait que la vraisemblance ne soit pas bornée dans les mélanges gaussiens est un handicap pratique et théorique. Utilisant lat es faiblehypot ese que chaque composante est d'effectif supérieu a la dimension de l'espace, nous proposons une borne aléatoire exactet es simple qui permet de contrôler les valeurs propres des matrices de covariances. Dans le cas univarié, l'estimateur du maximum de vraisemblance sous cette contrainte est convergeant, la preuve restant encorè á etablir dans le cas général. Cette stratégie est implémentée dans un algorithme EM et donne d'excellents résultats sur des données simulées.
Domains
Methodology [stat.ME]
Origin : Files produced by the author(s)
Loading...