Localizing the Latent Structure Canonical Uncertainty: Entropy Profiles for Hidden Markov Models - Inria - Institut national de recherche en sciences et technologies du numérique Access content directly
Reports (Research Report) Year : 2012

Localizing the Latent Structure Canonical Uncertainty: Entropy Profiles for Hidden Markov Models

Abstract

This report addresses state inference for hidden Markov models. These models rely on unobserved states, which often have a meaningful interpretation. This makes it necessary to develop diagnostic tools for quantification of state uncertainty. The entropy of the state sequence that explains an observed sequence for a given hidden Markov chain model can be considered as the canonical measure of state sequence uncertainty. This canonical measure of state sequence uncertainty is not reflected by the classic multivariate state profiles computed by the smoothing algorithm, which summarizes the possible state sequences. Here, we introduce a new type of profiles which have the following properties: (i) these profiles of conditional entropies are a decomposition of the canonical measure of state sequence uncertainty along the sequence and makes it possible to localize this uncertainty, (ii) these profiles are univariate and thus remain easily interpretable on tree structures. We show how to extend the smoothing algorithms for hidden Markov chain and tree models to compute these entropy profiles efficiently.
Ce rapport concerne l'inférence sur les états de modèles de Markov cachés. Ces modèles se fondent sur des états non observés, qui ont en général une interprétation, dans le contexte d'une application donnée. Ceci rend nécessaire la conception d'outils de diagnostic pour quantifier l'incertitude sur ces états. L'entropie de la séquence d'états associée à une séquence observée, pour un modèle de chaîne de Markov cachée donné, peut être considérée comme la mesure canonique de l'incertitude sur les états. Cette mesure canonique d'incertitude sur la séquence d'états n'est pas reflétée par les profils d'états, multivariés, calculés par l'algorithme de lissage, qui résume les séquences d'états possibles. Nous introduisons ici de nouveaux profils dont les propriétés sont les suivantes : (i) ces profils d'entropie conditionnelle sont une décomposition, le long de cette séquence, de la mesure canonique d'incertitude sur la séquence d'états, ce qui offre la possibilité d'une localisation de cette incertitude, (ii) ces profils sont univariés; ils peuvent donc être facilement utilisés sur des structures arborescentes. Nous montrons comment étendre l'algorithme de lissage sur des chaînes et arbres de Markov cachés afin de calculer ces profils de manière efficace.
Fichier principal
Vignette du fichier
RR-7896.pdf (861.38 Ko) Télécharger le fichier
Origin : Files produced by the author(s)
Loading...

Dates and versions

hal-00675223 , version 1 (29-02-2012)

Identifiers

Cite

Jean-Baptiste Durand, Yann Guédon. Localizing the Latent Structure Canonical Uncertainty: Entropy Profiles for Hidden Markov Models. [Research Report] RR-7896, Inria. 2012, pp.43. ⟨hal-00675223⟩
577 View
172 Download

Altmetric

Share

Gmail Facebook X LinkedIn More