ENSAE Paris - École d'ingénieurs pour l'économie, la data science, la finance et l'actuariat

Hidden Markov models and Sequential Monte-Carlo methods

Enseignant

CHOPIN Nicolas

Département : Statistics

Objectif

Les modèles dits à chaîne de Markov cachée (ou à espace d'état), sont des modèles de séries temporelles faisant intervenir un "signal" (un processus $(X_t)$ markovien décrivant l'état d'un système) observé de façon imparfaite et bruitée sous forme de données, par ex.$Y_t=f(X_t)+epsilon_t$. Ces modèles sont très utilisés dans de nombreuses disciplines:

  • Finance: volatilité stochastique ($X_t$ est la volatilité non-observée)
  • Ingénierie: pistage de cible ($X_t$ est la position d'un mobile dont on essaie  de retrouver la trajectoire; reconnaissance de la parole ($X_t$ est un phonème)
  • Biostatistique: Ecologie ($X_t$=taille d'une population)
  • Epidémiologie ($X_t$=nombre d'infectés).

Le but de ce cours est de présenter les méthodes modernes d'analyse séquentielle de tels modèles, basés sur des algorithmes particulaires (Monte Carlo séquentiel). On traitera notamment les problèmes du filtrage, du lissage, de prédiction, et d'estimation des paramètres. A la fin du cours, nous évoquerons aussi rapidement l'extension de tels algorithmes à des problèmes non-séquentiels, notamment en Statistique Bayésienne.

Pré-requis:
 * cours 2A simulation et Monte Carlo, ou cours similaire Les cours de 3A de "Statistique Computationnelle" et de "Statistique Bayésienne" sont conseillés mais non obligatoires.

Acquis de la formation :
A la fin du cours, l'étudiant sera en mesure:
* d'énoncer les propriétés principales des modèles HMM
* de mettre en oeuvre un filtre particulaire pour filtrer et lisser un modèle HMM donné
* d'estimer les paramètres d'un tel modèle à partir de différentes méthodes

Plan

1. Introduction: définition des HMM (Hidden Markov models), propriétés principales, notion de filtrage, lissage, et prédiction, formules forward-backward.
2. HMM discrets, algorithme de Baum-Petrie
3. HMM linéaire Gaussian, algorithme de Kalman 
4. Algorithmes SMC pour le filtrage d'un modèle HMM 
5. Estimation dans les modèles HMM 
6. Introduction aux applications non-séquentielles des algorithmes SMC

Références

Del Moral (2004). Feynman-Kac formulae, Springer.
Chopin, N. and Papaspiliopoulos, O. (2020). An Introduction to Sequential Monte Carlo, Springer.