← Semaine 2 — Estimation

Modèle de Laplace : un plateau de minimiseurs pour \(n\) pair, un seul pour \(n\) impair

Dans le modèle de Laplace, de densité \(\tfrac12\exp(-|x - \theta|)\), maximiser la vraisemblance revient à minimiser \(\varphi(\vartheta) = \sum_{i=1}^n |X_i - \vartheta|\), fonction continue, convexe et affine par morceaux. Deux échantillons de la même loi sont représentés côte à côte : l'un de taille paire, l'autre de taille impaire, formé des mêmes observations plus une. On déplace \(\vartheta\) et on lit \(\varphi(\vartheta)\) ainsi que la pente de \(\varphi\) : pour \(n\) pair, \(\varphi\) est constante sur tout un intervalle, et chacun de ses points est un estimateur du maximum de vraisemblance ; pour \(n\) impair, le minimiseur est unique.

anim-s2-laplace-emv

\(n = \) observations (pair)

\(\varphi(\vartheta) = \sum_{i=1}^n |X_i - \vartheta|\) ; les observations sont les traits sur l'axe.

zoom sur le minimum
\(\varphi(\vartheta)\)
pente de \(\varphi\) en \(\vartheta\) : \(2k - n\)
minimum de \(\varphi\)

\(n = \) observations (impair) : les mêmes, plus une

La même fonction \(\varphi\), calculée sur l'échantillon de gauche auquel on ajoute l'observation \(X_{n+1}\).

zoom sur le minimum
\(\varphi(\vartheta)\)
pente de \(\varphi\) en \(\vartheta\) : \(2k - n\)
minimum de \(\varphi\)

Un clic ou un glissement sur l'un des deux graphiques déplace \(\vartheta\) ; \(k\) désigne le nombre d'observations strictement inférieures à \(\vartheta\).

\(\varphi(\vartheta) = \sum_i |X_i - \vartheta|\) valeur candidate \(\vartheta\) et \(\varphi(\vartheta)\) minimiseurs de \(\varphi\) (estimateurs du maximum de vraisemblance) vraie valeur \(\theta^\star\) (pointillés)

On illustre ici la non-unicité du maximum de vraisemblance du modèle de Laplace : la fonction à minimiser, \(\varphi(\vartheta) = \sum_i |X_i - \vartheta|\), a une pente \(2k - n\) constante par morceaux, qui s'annule sur tout un intervalle quand \(n\) est pair et une seule fois quand \(n\) est impair. La médiane empirique, solution dans les deux cas, apparaît ailleurs comme \(Z\)-estimateur et comme \(M\)-estimateur. Voir l'exemple « Modèle de Laplace : non-unicité du maximum de vraisemblance ».