Modèle de translation : la loi du bruit décide de l'estimateur
Les observations s'écrivent \(X_i = \theta^\star + \varepsilon_i\), où les \(\varepsilon_i\) sont indépendantes, de densité \(q\) connue et centrée sur \(0\) : seule la position est inconnue. La vraisemblance est alors \(L_n(\vartheta) = \prod_i q(X_i - \vartheta)\), c'est-à-dire la même fonction pour toutes les lois de bruit, à ceci près que \(q\) change. Le déplacement de la densité sous les observations montre ce que maximise l'estimateur, et le graphique de droite montre où se trouve ce maximum.
anim-s2-translation-emvLa densité \(x \mapsto q(x - \vartheta)\) et les observations
Le curseur \(\vartheta\) déplace la densité ; les traits verticaux sont les observations, et leur hauteur est la densité qu'elles reçoivent, c'est-à-dire leur contribution à la vraisemblance.
La log-vraisemblance normalisée \(\vartheta \mapsto \ell_n(\vartheta)\)
Le point marque la position d'essai ; le trait vertical, le maximum.
Aucun estimateur n'est encore calculé : seule la densité déplacée par le curseur \(\vartheta\) est représentée.
Les trois estimateurs sur \(m = 100\) répétitions
Même loi de bruit, même taille d'échantillon \(n\), 100 tirages indépendants sous \(\theta^\star\) : la boîte à moustaches de chaque estimateur, à comparer à \(\theta^\star\).
On illustre ici comment la loi du bruit détermine l'estimateur du maximum de vraisemblance dans un modèle de translation : la moyenne empirique pour un bruit gaussien, la médiane pour un bruit de Laplace ou uniforme — parfois non unique —, et un estimateur sans expression explicite pour un bruit de Cauchy, dont la log-vraisemblance n'est pas concave. Voir Compléments — Modèle de translation et d'échelle et Estimateurs robustes : médiane et MAD.