NL-Means et agrégation PAC-bayésienne

en collaboration avec J. Salmon (thèse 2007–2010) et L. Montuelle (thèse 2011–2014)

L’agrégation à poids exponentiels combine une famille d’estimateurs en pondérant chacun d’eux selon son risque estimé, et les bornes PAC-bayésiennes fournissent des garanties fines pour ce type de procédures. Ce thème a débuté avec la thèse de J. Salmon, réalisée sous ma direction, qui a relié ces idées statistiques au débruitage d’images par patchs.

Les NL-Means comme procédure d’agrégation

Avec J. Salmon, nous avons montré que l’algorithme de débruitage NL-Means, qui remplace chaque pixel par une moyenne pondérée des pixels dont le voisinage (patch) est similaire, peut s’interpréter comme une agrégation à poids exponentiels d’estimateurs élémentaires construits sur des patchs (ICIP 2009, SPIE Wavelet XIII 2009). Ce point de vue a conduit à des améliorations numériques de la méthode, que J. Salmon a ensuite approfondies dans ses propres travaux.

Agrégation PAC-bayésienne d’estimateurs affines

Avec L. Montuelle, nous avons étudié l’agrégation PAC-bayésienne d’estimateurs par projection et, plus généralement, d’estimateurs affines. En utilisant des poids exponentiels calculés à partir d’un risque pénalisé, nous avons obtenu des inégalités oracle en déviation, et non seulement en espérance (actes Springer d’ISNPS 2018).

Publications

2018 (1)

Articles de revue

PAC-Bayesian aggregation of affine estimators. L. Montuelle, E. Le Pennec. Nonparametric Statistics (3rd ISNPS, Avignon, 2016), Springer Proceedings in Mathematics & Statistics, Springer, pp. 133–144, 2018. PDF DOI arXiv

BibTeX

@incollection{montuelle18:_pac,
  author = {Montuelle, L. and Le Pennec, E.},
  title = {PAC-Bayesian aggregation of affine estimators},
  booktitle = {Nonparametric Statistics (3rd ISNPS, Avignon, 2016)},
  editor = {Bertail, P. and Blanke, D. and Cornillon, P.-A. and Matzner-Løber, E.},
  series = {Springer Proceedings in Mathematics \& Statistics},
  publisher = {Springer},
  pages = {133--144},
  year = {2018},
  doi = {10.1007/978-3-319-96941-1_9},
  eprint = {1410.0661},
  archiveprefix = {arXiv}
}

2014 (1)

Actes de conférences nationales

Agrégation PAC-bayésienne d'estimateurs par projection. L. Montuelle, E. Le Pennec. Journée de la SFdS, Rennes, 2014. PDF HAL

BibTeX

@inproceedings{MontSfdS14,
  author = {Montuelle, L. and Le Pennec, E.},
  title = {Agrégation PAC-bayésienne d'estimateurs par projection},
  booktitle = {Journée de la SFdS},
  address = {Rennes},
  year = {2014}
}

2009 (3)

Actes de conférences internationales

NL-Means and aggregation procedures. J. Salmon, E. Le Pennec. ICIP 09, Cairo, pp. 2977–2980, 2009. PDF DOI

BibTeX

@inproceedings{salmon09:_nl_means,
  author = {Salmon, J. and Le Pennec, E.},
  title = {{NL-Means} and aggregation procedures},
  booktitle = {ICIP 09},
  pages = {2977--2980},
  address = {Cairo},
  year = {2009},
  doi = {10.1109/ICIP.2009.5414512}
}

An aggregator point of view on NL-Means. E. Le Pennec, J. Salmon. SPIE Wavelet XIII 09, San Diego, 2009. PDF DOI

BibTeX

@inproceedings{le09:_nl_means,
  author = {Le Pennec, E. and Salmon, J.},
  title = {An aggregator point of view on {NL-Means}},
  booktitle = {SPIE Wavelet XIII 09},
  address = {San Diego},
  year = {2009},
  doi = {10.1117/12.826881}
}

Actes de conférences nationales

Agrégation d'estimateurs pour le débruitage d'image. J. Salmon, E. Le Pennec. Journée de la SFdS, Bordeaux, 2009. PDF HAL

BibTeX

@inproceedings{le09:_agreg,
  author = {Salmon, J. and Le Pennec, E.},
  title = {Agrégation d'estimateurs pour le débruitage d'image},
  booktitle = {Journée de la SFdS},
  address = {Bordeaux},
  year = {2009}
}

Exposés

2011 (1)

A brief survey of patch-based methods. E. Le Pennec, J. Salmon. Computational Methods for High Dimensional and Complex Data Sets, Santa Fe, Santa Fe, New Mexico, USA, avril 2011. Transparents

2010 (2)

PAC-Bayesian approach for kernel methods. J. Salmon, E. Le Pennec. Journées MAS et Journée en l'honneur de Jacques Neveu, Talence, France, août 2010. Transparents
An aggregated point of view on NL-Means. E. Le Pennec, J. Salmon. Modélisation Statistique des Images, CIRM, Luminy, Marseille, France, mai 2010. Transparents

2009 (2)

Un point de vue agrégé sur les NL-Means. E. Le Pennec, J. Salmon. Journée STAR, Rennes, Université Rennes, campus de Beaulieu, Rennes, France, octobre 2009. Transparents
An aggregator point of view on NL-Means. E. Le Pennec, J. Salmon. SPIE Wavelet XIII, San Diego, San Diego, USA, août 2009. Transparents