Le problème type de l'optimisation de formes en mécanique des structures est de trouver la forme ``optimale" d'une structure, qui soit à la fois de poids minimal et de rigidité maximale. Des problèmes de ce genre se rencontrent fréquemment dans des domaines comme le génie civil, l'aéronautique, ou la construction automobile, pour lesquels toute économie de poids permet à la fois des économies de matière première mais surtout des gains très importants de performance (par exemple, une voiture légère consomme moins de carburant). En pratique, on demande aussi à la forme optimale de satisfaire d'autres contraintes technologiques (par exemple, aérodynamiques ou accoustiques) ou bien de faisabilité industrielle et de coût de fabrication. Mais, pour simplifier le problème et se concentrer sur les difficultés intrinsèques de l'optimisation de formes, on va ne pas tenir compte de ces contraintes supplémentaires dans tout ce qui suit.
Traditionellement, l'ingénieur de bureau d'étude procède par essais successifs, en testant des prototypes dont le design relève de son savoir faire et de son intuition. Cette façon de faire ``manuelle" est très coûteuse et imprécise. De plus en plus, elle est remplacée par des logiciels de modélisation mumérique et d'optimisation, qui permettent d'analyser de nombreuses possibilités sans avoir à fabriquer de prototypes et qui automatisent la recherche de la forme optimale. Dans la plupart de ces codes de calcul, cette automatisation est obtenue en représentant la forme par un nombre limité de paramètres descriptifs (généralement des points de contrôle sur les bords), et l'analyse des variations des performances par rapport à ces paramètres permet d'améliorer itérativement une forme initiale. On trouvera dans les ouvrages [11], [24], [26], [30] une présentation systématique de cette approche ainsi que de très nombreuses références.
Cependant cette méthode, dite d'analyse de sensibilité, présente deux inconvénients majeurs. Elle est très coûteuse en temps de calcul car, si la forme s'éloigne trop de la géométrie initiale, il peut être nécessaire de remailler la structure au cours des itérations. D'autre part, et c'est là son plus grave défaut, le résultat obtenu dépend fortement du choix initial et de la finesse de la discrétisation. En effet, les formes successives ne varient que par leur frontière, tandis que leur topologie reste fixe : la structure garde le même nombre de composantes, de bords et de trous, et la taille de ces derniers est limitée par la taille du maillage. Or, de nombreux exemples (aussi bien numériques [13] que théoriques [23]) montrent que des variations de topologie permettent des gains de performance significatifs, et, dans les problèmes industriels complexes, il est impossible de déterminer a priori la topologie optimale.
D'un point de vue mathématique, la forte dépendance du résultat par rapport au choix initial s'interprète par l'existence de nombreux minima locaux, tandis que la non-convergence du résultat par raffinement de maillage est une conséquence du caractère mal posé du problème. Rappelons en effet que, si les formes admissibles doivent satisfaire des hypothèses de ``régularité", on peut démontrer l'existence d'une forme optimale [12], alors qu'en l'absence de toute contrainte sur la frontière il n'y a, en général, pas existence d'une forme optimale (cf. les contre-exemples dans [23] et [25]).
On se propose donc de remédier aux inconvénients de la méthode d'analyse de sensibilité en proposant une nouvelle méthode dite d'optimisation topologique de formes utilisant la théorie de l'homogénéisation. D'un point de vue pratique cette méthode permet d'optimiser automatiquement une structure sans restriction explicite ou implicite sur sa topologie, et évite les aléas numériques classiques décrits ci-dessus, pour un coût de calcul très compétitif. D'un point de vue mathématique, notre approche remédie à la non-existence générique de formes optimales en relaxant le problème. Cette relaxation s'obtient en généralisant la notion de formes admissibles qui sont désormais constituées de matériaux composites obtenus par microperforation du matériau pur d'origine. La clé de voute de cette approche est la théorie de l'homogénéisation qui permet de calculer et d'optimiser les propriétés effectives des matériaux composites.
Il est juste de considérer les travaux de Murat et Tartar à la fin des années 70 et au début des années 80 comme fondateurs, à plus d'un titre, de la théorie de l'homogénéisation appliquée à l'optimisation de formes (cf. [25] ainsi que des références antérieures reprises dans le volume [14]). D'autres travaux théoriques fondamentaux sur les liens entre l'optimisation de formes et l'homogénéisation ont eu lieu en Russie et aux Etats-Unis (cf. [16], [19], [20], et le volume [14]). De façon surprenante les premiers calculs numériques réalistes en ce domaine ne sont arrivés que plus tard (en particulier, le travail pionnier de Bendsoe et Kikuchi [8] en 1988, puis [3], [4], [18], [29], [31]). Pour se rendre compte du développement extraordinaire de ces méthodes d'homogénéisation on pourra consulter les livres [7] et [9] ainsi que leurs références.
Concluons cette introduction en disant que cet article est une présentation, assez informelle du point de vue mathématique, de travaux plus complets (pour plus de détails, voir notamment [1], [2], [3], [4]).