Il est en général impossible d’exprimer le flot d’un système dynamique à l’aide de fonctions qui permettraient d’en étudier le comportement asymptotique. Il revient à « Liouville » d’avoir donné des exemples d’équations différentielles, d’ailleurs très simples, dont les solutions ne peuvent pas être représentées à l’aide des seules « fonctions élémentaires », et ce au moyen d’expressions finies utilisant les opérateurs de base (somme, produit, composition, intégration). La première conséquence de cela est qu’une étude quantitative devra s’appuyer sur des moyens de résolution approchée qui, longtemps, ont fait défaut. D’un autre côté, l’expérience prouve que, même muni de puissants moyens de calcul, on peut parfaitement passer à côté de phénomènes fondamentaux. Il y a plusieurs raisons à cela. En premier lieu, certains phénomènes limites ne se produisent que pour un ensemble de valeurs initiales de mesure nulle : toutes les chances d’éviter ces valeurs sont donc réunies, lors d’une simulation numérique. C’est le cas d’un pendule sans frottement, pour lequel il est difficile de prédire que l’équilibre vertical (instable) est limite de deux trajectoires exactement. D’autre part, les phénomènes limites peuvent être extrêmement compliqués, et sensibles aux conditions initiales : c’est le cas particulièrement de certains systèmes, dits chaotiques, qui, aujourd’hui encore, tout en étant l’objet d’études assidues, ne sont nullement circonscrits. C’est d’ailleurs ce type de problèmes (problème de la stabilité du système solaire) qui conduisit « Poincaré », avec l’efficacité que l’on devine, à proposer, le premier, des techniques puissantes d’étude. Enfin, les systèmes dynamiques ne sont que des modèles d’une situation physique, modèles parfois consciemment simplifiés. Il convient de mesurer en quoi cette approximation du système par un système plus simple peut influer sur les résultats obtenus. Là encore, et quelle que soit l’utilité que l’on trouvera à utiliser un calculateur efficace, une étude préalable est indispensable. De fait, les systèmes dynamiques présentent, à l’état presque pur, ce trait de nombreux secteurs des mathématiques actuelles : en permettant une expérimentation numérique accrue, l’ordinateur sollicite le théoricien pour rendre compte de phénomènes toujours plus complexes.
Cet article présente les techniques élémentaires de l’étude asymptotique du flot d’un système dynamique. On trouvera d’abord la linéarisation, dont les limites, et les succès, sont réunis dans la première partie. Celle-ci traite aussi de l’utilisation des fonctions de « Liapounov », qui permettent d’étudier efficacement la stabilité des équilibres dans des cas fréquents.
La seconde technique repose sur une étude plus géométrique. Elle est efficace dans le cadre restreint des systèmes dynamiques du plan. Dans ce cadre, elle met en évidence, à la fois des contraintes de comportement que l’on ne retrouve pas en dimension supérieure (le théorème de « Poincaré » et « Bendixson »), et des difficultés qui, elles, sont caractéristiques de l’études des systèmes dynamiques complexes, et en particulier la possibilité qu’il n’existe pas d’intégrale première.
