Un des problèmes les plus célèbres en théorie des opérateurs et à ce jour encore est le problème du sous-espace invariant (PSI) que l'on peut formuler ainsi : soit $T$ une application linéaire et continue sur un espace de Hilbert $H$ (complexe et séparable), existe-t-il toujours un sous-espace vectoriel fermé non trivial $M$ de $H$ tel que $T(M)$ inclus dans $M$ ?
Nous verrons quelques résultats remarquables liés à ce problème et nous verrons des exemples d'opérateurs dit de composition, très simples, dont l'étude est équivalente à la résolution du PSI.