Le contexte de ces travaux de thèse est la transmission dite faster-than- Nyquist (FTN). Cette technique propose d’augmenter l’efficacité spectrale en augmentant le rythme de transmission au-delà de la bande occupée par le signal émis, indépendamment de la constellation choisie. Il a été montré que le FTN offre des taux d’information supérieurs à ceux des systèmes de Nyquist. Toutefois, le non respect du critère de Nyquist entraîne l’apparition d’interférence entre symboles et des techniques de réception appropriées doivent être utilisées. La technique de réception dite channel shortening consiste à filtrer la séquence reçue puis à calculer des probabilités symbole a posteriori approximatives à l’aide de l’algorithme BCJR en considérant une réponse de canal modifiée, de longueur réduite. Dans la littérature, en présence d’information a priori, les filtres du récepteur channel shortening sont optimisés sous critère de maximisation de l’information mutuelle généralisée (IMG) en utilisant des méthodes numériques. Nous proposons dans ces travaux de thèse une solution analytique pour l’ensemble des filtres channel shortening sous critère de maximisation de l’IMG lorsque le récepteur dispose d’information a priori. Nous démontrons ensuite que l’égaliseur au sens de la minimisation de l’erreur quadratique moyenne (MMSE) est un cas particulier de l’égaliseur channel shortening. Dans le cadre de la turbo égalisation, nous étudions ensuite un estimateur permettant d’obtenir l’information a priori à partir de l’information en sortie du décodeur correcteur d’erreurs. Finalement, nous évaluons les performances du système complet avec codage correcteur d’erreurs sur canal à bruit additif blanc Gaussien.