Théorie de l'information et codage

Dernière mise à jour le 22 mars 2023

Présentation

Les transmissions numériques reposent très largement sur la capacité à coder et décoder les données, afin d’une part de réduire les débits nécessaires (codage de source) et d’autre part de sécuriser l’intégrité des données (codage de canal). Cette UE présente les principes du codage, en l’illustrant par des exemples concrets. Les éléments de théorie de l’information nécessaires à la compréhension du codage sont également présentés.

Pré-requis nécessaires

Notions mathématiques de base : fonction logarithme, vecteurs et matrices.
Probabilités.
Eléments de calcul polynômial, notamment la division Euclidienne des polynômes.

Objectifs

Donner à l'étudiant une bonne maîtrise des techniques de codage/décodage qui sont à la base des normes de communications numériques récentes.
Sensibiliser les étudiants aux avantages du numérique pour la sécurisation de l’intégrité des informations.

Compétences visées

Description sommaire d’une chaine de transmission : source, codeur de source, codeur de canal, émetteur, canal de transmission.
Théorie de l’information : mesure de l’information, entropie, entropie conditionnelle, entropie conjointe, propriétés des entropies, relations entre les entropies, mesure de l’information transmise sur un canal, capacité du canal, adaptation d’une source au canal.
Codage de source : Introduction, classification des codes, code à longueur fixe, code à longueur variable, code sans préfixe, code instantané, code non séparable, inégalité de Kraft/Mc Millan, limite inférieure de la longueur moyenne d’un code, longueur moyenne d’un code, longueur moyenne minimale d’un code, premier théorème de Shannon : démonstration, extension de source, entropie des sources étendues, notion d’efficacité et de redondance, procédure de construction des codes, procédure de Shannon-Fano, procédure de Huffman, procédure de Shannon-Fano et d’Huffman.
Codage de canal : classification des codes, principe des codes en bloc linéaires (CBL), paramètres de performance, matrice génératrice et matrice de contrôle de parité, code dual, correction des erreurs basée sur le syndrome, capacité de détection et de correction d'erreurs d'un CBL, codes de Hamming et codes à longueur maximale, limite du rendement d'un CBL et lien avec la capacité du canal, probabilité d'erreur en sortie du décodeur de canal, codes cycliques, représentation polynomiale, polynôme générateur et matrice génératrice d'un code cyclique, construction des codes cycliques, décodage des codes cycliques, codes de Golay et BCH.

Bibliographie

A. Spataru, Fondement de la théorie de la transmission de l'information (Presses polytechniques et universitaires romandes).
M. Joindot et A. Glavieux, Communications numériques (Masson).