Adhérer ou faire un don

Claude Shannon et la compression des données

Gabriel Peyré [1]

Résumé

L’immense majorité des données (texte, son, image, vidéo, etc.) sont stockées et manipulées sous forme numérique, c’est-à-dire à l’aide de nombres entiers qui sont convertis en une succession de bits (des 0 et des 1). La conversion depuis le monde analogique continu vers ces représentations numériques discrètes est décrite par la théorie élaborée par Claude Shannon (30 avril 1916–24 février 2001), le père fondateur de la théorie de l’information. L’impact de cette théorie sur notre société est absolument colossal. Pourtant son nom est quasi inconnu du grand public. Le centenaire de la naissance de Claude Shannon est donc une bonne excuse pour présenter l’œuvre d’un très grand scientifique.

Plan de l’article

  • 1 Données numériques et codage
  • 2. Codage et décodage
    • 2.1. Exemple d’une image
    • 2.2. Codage uniforme
    • 2.3. Logarithme et codage uniforme
    • 2.4. Codage à longueur variable
    • 2.5. Codage préfixe et décodage
    • 2.6. Codes et arbres
  • 3. La borne de Shannon
    • 3.1. Code de longueur minimale et modélisation aléatoire
    • 3.2. Fréquences empiriques
    • 3.3 Entropie
    • 3.4.Nombre de bits moyen d’une source
    • 3.5. Borne de Shannon pour le codage
    • 3.6. Transformation de l’information
  • 4. Conclusion
  • Glossaire
  • Remerciements
  • Références

- Télécharger l’article en pdf dans son intégralité

(Article mis en ligne par Catherine Ranson)

[1] CNRS et DMA, École Normale Supérieure gabriel.peyre@ens.fr