Skip to content
Retour aux résultats

Théorème de la capacité de canal de Shannon

Introduite par
Claude Shannon
Année
1948
Type
fundamental theoretical bound
Famille
Information theory

Ce texte est une traduction automatique et n’a pas encore été relu. Lire l’original en anglais

Taille de police

À quoi sert-elle ?

Le théorème de la capacité de canal de Shannon, publié en 1948, établit le débit maximal auquel l'information peut être transmise de manière fiable sur un canal bruité.

Exprimé comme C = B log2(1 + S/N) pour le bruit blanc gaussien additif (AWGN), il constitue une borne fondamentale en théorie de l'information et en ingénierie des communications. Shannon a prouvé que la communication fiable est possible à tout débit inférieur à la capacité, et impossible au-delà. Ce théorème sous-tend la conception de tous les systèmes de communication modernes et motive la théorie du codage, la modulation et les techniques de traitement du signal.

L’intuition derrière la méthode

Intuitivement, la capacité de canal répond à la question : quelle quantité d'information puis-je transmettre par unité de temps de manière fiable malgré le bruit ? Shannon a montré que la réponse dépend de trois facteurs : (1) la bande passante B (plus de bande passante -> plus de capacité), (2) la puissance du signal S (signal plus fort -> plus de capacité), et (3) la puissance du bruit N (moins de bruit -> plus de capacité). Le compromis logarithmique log2(1 + S/N) capture une vérité profonde : doubler la puissance n'augmente la capacité que de 1 bit/s/Hz, un rendement décroissant. Cela explique pourquoi, malgré des siècles de pratique de la communication, la communication fiable est fondamentalement limitée jusqu'à ce que le rapport signal sur bruit soit suffisamment élevé. Cela motive également des techniques sophistiquées de modulation et de codage : elles approchent la capacité asymptotiquement mais ne la dépassent jamais.

Histoire

Le document de Shannon de 1948 'A Mathematical Theory of Communication' a fondé la théorie de l'information. Il a prouvé le théorème de codage du canal bruité, établissant que la communication fiable en dessous de la capacité est possible, mais pas au-dessus. Ce résultat révolutionnaire a montré que le bruit n'empêche pas la communication fiable, il en limite seulement le débit. Au cours des décennies suivantes, des théoriciens du codage (Hamming, Golay, codes convolutionnels, Reed-Solomon) ont développé des codes pratiques approchant la capacité. Les codes modernes (turbo, LDPC, polaires) atteignent des débits à 0,5-0,7 dB de la capacité. Les travaux de Shannon ont transformé les communications d'une pratique d'ingénierie empirique en une discipline mathématique rigoureuse.

Quand l’utiliser

La capacité de Shannon est utilisée pour fixer des objectifs de conception et évaluer les performances du système. Avant de concevoir un système de communication, calculez la capacité pour comprendre la limite théorique ultime. Lors de l'évaluation d'un système, comparez le débit réel à la capacité pour quantifier l'efficacité. La capacité guide également l'allocation des ressources : contrôle de puissance, allocation de bande passante, sélection du débit de codage. Utilisez l'analyse de capacité pour justifier l'investissement dans des technologies avancées (MIMO, beamforming) en quantifiant les gains potentiels.

Limites et points d’attention

  • La formule de capacité AWGN suppose une longueur de codeword infinie ; les codes pratiques de longueur finie sont sous-optimaux
  • La capacité à évanouissement nécessite une information complète sur l'état du canal à l'émetteur pour une allocation de puissance optimale (water-pouring)
  • La formule suppose une entrée gaussienne ; certains canaux bénéficient d'une modulation non gaussienne (rare)
  • La capacité ne tient pas compte de la latence, de la complexité ou des contraintes énergétiques ; les systèmes pratiques privilégient ces aspects
  • La capacité multi-utilisateurs est beaucoup plus complexe ; les canaux d'interférence n'ont pas de capacité en forme fermée

Les conditions de la source ne remplacent ni une revue scientifique indépendante ni la validation par un moteur d’analyse.

Points forts

  • Fournit une limite fondamentale indépendante de la conception spécifique du code/modulation
  • Formule élégante en forme fermée pour les canaux AWGN
  • S'étend aux canaux à évanouissement, d'interférence, multi-utilisateurs via des généralisations informationnelles
  • Motive tout le domaine de la théorie du codage (codes turbo, LDPC, polaires approchent tous la capacité)
  • Invariante à travers les technologies : la formule de capacité est valide pour les canaux optiques, RF, acoustiques
  • Permet l'analyse des compromis : explore les gains issus de l'expansion de bande passante, de l'augmentation de puissance ou de la diversité

Applications

  • Conception de systèmes sans fil : l'analyse de capacité guide la sélection d'antennes, les budgets de puissance et les objectifs d'efficacité spectrale dans LTE/5G
  • Communications par satellite : les limites de capacité fixent des attentes réalistes pour les débits de téléchargement des sondes de l'espace lointain
  • Communications par fibre optique : la formule de capacité éclaire les stratégies de multiplexage en longueur d'onde et d'amplification
  • Systèmes de stockage : les bornes de capacité déterminent la surcharge de correction d'erreurs nécessaire pour l'archivage fiable sur HDD/SSD
  • Conception de réseaux : l'analyse de capacité multi-utilisateurs guide l'allocation des ressources et le contrôle d'admission

Comment ça marche

Comment ça marche

1

La source d'information génère des symboles à un débit R (bits par seconde) à transmettre.

2

Pour un canal AWGN : capacité C = B log2(1 + P/N0 B), où B est la bande passante, P est la puissance du signal, N0 est la densité spectrale de bruit.

3

Pour les canaux à évanouissement : la capacité dépend de l'état du canal ; la capacité moyenne est C = intégrale sur la distribution de l'état du canal de B log2(1 + |h|^2 P / N0 B).

4

Le modèle de canal comprend : le signal transmis X, le canal à évanouissement h, le bruit additif Z. Le signal reçu Y = h*X + Z.

5

Une transmission fiable à un débit R est possible si et seulement si R ≤ C. Si R > C, une probabilité d'erreur arbitrairement faible ne peut être atteinte, quelle que soit la complexité du code.

Pièges courants

  • Suppose que la capacité est facilement réalisable ; l'écart entre la théorie et la pratique est important pour les paquets courts
  • Ignore les effets de longueur de bloc finie ; la capacité asymptotique suppose une longueur de codeword infinie
  • Ne tient pas compte du feedback ; un feedback limité peut augmenter significativement la capacité
  • Suppose la capacité à évanouissement avec CSI partiel ; les erreurs d'estimation du canal réduisent la capacité effective
  • S'attend à ce que la capacité soit réalisable avec des schémas simples ; les codes atteignant la capacité sont complexes (turbo, LDPC, polaires)

Questions fréquentes

Quelle est la relation entre la capacité de Shannon et l'efficacité spectrale ?

L'efficacité spectrale (bits par seconde par Hertz) est contrainte par la capacité divisée par la bande passante : η ≤ C/B. Pour l'AWGN, η ≤ log2(1 + S/N). Si la bande passante du système est B et la puissance est P, l'efficacité spectrale est η = C/B. À mesure que le SNR augmente, l'efficacité spectrale augmente logarithmiquement ; il n'y a pas de limite stricte mais des rendements décroissants.

Comment le feedback affecte-t-il la capacité ?

Pour un canal AWGN sans mémoire, Shannon a prouvé que la capacité n'est pas modifiée par le feedback : informationnellement, le feedback ne peut pas augmenter la capacité. Cependant, le feedback permet un codage adaptatif (ajustement du débit basé sur le CSI), ce qui peut améliorer les performances pratiques. Pour les canaux avec mémoire ou délai de feedback, la capacité peut augmenter.

Qu'est-ce que le water-pouring et pourquoi est-il optimal pour les canaux à évanouissement ?

Le water-pouring est une stratégie d'allocation de puissance optimale pour les canaux à évanouissement : allouer plus de puissance lorsque le canal est bon (gain élevé) et moins lorsqu'il est mauvais (gain faible). Mathématiquement, la puissance P(h) = max(0, λ - N0 / |h|^2), où λ est un multiplicateur de Lagrange défini pour satisfaire la contrainte de puissance totale. Cela maximise la capacité ergodique.

La capacité peut-elle être dépassée avec un codage astucieux ?

Non. Le théorème de codage du canal bruité de Shannon est une limite fondamentale : si le débit de transmission dépasse la capacité, la probabilité d'erreur ne peut pas être rendue arbitrairement petite, quelle que soit la complexité du code ou l'algorithme de décodage. Le théorème stipule que l'atteinte d'un débit R < C avec une probabilité d'erreur arbitraire ε > 0 nécessite une longueur de bloc exponentielle en 1/ε.

Méthodes associées

Sources

  1. Shannon, C. E. (1948). A mathematical theory of communication. Bell System Technical Journal, 27(3), 379-423.

    Ouvrir la référence DOI
    Copié.
  2. Cover, T. M., & Thomas, J. A. (1991). Elements of Information Theory. John Wiley & Sons.

    Ouvrir la référence de la publication
    Copié.