Skip to content
Torna ai risultati

Teorema della Capacità di Canale di Shannon

Introdotto da
Claude Shannon
Anno
1948
Tipo
fundamental theoretical bound
Famiglia
Information theory

Questo testo è una traduzione automatica e non è ancora stato revisionato. Leggi l’originale in inglese

Dimensione del carattere

A cosa serve?

Il teorema della capacità di canale di Shannon, pubblicato nel 1948, stabilisce la massima velocità alla quale l'informazione può essere trasmessa in modo affidabile su un canale rumoroso.

Espresso come C = B log2(1 + S/N) per il rumore gaussiano bianco additivo (AWGN), rappresenta un limite fondamentale nella teoria dell'informazione e nell'ingegneria delle comunicazioni. Shannon dimostrò che la comunicazione affidabile è possibile a qualsiasi velocità inferiore alla capacità, e impossibile al di sopra di essa. Questo teorema è alla base della progettazione di tutti i moderni sistemi di comunicazione e motiva la teoria della codifica, la modulazione e le tecniche di elaborazione del segnale.

L’intuizione alla base del metodo

Intuitivamente, la capacità di canale risponde alla domanda: quanta informazione posso trasmettere per unità di tempo in modo affidabile nonostante il rumore? Shannon dimostrò che la risposta dipende da tre fattori: (1) larghezza di banda B (maggiore larghezza di banda -> maggiore capacità), (2) potenza del segnale S (segnale più forte -> maggiore capacità), e (3) potenza del rumore N (meno rumore -> maggiore capacità). Il compromesso logaritmico log2(1 + S/N) cattura una profonda verità: raddoppiare la potenza aumenta la capacità solo di 1 bit/s/Hz, un rendimento decrescente. Questo spiega perché, nonostante secoli di pratica comunicativa, la comunicazione affidabile è fondamentalmente limitata finché il rapporto segnale/rumore non è sufficientemente elevato. Motiva anche modulazioni e codifiche sofisticate: esse si avvicinano alla capacità asintoticamente ma non la superano mai.

Storia

L'articolo di Shannon del 1948 'A Mathematical Theory of Communication' ha fondato la teoria dell'informazione. Egli dimostrò il teorema di codifica del canale rumoroso, stabilendo che la comunicazione affidabile al di sotto della capacità è possibile, ma al di sopra della capacità non lo è. Questo risultato rivoluzionario dimostrò che il rumore non impedisce la comunicazione affidabile, ma ne limita solo la velocità. Nei decenni successivi, i teorici della codifica (Hamming, Golay, codici convoluzionali, Reed-Solomon) svilupparono codici pratici che si avvicinavano alla capacità. I codici moderni (turbo, LDPC, polari) raggiungono velocità entro 0,5-0,7 dB dalla capacità. Il lavoro di Shannon trasformò le comunicazioni da una pratica ingegneristica empirica a una rigorosa disciplina matematica.

Quando usarlo

La capacità di Shannon viene utilizzata per definire gli obiettivi di progettazione e valutare le prestazioni del sistema. Prima di progettare un sistema di comunicazione, calcolare la capacità per comprendere il limite teorico ultimo. Quando si valuta un sistema, confrontare il throughput effettivo con la capacità per quantificare l'efficienza. La capacità guida anche l'allocazione delle risorse: controllo della potenza, allocazione della larghezza di banda, selezione del tasso di codifica. Utilizzare l'analisi della capacità per giustificare gli investimenti in tecnologie avanzate (MIMO, beamforming) quantificando i potenziali guadagni.

Limiti e considerazioni

  • La formula della capacità AWGN assume una lunghezza di parola in codice infinita; i codici pratici a lunghezza finita sono subottimali
  • La capacità con fading richiede informazioni complete sullo stato del canale al trasmettitore per un'allocazione ottimale della potenza (water-pouring)
  • La formula assume un input gaussiano; alcuni canali beneficiano di modulazioni non gaussiane (rare)
  • La capacità non tiene conto di latenza, complessità o vincoli energetici; i sistemi pratici danno priorità a questi
  • La capacità multiutente è molto più complessa; i canali di interferenza non hanno una capacità in forma chiusa

Le condizioni della fonte non sostituiscono una revisione scientifica indipendente né la validazione da parte di un motore di analisi.

Punti di forza

  • Fornisce un limite fondamentale indipendente dalla specifica progettazione di codice/modulazione
  • Elegante formula in forma chiusa per i canali AWGN
  • Si estende a canali con fading, interferenza, multiutente tramite generalizzazioni della teoria dell'informazione
  • Motiva l'intero campo della teoria della codifica (codici turbo, LDPC, polari si avvicinano tutti alla capacità)
  • Invariante tra le tecnologie: la formula della capacità è valida per canali ottici, RF, acustici
  • Consente l'analisi dei compromessi: esplora i guadagni derivanti dall'espansione della larghezza di banda, dall'aumento di potenza o dalla diversità

Applicazioni

  • Progettazione di sistemi wireless: l'analisi della capacità guida la selezione delle antenne, i budget di potenza e gli obiettivi di efficienza spettrale in LTE/5G
  • Comunicazioni satellitari: i limiti di capacità stabiliscono aspettative realistiche per le velocità di download dalle sonde spaziali profonde
  • Comunicazioni in fibra ottica: la formula della capacità informa le strategie di multiplexing a divisione di lunghezza d'onda e di amplificazione
  • Sistemi di archiviazione: i limiti di capacità determinano il sovraccarico di correzione degli errori necessario per l'archiviazione affidabile su HDD/SSD
  • Progettazione di reti: l'analisi della capacità multiutente guida l'allocazione delle risorse e il controllo dell'ammissione

Come funziona

Come funziona

1

La sorgente di informazione genera simboli a una velocità R (bit al secondo) da trasmettere.

2

Per il canale AWGN: capacità C = B log2(1 + P/N0 B), dove B è la larghezza di banda, P è la potenza del segnale, N0 è la densità spettrale del rumore.

3

Per i canali con fading: la capacità dipende dallo stato del canale; la capacità media è C = integrale sulla distribuzione dello stato del canale di B log2(1 + |h|^2 P / N0 B).

4

Il modello di canale include: segnale trasmesso X, canale con fading h, rumore additivo Z. Segnale ricevuto Y = h*X + Z.

5

La trasmissione affidabile a velocità R è possibile se e solo se R ≤ C. Se R > C, una probabilità di errore arbitrariamente piccola non può essere raggiunta, indipendentemente dalla complessità del codice.

Errori comuni

  • Assumere che la capacità sia facilmente raggiungibile; il divario tra teoria e pratica è ampio per pacchetti brevi
  • Ignorare gli effetti della lunghezza di blocco finita; la capacità asintotica assume una lunghezza di parola in codice infinita
  • Non tenere conto del feedback; un feedback limitato può aumentare significativamente la capacità
  • Assumere la capacità con fading con CSI parziale; gli errori di stima del canale riducono la capacità effettiva
  • Aspettarsi che la capacità sia raggiungibile con schemi semplici; i codici che raggiungono la capacità sono complessi (turbo, LDPC, polari)

Domande frequenti

Qual è la relazione tra la capacità di Shannon e l'efficienza spettrale?

L'efficienza spettrale (bit al secondo per Hertz) è vincolata dalla capacità divisa per la larghezza di banda: η ≤ C/B. Per AWGN, η ≤ log2(1 + S/N). Se la larghezza di banda del sistema è B e la potenza è P, l'efficienza spettrale è η = C/B. All'aumentare dell'SNR, l'efficienza spettrale aumenta logaritmicamente; non c'è un limite rigido ma rendimenti decrescenti.

In che modo il feedback influisce sulla capacità?

Per il canale AWGN senza memoria, Shannon dimostrò che la capacità non è modificata dal feedback: dal punto di vista della teoria dell'informazione, il feedback non può aumentare la capacità. Tuttavia, il feedback consente la codifica adattiva (regolare la velocità in base al CSI), che può migliorare le prestazioni pratiche. Per i canali con memoria o ritardo di feedback, la capacità può aumentare.

Cos'è il water-pouring e perché è ottimale per i canali con fading?

Il water-pouring è una strategia ottimale di allocazione della potenza per i canali con fading: allocare più potenza quando il canale è buono (alto guadagno) e meno quando è cattivo (basso guadagno). Matematicamente, la potenza P(h) = max(0, λ - N0 / |h|^2), dove λ è un moltiplicatore di Lagrange impostato per soddisfare il vincolo di potenza totale. Questo massimizza la capacità ergodica.

La capacità può essere superata con una codifica intelligente?

No. Il teorema di codifica del canale rumoroso di Shannon è un limite fondamentale: se la velocità di trasmissione supera la capacità, la probabilità di errore non può essere resa arbitrariamente piccola, indipendentemente dalla complessità del codice o dall'algoritmo di decodifica. Il teorema afferma che raggiungere una velocità R < C con una probabilità di errore arbitraria ε > 0 richiede una lunghezza di blocco esponenziale in 1/ε.

Metodi correlati

Fonti

  1. Shannon, C. E. (1948). A mathematical theory of communication. Bell System Technical Journal, 27(3), 379-423.

    Apri il riferimento DOI
    Copiato.
  2. Cover, T. M., & Thomas, J. A. (1991). Elements of Information Theory. John Wiley & Sons.

    Apri il riferimento della pubblicazione
    Copiato.