シャノンチャネル容量定理
- 提唱者
- Claude Shannon
- 年
- 1948
- 種類
- fundamental theoretical bound
- 系統
- Information theory
この文章は機械翻訳で、まだ確認されていません。 英語の原文を読む
何をする手法か?
シャノンのチャネル容量定理は、1948年に発表され、ノイズのあるチャネル上で情報を確実に伝送できる最大レートを確立するものである。加法性白色ガウスノイズ(AWGN)に対するC = B log2(1 + S/N)として表され、情報理論および通信工学における基本的な限界値である。シャノンは、容量未満の任意のレートで確実な通信が可能であり、それ以上では不可能であることを証明した。この定理は、すべての現代の通信システムの設計の基礎となり、符号理論、変調、信号処理技術を動機づけている。
手法の背後にある直感
直感的には、チャネル容量は「ノイズにもかかわらず、単位時間あたりどれだけの情報を確実に伝送できるか?」という問いに答えるものである。シャノンは、その答えが3つの要因に依存することを示した:(1)帯域幅B(帯域幅が大きいほど容量が大きい)、(2)信号電力S(信号が強いほど容量が大きい)、(3)ノイズ電力N(ノイズが少ないほど容量が大きい)。対数的なトレードオフlog2(1 + S/N)は、深い真実を捉えている。すなわち、電力を2倍にしても容量は1ビット/秒/ヘルツしか増加せず、収穫逓減である。これは、数世紀にわたる通信の実践にもかかわらず、信号対雑音比が十分に高くなるまで、確実な通信が根本的に制限されている理由を説明している。また、洗練された変調や符号化を動機づけている。これらは漸近的に容量に近づくが、決してそれを超えることはない。
歴史学
シャノンの1948年の論文「通信の数学理論」は情報理論の基礎を築いた。彼はノイズのあるチャネル符号化定理を証明し、容量未満での確実な通信が可能であるが、容量を超えると不可能であることを確立した。この革命的な結果は、ノイズが確実な通信を妨げるのではなく、レートを制限するだけであることを示した。その後の数十年で、符号理論家(ハミング、ゴレイ、畳み込み符号、リード・ソロモン)は、容量に近づく実用的な符号を開発した。現代の符号(ターボ、LDPC、ポーラー)は、容量から0.5~0.7 dB以内のレートを達成している。シャノンの業績は、通信を経験的な工学的手法から厳密な数学的規律へと変革した。
使うべき場面
シャノン容量は、設計目標の設定やシステム性能のベンチマークに使用される。通信システムを設計する前に、究極の理論的限界を理解するために容量を計算する。システムを評価する際には、実際のスループットを容量と比較して効率を定量化する。容量は、リソース割り当て(電力制御、帯域幅割り当て、符号化レート選択)を導くものでもある。MIMOやビームフォーミングなどの高度な技術への投資を、潜在的な利得を定量化することによって正当化するために、容量分析を使用する。
限界と注意点
- AWGN容量の公式は無限の符号語長を仮定している。実用的な有限長符号は最適ではない
- フェージング容量は、最適な電力割り当て(ウォーターポーリング)のために送信側での完全なチャネル状態情報(CSI)を必要とする
- 公式はガウス入力(Gaussian input)を仮定している。一部のチャネルは非ガウス変調(まれ)から恩恵を受ける
- 容量は遅延、複雑さ、またはエネルギー制約を考慮していない。実用的なシステムはこれらを優先する
- マルチユーザー容量ははるかに複雑である。干渉チャネルには閉形式の容量がない
出典に示された条件は、独立した科学的レビューや分析エンジンによる検証の代わりにはなりません。
強み
- 特定の符号/変調設計に依存しない基本的な限界を提供する
- AWGNチャネルに対するエレガントな閉形式
- 情報理論的一般化により、フェージング、干渉、マルチユーザーチャネルに拡張可能
- 符号理論(ターボ、LDPC、ポーラー符号はいずれも容量に近づく)の分野全体を動機づける
- 技術に依存しない:容量の公式は、光、RF、音響チャネルに有効
- トレードオフ分析を可能にする:帯域幅の拡大、電力の増加、またはダイバーシティからの利得を探求する
応用
- 無線システム設計:容量分析は、LTE/5Gにおけるアンテナ選択、電力予算、スペクトル効率目標を導く
- 衛星通信:容量限界は、深宇宙探査機からのダウンロードレートに関する現実的な期待を設定する
- 光ファイバー通信:容量の公式は、波長分割多重および増幅戦略に情報を提供する
- ストレージシステム:容量は、信頼性の高いHDD/SSDアーカイブに必要な誤り訂正オーバーヘッドの限界を設定する
- ネットワーク設計:マルチユーザー容量分析は、リソース割り当ておよびアドミッション制御を導く
使い方
使い方
情報源は、伝送されるシンボルをレートR(ビット毎秒)で生成する。
AWGNチャネルの場合:容量C = B log2(1 + P/N0 B)。ここで、Bは帯域幅、Pは信号電力、N0はノイズスペクトル密度である。
フェージングチャネルの場合:容量はチャネル状態に依存する。平均容量はC = ∫ B log2(1 + |h|^2 P / N0 B) dh、ここで積分はチャネル状態分布上で行われる。
チャネルモデルには、送信信号X、フェージングチャネルh、加法性ノイズZが含まれる。受信信号Y = h*X + Z。
レートRでの確実な伝送は、R ≤ C の場合にのみ可能である。R > C の場合、符号の複雑さに関わらず、任意に小さい誤り確率を達成することはできない。
よくある落とし穴
- 容量が容易に達成されると仮定している。理論と実践のギャップは、短いパケットでは大きい
- 有限ブロック長効果を無視している。漸近容量は無限の符号語長を仮定している
- フィードバックを考慮していない。限定的なフィードバックは容量を大幅に増加させる可能性がある
- 部分的なCSIを持つフェージング容量を仮定している。チャネル推定誤差は実効容量を減少させる
- 単純な方式で容量が達成可能であると期待している。容量達成符号は複雑である(ターボ、LDPC、ポーラー)
よくある質問
シャノン容量とスペクトル効率の関係は?
スペクトル効率(ビット毎秒毎ヘルツ)は、容量を帯域幅で割ったものによって制約される:η ≤ C/B。AWGNの場合、η ≤ log2(1 + S/N)。システム帯域幅がBで電力がPの場合、スペクトル効率はη = C/Bである。SNRが増加するにつれて、スペクトル効率は対数的に増加する。厳密な限界はないが、収穫逓減がある。
フィードバックは容量にどのように影響するか?
記憶のないAWGNチャネルの場合、シャノンはフィードバックによって容量は変化しないことを証明した。情報理論的には、フィードバックは容量を増加させない。しかし、フィードバックは適応的符号化(CSIに基づいてレートを調整する)を可能にし、実用的な性能を向上させることができる。記憶のあるチャネルやフィードバック遅延のあるチャネルでは、容量が増加することがある。
ウォーターポーリングとは何か、なぜフェージングチャネルで最適なのか?
ウォーターポーリングは、フェージングチャネルにおける最適な電力割り当て戦略である。チャネルが良い(ゲインが高い)ときはより多くの電力を割り当て、悪い(ゲインが低い)ときはより少ない電力を割り当てる。数学的には、電力P(h) = max(0, λ - N0 / |h|^2)である。ここで、λは総電力制約を満たすように設定されたラグランジュ乗数である。これはエルゴード容量を最大化する。
巧妙な符号化で容量を超えることは可能か?
いいえ。シャノンのノイズのあるチャネル符号化定理は基本的な限界である。伝送レートが容量を超えると、符号の複雑さや復号アルゴリズムに関わらず、誤り確率を任意に小さくすることはできない。この定理は、任意のエラー確率ε > 0でレートR < Cを達成するには、ブロック長が1/εの指数関数である必要があると述べている。