Теоремы Шеннона для канала с шумами

Материал из Википедии — свободной энциклопедии
Перейти к: навигация, поиск

Теоремы Шеннона для канала с шумами (теоремы Шеннона для передачи по каналу с шумами) связывают пропускную способность канала передачи информации и существование кода, который возможно использовать для передачи информации по каналу с ошибкой, стремящейся к нулю (при увеличении длины блока).

Формулировка теорем[править | править исходный текст]

Пусть

  • K — длина блока, генерируемого источником
  • L — длина блока, который будет передан по каналу (после кодирования)
  • R — скорость передачи сообщений (производительность источника)
R = K / L
C = \max ( {I(X;Y)} )
{P}_{er,max} = \max \limits_{1 \leqslant s \leqslant M} P_{er}


Прямая теорема

Если скорость передачи сообщений меньше пропускной способности канала связи (R < C), то существуют коды \left\{ {\vec{x_1}, \vec{x_2}, ..., \vec{x_M}} \right\} и методы декодирования такие, что средняя и максимальная вероятности ошибки декодирования стремятся к нулю, когда длина блока стремится к бесконечности, то есть P_{er} \to 0, P_{er,\max} \to 0 при L \to \infty.

Иными словами: Для канала с помехами всегда можно найти такую систему кодирования, при которой сообщения будут переданы со сколь угодно большой степенью верности, если только производительность источника не превышает пропускной способности канала.


Обратная теорема

Если скорость передачи больше пропускной способности, то есть R > C, то не существует таких способов передачи, при которых вероятность ошибки стремится к нулю (P_{er} \to 0) при увеличении длины передаваемого блока, (L \to \infty).

Граница Шеннона[править | править исходный текст]

Под границей Шеннона (англ. Shannon limit) понимается максимальная скорость передачи, для которой имеется возможность (выбрать сигнально-кодовую конструкцию) исправить ошибки в канале с заданным отношением сигнал/шум. Для канала с АБГШ пропускная способность согласно формуле Шеннона:

C=F\cdot\log(1+\frac{P_{s}}{P_{n}})=F\cdot\log(1+\frac{P_{s}}{N_{0}F}),

где

  • F — полоса частот канала, Гц,
  • P_{s} — мощность сигнала, Вт,
  • P_{n} — мощность шума, Вт,
  • N_{0} — спектральная плотность мощности шума, Вт/Гц.

Максимальная пропускная способность канала с АБГШ и неограниченным спектром:

C_{\infty}=\lim_{F\to\infty}C=\lim_{F\to\infty}F\cdot\log e \cdot\ln(1+\frac{P_{s}}{N_{0}F})=\lim_{F\to\infty}F\cdot\frac{P_{s}}{N_{0}F} \log e=\frac{P_{s}}{N_{0}} \log e \approx \frac{P_{s}}{N_{0}}\cdot 1,443 бит/с.

В настоящее время (2007 год) максимальное приближение к этой границе даёт LDPC-код с примерной длиной блока в 10 миллионов бит.

Также, с другой стороны, под границей Шеннона можно понимать минимальное отношение сигнал/шум, для которого теоретически возможно безошибочная передача и декодирование блока с заданной скоростью. Например, для вида модуляции QPSK и скорости передачи 1 (бит/с)/символ минимальное отношение сигнал/шум составляет 0,25 дБ.

Литература[править | править исходный текст]