Постановка задачи

Все реальные каналы связи подвержены воздействию помех. Означает ли это, что надежная (т.е. без потерь) передача по ним информации невозможна в принципе? Когда-то (во всяком случае, до появления упоминавшейся выше работы К. Шеннона) инженеры-связисты ответили бы утвердительно, посоветовав для сокращения потерь увеличить ширину полосы пропускания канала и поднять мощность сигнала. Заслуга Шеннона в том, что он доказал теоретическую возможность передачи сообщения без потерь информации по реальным каналам, если при этом выполнен ряд условий. Задача была сформулирована в виде теоремы, которая затем получила строгое математическое доказательство. Ранее (см. п. 3.1.) была представлена первая теорема Шеннона, касающееся кодирования информации при передаче по идеальному каналу связи. Критерием оптимальности кодирования служила избыточность кода, которую, как было показано, можно сделать сколь угодно близкой к нулю, применяя блочное кодирование по методу Хаффмана.

Вторая теорема Шеннона относится к реальным каналам связи и гласит следующее:

Читайте также:

Определение системы

Вернуться в оглавление: Теоретические основы информатики