Вопрос 2. Оптимальное кодирование

Вопрос 1. Пропускная способность канала передачи данных

Реальные каналы характеризуются тем, что на сигналы всегда воздействуют помехи.

Задача 1. Пусть требуется определить пропускную способность бинарного канала связи. При этом с вероятностью р каждый из двоичных сигналов может перейти в противоположный сигнал.

Рис.1.1. Симметричный канал передачи сигналов в условиях помех, где х₁ и x₂ передаваемые сигналы типа "0" или1", у₁ и у₂, принимаемые сигналы.

На рис.1.1. представлена модель передачи бинарных сигналов

Пропускная способность, по выражению (4.2) лекции

Построить график функции С (p).

Наибольшее значение эта функция принимает при р=0 (то есть при отсутствии помех) и при р=1 (то есть при негативной передаче). При р=1/2 пропускная способность минимальна и равна нулю!!!.

На рис. 1.2 представлена модель передачи m-ичных сигналов, где x₁,х₂,…,х_m источники информации, y₁,y₂,…,y_m приемники информации.

Рассчитать для m =2, 3, 4.

Вопрос 2. Оптимальное кодирование

Правило, сопоставляющее каждому дискретному сообщению - букве или последовательности букв - кодовое слово называется правилом кодирования.

Сама операция сопоставления называемся кодированием сообщения.

Совокупность кодовых слов, обозначающих дискретные сообщения, называется кодом.

Множество кодовых букв (символов) называется кодовым алфавитом, а их количество - объемом алфавита или основанием кода. Количество букв в кодовом слове называется длиной кодового слова или значностью кода.

Формально-математическое определение кодирования:

Пусть даны конечные множества Х, Y. Будем интерпретировать Х как множество исходных дискретных сообщений, Y как множество кодовых слов.

Тогда: отображение Т: Х → Y называется кодированием, если для ∀ y ∈ Y
∃ Т ^-1 (у) = х.

Классификация кодов

1. По наличию избыточности:

- неизбыточные;

- избыточные (корректирующие);

2. По значности (длине кодового слова):

- равномерные;

- неравномерные;

3. По типу оператора кодирования:

- линейные;