Задачи кодирования

Различают кодирование в широком и узком смысле.

В широком смысле кодированием называют любое преобразование сообщения в сигнал путем установления взаимного соответствия.

При кодировании в узком смысле рассматривается кодирование сообщений, передаваемых в дискретном канале.

Кодирование и декодирование передаваемой информации – это установление взаимно однозначного соответствия между алфавитом источника и множеством кодовых комбинаций, используемых для передачи сообщений.

Кодом называется множество слов в некотором алфавите, поставленное во взаимно-однозначное соответствие другому.

Различают два основных вида кодирования – эффективное и помехоустойчивое.

Задачей эффективного кодирования является повышение скорости передачи информации и приближение ее к пропускной способности каналов. Теоретической основой построения эффективных кодов служит теорема Шеннона для дискретных каналов без помех, в которой утверждается, что если производительность источника меньше пропускной способности канала, то всегда можно найти такой способ кодирования, при котором скорость передачи информации будет стремиться к пропускной способности канала.

Задачей помехоустойчивого кодирования является повышение верности передачи информации путем обнаружения и исправления ошибок. Соответственно, различают коды с обнаружением и исправлением ошибок.

Теоретической основой помехоустойчивого кодирования является теорема Шеннона для дискретных каналов с помехами. В ней утверждается, что если производительность источника меньше пропускной способности канала, то всегда можно найти такой способ кодирования, при котором вероятность ошибки сколь угодно близко стремится к нулю. Однако при этом скорость передачи информации всегда меньше пропускной способности канала.

Применение помехоустойчивого кодирования дает возможность обнаружить ошибки в принятых сообщениях или же обнаружить и исправить их. Код с обнаружением ошибок уменьшает число неверно опознанных сообщений, позволяет "стирать" или особо отмечать сообщения, в которых установлено присутствие ошибок, а в некоторых случаях (системы с обратным каналом связи) принять меры к повторной передаче неопознанных сообщений.

Код с исправлением ошибок позволяет получить верные сообщения, несмотря на наличие некоторого числа ошибок при опознавании символов.