Описание процедуры кодирования и декодирования символов экономным кодом Шеннона-Фано

При кодировании происходит процесс преобразования элементов сообщения в соответствующие им кодовые символы. Каждому элементу сообщения присваивается определённая совокупность кодовых символов, которая называется кодовой комбинацией.

                                                       Рис. Схема кодера

 Совокупность кодовых комбинаций, отображающих дискретные сообщения, образует код. Правило кодирования может быть выражено кодовой таблицей, в которой приводятся алфавит кодируемых сообщений и соответствующие им кодовые комбинации. Множество возможных кодовых символов называется кодовым алфавитом, а их количество m - основанием кода.

Алгоритм кодирования Шеннона-Фано заключается в следующем. Символы алфавита источника записываются в порядке не возрастающих вероятностей. Затем они разделяются на две части так, чтобы суммы вероятностей символов, входящих в каждую из таких частей (если она содержит более одного сообщения) делится в свою очередь на две, по возможности, равновероятные части, и к ним применяется то же самое правило кодирования. Этот процесс повторяется до тех пор, пока в каждой из полученных частей не останется по одному сообщению.

Задание № 3.