Эффективное кодирование

Алгоритмы построения эффективных кодов

Метод Шеннона

1. Все имеющиеся сообщений располагают в один столбик в порядке убывания вероятностей.

2. Затем упорядоченные сообщения разбивают на две группы (верхнюю и нижнюю) так, чтобы суммарные вероятности этих групп были по возможности ближе друг к другу.

3. Для сообщений верхней группы в качестве первого символа кодового слова используется «1», а для нижней - «0».

4. Далее каждую из полученных групп нужно снова разделить на две части по возможности с близкими суммарными вероятностями.

5. В качестве второго символа кодового слова используется «1» или «0» в зависимости от принадлежности сообщений к верхней или нижней подгруппе и т.д.

Данный процесс продолжается до тех пор, пока подгруппа не будет состоять из единственного сообщения.