В процессе передачи информации участвуют следующие компоненты: источник, приемник и носитель информации, а также среда передачи.
Обычно источники передают сообщения, с некоторой скоростью, затрачивая в среднем время Т на передачу одного сообщения.
Производительность. источника назовем суммарную энтропию сообщений переданных за единицу времени
(1.7)
Производительность измеряется в битах на секунду. Если сообщение может быть представлено в виде последовательности элементарных дискретных сообщений источника с энтропией следующих со скоростью элементов в секунду, то
(1.8)
Аналогичным образом, т.е. разделив в формулах количество информации на Т и
обозначая получим соответственные равенства для условных энтропии и количества информации, рассчитанных на одно сообщение a в единицу времени.
Величина называется скоростью передачи информации от U к Z или наоборот. Если, например U ансамбль сигналов на входе дискретного канала, а Z ансамбль сигналов на его выходе то скорость передачи информации по каналу
|
|
(1.9).
Здесь H'(U) производительность источника передаваемого сигнала U, а "производительность" канала, т.е. полная собственная информация в принятом сигнале за единицу времени. Величина представляет собой потерю информации или ненадежность канала в единицу времени, а скорость создания ложной, посторонней информации в канале не имеющей отношение к U и обусловленная присутствующими в канале помехами.