ВВЕДЕНИЕ
Введение понятий энтропии (средней, максимальной, совместной, условной) и количества информации (в том числе взаимной информации), избыточности, позволяет характеризовать свойства информационных систем, рассчитывать производительность источника информации, скорость передачи информации по каналу передачи информации, максимально-возможную скорость передачи по каналу, а также определение необходимого места для хранения информации.
Вопрос 1. Информационная модель процесса передачи сообщений по каналу связи
H(X) H(X / Y)
Для дискретного КС: Card(X) = Card(Y) = N
Определим количество информации, передаваемой по каналу связи I как взаимную информацию между входом X и выходом Y
I = I(X,Y)
I(X,Y) = H(X) – H(X / Y), (1.1)
Для КС без помех ∀ I yi = xi и H(X / Y) = 0 =>I = H(X).
Для КС с помехами H(X / Y) > 0 => I<H(X).
Если в КС такие помехи, что теряется вся информация, или канал разорван, то H(X / Y) = H(X) и I = 0.
Вопрос 2. Понятие скорости передачи информации по каналу связи
Для источников информации используют характеристику – производительность источника информации – среднее количество информации, выдаваемое источником сообщения в единицу времени
(2.1)
Для каналов передачи информации используют характеристику, называемую скоростью передачи информации по каналам, она равна среднему количеству информации, которое может быть передано по каналу связи в единицу времени.
Для характеристики каналов связи используют два понятия скорости передачи:
а ) Техническая скорость передачи (скорость манипуляции), характеризуется числом n элементарных сигналов – символов, передаваемых по каналу в единицу времени, умноженным на энтропию каждого сигнала
, (2.2)
где τ – длительность передачи одного символа
Она зависит от свойств линий связи и быстродействия аппаратуры каналов. Единицей измерения технической скорости служит
1 Бод=1 симв/1 сек.
Если символ двоичный (0 или 1), то 1 бод = 1 бит/с
Если символ – десятичная цифра, то – 1 бод = 1 дит/с»3,1 бит/с.
.
Если N = 2, то
б) Информационная скорость –определяется средним количеством информации, передающейся в единицу времени. Эта скорость зависит как от характеристик данного канала, так и от характеристик используемых сигналов.
Информационная скорость R передачи информации I по КС за время T выражается так
(2.3) |
Пропускная способность канала - С есть максимальная скорость передачи информации по этому каналу, достигаемая при самых совершенных способах передачи и приема.
Пропускная способность, как и скорость передачи информации измеряется количеством передаваемой информации в единицу времени
(2.4) |