Что такое среднее количество информации?

Характеристика связи двух случайных объектов.

Мера соответствия двух случайных объектов.

Мера отражение одного объекта другим, проявляющееся в соответствии их состояний.

39) Назовите свойства количества информации:

1. Количество информации в случайном объекте Х относительно объекта Y равно количеству информации в Y относительно Х: I(X,Y)=I(Y,X)
2. Количество информации неотрицательно: I(X,Y)>0
3. Для дискретных Х справедливо равенство I(X,X)=H(X).
4. Преобразование y(.) одной случайной величины не может увеличить содержание в ней информации о другой, связанной с ней, величине: I[y(X),Y]<I(X,Y)
5. Для независимых пар величин количество информации аддитивно.

1. Количество информации в случайном объекте Х относительно объекта Y равно количеству информации в Y относительно Х: I(X,Y)=I(Y,X)
2. Количество информации неотрицательно: I(X,Y)>0
3. Для дискретных Х справедливо равенство I(X,X)=H(X).
4. Преобразование y(.) одной случайной величины может увеличить содержание в ней информации о другой, связанной с ней, величине: I[y(X),Y]>I(X,Y)
5. Для независимых пар величин количество информации аддитивно.

1. Количество информации в случайном объекте Х относительно объекта Y равно количеству информации в Y относительно Х: I(X,Y)=I(Y,X)
2. Количество информации: 0>I(X,Y)>1
3. Для дискретных Х справедливо равенство I(X,X)=H(X).
4. Преобразование y(.) одной случайной величины не может увеличить содержание в ней информации о другой, связанной с ней, величине: I[y(X),Y]<I(X,Y)
5. Для независимых пар величин количество информации аддитивно.

40) Назовите единицы измерения энтропии и количества информации:

Неопределенность случайного объекта.

Информационная плотность.

Бит и нит.

Тема 9