Оценка количества информации о функциональных параметрах

Используя выводы предыдущего пункта, найдем формулы, удобные для инженерных расчетов количества информации, которое содержится в одном некоррелированном с соседними отсчете при различных законах распределения параметра и погрешностей.

Пример 1. Параметр имеет равномерное распределение в пределах шкалы L, а погрешность – нормальное с дисперсией . Эти условия характерны для расчета количества информации на выходе аналоговой РТС или анало­гового элемента тракта передачи, например датчика.

Так как , то априорное распределение суммы λ + ε определяется в основном параметром и является равномерным, a K _{э нач} = . Принимая во внимание, что K _{э нач} = 2,07, a σ_λ = , формулу (4.3) можно записать в виде:

где γ =  – приведенная к шкале погрешность измерений. Если она выражена в процентах, то

.

В соответствии с этой формулой при погрешности измерения, равной 1%, количество информации в одном отсчете равно 4,6 бит.

Пример 2. Параметр распределен равномерно в пределах шкалы L, и погрешность распределена равномерно в пределах интервала d. Эти условия характерны для процесса квантования. Обычно d << L, поэтому априорное распределение суммы (λ + ε) близко к равномерному, следовательно, K _{э нач} = K _{э кон} = .

Воспользовавшись формулой (4.3), получим:

Этот результат показывает, что количество информации равно значности двоичного кода n на выходе устройства квантования I_I = n.

Пример 3. Предположим, что параметр и погрешность распределены нормально, причем L ≈ 6σ_λ. В этом случае K _{э нач} = K _{э кон} и при условии

Нетрудно видеть, что в этом случае количество информации на отсчет получается меньше, чем в рассмотренных выше ситуациях, если величина γ фиксирована.