Определения и глоссарий

Система – совокупность взаимодействующих элементов.

Подсистема – элемент системы.

Надсистема данной системы – система, подсистемой которой является данная система.

Окружение системы – совокупность систем, элементами которых являются надсистемы данной системы (объемлющая система).

Информация о системе – образ системы в ее окружении, совокупность надсистем данной системы. Полная информация о системе – воспроизведение самой системы.

Количество информации – мера неопределенности состояния наблюдателя, снятой испытанием системы.

Количество информации по Харди – максимальное количество вопросов, которое необходимо задать, чтобы любой из элементов множества мощностью N мог быть однозначно определен: .

Неожиданность элемента множества – мера информационной значимости появления конкретного элемента множества при случайном выборе из дискретного множества с распределением вероятностей , i =1,…,N,

Среднее значение признака Gна множестве Х – .

Количество информации по Шеннону – средняя неожиданность на Х, .

Информационная энтропия системы – мера неопределенности задания состояний элементов системы при заданном состоянии системы. Характеризует состояние системы и определяется по Больцману как , где - постоянная Больцмана, W –количество состояний элементов системы, совместимых с данным состоянием всей системы. Применяется в статистическом обосновании равновесной термодинамики. В случае систем, составленных из большого числа М одинаковых элементов, каждый из которых может находится в одном из N состояний с вероятностью , с точностью до множителя совпадает с количеством информации по Шеннону: .