Пример 2.3

Имеется три тела с одинаковыми внешними размерами, но с разными массами х₁, х₂ и х₃. Необходимо определить энтропию, связанную с нахождением наиболее тяжелого из них, если сравнивать веса тел можно только попарно.

Последовательность действий достаточно очевидна: сравниваем вес двух любых тел, определяем из них более тяжелое, затем с ним сравниваем вес третьего тела и выбираем наибольший из них. Поскольку внешне тела неразличимы, выбор номеров тел при взвешивании будет случаен, однако общий результат от этого выбора не зависит. Пусть опыт ее состоит в сравнении веса двух тел, например, 1-го и 2-го. Этот опыт, очевидно, может иметь два исхода: А₁ – х₁ > х₂; его вероятность р(А₁) = 1/2; исход А₂ - x₁ < х₂; также его вероятность р(А₂) = 1/2.

Опыт β - сравнение весов тела, выбранного в опыте α, и 3-го - имеет четыре исхода: B₁, - х₁ > х₃, B₂ – х₁ < х₃, B₃ - х₂ > х₃, В₄ - х₂ < х₃; вероятности исходов зависят от реализовавшегося исхода α - для удобства представим их в виде таблицы:

Вновь, воспользовавшись формулами (2.8) и (2.9) и с учетом свойства (1) п.2.1.2, находим:

Следовательно, энтропия сложного опыта, т.е. всей процедуры испытаний:

Пример 4.1

Условная энтропия

Пример 4.4.

Понятие математической модели

Пример 7.12

Вернуться в оглавление: Теоретические основы информатики