Пример 2.1

Имеются два ящика, в каждом из которых по 12 шаров. В первом -3 белых, 3 черных и 6 красных; во втором - каждого цвета по 4. Опыты состоят в вытаскивании по одному шару из каждого ящика. Что можно сказать относительно неопределенностей исходов этих опытов?

Согласно (2.4) находим энтропии обоих опытов:

Н_β > Н_α, т.е. неопределенность результата в опыте β выше и, следовательно, предсказать его можно с меньшей долей уверенности, чем результат α.

Пример 7.5

Пример 9.2.

Условная энтропия

Энтропия и информация

Глава 3. Кодирование символьной информации

Вернуться в оглавление: Теоретические основы информатики