2020-06-30
187
Практическая работа
Измерение информации
Цель работы: познакомиться с основными подходами
к измерению информации и использовать их при решении задач.
Порядок выполнения работы
1. Познакомиться с системой единиц измерения количества информации.
2. Рассмотреть содержательный и алфавитный подходы к измерению информации.
3. Закрепить полученные навыки при решении задач.
Единицы измерения количества информации Минимальную порцию информации о каком-либо
свойстве объекта принято называть битом (binary digit – двоичная цифра). Бит – единица измерения информации, представляющая собой выбор из двух равновозможных вариантов. Бит представляет собой обозначение одного двоичного разряда, способного, в зависимости от сделанного выбора, принимать значение 1 или 0.
Таблица степеней двойки показывает, сколько комбинаций можно закодировать с помощью некоторого количества бит:
| Количество | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 | |
| бит | |||||||||||
| Количество | 2 | 4 | 8 | 16 | 32 | 64 | 128 | 256 | 512 | 1024 | |
| комбинаций | |||||||||||
1
Байт –единица измерения информации,представляющая собой последовательность, состоящую из
8 бит: 1байт= 23бит= 8бит.
Каждый бит имеет определенное место внутри байта, которое называется разрядом. Разряды принято нумеровать справа налево. Например, третий бит в байте на самом деле находится в пятом разряде байта.
Для измерения больших объемов информации принято использовать производные единицы измерения, представленные в таблице:
| Название | Степень | Условное обозначение | ||||
| Килобайт | 210 (1024 байт) | Кбайт, KB | ||||
| Мегабайт | 220 | (1024 Кбайт) | Мбайт, MB | |||
| Гигабайт | 230(1024 Мбайт) | Гбайт, GB | ||||
| Терабайт | 240 (1024 | Гбайт) | Тбайт, TB | |||
| Петабайт | 250 | (1024 | Тбайт) | Пбайт, PB | ||
| Эксабайт | 260 | (1024 Пбайт) | Эбайт, EB | |||
| Зеттабайт | 270 | (1024 Эбайт) | Збайт, ZB | |||
| Йоттабайт | 280 (1024 Збайт) | Йбайт, YB | ||||
Содержательный подход к измерению количества
Информации
Новые сведения о свойствах объектов окружающего нас мира содержат информацию для человека и, следовательно, пополняют его знания. При содержательном подходе возможна качественная оценка полученной информации, например, насколько она для нас полезна, важна или наоборот – вредна.
2
Неопределенность знания о некотором событии – это количество возможных результатов события (бросания монеты, кубика; вытаскивания жребия и пр.). Уменьшение неопределенности знания человека в 2 раза, несет для него
1 бит информации.
Количество информации (I) для событий с различными вероятностями определяется по формуле К.Шеннона:
N
I =−∑ pi log2 pi
i =1
где N – количество возможных событий; pi – вероятности отдельных событий.
Заметим, что сумма вероятностей равна 1.
Если события равновероятны, то количество информации (I) определяется по формуле Р.Хартли:
I =log2 N или 2 I = N
где N – количество равновероятных событий.
Алфавитный подход к измерению количества
Информации
Алфавит – м ножество символов,используемых призаписи текста. Полное количество символов в алфавите называется размером (мощностью) алфавита.
Алфавитный подход позволяет определить количество информации в тексте. Данный подход является объективным,т.е.он не зависит от человека,воспринимающего текст.
Если допустить, что все символы алфавита встречаются в тексте с одинаковой частотой
3
(равновероятно), то мощность (N) алфавита вычисляется по формуле:
Ν = 2i
где i – информационный вес одного символа в используемом алфавите.
Если весь текст состоит из К символов, то при алфавитном подходе размер содержащейся в нем информации равен:
I = K ⋅ i
4
