Тема урока «Количество информации. Алфавитный подход»

Класс, информатика, 10.04.2020

С понятиями «вещество» и «энергия» связаны числовые характеристики, выраженные в некоторых единицах измерения. Можно измерить вес, длину, температуру, силу тока, количество тепла. Информацию тоже можно измерить.

Существует несколько подходов к измерению информации. Рассмотрим два из них – алфавитный и содержательный (вероятностный).

Одними из первых количественное определение информации дали американские инженеры и исследователи Р.Хартли и К.Шеннон, изучавшие теории кодирования и передачи информации. Они предложили рассматривать информацию как снятую при получении некоторого сообщения неопределенность. Количество информации в сообщении зависит от его содержания. В сообщении, не несущем новых сведений, количество информации равно нулю. Такой подход к определению количества информации называют содержательным.

Алфавитный подход не учитывает содержания сообщения. Сообщение рассматривается как последовательность символов (знаков) некоторого алфавита, при этом учитывается информационный вес символа.

Начнем рассмотрение темы «Количество информации» с алфавитного подхода, так как он является объективным с точки зрения устройства компьютера. Содержание информации, смысл, не важен, главное, какой объем памяти необходимо использовать для хранения, обработки некоторого блока информации (обычно под блоком информации имеется в виду – файл).

План урока:

1. Посмотрите видео по адресу:

https://www.youtube.com/watch?v=MtGAlFlW6Tg

2. Сделайте конспект.

3. Решите задачи из приложенного файла и отправьте мне на почту.

 Примечания к конспекту:

Так как понятие логарифм вы еще не изучали, формулу, которая встретится в видео

заменим тождественной:

Причем, более корректно, записать ее в таком виде:

, так бит является неделимой ячейкой памяти. Например, для кодирования 5 символов из некоторого алфавита 2 бит мало, а вот 3 бит достаточно (хотя это и с избытком).

Эти формулы являются универсальными, подходят для решения задач кодирования в любых системах (даже не цифровых). Например,

1. «На флоте имеются флажки 2 типов. Сколько разных сообщений можно закодировать, вывешивая в ряд три флажка? (флажки в ряду могут повторяться)»

Решение: длина кода = 3, сам код состоит из флажков двух типов, обозначим, один флажок – 0, второй флажок – 1, т.е. всего два варианта. Значит 2 в степени 3, т.е. 8 разных сообщений. Посмотрите, я внесла все варианты в таблицу:

№ сообщения	Первый флажок	Второй флажок	Третий флажок
1.	0	0	0
2.	0	0	1
3.	0	1	0
4.	0	1	1
5.	1	0	0
6.	1	0	1
7.	1	1	0
8.	1	1	1

Ответ: 8 вариантов сообщений.

2. А что если типов флажков не 2, а например 4?

Обобщим формулу (3). Будем считать

М – количество объектов, подлежащих кодированию, переобозначим на К

I – длина кода (при двоичном кодировании правильное название – битовая глубина, т.е. сколько бит идет на кодирование 1 символа), переобозначим на d

Вместо 2 надо подставить 4 (у нас ведь для кодирования используются 4 типа флажков), введем обозначение А (количество символов, используемых для кодирования)

– количество кодируемых объектов меньше либо равно количеству символов в алфавите, используемом для кодирования, в степени - длина кода.

Теперь вернемся к задаче 2. Значит, если флажков 4, то можно закодировать не больше, чем 4 в степени 3 разных сообщений. Т.е. не больше 64 сообщений.

В задачах о компьютерном кодировании А всегда равно 2, так как компьютер работает только с двоичными кодами.