Transcript Document

Содержательный способ
определения количества
информации
Задание
Подбрасывают монетку.
Она может упасть орлом
или решкой.
Какое количество
информации в сообщении о
том, что выпал «орел»?
Перед броском существует неопределенность
нашего знания, и как упадет монета – предсказать
невозможно: с равной вероятностью произойдет
одно из двух возможных событий – монета
окажется в одном из двух положений: «орел» или
«решка».
После броска наступает полная определенность,
так как мы видим (получаем зрительное
сообщение), что монета в данный момент
находится в определенном положении (например,
«орел»). Это сообщение приводит к уменьшению
неопределенности нашего знания в 2 раза, т.к. из
двух возможных равновероятных событий
реализовалось одно.
Сообщение,
уменьшающее
неопределенность знаний
в два раза, несет 1 бит
информации.
Одинаковое количество информации
содержится и в зрительном сообщении,
и в коротком звуковом сообщении, и в
длинной фразе.
Одинаковое количество информации
содержится в сообщении, что выпал
«орел» и в сообщении, что выпала
«решка».
Определение количества
информации с точки
зрения содержания
сообщения
Способ определения
количества информации в
сообщении, в котором
количество информации
зависит от содержания
сообщения называется
содержательным
Определение количества информации
содержательным способом
2 i= N
N - количество возможных событий (или
неопределенность знаний)
i - количество информации в сообщении о том,
что произошло одно из N событий.
Задание 2
Загадали число в диапазоне от 1 до 8.
Какое количество информации в сообщении о том, какое
число загадано?
Решение:
2i=N
N - количество возможных исходов
(числа от 1 до 8, всего 8)
Сколько информации i несет сообщение о том,
что загадано одно любое число от 1 до 8?
2i = 8
i = 3 бит
Решение:
2i=N
N - количество возможных исходов
(числа от 1 до 8, всего 8)
Сколько информации i несет сообщение о том,
что загадано одно любое число от 1 до 8?
2i = 8
i = 3 бит
Оформление решения:
Дано:
N=8
i-?
Ответ: 3 бит
Формула:
2i = N
Решение:
2i = 8
2i = 23
i = 3 бит
Домашнее задание №5
1. §1.3.1.-1.3.2.
2. Решить письменно задачи:
1) «Вы выходите на следующей остановке?» - спросили человека в
автобусе. «Нет», - ответил он. Сколько информации содержит
ответ.
2) В корзине лежат 8 разноцветных шаров. Сколько информации
несет сообщение о том, что из корзины достали красный шар?
3) Была получена телефонограмма: «Встречайте, вагон 7».
Известно, что в составе поезда 16 вагонов. Какое количество
информации было получено?
4) При угадывании целого числа в некотором диапазоне было
получено 6 бит информации. Сколько чисел содержит диапазон?
5) Для записи информационного сообщения используется 25символьный алфавит. Сколько бит информации несет 1 символ
этого алфавита?