Тема: Различные подходы к измерению количества информации. На дом: конспект, задачи

Лабораторная работа №2.

Цель работы:

Методические указания.

Задачи на измерение информации

1. Измерьте информационный объем сообщения «Ура! Скоро Новый год!» в битах, байтах, килобайтах (Кб), мегабайтах (Мб).

Указание : считается, что текст набран с помощью компьютера, один символ алфавита несет 1 байт информации. Пробел – это тоже символ в алфавите мощностью 256 символов.

2. Измерьте примерную информационную емкость одной страницы любого своего учебника, всего учебника.

Указание: Для выполнения задания возьмите учебник по любимому предмету, посчитайте число строк на странице, число символов в строке, включая пробелы. Помните, что один символ алфавита несет 1 байт информации. Перемножив полученные значения, Вы найдете информационную емкость одной страницы учебника (в байтах).

3. Сколько таких учебников может поместиться на дискете 1,44 Мб, на винчестере в 1 Гб.

4. В детской игре «Угадай число» первый участник загадывает целое число от 1 до 32. Второй участник задает вопросы: «Загаданное число больше числа ___?». Какое количество вопросов при правильной стратегии гарантирует угадывание?

Указание: Вопрос задавайте таким образом, чтобы информационная неопределенность (число вариантов) уменьшалась в два раза.

5. Яд находится в одном из 16 бокалов. Сколько единиц информации будет содержать сообщение о бокале с ядом?

6. Сколько бит информации несет сообщение о том, что из колоды в 32 карты достали «даму пик»?

7. Проводят две лотереи: «4 из 32» и «5 из 64» Сообщение о результатах какой из лотерей несет больше информации?

8. Информационное сообщение объемом 1.5 Кбайта содержит 3072 символа. Сколько символов содержит алфавит, при помощи которого было записано это сообщение? (Объяснение решения задачи на доске).

10. Скорость информационного потока – 20 бит/сек. Сколько времени потребуется для передачи информации объемом в 10 килобайт.

11. Сравните (поставьте знак отношения)

o 200 байт и 0,25 Кбайт.

o 3 байта и 24 бита.

o 1536 бит и 1,5 Кбайта.

o 1000 бит и 1 Кбайт.

o 8192 байта и 1 Кбайт.

12. В барабане для розыгрыша лотереи находится 32 шара. Сколько информации содержит сообщение о первом выпавшем номере (например, выпал номер 15)?

13. При игре в кости используется кубик с шестью гранями. Сколько бит информации получает игрок при каждом бросании кубика?

14. Книга, набранная с помощью компьютера, содержит 150 страниц; на каждой странице - 40 строк, в каждой строке - 60 символов. Каков объем информации в книге?

15. Подсчитайте объем информации, содержащейся в романе А. Дюма "Три мушкетера", и определите, сколько близких по объему произведений можно разместить на одном лазерном диске? (590 стр., 48 строк на одной странице, 53 символа в строке).

16. На диске объемом 100 Мбайт подготовлена к выдаче на экран дисплея информация: 24 строчки по 80 символов, эта информация заполняет экран целиком. Какую часть диска она занимает?

17. В школьной библиотеке 16 стеллажей с книгами. На каждом стеллаже 8 полок. Библиотекарь сообщил Пете, что нужная ему книга находится на пятом стеллаже на третьей сверху полке. Какое количество информации библиотекарь передал Пете?

18. В коробке лежат 7 цветных карандашей. Какое количество информации содержит сообщение, что из коробки достали красный карандаш?

19. Какое количество информации несет сообщение: “Встреча назначена на сентябрь”.

20. Сообщение занимает 3 страницы по 25 строк. В каждой строке записано по 60 символов. Сколько символов в использованном алфавите, если все сообщение содержит 1125 байтов?

21. Юстасу необходимо передать следующее сообщение:

Дорогой Алекс! От всей души поздравляю с

Успешной сдачей экзамена по информатике.

Лабораторная работа №2.

Измерение количества информации

Цель работы: научить решать задачи на количественное измерение информационного объема текстовой информации.

Методические указания.

В связи с разными подходами к определению информации выделяют два подхода к измерению информации.

Субъективный (содержательный) подход

При данном подходе информация – это сведения, знания, которые человек получает из различных источников. Таким образом, сообщение информативно (содержит ненулевую информацию), если оно пополняет знания человека.

При субъективном подходе информативность сообщения определяется наличием в нем новых знаний и понятностью для данного человека (определение 1 ). Разные люди, получившие одно и тоже сообщение, по-разному оценивают количество информации, содержащееся в нем. Это происходит оттого, что знания людей об этих событиях, явлениях до получения сообщения были различными. Сообщение информативно для человека, если оно содержит новые сведения, и неинформативно, если сведения старые, известные. Таким образом, количество информации в сообщении зависит от того, насколько ново это сообщение для получателя и определяется объемом знаний, который несет это сообщение получающему его человеку.

С точки зрения информации как новизны мы не можем оценить количество информации, содержащейся в новом открытии, музыкальном стиле, новой теории развития.

Субъективный подход основывается на том, что получение информации, ее увеличение, означает уменьшение незнания или информационной неопределенности (определение 2 ).

Единица измерения количества информации называется бит (bit – binarydigit), что означает двоичный разряд.

Количество информации – это количество бит в сообщении.

Сообщение, уменьшающее информационную неопределенность (неопределенность знаний) в два раза, несет для него 1 бит информации.

Что же такое «информационная неопределенность»?

Информационная неопределенность о некотором событии – это количество возможных результатов события.

Пример_1: Книга лежит на одной из двух полок – верхней или нижней. Сообщение о том, что книга лежит на верхней полке, уменьшает неопределенность ровно вдвое и несет 1 бит информации.

Сообщение о том, что произошло одно событие из двух равновероятных, несет 1 бит информации.

Пример_2: Нестеров живет на Ленинградской улице. Мы получили сообщение, что номер его дома есть число четное, которое уменьшило неопределенность. После получения такой информации, мы стали знать больше, но информационная неопределенность осталась, хотя и уменьшилась в два раза.

Пример_3: Ваш друг живет в 16-ти этажном доме. Сколько информации содержит сообщение о том, что друг живет на 7 этаже.

Решение : Информационная неопределенность (количество возможных результатов события) равна 16. Будем задавать вопросы, на которые можно ответить только «да» или «нет». Вопрос будем ставить так, чтобы каждый ответ приносил 1 бит информации, т.е. уменьшал информационную неопределенность в два раза.

Задаем вопросы: - Друг живет выше 8-го этажа?

После этого ответа число вариантов уменьшилось в два раза, следовательно, информационная неопределенность уменьшилась в два раза. Получен 1 бит информации.

Друг живет выше 4-го этажа?

Число вариантов уменьшилось еще в два раза, получен еще 1 бит информации.

Друг живет выше 6-го этажа?

После данного ответа осталось два варианта: друг живет или на 7 этаже, или на 8 этаже. Получен еще 1 бит информации.

Друг живет на 8-м этаже?

Все ясно. Друг живет на 7-м этаже.

Каждый ответ уменьшал информационную неопределенность в два раза. Всего было задано 4 вопроса. Получено 4 бита информации. Сообщение о том, что друг живет на 7-м этаже 16-ти этажного дома несет 4 бита информации.

Научный подход к оценке сообщений был предложен еще в 1928 году Р. Хартли.

Пусть в некотором сообщении содержатся сведения о том, что произошло одно из N равновероятных событий (равновероятность обозначает, что ни одно событие не имеет преимуществ перед другими). Тогда количество информации, заключенное в этом сообщении, - x бит и число N связаны формулой:

где x – количество информации или информативность события (в битах);

N – число равновероятных событий (число возможных выборов).

Данная формула является показательным уравнением относительно неизвестной x. Решая уравнение, получим формулу определения количества информации, содержащемся в сообщении о том, что произошло одно из N равновероятных событий, которая имеет вид:

x = log 2 N

логарифм от N по основанию 2.

Если N равно целой степени двойки, то такое уравнение решается легко, иначе справиться с решением поможет таблица логарифмов.

Если N = 2 (выбор из двух возможностей), то x = 1 бит.

Возвращаясь к примеру_3 , если воспользоваться формулой для подсчета количества информации в сообщении о том, что друг живет на 7-м этаже 16-ти этажного дома, то x = log 2 16 = 4 бита.

Пример_4: Какое количество информации несет сообщение о том, что встреча назначена на июль?

Решение : В году 12 месяцев, следовательно, число равновероятных событий или число возможных выборов N = 12. Тогда количество информации x = log 2 12. Чтобы решить это уравнение воспользуемся таблицей логарифмов или калькулятором.

Ответ : x = 3,58496 бита.

Пример_5 : При угадывании целого числа в диапазоне от1 до N было получено 8 бит информации. Чему равно N?

Решение: Для того, чтобы найти число, достаточно решить уравнение N=2 x , где x = 8. Поскольку 2 8 = 256, то N = 256. Следовательно, при угадывании любого целого числа в диапазоне от 1 до 256 получаем 8 бит информации.

Ситуации, при которых точно известно значение N, редки. Попробуйте по такому принципу подсчитать количество информации, полученное при чтении страницы книги. Это сделать невозможно.

Объективный (алфавитный) подход к измерению информации

Теперь познакомимся с другим способом измерения информации. Этот способ не связывает количество информации с содержанием сообщения, и называется объективный или алфавитный подход.

При объективном подходе к измерению информации мы отказываемся от содержания информации, от человеческой важности для кого-то.

Информация рассматривается как последовательность символов, знаков (определение3 ).

Количество символов в сообщении называется длиной сообщения .

Основой любого языка является алфавит.

Алфавит – это набор знаков (символов), в котором определен их порядок.

Полное число символов алфавита принято называть мощностью алфавита. Обозначим эту величину буквой M.

Например, мощность алфавита из русских букв равна 33:

мощность алфавита из английских букв равна 26.

При алфавитном подходе к измерению информации количество информации от содержания не зависит. Количество информации зависит от объема текста (т.е. от числа знаков в тексте) и от мощности алфавита. Тогда информацию можно обрабатывать, передавать, хранить.

Каждый символ несет x бит информации. Количество информации x, которое несет один символ в тексте, зависит от мощности алфавита M, которые связаны формулой 2 x = M. Следовательно x = log 2 M бит.

Количество информации в тексте, состоящем из K символов, равно K*x или

K* log 2 M, где x – информационный вес одного символа алфавита.

Удобнее измерять информацию, когда мощность алфавита M равна целой степени числа 2. Для вычислительной системы, работающей с двоичными числами, также более удобно представление чисел в виде степени двойки.

Пример_6 , в 2-символьном алфавите каждый символ несет 1 бит информации (2 x = 2, откуда x = 1 бит).

Если M=16, то каждый символ несет 4 бита информации, т.к. 2 4 = 16.

Если M=32, то один символ несет 5 бит информации.

При M=64, один символ «весит» 6 бит и т.д.

Пример_7: Племя “Обезьяны” пишет письма, пользуясь 32-символьным алфавитом. Племя “Слоны” пользуется 64-символьным алфавитом. Вожди племен обменялись письмами. Письмо племени “Обезьяны” содержало 90 символов, а письмо племени “Слоны” – 80 символов. Сравните объем информации, содержащейся в письмах.

Решение: Мощность алфавита племени “Обезьяны” равна 32, информационный вес одного символа алфавита log 2 32 = 5 бит. Количество информации в тексте, состоящем из 90 символов, равно 90*log 2 32 = 450 бит.

Рассуждая аналогично про племя “Слоны”, получим: 80*log 2 64 = 480 бит.

Следовательно, объем информации в письме вождя племени “Слоны” больше объема информации, которую передал в письме вождь племени “Обезьяны”.

Есть алфавит, который можно назвать достаточным. Это алфавит мощностью 256 символов. Алфавит из 256 символов используется для представления текстов в компьютере. В этом алфавите можно поместить практически все необходимые символы: латинские и русские буквы, цифры, знаки арифметических операций, скобки, знаки препинания, знаки псевдографики. Поскольку 256=2 8 , то один символ этого алфавита «весит» 8 бит.

8 бит информации присвоили свое название – байт .

Байт – поле из 8 последовательных бит. Байт широко используется как единица измерения количества информации.

1 байт = 8 бит

Компьютерные текстовые редакторы работают с алфавитом мощности 256 символов. Поскольку в настоящее время при подготовке книг используются текстовые редакторы, легко посчитать объем информации в тексте.

Если один символ алфавита несет 1 байт информации, то надо просто сосчитать число символов, полученное значение даст информационный объем текста в байтах.

В любой системе единиц измерения существуют основные единицы и производные от них.

Для измерения больших объемов информации используются производные от байта единицы:

1 килобайт = 1 Кб = 2 10 байт = 1024 байта

1 мегабайт = 1 Мб = 2 10 Кб = 1024 Кб = 1048576 байт

1 гигабайт = 1 Гб = 2 10 Мб = 1024 Мб = 1048576 Кб = 1073741824 байт

Пример_8: Книга, набранная с использованием текстового редактора, содержит 70 страниц, на каждой странице 38 строк, в каждой строке 56 символов. Определить объем информации, содержащейся в книге.

Решение: Мощность компьютерного алфавита равна 256 символов. Один символ несет 1 байт информации. Значит 1 страница содержит 38*56=2128 байт информации. Объем всей информации в книге 2128*70=148960 байт.

Если оценить объем книги в килобайтах и мегабайтах, то

148960/1024 = 145,46875 Кбайт.

145,46875/1024 = 0,142059 Мбайт.

Алфавитный подход является объективным способом измерения информации в отличие от субъективного, содержательного, подхода. Только алфавитный подход пригоден при использовании технических средств работы с информацией.

В заключении следует отметить, что мы рассмотрели только два подхода к измерению количества информации. Наряду с этим, существуют и другие подходы, но это уже материал другой статьи.

Контрольные задания

Представленные ниже задачи являются контрольным заданием. Решения необходимо оформить в электронном виде и предоставлять на проверку преподавателю.

Задачи на измерение информации

2. Измерьте примерную информационную емкость одной страницы любого своего учебника, всего учебника.

3. Сколько таких учебников может поместиться на дискете 1,44 Мб, на винчестере в 1 Гб.

Указание: Вопрос задавайте таким образом, чтобы информационная неопределенность (чи сло вариантов) уменьшалась в два раза.

5. Яд находится в одном из 16 бокалов. Сколько единиц информации будет содержать сообщение о бокале с ядом?

6. Сколько бит информации несет сообщение о том, что из колоды в 32 карты достали «даму пик»?

7. Проводят две лотереи: «4 из 32» и «5 из 64» Сообщение о результатах какой из лотерей несет больше информации?

11. Сравните (поставьте знак отношения)

200 байт и 0,25 Кбайт.

3 байта и 24 бита.

1536 бит и 1,5 Кбайта.

1000 бит и 1 Кбайт.

8192 байта и 1 Кбайт.

19. Какое количество информации несет сообщение: “Встреча назначена на сентябрь”.

21. Юстасу необходимо передать следующее сообщение:

Дорогой Алекс! От всей души поздравляю с

успешной сдачей экзамена по информатике.

Желаю дальнейших успехов. Ваш Юстас.

Пеленгатор определяет место передачи, если она длится не менее 3 минут. С какой скоростью (бит/с) Юстас должен передавать радиограмму?

22. Измерьте информационный объем сообщения “Ура! Закончились каникулы!!” (с точки зрения технического подхода, то есть не учитывая смысл сообщения). Выразите этот объем в битах, байтах, килобайтах.

23. Измерьте примерную информационную емкость 1 страницы учебника, всего учебника. Сколько таких учебников может поместиться на дискете емкостью 360 Кбайт, 1.44 Мбайт, на винчестере в 420 Мбайт, в 6,4Гбайт?

Информация как снятая неопределенность

24. Определите, сколько бит информации несет сообщение о том, что на светофоре горит зеленый свет.

25. Предположим, вероятность того, что вы получите за контрольную работу оценку “5”, равна 0,6; вероятность получения “4” равна 0,2; вероятность получения “3” - 0,2. Определите, сколько бит информации будет нести сообщение о результатах контрольной работы в каждом из возможных случаев.

26. Дано:

Кол-во цветов = 2

Размер картинки = 7*14 точек

27. Дано:

Кол-во цветов = 8

Размер картинки = 17*24 точки

28. Считая, что один символ кодируется одним байтом, подсчитать в байтах количество информации, содержащееся в фразе: “Терпение и труд все перетрут.

29. (Задание А2 демоверсии 2004 г.)

30. Считая, что каждый символ кодируется одним байтом, оцените информационный объём предложения: «Мой дядя самых честных правил, Когда не в шутку занемог, Он уважать себя заставил И лучше выдумать не мог.»

3)108 кбайт

31. Шахматная доска состоит из 64 полей: 8 столбцов и 8 строк. Какое минимальное количество бит потребуется для кодирования координат одного шахматного поля?

32. Получено сообщение, информационный объём которого равен 32 битам. Чему равен этот объём в байтах?

33. Каждое показание счётчика, фиксируемое в памяти компьютера, занимает 10 бит. Записано 100 показаний этого датчика. Каков информационный объём снятых значений в байтах?

34. Для хранения растрового изображения размером 128*128 пикселей отвели 4 килобайта памяти. Каково максимально возможное число цветов в палитре изображения?

Решение.

Воспользуемся формулами:

В нашем случае:

4 Кб = 4*2 10 байт = 2 2 *2 10 байт = 2 12 байт =

8*2 12 бит = 2 3 *2 12 бит = 2 15 бит

128*128 = 2 7 *2 7 =2 14 .

Подставив значения (8) и (9) в (5), получим, что: 2 15 = 2 14 *i, откуда i=2.

Тогда по формуле (6): =N = 2 i =2 2 =4, что соответствует ответу №4.

Ответ : 4.

35. Считая, что каждый символ кодируется одним байтом, оцените информационный объём следующего предложения в кодировке КОИ-8 (в байтах):

Сегодня метеорологи предсказывали дождь.

36. Считая, что каждый символ кодируется 16-ю битами, оцените информационный объём следующего предложения в кодировке Unicode (в байтах):

Каждый символ кодируется восемью битами.

37. Сколько существует различных последовательностей из символов «а» и «б» длиной ровно в 10 символов?

38. В зрительном зале две прямоугольные области зрительских кресел: одна 10х12, а другая 17х8. Какое минимальное количество бит потребуется для кодирования каждого места в автоматизированной системе?

39. Сообщение передано в семибитном коде. Каков его информационный объём в байтах, если известно, что передано 2000 символов?

40. В алфавите формального (искусственного) языка всего два знака-буквы («0» и «Х»). Каждое слово этого языка состоит всегда из пяти букв. Какое максимальное число слов возможно в этом языке?

41. Алфавит племени содержит всего 8 букв. Какое количество информации несет одна буква этого алфавита?

42. Имеется тест, объем которого 20 килобайт (на каждой странице теста 40 строк по 64 символа в строке, 1 символ занимает 8 бит). Определить количество страниц в тесте.

43. Сколько байт в 32 Гбайт?

Контрольные задания

Задачи на измерение информации

2. Измерьте примерную информационную емкость одной страницы любого своего учебника, всего учебника.

3. Сколько таких учебников может поместиться на дискете 1,44 Мб, на винчестере в 1 Гб.

Указание: Вопрос задавайте таким образом, чтобы информационная неопределенность (чи сло вариантов) уменьшалась в два раза.

5. Яд находится в одном из 16 бокалов. Сколько единиц информации будет содержать сообщение о бокале с ядом?

6. Сколько бит информации несет сообщение о том, что из колоды в 32 карты достали «даму пик»?

7. Проводят две лотереи: «4 из 32» и «5 из 64» Сообщение о результатах какой из лотерей несет больше информации?

11. Сравните (поставьте знак отношения)

200 байт и 0,25 Кбайт.

3 байта и 24 бита.

1536 бит и 1,5 Кбайта.

1000 бит и 1 Кбайт.

8192 байта и 1 Кбайт.

19. Какое количество информации несет сообщение: “Встреча назначена на сентябрь”.

21. Юстасу необходимо передать следующее сообщение:

Дорогой Алекс! От всей души поздравляю с

успешной сдачей экзамена по информатике.

Желаю дальнейших успехов. Ваш Юстас.

Информация как снятая неопределенность

24. Определите, сколько бит информации несет сообщение о том, что на светофоре горит зеленый свет.

26. Дано:

Кол-во цветов = 2

Размер картинки = 7*14 точек

27. Дано:

Кол-во цветов = 8

Размер картинки = 17*24 точки

29. (Задание А2 демоверсии 2004 г.)

3)108 кбайт

32. Получено сообщение, информационный объём которого равен 32 битам. Чему равен этот объём в байтах?

В нашем случае:

Подставив значения (8) и (9) в (5), получим, что: 2 15 = 2 14 *i, откуда i=2.

Тогда по формуле (6): <Количество цветов> =N = 2 i =2 2 =4, что соответствует ответу №4.

Ответ : 4.

Сегодня метеорологи предсказывали дождь.

Каждый символ кодируется восемью битами.

37. Сколько существует различных последовательностей из символов «а» и «б» длиной ровно в 10 символов?

41. Алфавит племени содержит всего 8 букв. Какое количество информации несет одна буква этого алфавита?

43. Сколько байт в 32 Гбайт?

Творческое задание.

Пусть имеется носитель информации на 1,44 мБайта. Необходимо записать на него фотографию с размерами 1024*768 пикс и глубиной цвета 24 бита. Получится ли сделать это? Если нет, то какую глубину цвета можно использовать? Сколько цветов она будет включать? Решение задачи оформите в среде ЭТ Excel.

Лабораторная работа №3. Шифрование текстовой информации.

Цель работы: исследование простейших методов криптографической зашиты информации.

Краткие сведения из теории.

Шифры простой замены

Система шифрования Цезаря - частный случай шифра простой замены. Метод основан на замене каждой буквы сообщения на другую букву того же алфавита, путем смещения от исходной буквы на K букв.

Известная фраза Юлия Цезаря

VENI VI D I VICI, где

пришел, увидел, победил, зашифрованная с помощью данного метода, преобразуется в

при смещении на 4 символа влево.

Греческим писателем Полибием за 100 лет до н.э. был изобретен так называемый полибианский квадрат размером 5*5, заполненный алфавитом в случайном порядке. Греческий алфавит имеет 24 буквы, а 25-м символом является пробел. Для шифрования на квадрате находили букву текста и записывали в зашифрованное сообщение букву, расположенную ниже ее в том же столбце. Если буква оказывалась в нижней строке таблицы, то брали верхнюю букву из того же столбца.

Схема шифрования Вижинера. Таблица Вижинера представляет собой квадратную матрицу с n 2 элементами, где n - число символов используемого алфавита. На рисунке показана верхняя часть таблицы Вижинера для кириллицы. Каждая строка получена циклическим сдвигом алфавита на символ. Для шифрования выбирается буквенный ключ, в соответствии с которым формируется рабочая матрица шифрования.

2. Измерьте примерную информационную емкость одной страницы любого своего учебника, всего учебника.

3. Сколько таких учебников может поместиться на дискете 1,44 Мб, на винчестере в 1 Гб.

5. Яд находится в одном из 16 бокалов. Сколько единиц информации будет содержать сообщение о бокале с ядом?

6. Сколько бит информации несет сообщение о том, что из колоды в 32 карты достали «даму пик»?

7. Проводят две лотереи: «4 из 32» и «5 из 64» Сообщение о результатах какой из лотерей несет больше информации?

11. Сравните (поставьте знак отношения)

o 200 байт и 0,25 Кбайт.

o 3 байта и 24 бита.

o 1536 бит и 1,5 Кбайта.

o 1000 бит и 1 Кбайт.

o 8192 байта и 1 Кбайт.

19. Какое количество информации несет сообщение: “Встреча назначена на сентябрь”.

21. Юстасу необходимо передать следующее сообщение:

Дорогой Алекс! От всей души поздравляю с

Пример 1: Вы бросаете монету, загадывая, что выпадет: орел или решка? Решение: Есть два варианта возможного результата бросания монеты. Ни один из этих вариантов не имеет преимущества перед другим (равновероятны). Перед подбрасыванием монеты неопределенность знаний о результате равна двум. После совершения действия неопределенность уменьшилась в 2 раза. Получили 1 бит информации.

Пример 2: Студент на экзамене может получить одну из четырех оценок: 5, 4, 3, 2 с одинаковой вероятностью. После сдачи экзамена, на вопрос: «Что получил?» - ответил: «Четверку». Сколько бит информации содержится в его ответе? Решение: можно отгадать оценку, задавая вопросы, на которые можно ответить только «да» или « нет», т.е. поиск осуществляется отбрасыванием половины вариантов. Каждый ответ уменьшает количество вариантов в два раза и, следовательно, приносит 1 бит информации. 1 вопрос: -Оценка выше тройки? - ДА Получен 1 бит информации. 2 вопрос: -Ты получил пятерку? - НЕТ (значит получил 4) Получен еще 1 бит. В сумме имеем 2 бита.

Пример 3: На книжном стеллаже восемь полок. Книга может быть поставлена на любую из них. Сколько информации содержит сообщение о том, где находится книга? 1 вопрос: - Книга лежит выше четвертой полки? - НЕТ (1, 2, 3, 4) - 1 бит 2 вопрос: - Книга лежит ниже третьей полки? - ДА (1, 2) - 1 бит 3 вопрос: - Книга – на второй полке? - НЕТ (1) - 1 бит Книга лежит на первой полке. Ответ: 3 бита информации (каждый ответ уменьшал неопределенность в два раза. Всего было задано три вопроса.)

Получим формулу вычисления количества информации. Обозначим: N – количество возможных событий (неопределенность знаний) i - количество информации в сообщении о том, что произошло одно из N событий. В примере с монетой N = 2, i = = 2 В примере с оценками N = 4, i = = 4 В примере со стеллажом N = 8, i = = 8 Получаем формулу: 2 i = N

АЛФАВИТНЫЙ ПОДХОД К ИЗМЕРЕНИЮ ИНФОРМАЦИИ Алфавитный подход к измерению информации позволяет определить количество информации, заключенной в тексте. Алфавитный подход является объективным, т.е. он не зависит от субъекта (человека), воспринимающего текст. Единица измерения количества информации называется бит

Пример 1. Книга, набранная с помощью компьютера, содержит 150 страниц; на каждой странице – 40 строк, в каждой строке – 60 символов. Каков объем информации в книге? Решение. Мощность компьютерного алфавита равна 256. Один символ несет 1 байт информации. (256=2 8 =2 i, i=8 бит=1 байт) Значит, страница содержит 40 х 60 = 2400 байт информации. Объем всей информации в книге (в разных единицах): 2400 х 150 = байт /1024 = 351,5625 Кбайт. 351,5625/1024 = 0, Мбайт.

Пример 2. Подсчитайте объем информации, содержащейся в романе А. Дюма "Три мушкетера", и определите, сколько близких по объему книг можно разместить на одном лазерном диске? (в книге 590 стр., 48 строк на одной странице, 53 символа в строке) Решение. 1) 590*48*53= (символов). 2) байт=1466Кбайт= 1,4Мбайт. 3) На одном лазерном диске емкостью 600 Мбайт можно разместить около 428 произведений, близких по объему к роману А. Дюма "Три мушкетера".

Пример 3. На диске объемом 100 Мбайт подготовлена к выдаче на экран дисплея информация: 24 строчки по 80 символов, эта информация заполняет экран целиком. Какую часть диска она занимает? Решение. Код одного символа занимает 1 байт. 1) 24*80=1920 (байт) 2) Объем диска 100*1024*1024 байт = байт 3) 1920/ =0, (часть диска)

Пример 5: Юстасу необходимо передать следующее сообщение: Дорогой Алекс! От всей души поздравляю с успешной сдачей экзамена по информатике. Желаю дальнейших успехов. Ваш Юстас. Пеленгатор определяет место передачи, если она длится не менее 3 минут. С какой скоростью (бит/с) Юстас должен передавать радиограмму?

Решение: Бит минимальная единица измерения количества информации. Подсчитаем объем передаваемой информации. В тексте радиограммы содержится 118 символов, каждый символ несет 1 байт информации. Следовательно, должно быть передано 118 байт информации. 1 байт = 8 бит. 118 байт =118*8 бит = 944 бита. Время передачи должно быть меньше 180 с, что требует скорости передачи радиограммы не менее 5 бит/с (944/180 = 5,2). Ответ: Юстас должен передавать радиограмму со скоростью не меньше чем 5 бит/с. Какова длина слова, если при словарном запасе в 256 слов одинаковой длины каждая буква алфавита несет в себе 2 бита информации? i=2, N=4, Значит в алфавите 4 символа, из них можно составить 256 слов. По формуле N =р х В нашем случае р=4, N=256, 256 =4 х 2 8 =2 2х, 2х=8, х=4 Ответ: в словах по 4 символа