Измерение информации
Информация – это физическая величина, такая же, например энергия или скорость поэтому она должна измеряться.
Количеством информации называют числовую характеристику сигнала, отражающую ту степень неопределенности (неполноту знаний), которая исчезает после получения сообщения в виде данного сигнала. Эту меру неопределенности в теории информации называют энтропией. Для ее измерения принимается минимальная единица хранения информации– 1 бит(binary digit), элемент памяти, который может переключаться между 2-мя состояниями, обозначаемыми 0 и 1. Связь между количеством информации и числом состояний системы устанавливается формулой Хартли:
N=2I, где N – количество возможных событий, I – количество информации.
Например, если мы бросаем монету, то сначала неопределенность наших знаний равна 2, так как мы не знаем, что выпадет «орел» или «решка». После броска мы уже знаем, в каком положении находится монета – либо «орел», либо «решка». Т. е. неопределенность наших знаний уменьшилась в два раза.
Если события не равновероятны, то для вычисления количества информации используется формула Шеннона (1948г):  , где N – количество возможных событий, I – количество информации, pi – вероятности отдельных событий.
Формула Шеннона - формула для определения энтропии - количества информации. Количество информации может быть и целым и нецелым действительным числом.
Для равновероятных событий количество информации можно вычислить по формуле . Для равновероятных событий величина количества информации принимает максимальное значение.
Задача 1. Эксперимент состоит в однократном подбрасывании игральной кости (6 граней). Чему равна информативность результата эксперимента?
Рассуждаем т. о. События не равновероятны, если судить о том, сколько выпадет точек на грани? А максимально-6. Допустим, что события равновероятны, тогда I=log26. А это меньше, чем log28=3. Ответ: Информативность результата меньше 3-х бит.
Свойства информации
Семантическая емкость информации (знаний) – ее смысл, содержание общие для различных форм представляющих информацию данных (форм записи).
Представление информации в виде слов определяет вербальный характер информации
Адекватность или достоверность знаний (информации) – степень их соответствия реальности (Иногда эти понятия различают и понимают более узко, включая в адекватность степень соответствия ситуации намерениям источника, а в достоверность степень подтвержденности, гарантированности данных).
Свойства информации включают также полноту (достаточность для данных целей), доступность (возможность получения и использования), актуальность (соответствие текущим задачам и ситуации), объективность–субъективность (степень искажений, внесенных участниками и элементами информационного процесса)
Информационный процесс, основные операции с данными.
Информация функционирует в информационном процессе, включающем источник (человек, документ, СМИ и т.д), передатчик, информационный канал (способ передачи), приемник и получателя. Информационные процессы могут связывать между собой людей, живые организмы и их элементы, компьютеры и другие технические устройства. Функции (цели использования) информации в обществе могут быть познавательными, коммуникативными, управленческими. Основные операциии с данными включают: генерацию (производство), преобразование (фильтрация, группировка, перенос на другой носитель, перекодировка, формализация), транспортировку (передачу, распространение, прием), хранение (организацию, накопление, архивацию), поиск, обработку и использование (проверка, анализ, вывод следствий, выбор, принятие решений)
|
