Лекция 8. Информация и кодирование в аспекте мировоззрения
Курс “Теория информации и кодирования”

Здесь мы рассмотрим понятия информации и кодирования в широком аспекте. Данная лекция дополняет основную техническую часть курса "ТИК". Ее задача — проанализировать принципиальные аспекты данных понятий, которые важны в современном мире.

Природа информации
Закономерности проявления информации
Аспекты информации
Коды и сигналы

8.1 Природа информации

Подходы к информации
Существует множество определений понятия информация. При этом все они укладываются в рамки двух основных подходов (рис.8.1):
  • например, международный стандарт ISO/IEC 2382:2015 определяет информацию как «Знания относительно фактов, событий, вещей, идей и понятий, которые в определённом контексте имеют конкретный смысл». Такое определение отражает подход к информации с точки зрения ее использования - его также называют «функциональным»;
  • альтернативный подход рассматривает информацию более широко — как неотъемлемый аспект (атрибут) реальности. Такой подход именуют «атрибутивным». Примером может служить широко известная фраза основопложника кибернетики Норберта Винера: «Информация — это не материя и не энергия. Это информация». Здесь Винер акцентирует, что информация не сводится к материи, а имеет принципиально самостоятельное значение. Для нас сегодня, когда виртуальные реальности стали буднями, это куда очевиднее, чем для людей 70 лет назад. Сейчас не вызывает принципиальных возражений утвержение, что материя и информация это два базовых и равно-великих понятия, которые характеризуют стороны единой реальности;
  • в нашем рассмотрении мы постараемся учитывать оба обозначенных подхода. Вернемся от высокого уровня абстракции к более привычному уровню практических понятий и определим информацию как «сведения». Образно говоря, информация-сведения это не "что-то", а "о чем-то". Например, учебник или тетрадь, лежащие на вашем столе - это предмет, но не информация. Информация в данном случае - это содержание книги или конспекта, а также ее образ, который вы наблюдаете, да и вот это ее обсуждение;
  • в отличие от Знаний (функциональный подход) понятие Сведения более широкое и не привязывается к обязательности смысла. Оно не противоречит атрибутивному подходу и, в частности, может охватывать такие во многом различные проявления информации как:
    - содержние сообщений (словесных описания, графических отображений и т.п.);
    - наши представления об окружающем мире (впечатления, воспоминания, понятия);
    - факты реальности (ее конкретные проявления, которые могут быть восприняты);
    - законы природы (определяющие все возможные явления реальности).


Информация: объекты и носители
Информация всегда:
- существует относительно объекта ("о чем-то");
- располагается на носителе ("на чем-то ").
Рассмотрение с этих позиций раскрывает важные моменты взаимоотношений двух базовых сущностей нашей реальности — информации и материи (рис.8.2).
Объектами информации могут быть:
- материальные предметы и явления (в частности - все, что мы наблюдаем вокруг);
- абстракции (например, понятия и формулы);
- виртуальные сущности (выдуманные персонажи и обстоятельства).
Как видим, существует не только «информация о материи», но и “информация об информации”.

Носителями информации могут быть:
- состояния вещества (например, элементов памяти);
- параметры физических полей (например, электромагнитного);
- «тонко-материальные» явления (природа последних не изучена наукой, но они проявляют себя, в частности, в ощущениях человека).
Информация всегда связана с носителем, но может быть скопирована, и в этом смысле относительно независима от носителя. Возможность неограниченного копирования означает, что для информации не действуют законы сохранения. В этом смысле информация не материальна.

Информация: субъекты и цели
Если анализ объектов и носителей информации универсален, то выделение ее субъектов и целей уместно только с позиций функционального подхода. При этом оно принципиально важно для практики.
С позиций ее использования информация всегда “чья-то” (принадлежит Субъекту) и существует «для чего-то» (Подразумевает некие Цели) — рис.8.3.

Субъекта в рамках функционального подхода к информации уместно определить как «Деятеля». Примерами здесь могут служить:
- люди и другие живые организмы, которые существуют именно в ходе активного (деятельного) взаимодействия с окружающей средой;
- кибернетические устройства, реализующие управление (в том числе роботы);
- программные объекты, активно взаимодействующие со своей информационной средой.

Принципиально важно, что понятие субъекта распространяется и на коллективы. Например, по сигналу об опасности субъектом соответствующей информации становится вся птичья стая. В качестве субъекта можно рассматривать некое сообщество людей (например, ученых или инженеров в определенной области) и даже все человечество.

Цель применения информации определяет для Субъекта ее содержание. Информация о бесконечном мире в принципе бесконечна. Однако на практике она ограничивается восприятием субъекта подобно тому, как фонарик в темноте высвечивает лишь часть окружения. А вот направления такого «луча» определяется конкретными целями.

В качестве примера удобно привести возможные описания такого знакомого нам объекта как поезд. Они могут сосредотачиваться на конструкции вагонов и локомотива, маршруте и расписании следования, перевозимых грузах или пассажирах, даже на описании эмоций и ассоциаций, которые возникают у наблюдателя. Но на практике мы сосредотачиваемся на конкретном описании - «рабочей модели» объекта, содержание которой определяются целями ее использования.

Контрольные вопросы
1) Поясните различия функционального и атрибутивного подходов к информации
2) На примерах поясните смысл утверждения “Информация (сведения) — это не “что-то”, а “о чем-то”
3) Расскажите о принципиально различных видах объектов информации
4) Поясните понятие носителя информации. В каких формах может существать носитель.
5) Почему свойство копируемости информации свидетельствует о ее относительной независимости от носителя.
6) Кто может выступать в роли субъекта информации.
7) Приведите примеры, как цель использования информации определяет ее содержание


8.2 Закономерности проявления информации

Проявления информации: квадранты
Выше мы уже упоминали примеры качественно различных проявлений информации (содержание сообщений, представления об окружении, факты и законы реальности). При этом данные примеры иллюстрируют классификацию проявлений информации по фундаментальным признакам «внутреннее/внешнее» и “субъективное/объективное” (рис.8.4):
  • cообщения - это наиболее привычная и очевидная для нас форма информации. Очевидно, что сообщения создаются субъектами (например, людьми) исходя из их представлений (в частности, в виде знаний, воспоминаний, воображения). При этом ключевая особенность данной формы в том, что она приспособлена именно для передачи информации между субъектами. Это в частности, предполагает опору на общие смыслы, а также использования понятных и удобных для передачи знаков и сигналов. Обратим внимание, что все это относится к любым субъектам («деятелям») от людей и программных ботов до стаи птиц и до возможных космических рас;
  • представления cубъектов отражают наблюдаемые ими события и явления (обобщенно факты) реальности, в которой они действуют. Эти представления составляют некую общую для данного субъекта информационную модель, которая непрерывно дополняется по ходу его деятельности. Соответствие модели реальности ограничивается как особенностями восприятия, так и целями субъектов. Например, человеческое восприятие ограничено органами чувств, которые сформировались в процессе эволюции исходя из условий выживания. Ставя новые цели (например, глубинного познания реальности), человечество расширяет аппарат восприятия с помощью приборов. Можно сказать, что сообщения являются формой внешнего проявления внутренних представлений.
  • факты реальности (ее конкретные проявления) служат основой представлений. При этом восприятию субъектов такие факты доступны, как правило, косвенно — через аппарат восприятия. Например, след на траве говорит о том, что здесь кто-то прошел, искривление орбиты кометы — о влиянии другого небесного тела и т. д. Вместе с тем, факты существуют объективно и независимо от восприятия субъекта. Это позволяет нам видеть реальность и действовать в ней согласованно. Понятие фактов очевидно применимо не только к нашей физической реальности. Например, сюда можно отнести конкретную ситуацию в компьютерной игре или значение математической функции;
  • законы определяют организацию любой реальности и любые факты им соответствуют. Можно сказать, что факты воплощают действие законов или, напротив, законы реализуются через факты. Иначе говоря, факты представляют внешнюю сторону законов и наоборот. Мы привыкли говорить о существовании множества различных законов (например, физики, химии, биологии и т. д.), однако полезно представить, что все они — лишь частные проявления общего Закона устройства материальной реальности. Все что происходит и может происходить неизбежно ему соответствует. Сегодня для нас будет наглядной такая аналогия: все возможные ситуации в компьютерной игре определяются ее кодом. Гораздо более простой пример — все возможные значения функции определяются ее формулой.

Проявления информации: уровни
Представим описанные формы проявления информации в виде иерархии уровней (это удобно в плане пояснения важных особенностей познания) — рис.8.5:
  • законы составляют информационную основу реальности и целью познания является прежде всего именно их определение. Однако, они доступны для познания именно через факты, а вариабельность последних затрудняет их прояснение. При этом само разнообразие фактов естественно трактовать как проявление закона. Похоже, что с повышением уровня организации материи расширяется и спектр возможностей, которые допускают законы (например, количество возможных химических соединений неизмеримо больше, чем число разновидностей атомов и т. д.);
  • наши представления формируются через непосредственное восприятие фактов реальности. Но кроме того (и нередко в большей степени) на эти представления влияют получаемые нами сообщения. Именно наличие «второй сигнальной системы» - общения — делает человека человеком. В частности, из сообщений мы узнаем о большей части закономерностей окружающей реальности (обратим внимание, что с детства знакомые формулы, выражающие различные законы — суть именно формы сообщений). При этом сами представления через наши действия влияют на также факты реальности.

Проявления информации: определения
Рассмотренный здесь подход позволяет также с общих позиций трактовать различные определения понятия информации (данные в том числе классиками) — рис.8.6:
.
  • ТИК (в лице ее основателя Клода Шеннона) рассматривает информацию как меру новизны в сообщениях. В нашей интерпретации такой подход относится к уровню сообщений (верхний правый квадрант «субъективное-внешнее»);
  • Норберт Винер определял понятие информации через процесс адаптации субъекта к внешней среде (в оригинале его определения речь идет именно о человеке). Для нас это уровень представлений (верхний левый квадрант “субъективное внутренне”);
  • академик Глушков (много сделавший для развития кибернентики в нашей стране) подходил к определению информации через описание конкретных материальных форм. С позиций рассмотренного здесь подхода это уровень фактов (нижний правый квадрант «объективное внешнее»);
  • наконец, нам не известны современные определения информации как формы существования законов (нижний левый квадрант «объективное внутреннее»). Но здесь уместно вспомнить о подходе, восходящем еще к Платону, согласно которому именно “идеи” (информация) являются источником реализации материальных воплощений (которые информационно отображаются как факты).

Как видно, в условиях, когда классики теории информации определяют это понятие на первый взгляд совершенно различно, наш подход здесь дает общую основу, которая устраняет видимые несогласованности.

Контрольные вопросы
1) Используя рис.8.4, поясните классификацию проявлений информации в пространстве координат “внутреннее-внешнее” - “объективное-субъективное”.
2) Поясните связь между проявлениями информации в виде сообщений, представлений, фактов и законов.
3) Расскажите об особенностях человеческого познания законов Природы, опираясь на схему рис.8.5.
4) Каким образом рассматриваемая классификация создает общую основу для существующих трактовок понятия информации (используйте для пояснений рис.8.6).


8.3 Аспекты информации

Грани информации
Расширим теперь наше представление об информации, рассмотрев шесть ее важных «граней». Образно вы можете представить их как шесть граней кубика. На рисунке 8.7 они обозначены буквами. Названия граней, разумеется, условны.

А) Функция информации определяется взаимодействием субъекта и объекта:
- функция описания характеризует знание об объекте;
- функция воплощения реализуется при его создании.
Например: схема устройства может использоваться для понимания его работы и для реализации устройства.

Б) Вид информации характеризует восприятие субъектом свойств объекта:
- количественная информация измерима и характеризуется числами;
- качественная информация неизмерима и характеризуется понятиями
Например: мы говорим, что тело обладает массой и характеризуется температурой (качества), масса тела составляет 100 кг, а температура - 200С (количество).

В) Направленность информации определяется относительно объекта:
- внутренняя информация характеризует способ действия объекта;
- внешняя информация определяет условия его существования.
Например: константы программного объекта и исходные данные выполнения программы.

Г) Пpинадлежность информации определяется для субъекта:
- субъективная информация отражает исключительно "точку зрения" субъекта;
- объективная информация существует независимо от восприятия субъекта.
Примером субъективной информации являются воспринимаемые человеком образы.
Пример объективной - видео, отснятое в режиме автоматической регистрации.
Информацию, которой обмениваются между собой люди, никогда нельзя считать полностью объективной, поскольку в ней обязательно присутствуют элементы личного восприятия. Однако, существуют подходы, которые позволяют нейтрализовать влияние субъективности - прежде всего за счет сопоставления разных точек зрения.

Д) Формы представления информации:
- непрерывная — в виде непрерывных ("аналоговых") зависимостей (например, звука или сигналов от датчиков температуры);
- дискретная — в последовательностей знаков (например, текста или чисел).
Принципиально важно, что непрерывная форма информации может быть преобразована в дискретную (так, звук может быть оцифрован). Обратное преобразование возможно далеко не всегда (например, текст невозможно представить в виде непрерывной зависмости). Таким образом, дискретная форма информации является более общей.

Е) Фазы существования информации определяются для носителя:
- пассивная фаза — хранение и перенос в пространстве (информация неизменна);
- активная фаза — использование и преобразование информации.
Например, в пассивной фазе информация хранится на магнитном диске, а в активной - выполняется ее запись или считывание.
Еще пример: чтение Вами книги - активная фаза существования ее информации. Когда книгу никто не читает, эта информация находится в пассивной фазе (хранится).

Информация и энтропия
Энтропию принято трактовать как меру неопределенности и беспорядка. В определенном смысле она является противоположностью информации. Разумеется, на разных уровнях это проявляется со своими особенностями. Их рассмотрение будет интересным для нас в плане лучшего понимания аспектов информации — рис.8.8:
  • на уровне сообщений энтропия это предпосылка получаемой информации.
    Мы уже знакомы с подходом ТИК к понятию энтропии: она ассоциируется с неопределенностью при ожидании получения сообщения и может быть рассчитана исходя из вероятностей появления знаков. При этом количество полученной информации определяется как величина устраненной неопределенности;
  • на уровне представлений энтропия — мера неведения (незнания).
    Напротив, информация ассоциируется со знанием. При этом, учитывая особенности функционального подхода, важно акцентировать именно полезное знание, необходимое для достижения целей;
  • на уровне фактов энтропия трактуется обычно как мера хаотичности.
    Информация здесь воплощается в упорядоченности. Соответственно, воплощение упорядоченности-информации ассоциируется с созиданием, а нарастание хаотичности-энтропии - с разрушением. При этом в природе «разрушение» обычно означает переход от более сложных форм к более простым (как например, при сгорании поленьев в огне или смерти живого организма) и соотвествующие этим формам упорядоченности никуда не исчезают. Предельным случаем хаоса является полная однородность (в физике это состояние неполяризованного вакуума), а различия соответственно выступают как проявления информации;
  • на уровне законов в качестве проявления энтропии можно трактовать допустимые отклонениях от задаваемых ими зависимостей.
    Очевидно, что такая трактовка условна, поскольку не только сами зависимости (“правила”), задаваемые законами, но и задание параметров отклонений («правило отклонения от правил») тоже есть информация. Наглядным примером здесь может быть использование генераторов случайных чисел в программах компьютерных игр. Их срабатывание создает элемент непредсказуемости в реализации игры. Однако, сами генераторы настраиваются в соответствии с выбранными законами распределения случайных чисел и значениями их параметров.

Контрольные вопросы
1) Расскажите о “функциях” информации (описание и воплощение). Приведите примеры для разных уровней проявления.
2) Расскажите о “видах” информации (количественная и качественная). Приведите примеры для разных уровней проявления.
3) Расскажите о “направленности” информации (внутренняя и внешняя). Приведите примеры для разных уровней проявления.
4) Расскажите о “формах” информации (непрерывная и дискретная). Приведите примеры для разных уровней проявления.
5) Расскажите о “фазах” информации (активная и пассивная). Приведите примеры.
6) Расскажите о соотношении информации и энтропии на уровнях сообщений и представлений. Приведите примеры.
7) Расскажите о соотношении информации и энтропии на уровнях фактов и законов. Приведите примеры.


8.4 Коды и сигналы

Кодирование и знаковые системы
Кодирование сообщений выполняется с помощью знаков и в рамках знаковых систем. Эти понятия являются базовыми для многих дисциплин, так что нам будет полезно с ним познакомиться подробнее (рис.8.9):
  • знаки широко используются для обмена сообщениями. Их можно определить как материальные эквиваленты предметов, понятий и явлений. Всесторонним анализом знаков и знаковых систем занимается наука семиотика;
  • выделяются, в частности изобразительные (иконические) и условные знаки. Первые несут информацию об обозначаемом объекте непосредственно в своей форме (например, рисунки, карты местности, пиктограммы). У вторых связь знака и его объекта устанавливается по соглашению (таковы например цифры как знаки чисел, ноты как знаки музыкальных звуков или буквы как знаки звуков человеческой речи). Условные знаки характеризуются известным (устойчивым согласованным) смыслом и удобной для использования формой. Наряду с простыми знаками (цифры, буквы и т. д.) используются составные (слова, числа, устойчивые обороты речи);
  • знаковые системы объединяют знаки по определенным правилам. Примерами знаковых систем могут служить языки общения, системы команд компьютеров, система счисления, набор сигналов светофора и т.д.);
  • знаковые системы определяются: алфавитом (полный набор знаков в системе); синтаксисом (правила построения сообщений); семантикой (смысл знаков и сообщений). Стоит обратить внимание, что различные знаковые системы могут использовать одинаковый алфавит. В качестве примера можно привести европейские языки, которые в качестве алфавита используют латиницу. Другой (более актуальный для нас) пример — различные способы представления данных в виде двоичных кодов. Одни и те же двоичные последовательности могут интерпретироваться как двоичные числа, коды символов или компьютерных команд — то-есть, принадлежать к разным знаковым системам. При этом различаются их синтаксис и семантика;
  • кодирование с позиций изложенного можно определить как представление сообщений в рамках определенной знаковой системы. Соответственно декодирование - восстановление их значений по полученным знакам. В рамках такого общего определения примерами кодирования могут быть не только запись программы на алгоритмическом языке, но и запись музыки с помощью нот и даже запись мыслей с помощью слов (в последнем случае кодирование и декодирование могут выполняться с большой долей неоднозначности).

Коды и сигналы
Физическими носителями сообщений являются сигналы. Примерами здесь могут служить электрические или световые импульсы в кабеле, радиоволны, воспринимаемые нами звук или изображение. Сигналы, как и знаки, являются материальными носителями информации. Однако между ними существует ряд важных отличий (рис.8.10):
  • ориентация на передачу в физической среде. Например, знаки «0» или «1» передаются сигналами в виде электрических или световых импульсов в зависимости от типа используемого кабеля. Слова (мы помним, что это разновидность знаков) могут на небольшие расстояния передаваться как звуковые колебания воздушной среды (сигнал), а на значительные — с помощью несущих сигналов радиоволн;
  • универсальность формы. В отличие от знаков, сигналы могут быть как дискретным (импульсы), так и непрерывными (звуковой сигнал речи или воспринимаемый зрением окружающий пейзаж);
  • cигнал — это процесс. Знак статичен, а сигнал — всегда процесс изменения некоторой физической величины или величин во времени. Например, знакам «1» или «0» состояния элементов памяти, а в записи и чтении участвуют импульсы;
  • необязательность исходного смысла. Изначально сигнал может не иметь «смысла», но приемник его интерпретирует. Например, наблюдаемый человеком восход солнца (воспринятый визуальный сигнал) он интерпретирует как признак начала нового дня.

При передаче сообщений принципиально важно, что сигналы затухают при распространении в среде (их энергия неизбежно расходуются на изменение параметров среды), искажаются по форме (различные волновые составляющие сигналов взаимодействуют со средой по-разному) и, как правило, подвергаются влиянию помех. Все это создает проблемы передачи сообщений, на решение которых и нацелены методы дисциплины ТИК, рассматриваемые во второй половине нашего курса.

Контрольные вопросы
1) Поясните понятие “Знак”. Приведите максимально разнообразные примеры знаков.
2) В чем состоят особенности изобразительных и условных, простых и составных знаков.
3) Что такое знаковая система. Приведите разнообразные примеры знаковых систем.
4) Какова роль алфавита, синтаксиса и семантики в различии знаковых систем.
5) Поясните понятие “Кодирование”, опираясь на представления о знаковых системах.
6) Что такое “Сигнал”. Приведите примеры сигналов.
7) Поясните отличия сигналов от знаков.
О дисциплине ТИК
Почему «Теория информации и кодирования» - одна из самых интересных дисциплин, которые изучают будущие системщики и защитники информации?

В ней сочетаются золотая классика и самая актуальная современность computer-science.

продолжение
О сайте
Здесь вы найдете материалы, которые помогут в изучении дисциплины “Теория информации и кодирования” (ТИК) в том виде, как она преподается на кафедре ЭВМ ДИИТа.

На сайте размещены методические материалы:
  • электронный конспект лекций;
  • методическое обеспечение к лабораторным работам;
  • полезные ссылки.

продолжение
© 2008-2013 • Теория информации и кодирования
UP