Лаб. 2 Аналіз та дослідження інформаційної моделі і засад кодування джерела дискретних повідомлень
Методичні вказівки до виконання лабораторної роботи №2
з курсу «Теорія інформації та кодування»


Мета роботи:
- закріпити знання про інформаційну модель джерела дискретних повідомлень;
- дослідити побудову та дію класичних методів статистичного кодування джерела;
- дослідити застосування статистичного підходу для реальних повідомлень і проаналізувати його проблеми та напрямки їх вирішення.

Загальна характеристика роботи

Ця робота включає три розділи:
Розділ 1. Інформаційна модель джерела дискретних повідомлень
Розділ 2. Статистичне кодування джерела повідомлень
Розділ 3. Дослідження показників інформативності та кодування реальних повідомлень

Відповідні теоретичні відомості наведені зокрема в електронному конспекті лекції №4 на сайті tik-diit.dp.ua за поточний рік.

Для виконання роботи студент має обрати його рівень: повний або мінімальний. Останній варіант суттєво менший за обсягом, але відповідний бал не перевищує 70% від повного. Далі в тексті завдання, які належать тільки повному варіанту, помічені *.

В додатках до цих методичних вказівок можна одержати:
- приклад оформлення звіту;
- необхідні демо-програми;
- дані згідно варіантам.

Для підготовки до захисту рекомендується пройти тестування з питань теорії в пробному режимі.
Увага! Вам потрібно виділити ВСІ вірні варіанти відповідей.

Порядок виконання роботи в розділі 1

1.1 Проаналізувати основні властивості та формули інформаційної моделі джерела дискретних повідомлень. Відобразити їх на рис.1.1. (дивись приклад оформлення звіту).

1.2 Проаналізувати властивості безумовної ентропії як міри інформативності повідомлень на прикладі дискретного джерела згідно індивідуального варіанту, використавши електронну таблицю «Ентропія та статистичне кодування.xls». Зокрема підібрати варіанти розподілу імовірностей знаків для зменьшення вихідного значення ентропії приблизно вдвічі та для досягнення максимального значення ентропії - табл.1.1.

Порядок виконання роботи в розділі 2

2.1 Побудувати статистичний код за методом Шеннона згідно індивідуальному варіанту, Відобразити результати в табл.2.1 (приклад оформлення звіту). Оцінити ефективність кодування, порівнявши збитковість побудованого коду та вихідного побайтового кодування.

2.2 Проаналізувати використання побудованого кода на прикладі послідовності знаків за індивідуальним варіантом. Результати відобразити на рис.2.2 (приклад оформлення звіту). Звернути увагу, як межі кодових ланцюжків окремих знаків автоматично визначаються завдяки префіксності коду.

* 2.3 Побудувати для тих самих даних код за удосконаленим методом Хаффмена, який здебільшого застосовується в практиці. Відобразити етапи та результати побудови коду в табл.2.2 та на рис.2.1 (приклад оформлення звіту).
Порівняти результати побудови коду за методами Шеннона та Хаффмена. Коротко пояснити переваги кодування за Хаффменом, завдяки яким в практиці застосовується саме цей код.

* 2.4 Дослідити ефективність коду в умовах відхилень розподілів ймовірностей знаків джерела, виконавши кодування для даних наступного по порядку варіанту. Відобразити результати в табл.2.3 (приклад оформлення звіту).
Зробити висновок щодо стікості ефективності статистичного кодування відносно відхилень розподілів ймовірностей знаків.

Порядок виконання роботи в розділі 2

3.1 Дослідити показники інформативності — оцінки безумовної та умовної ентропії — для реальних повідомлень різних видів. Застосувати демо-програму StatDemo та файли-приклади текстового повідомлення та растрового зображення, що скачані з сайту. Результати дослідження представити в формі табл. 3.1 (приклад оформлення звіту).
Коротко узагальнити оцінки ентропії для різних типів повідомлень, а також співвідношення безумовної та умовної ентропії.

3.2 Дослідити ефективність стискання реальних повідомлень з використанням статичного та динамічного (адаптивного) способів кодування за Хаффменом. Застосувати демо-програму ArhDemo, що скачана з сайту (використати версії файлів із суфіксом «-»). Файли растрових зображень для варіантів з непарними номерами одержуються із папки варіанта 1, а з парними - із папки варіанта 2. Результати дослідження представити в формі табл. 3.2 (приклад оформлення звіту).
Звернути увагу на близькість міри стискання до межі Шеннона, що визначається безумовною ентропією для відповідних файлів (табл.3.1), а також наявність резерву стискання у зв'язку із меньшими значеннями умовної ентропії. Пояснити обмеження статичного кодування за Хаффменном та переваги адаптивного способу стискання.

* 3.3 Проаналізувати проблеми практичного застосування статистичного кодування та напрямки їх вирішення в межах статичного та адаптивного підходів — рис.3.1 (приклад оформлення звіту).

О дисциплине ТИК
Почему «Теория информации и кодирования» - одна из самых интересных дисциплин, которые изучают будущие системщики и защитники информации?

В ней сочетаются золотая классика и самая актуальная современность computer-science.

продолжение
О сайте
Здесь вы найдете материалы, которые помогут в изучении дисциплины “Теория информации и кодирования” (ТИК) в том виде, как она преподается на кафедре ЭВМ ДИИТа.

На сайте размещены методические материалы:
  • электронный конспект лекций;
  • методическое обеспечение к лабораторным работам;
  • полезные ссылки.

продолжение
© 2008-2021 • Теория информации и кодирования
UP