Лекція 05. Інформаційна модель передачі каналом із шумом та засади кодування
Курс “Теорія інформації та кодування”

В цій лекцї буде розглянута інформаційна модель передачі дискретних повідомлень каналом "із шумом" - випадковими завадами, наслідком яких можуть бути помилки в передачі окремих розрядів коду. Така модель дає орієнтири, щодо обмежень швидкості передачі інформації в такому каналі. Разом з тим вона показує принципову можливість доставки повідомлень без помилок. Ми також розглянемо тут принципи, які дозволяють за рахунок кодування виявляти та усувати помилки передачі в каналі з шумом.

Аналіз дискретного каналу із шумом
Підходи до передачі коду каналом з помилками
Коди з перевіркою парності
Оцінювання здатності надлишкових кодів до корекції помилок

5.1 Аналіз дискретного каналу із шумом

Модель передачі дискретним каналом із помилками

На практиці ефективність передачі інформації обмежується наявністю в каналі «шуму», фізичним втіленням якого є випадкові завади передачі сигналів. Вплив шуму призводить до втрати частки переданої інформації. На практиці такі втрати компенсуються, але це потребує додаткового витрат ресурсів, зокрема часу передачі, а отже і зниження пропускної спроможності каналу (біт/c).

Математичний апарат ТІК дає відповідні кількісні оцінки. При цьому розглядається дві основних інформаційних моделі — так званого дискретного та безперевного каналів. Тут ми познайомимось саме із моделлю дискретного каналу, в якій розглядається передача послідовності знаків (зокрема, розрядів двійкового коду) - рис.5.1:

Рисунок 5.1 Інформаційна модель дискретного каналу передачі

- Джерело повідомлень виробляє потік знаків алфавіту Z з безумовною ентропією Hz;

- Кодер перетворює передані знаки zi в послідовність розрядів коду xj, які характеризуються безумовної ентропією Hx. У зв'язку з можливими помилками передачі на вхід Декодера надходять значення розрядів уj, які можуть бути відмінними від xj;

- Канал забезпечує передачу із середньою швидкістю Vx (розряд/с) при ймовірності виникнення помилок po. Помилки обумовлюють невизначеність, що вноситься каналом (ентропію Hy/x або Hx/y). Розглядається найбільш важливий для практики випадок, коли ймовірність помилок не залежить від значень розрядів (канал "симетричний"). Внаслідок цього справедливо Hx = Hy і Hx/y = Hy/x;

- інформативність розрядів коду, що передаються через такий канал (біт/розряд), може бути визначена як різниця ентропії кодера і ентропії каналу (Ixy = Hх-Hx/y). В силу симетричності каналу справедливо також Ixy = Hy- Hy/x;

- пропускна спроможність каналу (максимальна кількість інформації, яку канал здатний пропускати в середньому за одиницю часу), виходячи із згаданих параметрів моделі, може бути розрахована С = Vx max {Ixy} = Vx max {Hy- Hy/x} (біт / c).

Формула пропускної спроможності дискретного каналу

Вище наведена загальна формула визначення пропускної здатності каналу. Однак, для практичних потреб зручно привести її до вигляду, де в якості вихідних даних використовуються тільки вимірні параметри передачі (зокрема, швидкість передачі розрядів та Vx та ймовірність виникнення помилок po). Отримання такої формули ілюструє рис.5.2:

Рисунок 5.2 Одержання робочої формули для пропускної спроможності каналу

- в якості вихідної приймається обґрунтована вище формула С = Vx max {Hy- Hy/x};
- для дискретного каналу можемо використовувати відповідну формулу умовної ентропії Hy/x;
- з огляду на те, що канал двійковий, отримаємо максимальне значення безумовної ентропії (1 біт/розряд), а також розгорнуту формулу для умовної ентропії;
- для випадку симетричного каналу (помилки для 0 і 1 відбуваються з однаковою ймовірністю) виразимо умовну ентропію через ймовірність помилок.

Таким чином, розрахункова формула для визначення пропускної здатності двійкового симетричного каналу з помилками матиме вигляд

С = Vx [1 + po log2po + (1-po) log2(1-po)].

Пропускна здатність каналу без помилок визначається з початкової формули за припущенні Hy/x = Hx/y = 0. В цьому випадку С = Vx max{Нx}. Оскільки для двійкового каналу max{Нx} = 1 біт / розряд, пропускна здатність чисельно дорівнює швидкості передачі розрядів коду С = Vx (біт/с).

Аналіз пропускної спроможності та її використання

Спираючись на отриману формулу, можна проаналізувати залежність пропускної спроможності дискретного каналу від його параметрів — рис.5.3:

Рисунок 5.3 До аналізу пропускної спроможності дискретного каналу

- максимум пропускної спроможності вочевидь відповідає відсутності помилок (po = 0). При цьому, як ми вже знаємо, її значення (в біт/с) чисельно дорівнює швидкості передачі розрядів коду Vх (розряд/c), оскільки кожен двійковий розряд без втрат доносить один біт інформації. Цікаво, що згідно з формулою максимум пропускної спроможності спостерігається також при ймовірності помилок po = 1. Цей парадокс легко пояснити: якщо заздалегідь відомо, що при передачі значення розряду зміниться на протилежне, то його завжди можна відновити інвертуванням;

- мінімум пропускної спроможності (її повна відсутність С = 0) відповідає ймовірності помилок po = 0,5. Це також легко пояснити: якщо ймовірності отримання вірного або помилкового значення розряду однакові, то у нас немає жодних підстав вважати за краще один з цих варіантів. А отже, передача інформації за цих умов неможлива;

- проміжні значення пропускної здатності характеризуються вираженою нелінійністю. При цьому найбільші втрати припадають якраз на діапазон відносно невеликих ймовірностей помилок. Зокрема: при ймовірності po = 0,01 величина C знижується на 8%; при ймовірності po = 0,05 - на 29%; при ймовірності po = 0,10 - на 47%;

- в цілому вплив помилок передачі можна уподібнити впливу забруднень на стінках труби: перетин, через який може протікати рідина, скорочується, однак, рідина все-таки здатна протікати трубою. Так само і з інформацією - вона принципово може бути передана каналом із помилками, хоч і за більший час.

Контрольні питання
1) Спираючись на рис.5.1, охарактеризуйте інформаційну модель дискретного каналу передачі.
2) Запишіть формули для питомої інформативності розряду коду і пропускної здатності каналу. Що відображає в цих формулах умовна ентропія Нy/x = Нx/y
3) Використовуючи рис.5.2, розкажіть про етапність виведення формули для пропускної здатності дискретного каналу.
4) Запишіть формули для розрахунку пропускної спроможності дискретного каналу з помилками і без помилок.
5) Спираючись на рис.5.3, поясніть залежність пропускної здатності дискретного каналу від ймовірності помилок передачі. Чому ця залежність симетрична щодо значення ймовірності помилок 0,5
6) Поясніть особливості пропускної здатності дискретного каналу. Якими є максимальне і мінімальне значення пропускної спроможності і за яких умов вони проявляються. Назвіть орієнтовну величину зниження пропускної спроможності при ймовірності помилок 1% і 10%.


5.2 Підходи до передачі коду каналом з помилками

Кодування для захисту від помилок передачі

Принципові особливості передачі повідомлень дискретним каналом з помилками пояснює рис.5.4:

Рисунок 5.4 До принципу передачі дискретним каналом із шумом

- образно кажучи, кодування для передачі каналом із помилками створює "захисну оболонку" для переданого інформаційного коду. "Міцність" такої оболонки визначається надмірністю створюваного коду. У мінімальному варіанті вона дозволяє фіксувати "пошкодження", а в максимальному — також усувати їх;

- зазвичай виділяють два рівні кодування: стискання повідомлень називають кодуванням джерела, а захист від помилок - кодуванням каналу. На першому з рівнів усувається вихідна надмірність. На другому, навпаки, надмірність коду додається - але вже саме корисна, необхідна для усунення помилок передачі;

- для кодування каналу Клод Шеннон сформулював і довів теорему, подібну до тієї, з якою ми знайомилися для стиснення повідомлень. Суть теореми Шеннона в тому, що принципово можливо кодувати повідомлення таким чином, що пропускна здатність каналу буде використана максимально повно (при цьому подолати обмеження пропускної здатності за рахунок кодування неможливо);

- орієнтир, який дає теорема Шеннона, в тому, що за рахунок надлишкового кодування можна забезпечити достовірну передачу ціною збільшення її тривалості. Зниження пропускної спроможності каналу якраз і означає збільшення необхідної тривалості передачі (подібно до того, як встановлений обсяг рідини може пройти через менший перетин труби за більший час).

Приклади використання контрольних розрядів коду

Методи надлишкового кодування із захистом від помилок передачі будуть детально розглянуті в наступних лекціях, а поки що ми проілюструємо приницип його дії на простих прикладах - рис.5.5:

Рисунок 5.5 Приклади кодування із захистом від помилок

- найпростіший спосіб надлишкового кодування полягає в використанні одного контрольного розряду, значення якого доповнює до парної кількість «1» в блоці коду (приклад А). Якщо при передачі відбувається помилка в одному з розрядів, то правило парності порушується і тим виявляється помилка. Зрозуміло, такий спосіб не дозволяє визначити позицію помилкового розряду і це означає, що код не здатний виправити виявлену помилку. Більш того, якщо при передачі "постраждають" одночасно два розряду коду, умова парності не порушується і така помилка залишиться не виявленою;

- посилити можливості коду (його коригувальну здатність) можна, якщо використовувати більшу кількість контрольних розрядів. У прикладі Б показано використання трьох таких розрядів при передачі одного полубайта. Застосування одночасно трьох перевірок дозволяє локалізувати позицію помилкового розряду, а отже й виправити помилку шляхом його інвертування (в даному випадку 3 перевірки дають 8 варіанов коду, які можуть охопити 7 варіантів помилки і 1 варіант безпомилкової передачі). Подібні коди (вони називаються кодами Хеммінга) застосовуються для усунення результатів збоїв оперативної пам'яті серверів;

- при однаковому числі контрольних розрядів відповідна коригувальна здатність коду може бути спрямована не на виправлення одиничних помилок (які характерні, зокрема, для оперативної пам'яті комп'ютерів), а на виявлення їх ланцюжків (які нерідко зустрічаються при передачі по лініях зв'язку). У прикладі В показаний варіант коду, який дозволяє виявляти будь-які ланцюжки з двох або трьох помилок (такий код називається "циклічним").

Отже, на прикладах видно, що використання додаткових контрольних розрядів дозволяє в принципі виявляти і навіть виправляти помилки передачі. При цьому збільшення корегувальної здатності коду вимагає зростання його надмірності. Однак на практиці ймовірності виникнення помилок можуть значно змінюватися (як наприклад, при передачі в ефірі) і вочевидь не раціонально створювати коди, що розраховані на найгірший випадок. Це протиріччя вирішує ще один підхід до усунення помилок передачі.

Виправлення помилок з використанням зворотнього зв'язку

Більш гнучким і раціональним способом виправлення помилок є використання зворотного зв'язку для повторної передачі помилкових блоків коду (рис.5.6):

Рисунок 5.6 Використання схеми передачі із зворотнім зв'язком

- тут вузли А і Б (наприклад, вузли комп'ютерної мережі) обмінюються повідомленнями поперемінно в ролі Передавача і Приймача. Передавач кодує блок повідомлення, доповнюючи його контрольними розрядами, і відправляє по Прямому каналу. Приймач декодує отриманий блок і в залежності від результату формує та відправляє по Зворотному каналу підтвердження правильності або перезапрос на повторну передачу. При отриманні перезапроса Передавач повторює відповідний блок. Оскільки помилки в Каналі є випадковими, імовірність їх повторення значно зменшується (в загальному випадку спроби передачі повторюються до досягнення позитивного результату);

- надмірність коду, яка необхідна для виявлення помилок, значно менше потрібної для їх виправлення. При цьому погіршення умов передачі компенсується зростанням кількості перезапитів, а значить - повного часу доставки повідомлень. Таким чином спосіб зворотного зв'язку економічніший і до того ж він автоматично реагує на зміни пропускної спроможності каналу;

- може здаватись, що втілення такого способу потребує значних додаткових витрат на створення зворотнього каналу. Але в практиці обмін інформації зазвичай є двонаправленим, отже два канали між вузлами А та Б зазвичай уже існують. Використання схеми із зворотнім зв'язком створює лише додаткове навантаження на ці канали, яке не є принципово суттєвим;

- показана на рис.5.6 схема відповідає способу, який називають "вирішальним" зворотним зв'язком. Тут рішення про необхідність повторної передачі приймає Приймач і додаткове навантаження на зворотний канал є мінімальним. Такий спосіб набув найбільшого поширення і застосовується, зокрема, в комп'ютерних мережах. Значно рідше застосовується інша схема із «інформаційної» зворотним зв'язком. Тут інформаційний блок, що передається, одразу повертається зворотнім каналом і вже Передавач приймає рішення про його вірність. Такий спосіб застосовується, коли зворотний канал потужніше за прямий (наприклад, в системах зв'язку з літаючими об'єктами).

Контрольні питання
1) Поясніть поняття "кодування джерела" і "кодування каналу". У чому сенс введення надмірності в код на другому з цих етапів, тоді як на першому надмірність навпаки усувалася.
2) Сформулюйте теорему Шеннона про кодування для каналу з помилками. У чому полягають її особливості в порівнянні з теоремою про кодування джерела.
3) Поясніть принцип дії найпростішого завадозахисні коду з контролем парності. Які його можливості і обмеження.
4) Спираючись на рис.5.5, поясніть, яким чином за рахунок збільшення надмірності кодування можна виправляти виявлені помилки або виявляти ланцюжка помилок.
5) Використовуючи рис.5.6, поясніть принцип виправлення помилок передачі з використанням зворотнього зв'язку.
6) У чому полягає перевага виправлення помилок з використанням зворотнього зв'язку відносно безпосереднього виправлення за допомогою коду.
7) Поясніть відмінності способів виправлення помилок за допомогою вирішального і інформаційного зворотного зв'язку. Де застосовуються такі способи.


5.3 Коди з перевіркою парності

Перевірка парності «по рядках»

Приступимо до більш детального розгляду простих завадозахисні кодів з контролем парності. Нагадаємо, що тут контрольні розряди доповнюють кількість "1" в коді до парної. На рис.5.7 показаний приклад використання такого способу під час передачі одного байта даних:

Рисунок 5.7 Кодування з контролем парності по рядках

- при кодуванні в першому прикладі контрольний розряд отримує значення 0, а в дугому прикладі - значення 1 (в обох випадках підсумкове число 1 буде парним);

- при декодуванні за відсутності помилок зберігається парність кількості 1 і робиться висновок про правильність передачі (перший рядок);

- в разі помилки при передачі одного з розрядів коду парність кількості 1 порушується і декодер вважає, що блок коду прийнятий невірно (рядок 2). Аналогічною буде ситуація для 3-х помилок (рядок 4), а також для будь-якої непарної кількості помилок передачі;

- якщо відбулися одночасно дві помилки, то парність кількості 1 зберігається і декодер неправильно фіксує, що передача минула вірно (рядок 3). Така ж ситуація виникне при будь-якій парній кількості помилок передачі.

Відзначимо, що на практиці ймовірність одночасної появи декількох помилок значно нижче, ніж для появи однієї. Так що при всій простоті реалізації код з контролем парності може бути досить ефективним, особливо, для контролю коротких блоків коду.

Найбільш широко такий код застосовується для контролю послідовної передачі байтів в мікросхемах так званих com-портів (комунікаційних портів). Зокрема, такі мікросхеми використовуються при передачі даних від клавіатури до настільного ПК.

Перевірка парності «в матриці»

Можливості коду парності можуть бути значно розширені, якщо його використовувати для контролю послідовності рядків (такий спосіб ще називають матричним). Приклад показаний на рис.5.8:

Рисунок 5.8 Матричний код із перевіркою парності

- при кодуванні розряди контролю парності додаються в кожен рядок коду, а також утворюють додатковий контрольний рядок, де кожен розряд забезпечує парність по стовпцю;

- при декодуванні для одиночної помилки можна визначити не тільки рядок, в якому вона знаходиться, але і номер помилкового розряду (за рахунок контролю за стовпцями). На практиці, це означає, що таку помилку можна виправити (інвертуємо значення виявленого спотвореного розряду);

- крім того в цій модифікації коду виявляються помилки будь якої парної кратності по рядках (вони фіксуються за рахунок порушення парності по стовпцях). Щоправда, помилки будуть пропущені декодером, якщо вони виявляться в вершинах умовного прямокутника на полі розрядів коду (в цьому випадку зберігається парність як по рядках, так і по стовпцях), однак на практиці такі ситуації виникають виключно рідко.

Таким чином, код з контролем «в матриці» дозволяє виправляти поодинокі помилки передачі, а також значно збільшує ймовірність виявлення помилок. Платою за це є необхідність працювати з усією послідовністю блоків коду вцілому, що значно зменшує оперативність обробки. На практиці такий спосіб широко застосовувався для стрічкових накопичувачів даних.

Відновлення пошкоджених блоків коду з використанням контролю парності

Ще одна важлива модифікація коду з контролем парності використовується для відновлення блоків пошкоджених даних. Необхідною умовою тут є передача поряд з інформаційними блоками також додаткового контрольного блоку, розряди якого створюються за принципом парності. У прикладі на рис.5.9:

Рисунок 5.9 Відновлення помилкового блоку даних за рахунок контролю парності

- при кодуванні за трьома вихідним блокам X1-X3 будується контрольний блок Y (доповнення до парності тут відповідає операція підсумовування по модую 2);
- при передачі одного з блоків відбуваються помилки (у прикладі це помилка в блоці X3), що виявляються декодером;

- за спільної обробки вірно переданих та контрольного блоків зміст пошкодженого блоку повністю відновлюється (в прикладі це забезпечується підсумовуванням за модулем 2 блоків X1 ,X2, Y);

- можливість виправлення кількох помилок в данном випадку забезпечується за рахунок врахування додаткового умови: відомо, що всі помилки зосереджені в одному блоці (рядку). В такому випадку контроль за стовпцями однозначно виявляє позиції помилкових розрядів.

На практиці такий спосіб використовується для резервування і відновлення блоків архівних файлів і навіть для відновлення вмісту окремих пошкоджених дисків в так званих RAID-масивів серверів (блоки з декількох дисків, що функціонують як єдиний пристрій). При цьому, зрозуміло, для фіксації пошкодження окремого довгого "рядка" можуть використовуватися значно потужніші коди, ніж розглянутий нами код з перевіркою парності. З ними ми познайомимося надалі.

Контрольні питання
1) Спираючись на рис.5.7, поясніть особливості коду з перевіркою парності по рядках
2) В чому полягають переваги і обмеження коду з перевіркою парності по рядку. Наведіть приклади його використання на практиці.
3) Спираючись на рис.5.8, поясніть особливості матричного коду з перевіркою парності
4) У чому полягають переваги та обмеження коду з перевіркою парності в матриці. Наведіть приклади його використання на практиці.
5) Спираючись на рис.5.9, поясніть особливості коду з відновленням пошкоджених блоків на основі перевірки парності
6) У чому полягають переваги та обмеження коду з відновленням пошкоджених блоків на основі перевірки парності. Наведіть приклади його використання на практиці.


5.4 Оцінювання здатності надлишкових кодів до корекції помилок

Кодова відстань по Хеммінгу

Здатність коду виявляти і коригувати помилки значною мірою визначається так званою мінімальною кодовою відстанню по Хеммінгу. Важливо, що такий параметр може бути визначений для будь-якого коду, тобто він є універсальним (рис.5.10):

Рисунок 5.10 До поняття кодової відстані по Хеммінгу

- відстань d по Хеммінгу між двома кодовими блоками визначається як число незбіжних розрядів. З'ясувавши значення dij для всіх можливих пар блоків, можна знайти його мінімальну величину dmin. Таке значення є атрибутом будь-якого коду;

- на рис.5.10 показані набори трьохрозрядних кодових блоків, для яких значення dmin. становлять 1 (безнадлишковий код), 2 (код з парною кількістю 1) або 3 (код з максимальною надмірністю). Як можна бачити, значення dmin визначає "слабкість" коду: саме в тих випадках, коли кодова відстань між двома рядками мінімальна, найімовірніше може відбутися помилка розпізнавання;

- легко побачити, що при dmin = 1 (блок А) принципово неможливо виявити появу помилки передачі: кожне одержане значення блоку в принципі може бути вірним (всі такі значення дозволені). При цьому надмірність відсутня;

- для dmin = 2 (блок Б) до дозволених належить тільки половина можливих значень коду (в даному випадку - ті, для яких виконується умова парності кількості 1). При цьому одноразова помилка вже гарантовано виявляється, оскільки значення кодового блоку з набору дозволених переходить в заборонені;

- для dmin = 3 (блок В) лише четверта частина значень належить до дозволених. Така надмірність дозволяє не тільки розпізнавати, але і виправляти помилки. Справа в тому, що всі значення, які виникають внаслідок одноразової помилки, будуть «ближче» по кодової відстані до одного з дозволених значень. При цьому виникнення одноразової помилки набагато більш імовірно, ніж для помилок більшої кратності. Відповідно, виправлення зводиться до того, що отримане заборонене значення замінюється на найближчий за величиною d дозволене.

Таким чином, параметри здатності коду до корекції помилок прямо пов'язані з його мінімальним кодовою відстанню. Тут ми розглянули окремі приклади такого зв'язку. Перейдемо тепер до узагальнених форул.

Формули для оцінки здатності коду до корекції помилок

Найбільш вживаними параметрами здатності коду до корекції є кратність rm помилок, що виявляються, а також кратність sm помилок, що гарантовано виправляються. Рис.5.11 дозволяє формалізувати зв'язок цих параметрів із мінімальною кодовою відстанню dmin:

Рисунок 5.11 Оцінювання здатності кода до коекції помилок

- зліва на рис.5.11 показано вихідне дозволене значення коду, яке відповідає переданим даними. Внаслідок помилок при передачі можуть виникати заборонені значення, які розпізнаються кодом (на рисунку вони показані пунктиром). Помилка розпізнавання з'явиться, якщо в результаті спотворень при передачі виникне одне з дозволених значень коду, відмінних від вихідного (на рисунку праворуч);

- для розпізнання помилок передачі досить, щоб отримане значення було хоча б на одиницю кодового відстані віддалене від дозволеного. Звідси випливає умова rm=dmin-1. У нашому прикладі значення dmin=5 досить, щоб розпізнавалися помилки аж до четвертої кратності (rm=4);

- для виправлення помилок передачі необхідно, щоб проміжний заборонений стан був ближче до вихідного, ніж до будь-якого іншого дозволеного стану. У нашому прикладі стан, що виникає в результаті дворазової помилки (sm=2) все ще ближче до вихідного стану, ніж до альтернативного, отже виправлення помилок можливе. Якщо розглянути випадок dmin = 6, то додатковий проміжний стан виявиться рівновіддаленим від вихідного і альтернативного, тож виправлення триразовою помилки буде неможливим. Звідси випливає формула sm= ](dmin-1)/2[ (зворотніми квадратними дужками позначується відкидання дробової частини). Зокрема для випадків dmin=5 і dmin=6 ця формула дає однакові значення sm=2.

Практична оцінка здатності кодів до корекції помилок

Розглянемо особливості застосування отриманих формул, а також додаткові параметри здатності коду до корекції помилок (рис.5.12):

Рисунок 5.12 Приклади оцінювання здатності коду до корекції помилок

- як ми пам'ятаємо, код з перевіркою парності по рядку характеризується значенням dmin=2 і отже для нього rm=1 (гарантовано виявляються одноразові помилки), а sm=0 (виправлення помилок неможливо). Однак, нам відомо, що такий код дозволяє виявляти помилки будь непарної кратності;

- тут прояснюється важлива особливість отриманих вище формул: значення rm та sm характеризують нижню межу можливостей коду. Таким чином використання тільки цих значень не вичерпує характеристику здатності коду до корекції;

- для коду з перевіркою по рядку і по стовпцю значення dmin визначається як добуток мінімальних кодових відстаней по рядку і стовпцю, таким чином тут dmin=4. Звідси випливає rm=3 і sm=1. Дійсно, такий код дозволяє виправляти одноразові помилки, а в ситуації з чотирикратної помилкою можливий "прокол": вона не виявляється через те, що помилки "в вершинах прямокутника" зберігають парність по рядках і стовпцях. При цьому реальні можливості такого коду, як ми вже знаємо, можуть далеко перевершувати гарантовані обмеження. Наприклад, при довжині рядків в 8 розрядів можуть бути виявлені 5 або 7 помилок в рядку;

- те саме відноситься до способу кодування з відновленням пошкоджених блоків, де при формальному значенні dmin= 4 (коли по рядках використовується контроль парності, а не більш потужні коди) можливе виправлення багатократних помилок. Тут знову-таки роль відіграють додаткові умови кодування (в даному випадку - припущення про знаходження всіх помилок в одному рядку).

Таким чином, для реальної оцінки здатності коду до корекції потрібно враховувати конкретні правила кодування. У багатьох випадках реальна коригувальна здатність кодів може бути значно вищою за ту, яка обмежується мінімальним кодовою відстанню по Хеммінгу.

Контрольні питання
1) Спираючись на рис.5.10, поясніть поняття кодового відстані по Хеммінга і мінімального кодового відстані.
2) Як в наведених прикладах виявляється зв'язок мінімального кодового відстані, надмірності і коректує здатності коду.
3) Поясніть як на рис.5.11 відображається виникнення помилок різної кратності.
4) Поясніть сенс формул для визначення гарантованої кратності помилок передачі, які виявляються і виправляються кодом.
5) Як пояснити, що при значенні rm = 1 код з перевіркою парності дозволяє виявляти наприклад помилки кратності 3 та 5.

О дисциплине ТИК
Почему «Теория информации и кодирования» - одна из самых интересных дисциплин, которые изучают будущие системщики и защитники информации?

В ней сочетаются золотая классика и самая актуальная современность computer-science.

продолжение
О сайте
Здесь вы найдете материалы, которые помогут в изучении дисциплины “Теория информации и кодирования” (ТИК) в том виде, как она преподается на кафедре ЭВМ ДИИТа.

На сайте размещены методические материалы:
  • электронный конспект лекций;
  • методическое обеспечение к лабораторным работам;
  • полезные ссылки.

продолжение
© 2008-2020 • Теория информации и кодирования
UP