Розрахунок інформаційних характеристик каналу зв'язку

МІНІСТЕРСТВО ОСВІТИ І НАУКИ УКРАЇНИ

НАЦІОНАЛЬНИЙ ТЕХНІЧНИЙ УНІВЕРСИТЕТ “ХПІ”

Кафедра “Обчислювальна техніка та програмування”

Курсова розрахункова робота

з курсу “Теорія інформації та кодування”

 

Виконав:

студент групи ччч-ччч

ччччччччччч.

Перевірив:

доц. чччч.

Харків 2007

Зміст

Вступ

Завдання

Розрахунок інформаційних характеристик каналу зв'язку

Побудова коду для передачі повідомлень

Висновок

Додання

Програма розрахунку інформаційних характеристик каналу зв'язку

Підсумок роботи програми

Література

Вступ

Метою виконання розрахункового курсового завдання є придбання навичок по розрахунку основних інформаційних характеристик каналу зв'язку та побудови кодів для передачі інформації по каналу зв'язку, а також засвоєння процедури кодування, декодування та оцінка ефективності кодів. Для розрахунку інформаційних характеристик каналу зв'язку доцільно сконструювати програму на алгоритмічній мові Паскаль.

Завдання

По каналу зв'язку передаються повідомлення, що являють послідовність шістнадцятирічних цифр імовірності яких відповідно дорівнюють:

p(1)=0,31; p(2)=0,11; p(3)=0,02; p(4)=0,01; p(5)=0,03; p(6)=0,02; p(7)=0,05; p(8)=0,09; p(9)=0,07; p(10)=0,06; p(11)=0,07; p(12)=0,05; p(13)=0,03; p(14)=0,04; p(15)=0,01; p(16)=0,03.

Канальна матриця, що визначає втрати інформації в каналі зв'язку має вид: P(y/x)=

Визначити:

1          Ентропію джерела інформації - H(X)

2          Безумовну ентропію приймача інформації - H(Y).

3          Загальну умовну ентропію - H(Y/X).

4          Швидкість передачі інформації, якщо час передачі одного символу первинного алфавіту дорівнює 0,25мкс

5          Визначити втрати інформації в каналі зв'язку при передачі 1500 символів алфавіту.

6          Середню кількість прийнятої інформації.

7          Побудувати код за методом Хемінга для передачі повідомлень в вигляді чотирьохрозрядного двійкового коду із знаходженням і виправленням однократних помилок.

8          Показати процедуру кодування, декодування і виправлення помилки.

9          Привести схему кодера и декодера для коду Хэмінга.

Розрахунок інформаційних характеристик каналу зв'язку

Визначимо ентропію джерела інформації. Ентропія джерела повідомлень розраховується по формулі:

-(0,31·log₂0,31+0,11·log₂0,11+2·0,02·log₂0,02+ +2·0,01·log₂0,01+3·0,03log₂0,03+2·0,05·log₂0,05+0,09·log₂0,09+2·0,07·log₂0,07+0,06·log₂0,06+0,04·log₂0,04)= 3,399 біт/симв.

Визначимо імовірність появи символів на вході приймача за допомогою умовних ймовірностей

=p(x₁)·p(y₁/x₁)+p(x₂)·p(y₁/x₂)+p(x₃)·p(y₁/x₃)+p(x₄)·p(y₁/x₄)+p(x₅)·p(y₁/x₅)+

+p(x₆)·p(y₁/x₆)+p(x₇)·p(y₁/x₇)+p(x₈)·p(y₁/x₈)+p(x₉)·p(y₁/x₉)+p(x₁₀)·p(y₁/x₁₀)+

+p(x₁₁)·p(y₁/x₁₁)+p(x₁₂)·p(y₁/x₁₂)+p(x₁₃)·p(y₁/x₁₃)+p(x₁₄)·p(y₁/x₁₄)+p(x₁₅)·p(y₁/x₁₅)+

+p(x₁₆)·p(y₁/x₁₆) = 0,31·0,98+0,11·0,01+0,02·0,01=0,3051

p(y2)=0,31·0,01+0,11·0,97+0,02·0,02=0,1102;

p(y3)=0,11·0,01+0,02·0,98+0,01·0,01=0,0208;

p(y4)=0,11·0,01+0,02·0,02+0,01·0,94+0,03·0,02+0,02·0,01=0,0117;

p(y5)=0,01·0,01+0,03·0,98+0,02·0,01=0,0297;

p(y6)=0,01·0,01+0,03·0,01+0,02·0,96+0,05·0,01+0,09·0,01=0,0210;

p(y7)=0,03·0,01+0,02·0,02+0,05·0,94+0,09·0,02+0,07·0,01=0,0502;

p(y8)=0,05·0,02+0,09·0,96+0,07·0,02=0,0888;

p(y9)=0,09·0,01+0,07·0,98+0,06·0,01=0,0701;

p(y10)=0,09·0,01+0,07·0,01+0,06·0,96+0,07·0,01+0,05·0,01=0,0604;

p(y11)=0,07·0,01+0,06·0,01+0,07·0,96+0,05·0,01+0,03·0,01=0,0693;

p(y12)=0,06·0,01+0,07·0,01+0,05·0,95+0,03·0,02+0,04·0,01=0,0498;

p(y13)=0,05·0,02+0,03·0,96+0,04·0,02=0,0306;

p(y14)=0,05·0,01+0,03·0,02+0,04·0,94+0,01·0,02+0,03·0,01=0,0392;

p(y15)=0,03·0,01+0,04·0,02+0,01·0,95+0,03·0,02=0,0112;

p(y16)=0,04·0,01+0,01·0,01+0,03·0,98=0,0299;

Перевірка: Так як прийняті повідомлення становлять повну групу явищ то їх сумарна імовірність дорівнює 1.

0,3051+0,1102+0,0208+0,0117+0,0297+0,0210+0,0502+0,0888+

+0,0701+0,0604+0,0693+0,0498+0,0306+0,0392+0,0112+0,0299= 1,00;

Визначимо ентропію приймача інформації. Ентропія приймача повідомлень розраховується по формулі:

= 0,3051·log2(0,3051)+0,1102·log2(0,1102)+

+0,0208·log2(0,0208)+0,0117·log2(0,0117)+0,0297·log2(0,0297)+

+0,0210·log2(0,0210)+0,0502·log2(0,0502)+0,0888·log2(0,0888)+

+0,0701·log2(0,0701)+0,0604·log2(0,0604)+0,0693·log2(0,0693)+

+0,0498·log2(0,0498)+0,0306·log2(0,0306)+0,0392·log2(0,0392)+

+0,0112·log2(0,0112)+0,0299·log2(0,0299)=

= -(-0,523 -0,351 -0,116 -0,075 -0,151 -0,117 -0,217 -0,310 -0,269 -0,245 -0,267 -0,216 -0,154 -0,183 -0,073 -0,151)=3,416 біт/симв.

Загальна умовна ентропія розраховується по формулі:

=[0,31·(0,98·log2(0,98)+2·0,01·log2(0,01))+

+0,11·(0,01·log2(0,01)+0,97·log2(0,97)+0,02·log2(0,02))+

+0,02·(0,98·log2(0,98)+2·0,01·log2(0,01))+

+0,01·(2·0,01·log2(0,01)+2·0,02·log2(0,02)+0,94·log2(0,94))+

+0,03·(2·0,01·log2(0,01)+0,98·log2(0,98))+

+0,02·(4·0,01·log2(0,01)+0,96·log2(0,96))+

+0,05·(2·0,01·log2(0,01)+2·0,02·log2(0,02)+0,94·log2(0,94))+

+0,09·(2·0,02·log2(0,02)+0,96·log2(0,96))+

+0,07·(2·0,01·log2(0,01)+0,98·log2(0,98))+

+0,06·(4·0,01·log2(0,01)+0,96·log2(0,96))+

+0,07·(4·0,01·log2(0,01)+0,96·log2(0,96))+

+0,05·(3·0,01·log2(0,01)+0,95·log2(0,95)+0,02·log2(0,02))+

+0,03·(2·0,02·log2(0,02)+0,96·log2(0,96))+

+0,04·(2·0,01·log2(0,01)+2·0,02·log2(0,02)+0,94·log2(0,94))+

+0,01·(0,01·log2(0,01)+2·0,02·log2(0,02)+0,95·log2(0,95))+

+0,03·(2·0,01·log2(0,01)+0,98·log2(0,98))]=0,248 біт/симв.

Визначимо швидкість передачі інформації яка являє середню кількість інформації яка передається по каналу зв'язку за одиницю часу та розраховується по формулі:

С=V[H(Y)-H(Y/X)]=V[H(X)-H(X/Y)]==1/(0,25·10³)·(3,416-0,248)=12,67 Кбіт/с.

Визначимо втрати інформації в каналі зв'язку при передачі 1500 символів алфавіту

k H (Y/X)=1500·0,248 =371,8 бит.

Визначимо середню кількість прийнятої інформації:

I=k[H(Y)-H(Y/X)]=k [H(X)-H(X/Y)]==1500·(3,416-0,248)=4,752 Кбіт.

Побудова коду для передачі повідомлень

Постановка задачі

Побудувати код за методом Хемінга з виправленням однократної помилки для передачі повідомлень у виді послідовності 16-річных цифр представлених у виді 4-розрядних двійкових слів. Показати процес кодування, декодування і виправлення одиночної помилки на прикладі інформаційного слова 5 – [0101].

Порядок побудови коду за методом Хемінга

1.         Первинне кодування. Визначимо інформаційні комбінації (слова) лінійного коду, як повний 4-х розрядний двійковий код зі старшинством розрядів праворуч наліво, відповідно до їх надходження на вхід декодера.

0) 0000 4) 0100 8) 1000 C) 1100

1) 0001 5) 0101 9) 1001 D) 1101

2) 0010 6) 0110 A) 1010 E) 1110

3) 0011 7) 0111 B) 1011 F) 1111

2.         Визначимо довжину кодової комбінації по заданій довжині інформаційного слова (k = 4), використовуючи співвідношення:

m = [log2 {(k+1)+ [log2(k+1)]}]=[log2 {(4+1)+ [log2(4+1)]}]=3,

при цьому n = k + m = 7, тобто одержали (7, 4) -код.

Для виправлення одиночної помилки (s = 1) мінімальне кодова відстань дорівнює d₀ = 2s+1 = 3.

3.         Визначимо структуру кодової комбінації.

1	2	3	4	5	6	7
к	к	а1	к	а2	а3	а4
b1	b2	b3	b4	b5	b6	b7

Контрольні біти розположені на 1, 2, 4... місцях.

4.         Визначимо значення контрольних бітів.

Складемо матрицю:

k1 k2 a1 k3 a2 a3 a4

Перевірки:

к3а2а3а4

к2а1а3а4

к1а1а2а4

Тобто контрольні біти:

5 – [0101]

к3 = а2а3а4 = 101 = 0

к2 = а1а3а4 = 001 = 1

к1 = а1а2а4 = 011 = 0

5.         Кодування.

Отримали закодоване слово:

F =	0	1	0	0	1	0	1
	k1	k2	a1	k3	a2	a3	a4

Введемо в закодоване слово помилку в 3 біті:

F` = 0110101

6.         Декодування.

Візьмемо перевірки:

к3а2а3а4 = 0101 = 0

к2а1а3а4 = 1101 = 1

к1а1а2а4 = 0111 = 1

Отримали синдром помилки Sп = 011, що вказує на помилку в третьому біті – його необхідно інвертувати.