StudyDocs.ru Logo

ТПИ.docx


Задание 1. Определить среднее количество информации, содержащееся в сообщении, используемом три символа S1, S2, S3, при известных вероятностях появления символов p(S1)=0.05, p(S2)=0.15, p(S3)=0.8 при независимом появлении символов и при зависимости между соседними символами (таблица 1). Оценить избыточность сообщения в обоих случаях. Таблица 1

P(Si/Sj)S1S2S3
S100,40.6
S20.70.10.2
S30,500.5

Решение. Энтропия и среднее количество информации в сообщении при независимом появлении символов:<Object: word/embeddings/oleObject1.bin> Максимальная энтропия( при равных вероятностях появления каждого символа):<Object: word/embeddings/oleObject2.bin>Энтропия и среднее количество информации в сообщении при зависимости между соседними символами:<Object: word/embeddings/oleObject3.bin>Избыточность из-за неравноверояности появления символов<Object: word/embeddings/oleObject4.bin>.Избыточность с учетом статистических связей<Object: word/embeddings/oleObject5.bin>


































Задание 2. По линии связи передаются непрерывные амплитудно-модулированные сигналы <Object: word/embeddings/oleObject6.bin> распределенные по нормальному закону с математическим ожиданием <Object: word/embeddings/oleObject7.bin> и дисперсией <Object: word/embeddings/oleObject8.bin> Определить энтропию <Object: word/embeddings/oleObject9.bin> сигналасли погрешность его измерения равна <Object: word/embeddings/oleObject10.bin> Решение. Формула для энтропии H(X) непрерывных сообщений:<Object: word/embeddings/oleObject11.bin>По условию плотность вероятности сигнала x(t)<Object: word/embeddings/oleObject12.bin>
<Object: word/embeddings/oleObject13.bin>
Подставляя числовые значения, получаем:<Object: word/embeddings/oleObject14.bin>








Задание 3. Непрерывный канал связи с пропускной способностью 60 бит/с предназначен для передачи квантованного сигнала с полосой частот 80 Гц. Определить число различных уровней измеряемого сигнала и погрешность измерений.
Решение. Пропускная способность канала с непрерывным временем:
Если <Object: word/embeddings/oleObject15.bin>, тогда
<Object: word/embeddings/oleObject16.bin>
Число уровней, которое может быть различимо без ошибок:
<Object: word/embeddings/oleObject17.bin>















Задание 4. Алфавит сообщения состоит из 3 символов, появляющихся независимо друг от друга (вероятности появлении символов взять из третей задачи). Составить код Шеннона – Фэно при кодировании по одной и блоками по две и по три буквы. Сравнить эффективности полученных кодов (вычислить их энтропию и среднюю длину кодового слова).Решение.Код Шеннона-Фано для однобуквенных сообщений.
SiP(S)Разбиение сообщений на подгруппыКодiLxi
S30.811 1 0.8
S20.150101 2 0.3
S10.050010 2 0.1

Энтропия однобуквенных сообщений:<Object: word/embeddings/oleObject18.bin>Средняя длина кодового слова:<Object: word/embeddings/oleObject19.bin>
Код Шеннона-Фано для двухбуквенных сообщений.
SiP(S)Разбиение сообщений на подгруппыКодiLxi
S3 S3 0.640011 21.2800
S3 S2 0.1200011011 4 0.4800
S2 S3 0.1200010010 4 0.4800
S3 S1 0.040000110011 5 0.2000
S1 S3 0.040000100010 5 0.2000
S2 S2 0.022500010001 5 0.1125
S2 S1 0.007500001000011 6 0.0450
S1 S2 0.007500001000010 6 0.0450
S1 S1 0.00250000000000 6 0.0150

Энтропия двухбуквенных сообщений:
<Object: word/embeddings/oleObject20.bin>Средняя длина кодового слова:<Object: word/embeddings/oleObject21.bin>Код Шеннона-Фано для трехбуквенных сообщений.
SiP(S)Разбиение сообщений на подгруппыКодiLxi
S3 S3 S3 0.51201121.0240
S3 S3 S2 0.096001110111 5 0.4800
S3 S2 S3 0.096001100110 5 0.4800
S2 S3 S3 0.0960010010 4 0.3840
S3 S3 S1 0.03200011100111 6 0.1920
S3 S1 S3 0.03200011000110 6 0.1920
S1 S3 S3 0.03200010100101 6 0.1920
S3 S2 S2 0.01800010000100 6 0.1080
S2 S3 S2 0.0180000111000111 7 0.1260
S2 S2 S3 0.0180000110000110 7 0.1260
S3 S2 S1 0.0060000101000101 7 0.0420
S3 S1 S2 0.0060000100000100 7 0.0420
S2 S3 S1 0.006000001110000111 8 0.0480
S2 S1 S3 0.006000001100000110 8 0.0480
S1 S3 S2 0.006000001010000101 8 0.0480
S1 S2 S3 0.006000001000000100 8 0.0480
S2 S2 S2 0.00340000011100000111 9 0.0304
S3 S1 S1 0.00200000011000000110 9 0.0180
S1 S3 S1 0.002000000100000010 8 0.0160
S1 S1 S3 0.0020000000111000000111 10 0.0200
S2 S2 S1 0.0011000000110000000110 10 0.0113
S2 S1 S2 0.00110000001000000010 9 0.0102
S1 S2 S2 0.0011000000011000000011 10 0.0113
S2 S1 S1 0.0004000000010000000010 10 0.0038
S1 S2 S1 0.000400000000110000000011 10 0.0038
S1 S1 S2 0.000400000000100000000010 10 0.0038
S1 S1 S1 0.0001000000000000000000 10 0.0013

Энтропия трёх буквенных сообщений:
<Object: word/embeddings/oleObject22.bin>Средняя длина кодового слова:<Object: word/embeddings/oleObject23.bin>Кодирование блоками более выгодно, чем кодировать отдельные буквы.






































Задание 5. Декодировать полученное сообщение 1110101, если известно, что использовался код Хэмминга (4, 7). Решение.Состав передаваемой кодовой комбинации:
Позиция бита:7654321
Символ:M4M3M2C3M1C2C1
Значение бита:1110101
Выполним проверку. Бит передаваемой комбинации входит в проверку, если на месте номера проверки позиция бита в двоичном коде имеет единицу.C11=C1<Object: word/embeddings/oleObject24.bin>M1<Object: word/embeddings/oleObject25.bin>M2<Object: word/embeddings/oleObject26.bin>M4=1+1+1+1=0C12=C2<Object: word/embeddings/oleObject27.bin>M1<Object: word/embeddings/oleObject28.bin>M3<Object: word/embeddings/oleObject29.bin>M4=0+1+1+1=1C13=C3<Object: word/embeddings/oleObject30.bin>M2<Object: word/embeddings/oleObject31.bin>M3<Object: word/embeddings/oleObject32.bin>M4=0+1+1+1=1
Результат проверки интерпретируется следующим образом:
011Бит М3 не верен






















Задание 6. Закодировать методом гаммирования сообщение, которым является часть фамилии студента из первых 6 букв ( «Шумски»), представленная в двоичном виде в кодировке ANSI (для одного символа – 8 бит). Гамма шифра вырабатывается конгруэнтным датчиком псевдослучайных последовательностей. Параметры датчика конгруэнтного датчика ПСЧ: T(0)=7, A=11, C=9.Решение. Одним из хороших конгруэнтных генераторов является линейный конгруэнтный датчик ПСЧ. Он вырабатывает последовательности псевдослучайных чисел T(i), описываемые соотношением:
Ti+1=(A·Ti+C) mod m, А=11 и С=9 – константы, от которых зависит период генерируемой псевдослучайной последовательности;Т0 =7- исходная величина, выбранная в качестве порождающего числа. m=2S=256, где s=8 – длина слова в битах.Псевдослучайная последовательность чисел (гамма), выработанных датчиком:
десятичный код13824716643226191
двоичный код100010101111011110100110001010111110001010111111

Символы в кодировке ANSI имеют вид:
символШумск и
десятичный код216243236241234232
двоичный код110110001111001111101100111100011110101011101000

Сложим цифровые эквиваленты в двоичном коде буквы и гаммы по модулю два. В результате чего получим:
11011000 11110011 11101100 11110001 11101010 1110100010001010 11110111 10100110 00101011 11100010 1011111101010010 00000100 01001010 11011010 00001000 01010111
Таким образом, в канал связи будет передана последовательность «01010010-00000100-01001010-11011010-00001000-01010111».


Литература1. Сорока Н.И., Кривинчинко Г.А. Сборник задач по курсу «Теория передачи информации» для студентов специальностей «Автоматизированное управление в технических системах», «Информационные технологии и управление в технических системах». – Мн.: БГУИР, 2004. – 119 с.