Согласование дискретного источника с дискретным каналом без шума. Эффективное кодирование

Затем строится кодовое дерево, в процессе которого осуществляется кодирование: верхняя точка дерева равна единице; из нее направляется две ветви, причем ветви с большей вероятностью приписывается значение «1», а с меньшей - «0». Такое последовательное ветвление продолжается до тех пор, пока не добиваются вероятности каждой буквы. Кодовое дерево представлено на рисунке 3.1.

Рисунок 3.1

Затем двигаясь по кодовому дереву сверху вниз, записываем для каждой буквы соответствующую ей кодовою комбинацию. Результат представлен в таблице 9.

Таблица 9

a1

11

a2

101

a3

000

a4

01

a5

100010

a6

1000110

a7

1000111

a8

10010

a9

10000

a10

001

a11

100110

a12

100111

Выберем из ансамбля сообщений {ai} произвольную комбинацию из пяти символов и закодируем их полученным кодом Фано:

a4 a6 a8 a10 a12

Потенциальный минимум будем искать по формуле (2.3) лекции

Так как код является двоичным, то основание кода . Отсюда следует:

Тогда потенциальный минимум будет равен энтропии источника:

Найдем энтропию источника, пользуясь теоремой Шеннона:

Подставив в данную формулу заданные значения, получим:

Подставив полученное значение в формулу для вычисления потенциального минимума, получим:

Рассчитаем среднее количество символов, приходящихся на одно сообщение, по формуле (2.9) лекции:

где Ps - вероятность появления события;

m - количество символов в коде.

Количество символов в коде представлено в таблице 10.

Таблица 10

Сообщение

Вероятность события Ps

Количество символов в коде ms

a1

0,38

2

a2

0,12

3

a3

0,071

3

a4

0,21

2

a5

0,013

6

a6

0,004

7

a7

0,012

7

a8

0,03

5

a9

0,0211

5

a10

0,1

3

a11

0,019

6

a12

0,0199

6

Перейти на страницу: 1 2 3 4 5 6 7 8 9

Прочтите также:

Расчет параметров фильтра для устранения помех связи
Центральной проблемой радиотехники была и остается проблема помехоустойчивости связи. Система связи должна спроектирована так, чтобы она обладала способностью наилучшим образом пр ...

Проектирования микропроцессорной системы управления объектом
Целью курсового проектирования является приобретение навыков разработки микропроцессорных систем (МПС) на примере проектирования микропроцессорной системы для управления некоторым объект ...

Синтез автоматических систем регулирования с цифровыми регуляторами
Важнейшей составной частью повышения качества регулирования является автоматизация технологических средств. Большое внимание в настоящее время уделяется разработке и внедрению микропр ...

Основные разделы

2020 © Все права защищены! >> www.techeducator.ru