Расчет информационных характеристик источников дискретных сообщений

Задача №1.26

Распределение вероятностей дискретной случайной величины имеет вид: p(x1)=0,362133; p(x2)=0,15; p(x3)=0,15; p(x4)=0,1; p(x5)=0,1; p(x6)=0,1; p(x7)=0,01; p(x8)=0,01; p(x9)=0,017867. Определить число n значений случайной величины, при которых энтропия Hp(X) равномерного распределения будет равна энтропии H(X) заданного распределения.

Решение:

Пользуясь формулой Шеннона, найдем энтропию:

Подставляя значения в указанную формулу, получаем:

Равномерное распределение предполагает равные вероятности всех возможных исходов.

Hp(X)=log2n

Ответ: .

Задача №1.41

Найти энтропию шума в двоичном симметричном канале без памяти, если энтропия источника на входе канала бит, энтропия ансамбля на выходе канала бит, ненадежность канала бит.

Решение:

Энтропия шума в двоичном симметричном канале без памяти вычисляется по формуле (1.17) лекции:

Таким образом, для того чтобы воспользоваться вышеуказанной формулой для вычисления энтропии шума в двоичном симметричном канале без памяти необходимо найти количество переданной информации. Для этого воспользуемся формулой (1.13) лекции:

Подставив данную формулу в ранее представленную, получим необходимое выражение для вычисления энтропии шума в двоичном симметричном канале без памяти:

Подставив в указанное выражение набор заданных параметров получим соответствующее значение энтропии шума в двоичном симметричном канале без памяти:

(бит)

Ответ: энтропия шума в двоичном симметричном канале без памяти составляет бит.

Задача №1.76

Дискретный источник выбирает сообщения из ансамбля . Длительности сообщений соответственно равны: tu

1

=0,8c, tu

2

=0,6c, tu

3

=0,5c, tu

4

=0,3c. Определить производительность источника.

Решение:

Производительность источника определяется как суммарная энтропия сообщений, переданных за единицу времени:

Пользуясь формулой Шеннона, находим:

бит

Среднее время определим как

Откуда

Подставим в формулу полученные данные и получим производительность источника:

(бит/с)

Ответ: производительность источника бит/с.

Прочтите также:

Обзор оборудования ОАО Связьтранснефть для проведения конференц-совещаний
видеоконференция оптический рефлектометр телекоммуникационный Роль телекоммуникационных систем связи и передачи данных в современном мире нельзя переоценить. Телекоммуникационные систе ...

Проект компьютерного класса колледжа на основе беспроводной сети
Локальная сеть (Local Area Network, LAN) - группа персональных компьютеров или периферийных устройств, которые объединены между собой высокоскоростным каналом передачи цифровых д ...

Разработка схемы функциональной информационно-измерительной системы
АБС состоит из следующих основных компонентов: Датчики скорости либо ускорения (замедления), установленные на ступицах колёс транспортного средства. Управляющие клапаны, которые ...

Основные разделы

2021 © Все права защищены! >> www.techeducator.ru