Системные компромиссы — это неотъемлемая часть всех разработок цифровых систем связи. Разработчик должен стремиться к:
1) увеличению скорости передачи бит R до максимально возможной;
2) минимизации вероятности появления битовой ошибки РB;
3) минимизации потребляемой мощности, или минимизации требуемого отношения энергии одного бита к спектральной плотности мощности шума
;
4) минимизации ширины полосы пропускания W;
5) максимизации эффективности использования системы;
6) минимизации конструктивной сложности системы, вычислительной нагрузки и стоимости системы.
Энтропия – среднее количество информации, приходящееся на один выход источника.
Для оценки неопределенности в принятом сигнале используют поправочный коэффициент, который называется неоднозначностью. Неоднозначность определяется как условная энтропия сообщения X, обусловленная данным сообщением Y.
Условие задачи:
Рассчитайте неопределенность или неоднозначность сообщения в битах на знак для текстовой передачи с использованием 7-битового кода ASCII. Считайте, что все знаки равновероятны и что вследствие шума в канале вероятность ошибки равна 0,01.
Дано:
7-битовый код ASCII;
, где
– вероятность ошибки
Найти:
Неоднозначность сообщения в битах на знак
-?
Решение:
1) Для определения неоднозначности сообщения будем использовать следующую основную формулу, приведенную ниже:

где
– сообщение, переданное источником,
– принятый сигнал,
– совместная вероятность
и
,
– условная вероятность
при приеме
.
2) Считая, что все знаки равновероятны и что вследствие шума в канале вероятность ошибки равна
, для текстовой передачи с использованием 7-битового кода ASCII основная формула (1) примет следующий вид:

3) Определим значение неоднозначности сообщения
, подставляя значение вероятность ошибки
в формулу (2). Получаем следующее выражение:

Ответ: неоднозначность сообщения
бит/знак.
Заключение
Для оценки неопределенности в принятом сигнале мы использовали поправочный коэффициент, который называет неоднозначностью (equivocation). Неоднозначность определяется как условная энтропия сообщения X, обусловленная данным сообщением Y, или

где X — сообщение, переданное источником, Y — принятый сигнал, Р(Х, Y) — совместная вероятность X и У, a P(X\Y) — условная вероятность X при приеме Y. Неоднозначность можно представить как неуверенность в передаче X при условии принятия У.






