Системные компромиссы — это неотъемлемая часть всех разработок цифровых систем связи. Разработчик должен стремиться к:
1) увеличению скорости передачи бит R до максимально возможной;
2) минимизации вероятности появления битовой ошибки РB;
3) минимизации потребляемой мощности, или минимизации требуемого отношения энергии одного бита к спектральной плотности мощности шума ;
4) минимизации ширины полосы пропускания W;
5) максимизации эффективности использования системы;
6) минимизации конструктивной сложности системы, вычислительной нагрузки и стоимости системы.
Энтропия – среднее количество информации, приходящееся на один выход источника.
Для оценки неопределенности в принятом сигнале используют поправочный коэффициент, который называется неоднозначностью. Неоднозначность определяется как условная энтропия сообщения X, обусловленная данным сообщением Y.
Условие задачи:
Рассчитайте неопределенность или неоднозначность сообщения в битах на знак для текстовой передачи с использованием 7-битового кода ASCII. Считайте, что все знаки равновероятны и что вследствие шума в канале вероятность ошибки равна 0,01.
|
|
Дано:
7-битовый код ASCII;
, где – вероятность ошибки
Найти:
Неоднозначность сообщения в битах на знак -?
Решение:
1) Для определения неоднозначности сообщения будем использовать следующую основную формулу, приведенную ниже:
где – сообщение, переданное источником,
– принятый сигнал,
– совместная вероятность и ,
– условная вероятность при приеме .
2) Считая, что все знаки равновероятны и что вследствие шума в канале вероятность ошибки равна , для текстовой передачи с использованием 7-битового кода ASCII основная формула (1) примет следующий вид:
3) Определим значение неоднозначности сообщения , подставляя значение вероятность ошибки в формулу (2). Получаем следующее выражение:
Ответ: неоднозначность сообщения бит/знак.
Заключение
Для оценки неопределенности в принятом сигнале мы использовали поправочный коэффициент, который называет неоднозначностью (equivocation). Неоднозначность определяется как условная энтропия сообщения X, обусловленная данным сообщением Y, или
где X — сообщение, переданное источником, Y — принятый сигнал, Р(Х, Y) — совместная вероятность X и У, a P(X\Y) — условная вероятность X при приеме Y. Неоднозначность можно представить как неуверенность в передаче X при условии принятия У.