Эффективность оценок

Несмещенность оценок

Состоятельность оценок

Это свойство хороших оценок сближаться с оцениваемыми величинами в каком-то смысле и тем самым увеличивать точность с ростом объема выборки.

Определение 3. Оценка называется состоятельной оценкой, если она стремится по вероятности к с ростом n:. Это означает, что для любого выполняется соотношение.

Пример 2. Выборочное среднее является состоятельной оценкой математического ожидания m. Это непосредственно следует из теоремы Чебышева теории вероятностей (см 5-й вопрос J) [end Пример 2]

Имеет место следующий критерий состоятельности оценок:

Теорема 1. Пусть и, где. Тогда - состоятельная оценка.

Свойство состоятельности характеризует асимптотическое поведение оценки при неограниченном увеличении объема выборки и не налагает никаких ограничений на поведение оценки при конечных размерах выборки. Можно сузить класс возможных оценок, если потребовать, чтобы математическое ожидание оценки равнялось бы оцениваемому параметру для всех n.

Определение 4. Оценка называется несмещенной оценкой параметра, если. В противном случае оценка называется смещенной, а разность называется смещением оценки.

Пример 3. Выборочное среднее является состоятельной оценкой математического ожидания m=Mx всегда, когда последнее существует: [end Пример 3]

Пример 4. Выборочная дисперсия является смещенной оценкой генеральной дисперсии с отрицательным смещением.

Покажем это:

и, так как, то. Далее вспоминаем, что выборочное среднее – несмещенная оценка (т.е.) расписываем выражение для дисперсии. И в итоге получаем:. Отсюда следует, что несмещенной оценкой генеральной дисперсии является статистика [end Пример 4] (данный пример – самый любимый дополнительный вопрос по этой теме)

Хотя требования состоятельности и несмещенности значительно сужают множество возможных оценок, могут существовать несколько состоятельных и несмещенных оценок одного параметра. Нужно как-то осуществить выбор среди этих оценок. Если определить класс оценок и выбрать меру (критерий) близости оценки к оцениваемому параметру, то оценка, минимизирующая заданную меру близости, называется оптимальной в этом классе. Естественной мерой близости оценки является её дисперсия. В этом случае лучше несмещенная и состоятельная оценка с меньшей дисперсией, так как она в среднем будет меньше отклоняться от оцениваемого параметра, чем оценка с большей дисперсией. Будем предполагать, что дисперсии всех рассматриваемых оценок конечны.

Определение 5. Эффективной оценкой параметра для рассматриваемого распределения называется оценка класса Т состоятельных и несмещенных оценок, имеющих минимальную дисперсию.

Определение 6. Из двух оценок и одного параметра, одного распределения, одного класса Т состоятельных и несмещенных оценок более эффективной считается та, дисперсия которой меньше. Пусть, например,. Тогда отношение называется относительной эффективностью, а отношение - эффективностью оценки.

Определение 7. Оценка параметра для рассматриваемого распределения называется асимптотически эффективной в классе Т состоятельных оценок, если существует предел.