Несмещенная оценка

Несмещённая оце́нка в математической статистике — это точечная оценка, математическое ожидание которой равно оцениваемому параметру.

Определение

Пусть X_1,\ldots, X_n,\ldots — выборка из распределения, зависящего от параметра \theta \in \Theta. Тогда оценка \hat{\theta} \equiv \hat{\theta}(X_1,\ldots,X_n) называется несмещённой, если

\mathbb{E}\left[\hat{\theta}\right] = \theta,\quad \forall \theta \in \Theta.

В противном случае оценка называется смещённой, и случайная величина \hat{\theta} - \theta называется её смеще́нием.

Примеры

Выборочное среднее \bar{X} = \frac{1}{n} \sum\limits_{i=1}^n X_i является несмещённой оценкой математического ожидания X_i, так как если \mathbb{E}X_i = \mu<\infty, \; \forall i\in \mathbb{N}, то \mathbb{E}\bar{X} = \mu.

Пусть независимые случайные величины X_i имеют конечную дисперсию \mathrm{D}X_i = \sigma^2. Построим оценки

S_n^2 = \frac{1}{n} \sum\limits_{i=1}^n \left(X_i - \bar{X}\right)^2 — выборочная дисперсия,

и

S^2 = \frac{1}{n-1} \sum\limits_{i=1}^n \left(X_i - \bar{X}\right)^2 — исправленная выборочная дисперсия.

Тогда S^2_n является смещённой, а S^2 несмещённой оценками параметра \sigma^2. Смещённость S^2_n можно доказать следующим образом: пусть \mu и \overline{X} — среднее и его оценка соответственно, тогда:

\begin{align}

\operatorname{E}[S^2_n]

&= \operatorname{E}\bigg[ \frac{1}{n}\sum_{i=1}^n (X_i-\overline{X})^2 \bigg]

= \operatorname{E}\bigg[ \frac{1}{n}\sum_{i=1}^n \big((X_i-\mu)-(\overline{X}-\mu)\big)^2 \bigg] = \\

&= \operatorname{E}\bigg[ \frac{1}{n}\sum_{i=1}^n (X_i-\mu)^2 -

2(\overline{X}-\mu)\frac{1}{n}\sum_{i=1}^n (X_i-\mu) +

(\overline{X}-\mu)^2 \bigg] = \\

&= \operatorname{E}\bigg[ \frac{1}{n}\sum_{i=1}^n (X_i-\mu)^2 - (\overline{X}-\mu)^2 \bigg]

= \sigma^2 - \operatorname{E}\big[ (\overline{X}-\mu)^2 \big] = \\

&= \sigma^2 - \frac{1}{n}\sigma^2 = \frac{n-1}{n}\sigma^2 < \sigma^2.

\end{align}

Доверительный интервал — термин, используемый в математической статистике при интервальной (в отличие от точечной) оценке статистических параметров, что предпочтительнее при небольшом объёме выборки. Доверительным называют интервал, который покрывает неизвестный параметр с заданной надёжностью.

Метод доверительных интервалов разработал американский статистик Ежи Нейман, исходя из идей английского статистика Рональда Фишера