Точечні та інтервальні оцінки параметрів розподілу

Точечна оцінка параметрів розподілу

 

Є два підходи до оцінювання невідомих параметрів розподілів по спостереженнях: точечний і інтервальний. Точечний вказує лише точку, біля якої знаходиться оцінюваний параметр; при інтервальному знаходять інтервал, що з деякою великою ймовірністю, що задається дослідником, накриває невідоме числове значення параметра. У главі розглядаються методи точечного оцінювання параметрів; будуються інтервальні оцінки параметрів нормального розподілу, обговорюється загальний підхід до інтервального оцінювання параметрів розподілу, відмінних від нормального.

Метод моментів

Метод моментів є одним із методів точечного оцінювання параметрів розподілу.

Нехай закон розподілу випадкової величини X відомий із точністю до числових значень його параметрів ₁, _{2,…, k}. Це означає, що відомий вид функції щільності f_x(х, ), де = ( ₁, _{2,…, k} ), якщо X безперервна (відомий вид функції ймовірності Р (X = х, ), якщо X дискретна), але числові значення k параметрів не відомі. Знайдемо оцінку = ( ₁, _{2,…, k} ) параметра 0, розташовуючи вибіркою: х₁, х₂..., х_п.

Допустимо, що існує k початкових моментів, кожний із який можна висловити через  (без обмеження спільності можна розглядати тільки початкові моменти, тому що центральні моменти є функціями початкових). Нехай такими моментами будуть перший, другий,..., k-й: v₁, v_2,…,v_k (що зовсім не обов'язково). Висловимо кожний із них через :

         (3.1)

 

Помітимо, що в системі

 

                             (3.2)

 

число рівнянь повинно бути рівним числу k оцінюваних параметрів. Знайдемо рішення системи (3.2). Висловивши кожний параметр q через v₁, v_2,…,v_k, одержимо:

 

                       (3.3)

 

Властивість змістовності вибіркових початкових моментів є підставою для заміни в рівняннях (3.3) теоретичних моментів v₁, v_2,…,v_k на обчислені при великому п вибіркові моменти v₁, v_2,…,v_k.

Оцінками методу моментів параметрів ₁, _{2,…, k} називаються оцінки

 

              (3.4)

 

Питання про те, які початкові моменти включати в систему (3.2), варто вирішувати, керуючись конкретними цілями дослідження і порівняльної простоти форм залежностей моментів від параметрів. У статистичній практиці справа рідко доходить навіть до четвертих моментів.

Приклад 3.1.1 Випадковий розмір Х~ N (а, σ), при цьому числові значення параметрів а і σ ² не відомі. Знайдемо оцінки методу моментів для цих параметрів.

Використовуючи формулу (3.1), висловимо моменти v₁ і v₂ через а й σ ²:

 

 

(v₁ =a)∩(v₂ = а² + σ ²)- такий вид системи (3.2) у даному прикладі. Вирішивши її щодо а й σ ², одержимо: а = v₁ σ ² = v₂ - v₁ ². Звідси оцінки методу моментів:

 

 

це оцінка математичного чекання а;

 

 

це оцінка дисперсії σ ².

Відзначена раніше деяка невизначеність вибору початкових моментів може привести до одержання різних оцінок того самого параметра.

 

Приклад 3.1.2 Випадковий розмір X має розподіл Пуассона:

 

 

Знайдемо оцінку параметра X для двох

варіантів:

а) у якості початкового моменту візьмемо v1, одержимо:

 

б) у якості початкового моменту візьмемо v2; одержимо:

 

 

Оцінки - різні. Звичайно, краще перша: А, = х як більш проста і відповідному змісту параметра пуассонівського розподілу:

l = MX, тому за А, природно прийняти х - гарну точечну оцінку математичного чекання.

Однак не всі одержувані методом моментів оцінки мають властивості «гарної оцінки». Так, отримана в прикладі 3.1.1 оцінка

 

 

дисперсії σ ² не має властивість незміщеності а є асимптотично незміщеною оцінкою: lim  мd = lim n-1/n* = , тобто при великих п можна вважати, що не зміщена щодо .

Приведемо без доказу теорему про функції від моментів, із якої випливають визначені властивості оцінок методу моментів.

Припустимо, що  є функцією двох вибіркових моментів vk і vm: =h(v ,vm), що не містить явно п. Позначимо  = h(v ,vm), де vk =Mvk, a vm = M/vm (останні дві рівності вірні в силу властивості незміщенності вибіркових початкових моментів),

 

Теорема стверджує: якщо в деякій околиці точки (v ,vm), функція h безперервна зі своїми першими і другими похідними, то при великих п розподіл випадкового розміру =h(v ,vm) близько до нормального ( n має асимптотично нормальний розподіл) із математичним чеканням, рівним В, і дисперсією, рівної

 

                (3.5)

 

де С²() — деяка постійна, що залежить від . (Теорему можна поширити на будь-яку кількість моментів — аргументів функції h)

З теореми випливає, що при виконанні досить загальних умов оцінка методу моментів ), при великих п задовольняє наступним співвідношенням:

 

                                 (3.6)

 

тобто оцінка методу моментів є асимптотично незміщенною,

 

                                      (3.7)

 

Переконаємося в тому, що   має властивість забезпеченості. Дійсно, нерівність Чебішева для розміру  при великих п, прийме вид:

 

 

звідси одержимо, що при п -  P(/ - /< ) 1.

Уведемо поняття ефективності й асимптотичної ефективності незміщеної оцінки скалярного параметра .

Ефективністю е() незміщеної оцінки  параметра  називають відношення min DQn( є s)— мінімально можливого значення дисперсії оцінки в класі S всіх незміщених оцінок параметра  до дисперсії D n розглянутої оцінки. При виконанні функцією щільно сті f_х(х, 0) [функцією імовірності Р(Х =х, )] досить загальних умов регулярності: дифференційованих по , незалежності області визначення від  і т. д. — має місце нерівність Рао—Крамера—Фреше:

 

                                (3.8)

 

де i() — кількість інформації про параметр , що міститься в одиничному спостереженні, визначається співвідношенням

 

                            (3.9)

 

(i() — деяка постійна, що залежить від ). Тому

 

                       (3.10)

 

якщо е() = 1, то  — ефективна оцінка параметра  у класі S усіх

його незміщенних оцінок.

Асимптотичної ефективністю оцінки   називають розмір

 

                                (3.11)

якщо () = 1 то  — асимптотична  ефективна оцінка (очевидно, що ефективна оцінка буде й асимптотично ефективною). Знайдемо вираження для асимптотичної ефективності оцінки

. Тому що при великих п оцінку  можна вважати незміщеною, то з урахуванням формул (3.11,3.10,3.7) одержимо

 

Приклад 3.1.3 Переконаємося в тому, що знайдена методом моментів по випадковій вибірці з генеральної сукупності X ~ N (а, а) оцінка X параметра а є ефективної в класі не зміщених оцінок, а оцінка ² параметра ² є, після виключення зміщення, асимптотично ефективною.

Оцінка X - незміщена, і DX = ² /п. Припустивши, що ² відома, і використовуючи формулу (3.10), у якій, з обліком нормальності розподілу,

1(а) = М(dln f (x,a)/da)   = 1/ ² одержимо, що е() = 1. Звідси X - ефективна оцінка.

Оцінка  - зміщена; виключивши зміщення, одержимо оцінку

 

 

дисперсія котрої Ds  =2 /n-1.

Припустивши, що а відомо, і використовуючи вираження (3.10), у котрому, с обліком нормальності розподілу,

 

одержимо, що ефективність е(s2) =(n – 1/n)<1, а асимптотична эффективність e0(s2) = lim   e(s2) = 1. Отже, s2 – асимптотична  эффективна оцінка.

Зауваження.

Незміщеною і ефективною оцінкою дисперсії є використовувана при відомому значенні параметра а оцінка s  = (Xі -a)  / п, тому що Мs  = ², Ds   = 2 /n и е(s ) = 1.

При виконанні досить загальних умов усі три оцінки: ²,s² і s  забеспечені.

У приведеному прикладі оцінки методу моментів X і ² є відповідно ефективної й асимптотично ефективної. Однак подібні приклади швидке виключення: набагато частіше оцінки методу моментів із погляду ефективності не є найкращими з можливих навіть при великих п. Р. Фишер показав, що асимптотична ефективність цих оцінок часто значно менше одиниці. Асимптотично ефективні оцінки можуть бути отримані методом максимальної правдоподібності.