Точечна оцінка параметрів розподілу
Є два підходи до оцінювання невідомих параметрів розподілів по спостереженнях: точечний і інтервальний. Точечний вказує лише точку, біля якої знаходиться оцінюваний параметр; при інтервальному знаходять інтервал, що з деякою великою ймовірністю, що задається дослідником, накриває невідоме числове значення параметра. У главі розглядаються методи точечного оцінювання параметрів; будуються інтервальні оцінки параметрів нормального розподілу, обговорюється загальний підхід до інтервального оцінювання параметрів розподілу, відмінних від нормального.
Метод моментів
Метод моментів є одним із методів точечного оцінювання параметрів розподілу.
Нехай закон розподілу випадкової величини X відомий із точністю до числових значень його параметрів 1, 2,…, k. Це означає, що відомий вид функції щільності fx(х, ), де = ( 1, 2,…, k ), якщо X безперервна (відомий вид функції ймовірності Р (X = х, ), якщо X дискретна), але числові значення k параметрів не відомі. Знайдемо оцінку = ( 1, 2,…, k ) параметра 0, розташовуючи вибіркою: х1, х2..., хп.
|
|
Допустимо, що існує k початкових моментів, кожний із який можна висловити через (без обмеження спільності можна розглядати тільки початкові моменти, тому що центральні моменти є функціями початкових). Нехай такими моментами будуть перший, другий,..., k-й: v1, v2,…,vk (що зовсім не обов'язково). Висловимо кожний із них через :
(3.1)
Помітимо, що в системі
(3.2)
число рівнянь повинно бути рівним числу k оцінюваних параметрів. Знайдемо рішення системи (3.2). Висловивши кожний параметр q через v1, v2,…,vk, одержимо:
(3.3)
Властивість змістовності вибіркових початкових моментів є підставою для заміни в рівняннях (3.3) теоретичних моментів v1, v2,…,vk на обчислені при великому п вибіркові моменти v1, v2,…,vk.
Оцінками методу моментів параметрів 1, 2,…, k називаються оцінки
(3.4)
Питання про те, які початкові моменти включати в систему (3.2), варто вирішувати, керуючись конкретними цілями дослідження і порівняльної простоти форм залежностей моментів від параметрів. У статистичній практиці справа рідко доходить навіть до четвертих моментів.
Приклад 3.1.1 Випадковий розмір Х~ N (а, σ), при цьому числові значення параметрів а і σ 2 не відомі. Знайдемо оцінки методу моментів для цих параметрів.
Використовуючи формулу (3.1), висловимо моменти v1 і v2 через а й σ 2:
(v1 =a)∩(v2 = а2 + σ 2)- такий вид системи (3.2) у даному прикладі. Вирішивши її щодо а й σ 2, одержимо: а = v1 σ 2 = v2 - v1 2. Звідси оцінки методу моментів:
|
|
це оцінка математичного чекання а;
це оцінка дисперсії σ 2.
Відзначена раніше деяка невизначеність вибору початкових моментів може привести до одержання різних оцінок того самого параметра.
Приклад 3.1.2 Випадковий розмір X має розподіл Пуассона:
Знайдемо оцінку параметра X для двох
варіантів:
а) у якості початкового моменту візьмемо v1, одержимо:
б) у якості початкового моменту візьмемо v2; одержимо:
Оцінки - різні. Звичайно, краще перша: А, = х як більш проста і відповідному змісту параметра пуассонівського розподілу:
l = MX, тому за А, природно прийняти х - гарну точечну оцінку математичного чекання.
Однак не всі одержувані методом моментів оцінки мають властивості «гарної оцінки». Так, отримана в прикладі 3.1.1 оцінка
дисперсії σ 2 не має властивість незміщеності а є асимптотично незміщеною оцінкою: lim мd = lim n-1/n* = , тобто при великих п можна вважати, що не зміщена щодо .
Приведемо без доказу теорему про функції від моментів, із якої випливають визначені властивості оцінок методу моментів.
Припустимо, що є функцією двох вибіркових моментів vk і vm: =h(v ,vm), що не містить явно п. Позначимо = h(v ,vm), де vk =Mvk, a vm = M/vm (останні дві рівності вірні в силу властивості незміщенності вибіркових початкових моментів),
Теорема стверджує: якщо в деякій околиці точки (v ,vm), функція h безперервна зі своїми першими і другими похідними, то при великих п розподіл випадкового розміру =h(v ,vm) близько до нормального ( n має асимптотично нормальний розподіл) із математичним чеканням, рівним В, і дисперсією, рівної
(3.5)
де С2() — деяка постійна, що залежить від . (Теорему можна поширити на будь-яку кількість моментів — аргументів функції h)
З теореми випливає, що при виконанні досить загальних умов оцінка методу моментів ), при великих п задовольняє наступним співвідношенням:
(3.6)
тобто оцінка методу моментів є асимптотично незміщенною,
(3.7)
Переконаємося в тому, що має властивість забезпеченості. Дійсно, нерівність Чебішева для розміру при великих п, прийме вид:
звідси одержимо, що при п - P(/ - /< ) 1.
Уведемо поняття ефективності й асимптотичної ефективності незміщеної оцінки скалярного параметра .
Ефективністю е() незміщеної оцінки параметра називають відношення min DQn( є s)— мінімально можливого значення дисперсії оцінки в класі S всіх незміщених оцінок параметра до дисперсії D n розглянутої оцінки. При виконанні функцією щільно сті fх(х, 0) [функцією імовірності Р(Х =х, )] досить загальних умов регулярності: дифференційованих по , незалежності області визначення від і т. д. — має місце нерівність Рао—Крамера—Фреше:
(3.8)
де i() — кількість інформації про параметр , що міститься в одиничному спостереженні, визначається співвідношенням
(3.9)
(i() — деяка постійна, що залежить від ). Тому
(3.10)
якщо е() = 1, то — ефективна оцінка параметра у класі S усіх
його незміщенних оцінок.
Асимптотичної ефективністю оцінки називають розмір
(3.11)
якщо () = 1 то — асимптотична ефективна оцінка (очевидно, що ефективна оцінка буде й асимптотично ефективною). Знайдемо вираження для асимптотичної ефективності оцінки
. Тому що при великих п оцінку можна вважати незміщеною, то з урахуванням формул (3.11,3.10,3.7) одержимо
Приклад 3.1.3 Переконаємося в тому, що знайдена методом моментів по випадковій вибірці з генеральної сукупності X ~ N (а, а) оцінка X параметра а є ефективної в класі не зміщених оцінок, а оцінка 2 параметра 2 є, після виключення зміщення, асимптотично ефективною.
|
|
Оцінка X - незміщена, і DX = 2 /п. Припустивши, що 2 відома, і використовуючи формулу (3.10), у якій, з обліком нормальності розподілу,
1(а) = М(dln f (x,a)/da) = 1/ 2 одержимо, що е() = 1. Звідси X - ефективна оцінка.
Оцінка - зміщена; виключивши зміщення, одержимо оцінку
дисперсія котрої Ds =2 /n-1.
Припустивши, що а відомо, і використовуючи вираження (3.10), у котрому, с обліком нормальності розподілу,
одержимо, що ефективність е(s2) =(n – 1/n)<1, а асимптотична эффективність e0(s2) = lim e(s2) = 1. Отже, s2 – асимптотична эффективна оцінка.
Зауваження.
Незміщеною і ефективною оцінкою дисперсії є використовувана при відомому значенні параметра а оцінка s = (Xі -a) / п, тому що Мs = 2, Ds = 2 /n и е(s ) = 1.
При виконанні досить загальних умов усі три оцінки: 2,s2 і s забеспечені.
У приведеному прикладі оцінки методу моментів X і 2 є відповідно ефективної й асимптотично ефективної. Однак подібні приклади швидке виключення: набагато частіше оцінки методу моментів із погляду ефективності не є найкращими з можливих навіть при великих п. Р. Фишер показав, що асимптотична ефективність цих оцінок часто значно менше одиниці. Асимптотично ефективні оцінки можуть бути отримані методом максимальної правдоподібності.