Метод максимального правдоподобия (метод наибольшего правдоподобия, метод максимума правдоподобия)

Этот метод является более точным, но и более сложным методом,

позволяющим получить оценки параметров распределения не только для полных, но и для усечённых и многократно усечённых выборок.

Оценки по этому методу состоятельны, асимптотически эффективны, но иногда смещённые.

Для получения оценки неизвестного параметра α по методумаксимального правдоподобия ищут такое значение α, при котором вероятность реализации полученной выборки х₁, х₂,…,х_n была бы максимальной. Функцию

R(x₁,x₂,…, x_n, α₁,…,α_n)

называют функцией максимального правдоподобия. Для получения оценки максимального правдоподобия надо взять частные производные по определяемым параметрам от функции правдоподобия и приравнять их нулю. Так как максимумы функции правдоподобия и её логарифма совпадают, а y = ln x – строго возрастающая функция, то для удобства частные производные берут от логарифма функции максимального правдоподобия.

Например, для двухпараметрического распределения

_n

∑ [ ∂ ln f (x_i, α₁, α₂)] / ∂α₁ = 0;

ⁱ⁼¹ } (41)

_n

∑ [ ∂ ln f (x_i , α₁, α₂)] / ∂α₂ = 0;

ⁱ⁼¹

где α₁,α₂– параметры распределения; х_i – реализации случайной величины;

n – число реализаций.

Например, оценивая по методу максимума правдоподобия неизвестные параметры a и σ нормального распределения, имеем

_n

f(x₁, x₂,…, x_n, a, σ) = [ 1 / (σ√2π)ⁿ ] exp [ – (1 / 2σ²) ∑ (x_i – a)² ];

ⁱ⁼¹

_n

ln f = –(n/2) ln(2π) – (n/2) ln σ² – (1/2σ²) ∑ (x_i – a)².

ⁱ⁼¹

Берём частные производные ln f по a и σ

_n

(1/σ²) ∑ (x_i – a) = 0;

ⁱ⁼¹

_n

–n/2σ² + (1/2σ⁴) ∑ (x_i – a)² = 0,

ⁱ⁼¹

откуда получаем a(х₁, х₂,…, х_n) = x

_n

σ²(x₁, x₂, …, x_n) = (1/n) ∑ (x_i – x)² = s².

ⁱ⁼¹

Эти оценки состоятельны, первая из них несмещённая, а вторая смещённая.

Метод квантилей.

Метод квантилей используют для оценки параметров распределения аналогично методу моментов. В этом случае эмпирические квантили приравнивают к квантилям теоретического распределения и составляют столько уравнений, сколько параметров выбранного распределения необходимо определить. Например, для двухпараметрического распределения Вейбулла можно составить два теоретических квантиля с двумя частотами m₁/n и m₂/n, соответствующими двум выбранным наработкам x₁ и x₂ (x₁ < x₂):

1 – exp [ – (x₁/a)^b ] = m₁/n;

} (42)

1 – exp [ – (x₂/a)^b ] = m₂/n.

Из системы уравнений (42) находят параметры b и а распределения:

ln ln 1/(1 – m₁/n) – ln ln 1/(1 – m₂/n)

b = ———————————————————;

ln x₁ – ln x₂ } (43)

ln a = (1/b) ln ln (1 – m₁/n) – ln x₁.

Метод квантилей по точности аналогичен методу моментов, но по методу квантилей можно определять параметры распределения не только в случае полной выборки, но и в случае усечённой выборки, при этом выбранные частоты m₁ и m₂ должны быть меньше числа отказавших объектов m, т.е. m₁ <m₂ <m.