Оценкой метода наименьших квадратов (ОМНК) для неизвестных параметров уравнения регрессии называется набор значений параметров, доставляющий минимум сумме квадратов отклонений
Найдя оценки для , найдем тем самым оценку для . Обозначим через значения этой функции, и через соответствующие оценки ошибок. Оценка максимального правдоподобия для , она же точка максимума по функции правдоподобия, равна вычислить!
(8) |
Мудрый читатель понял, что основная цель рассмотренного выше примера — показать, что метод наименьших квадратов не падает с неба, а есть в точности метод максимального правдоподобия в случае, когда вектор ошибок, а вместе с ним и вектор наблюдаемых откликов регрессии, состоит из независимых и одинаково распределенных случайных величин с нормальным распределением.