Метод наименьших квадратов.
Использование интерполяции для построения функциональных зависимостей не всегда целесообразно, так как совпадение значений полученных формулой с табличными значениями в узлах интерполяции не гарантирует достаточно малого различия указанного значения в других точках, отличных от узлов.
Задача о построении эмпирической формулы состоит в следующем.
Пусть результат измерения представлен таблицей.
x | X1 | x2 | x3 | … | xk | xk+1 | … | xn |
Y | Y1 | Y2 | Y3 | … | Yk | Yk+1 | … | Yn |
Y=j(x) искомая эмпирическая зависимость, где j(x) зависит от некоторых параметров. Разности j(xk)-Yk=ek, где Uk-числа из второй строки данной та блице называют отклонением или погрешностью. Требуется так подобрать параметры функции j(x), чтобы уклонение ek оказалось наименьшим(в каком-то) смысле.
Наибольшее распространение получил следующий критерий отклонения, лежащий в основе метода наименьших квадратов(МНК): параметры функции
выбираются так, чтобы
n
å ek2 = e12 + e22 + …+ en2 ® min,
k=1
Пусть j(x)- полином степени m
|
|
j(x)=a0xm + a1xm-1 + …+am-1x +am, a0¹0
Задача полиномиального приближения - подобрать коэффициенты ak, чтобы
å ek2 ® min.
Если m≥n, то существует бесконечное число полиномов
для которых å ek2 =0, если m=n-1, то можно построить единственный итерполяционный полином.
Если m < n-1 Þ å ek2 ≥0 " ak, то здесь, сумма квадратов невязок, вообще говоря, отлична от нуля, а задача поиска коэффициентов ak является оптимизационной. При этом, чем меньше m, тем проще эмпирическая формула.
Линейные уравнения регрессии.
Приближение ищем в виде линейной функции y=ax+b или имеем
ax+b-y=0.
В точках наблюдения(измерения) получаем невязки
ax1+b-y=e1
ax2+b-y=e2
…
axn+b-yn=en
Составим сумму квадратов невязок и подберем коэффициенты a, b путем ее минимизации.
Итак имеем
Ф(а, b) = (ax1+b-y1)2+…+(axn+b-yn)2 ® min
Таким образом коэффициенты линейной зависимости находятся как нули частных производных функции Ф(а, b)
n
∂Ф/∂a =0 Þ å2(axi+b-yi)xi=0
i=1
n
∂Ф/∂b =0 Þ 2å(axi+b-yi)xi=0
i=1
или
n n n
aå xi2+båxi=åxiyi
i=1 i=1 i=1
aåxi+b*n=åyi
Теперь нетрудно выписать решение этой линейной системы
a=∆1/åxi2*n-(åxi)2, где åxi2*n-(åxi)2=∆, b=∆2/∆ и ∆1 и ∆2 есть
соответствующие определители.