Методы спуска. Градиентный метод наискорейшего спуска

Нелинейное программирование. Методы спуска. Приближенное решение задач нелинейного программирования градиентным методом.

Общая задача мат. программирования формулируется: найти вектор

X = (x ………..x ), удовлетворяющий системе ограничений

g (x ………..x ) = b i=1,2,…,k

g (x ………..x ) b i=k+1,k+2,…,m

и доставляющий экстремум функции

Z = f (x ………..x ).

При этом предполагается, что известны функции g (x ………..x ) и f (x ………..x ). Обычно на некоторые переменные x ………..x накладывается условие неотрицательности. Кроме того, ограничением может служить условие целочисленности решения для ряда переменных. Если g (x ………..x ) = x и Z = f (x ………..x ) = X ., где

a и C известные константы, то при условие неотрицательности решения получаем задачу линейного программирования. Любую другую задачу мат. программирования будем считать нелинейной.

Методы спуска. Градиентный метод наискорейшего спуска.

Z=f(x₁,…x_n)

строится последовательность точек

x₀,x₁,…x_n, каждая является решением системы ограничений

при этом переход от одной точки к другой:

x_i+1=x_i+λ , =( ₁, ₂,… _n)-вектор, задающий направление

λ-шаг итерации

λ и выбирается таким образом, что бы обеспечить сходимость х₀,…х_n к соответствующей точке оптимума

х^к+1=()

, i=1,…n

Если последовательность бесконечна, то с определенной степенью точности можно выбрать Хк₀