Модификации метода Ньютона. Поисковые методы

Модификации метода Ньютона

Трудности в вычислении матрицы Гессе, поэтому используют приближенные аналоги, за счет уменьшения сходимости.

1. ,                                                    (8)

т.е. вычисляют  только в первой точке, или обновляют её через некоторое число шагов.

2. Метод Левенберга – Маркварта.

Пусть матрица Гессе плохо обусловлена. Рассмотрим процесс

                                                                 (9)

где  – единичная матрица а,  выбирают из некоторого условия.

 

Поисковые методы

  1. Однопараметрические методы

,                                                                  (1)

Если функция f(x) – дифференцируемая, то приходим к задаче 

                                                                                              (2)

Если функция не дифференцируемая или сложно вычисляемая, то пользуемся точечной функцией

 , где g > 0                                        (3)

Так как задача свелась к (2), то можно воспользоваться различными алгоритмами поиска корня уравнения (2)

 

1) Метод касательных

Линейные представления функции

, где  

и

                                                  (4)

 

2) Метод деления отрезка пополам

Он делит отрезок пополам, где находится корень уравнения

Пусть концы отрезка x' и x'' где  и   

где концы отрезка следующего шага получают по следующему правилу

и , если

и , если  

В данном случае достаточно знать только знак производной

 

3) Метод хорд, метод золотого сечения

 

4) Метод стохастической аппроксимации

Используется для min функции значения, от определённой со случайной помехой. Имеет вид

                                                      (5)

где  и удовлетворяет условию Дворецкого

; ;                                          (6)

 

Например, , , где  

 

5) Адаптивный метод

Связан с адаптивным изменением длины шага  в процессе поиска. При уменьшении min функции делается шаг в том же направлении, а при её увеличении – в обратном

                                                                        (7)

 

,        

, , алгоритм сходится при

 


Понравилась статья? Добавь ее в закладку (CTRL+D) и не забудь поделиться с друзьями:  



double arrow
Сейчас читают про: