Метод сопряженных направлений относится к методам нулевого порядка и ориентирован прежде всего на минимизацию квадратических функций, так как использует специфические свойства последних.
Напомним, что квадратические функции могут быть представлены
в виде
f (x) = (1/2)(Hx, x) + (b, x) + c, (2.2.1)
где H – квадратная n ´ n матрица; b Î En, x Î En – n -мерные векторы;
c – число. (Полезно отметить, что матрица H в (2.2.1) является матрицей Гессе для функции f(x)).
Предполагается положительная определенность матрицы Н. Для квадратической функции f (x) методом сопряженных направлений гарантированно находится решение задачи (2.1.1) за конечное число шагов. Однако с алгоритмической точки зрения этот метод реализуется как итерационный. Кроме того, он может быть использован с некоторыми модификациями и для минимизации неквадратических функций.
Введем понятие H -сопряженных векторов.