книги / Методы оптимального проектирования

диентные методы поиска с постоянным шагом или с ша­ гом, пропорциональным модулю градиента. Дальнейшее повышение скорости сходимости методов оптимизации достигается за счет уточнения направления движения путем использования результатов вычисления градиента на предыдущих итерациях.

Методы сопряженных направлений. Эффективность градиентных методов поиска существенно снижается, если гиперповерхности постоянного уровня функции F вытянуты в каком-либо направлении. В некоторых слу­ чаях длина шага, вычисляемая согласно (4-17), оказы­ вается сравнимой с погрешностями счета, что приводит к зацикливанию процедуры поиска.

Для повышения эффективности поиска наряду с гра­ диентом используют также матрицу вторых производ­ ных (гессиан) Г критерия оптимальности. С помощью гессиана удается выбрать направления поиска, в боль­ шей мере соответствующие геометрии критерия опти­ мальности, чем обычные ортогональные направления. •С этой целью вводится понятие сопряженности векторов, обобщающее понятие ортогональности.

Направления s 1, s2, v sn называются сопряженными относительно симметричной й положительно определен­ ной матрицы Г, если

Хотя в определении сопряженных направлений участ­ вует гессиан Г, эти направления удается вычислить, используя только значения критерия оптимальности (и в некоторых случаях градиенты). В частности, сопря­ женными являются направления, полученные с помощью метода параллельных касательных.

Наиболее эффективным среди методов выбора со­ пряженных направлений является метод сопряженных градиентов. С его помощью удается наглядно прёдставить свойство сопряженности как ортогональность при­ ращений вектора градиентов.

Пусть xh и xk+i — два последовательных приближе­ ния к экстремуму критерия оптимальности F(x). Тогда с точностью до слагаемых второго порядка справедливо равенство