21. Свойства квадратичной функции

Рассмотрим положительно определенную квадратичную функцию

, (3.1)

Где – вектор-столбец переменных размера , – симметрическая и положительно определенная квадратная матрица размерности , – вектор-столбец размера , – скаляр,

, . (3.2)

При этом все собственные значения матрицы положительны и . Градиент функции (3.1) имеет вид:

. (3.3)

Дифференцируя это равенство, получим матрицу Гессе квадратичной функции . Из (3.3) следует, что для произвольного приращения аргумента квадратичной функции

.

Вычитая из этого равенства равенство (3.3), получим

.

Обозначая , это свойство приращения градиента квадратичной функции запишем в виде

. (3.4)

Пусть – точка минимума квадратичной функции (3.1), и по необходимому условию минимума . Тогда по свойству (3.4) получим , то есть

. (3.5)

Поскольку положительно определенная квадратичная функция является строго выпуклой, то необходимое условие минимума для нее является одновременно и достаточным, поэтому для точки минимума из (3.3) получим уравнение , откуда

.

При этом значении аргумента функция (3.1) принимает минимальное значение

,

То есть

.

Пусть поиск минимума функции (3.1) проводится по итерационной схеме метода спуска

, (3.6)

Где вычисляется путем точной одномерной минимизации функции по параметру из точки в направлении вектора . Поскольку , то при и получим , то есть . Обозначим . Условие точного одномерного поиска принимает вид условия ортогональности

. (3.7)

По формуле (3.4)

, (3.8)

С учетом формулы (3.6) , то есть

. (3.9)

Теперь условие ортогональности (3.7) дает , откуда . Поскольку в силу положительной определенности матрицы и ее свойства (3.2) , то

. (3.10)

Это и есть условие точного одномерного поиска для квадратичной функции. Формулы (3.2)–(3.10) представляют важные свойства квадратичной функции (3.1), которые используются при построении эффективных методов оптимизации.

< Предыдущая		Следующая >