30. Квазиньютоновские методы

Не существует единственного самого эффективного метода для безусловной минимизации функции многих переменных. В этом разделе рассматриваются квазиньютоновские методы первого порядка, основанные на формуле Ньютона и на аппроксимации матрицы Гессе или обратной к ней матрицы с использованием значений градиента. Приводятся теоретические основы квазиньютоновских методов, вводится понятие поправки, уточняющей аппроксимацию и вычисляемой по градиентам. Обосновывается метод Бройдена с поправкой ранга один, анализируются его свойства. Вводится поправка ранга два, конструируется метод Девидона – Флетчера – Пауэлла с аппроксимацией обратной матрицы Гессе, рассматриваются его свойства, перечисляются преимущества и недостатки. Обосновывается метод Бройдена – Флетчера – Гольдфарба – Шанно с аппроксимацией матрицы Гессе, приводящей к необходимости решения системы уравнений, и отмечается его малая чувствительность к точности одномерного поиска. Модифицируется метод Бройдена – Флетчера – Гольдфарба – Шанно путем перехода к аппроксимации обратной матрицы Гессе. Приводятся алгоритмы для всех рассмотренных методов. Рассматривается скорость сходимости методов многомерной безусловной минимизации и проводится сравнение методов. Дается описание лабораторной работы по изучению квазиньютоновских методов оптимизации.

< Предыдущая		Следующая >