01. Введение в учебное пособие
Методы оптимизации широко применяются в технике, физике, экономике и других областях. По теории оптимизации опубликовано достаточно много монографий и учебников с высоким математическим уровнем изложения материала. В то же время учебных пособий по методам оптимизации, рассчитанных на подготовку специалистов по техническим специальностям, явно недостаточно.
Предлагаемое учебное пособие учитывает специфику математической подготовки студентов высших технических учебных заведений. В основу пособия положен курс лекций по дисциплине «Методы оптимизации», который читается автором на протяжении ряда лет на факультете информатики и управления НТУ «ХПИ» для студентов специальностей «Информатика», «Социальная информатика», «Системный анализ и управление» и рассчитан на два семестра. Раздел «Методы безусловной минимизации» изучается в первом семестре. В предлагаемом втором модуле дисциплины «Методы оптимизации», состоящем из пяти разделов, рассмотрены теория и методы многомерной безусловной оптимизации.
В первом разделе рассматриваются вопросы, связанные с основными положениями теории многомерной безусловной оптимизации, и базовые методы. Даются определения минимума, максимума и экстремума функции многих переменных, формулируются и доказываются необходимые и достаточные условия экстремума. Описывается метод циклического покоординатного спуска. Рассматриваются общие формулы и свойства методов спуска. Обосновывается метод наискорейшего спуска, основанный на применении градиента целевой функции.
Второй раздел посвящен методам второго порядка для безусловной минимизации функции многих переменных, которые основаны на формуле Ньютона с использованием матрицы вторых частных производных функции – матрицы Гессе. Обосновываются метод Ньютона, метод Ньютона с одномерным поиском, метод Ньютона с заданием направления спуска, метод Марквардта и его модификация.
В третьем разделе рассматриваются методы сопряженных направлений. Приводятся свойства квадратичной функции, вводится понятие сопряженных векторов, изучаются их свойства. Формулируется и доказывается теорема методов сопряжённых направлений. Обосновывается метод Пауэлла, основанный на формировании сопряжённых направлений. Формулируется и доказывается теорема методов сопряжённых градиентов, даются общие свойства этих методов. Обосновываются методы Флетчера – Ривса и Полака – Рибьера, анализируются их достоинства и недостатки.
Четвертый раздел посвящен квазиньютоновским методам первого порядка, основанным на формуле Ньютона и на аппроксимации матрицы Гессе или обратной к ней матрицы. Приводятся теоретические основы квазиньютоновских методов. Обосновываются методы Бройдена, Девидона – Флетчера – Пауэлла, Бройдена – Флетчера –Гольдфарба – Шанно и модифицированный метод Бройдена – Флетчера – Гольдфарба – Шанно. Не существует единственного самого эффективного метода для безусловной минимизации функции многих переменных. Дается сравнение скорости асимптотической сходимости методов многомерной безусловной минимизации и даны рекомендации выбора метода.
Для всех рассмотренных методов приведены алгоритмы и примеры, которые позволяют облегчить понимание методов и ускорить выполнение лабораторных работ. Даны задания для лабораторных работ.
Изучение теории и практики методов многомерной безусловной минимизации требует знания многих понятий и формул высшей математики. В пятом разделе обобщается основной справочный материал, необходимый для изучения методов многомерной оптимизации.
Особенностью пособия является последовательное изложение основных идей и методов многомерной безусловной минимизации.
Для усвоения материала достаточно владения стандартными курсами математического анализа и линейной алгебры.
| Следующая > |
|---|
