Какие из указанных методов являются градиентными. Градиентный метод
Рассмотрим задачу безусловной минимизации дифференцируемой функции многих переменных Пусть приближение к точке минимума значение градиента в точке Выше уже отмечалось, что в малой окрестности точки направление наискорейшего убывания функции задается антиградиентом Это свойство существенно используется в ряде методов минимизации. В рассматриваемом Ниже градиентном методе за направление спуска из точки непосредственно выбирается Таким образом, согласно градиентному методу
Существуют различные способы выбора шага каждый из которых задает определенный вариант градиентного метода.
1. Метод наискорейшего спуска.
Рассмотрим функцию одной скалярной переменной и выберем в качестве то значение, для которого выполняется равенство
Этот метод, предложенный в 1845 г. О. Коши, принято теперь называть методом наискорейшего спуска.
На рис. 10.5 изображена геометрическая иллюстрация этого метода для минимизации функции двух переменных. Из начальной точки перпендикулярно линии уровня в направлении спуск продолжают до тех пор, пока не будет достигнуто минимальное вдоль луча значение функции . В найденной точке этот луч касается линии уровня Затем из точки проводят спуск в перпендикулярном линии уровня направлении до тех пор, пока соответствующий луч не коснется в точке проходящей через эту точку линии уровня, и т. д.
Отметим, что на каждой итерации выбор шага предполагает решение задачи одномерной минимизации (10.23). Иногда эту операцию удается выполнить аналитически, например для квадратичной функции.
Применим метод наискорейшего спуска для минимизации квадратичной функции
с симметричной положительно определенной матрицей А.
Согласно формуле (10.8), в этом случае Поэтому формула (10.22) выглядит здесь так:
Заметим, что
Эта функция является квадратичной функцией параметра а и достигает минимума при таком значении для которого
Таким образом, применительно к минимизации квадратичной
функции (10.24) метод наискорейшего спуска эквивалентен расчету по формуле (10.25), где
Замечание 1. Поскольку точка минимума функции (10.24) совпадает с решением системы метод наискорейшего спуска (10.25), (10.26) может применяться и как итерационный метод решения систем линейных алгебраических уравнений с симметричными положительно определенными матрицами.
Замечание 2. Отметим, что где отношение Рэлея (см. § 8.1).
Пример 10.1. Применим метод наискорейшего спуска для минимизации квадратичной функции
Заметим, что Поэтому точное значение точки минимума нам заранее известно. Запишем данную функцию в виде (10.24), где матрица и вектор Как нетрудно видеть,
Возьмем начальное приближение и будем вести вычисления по формулам (10.25), (10.26).
I итерация.
II итерация.
Можно показать, что для всех на итерации будут получены значения
Заметим, что при Таким образом,
последовательность полученная методом наискорейшего спуска, сходится со скоростью геометрической прогрессии, знаменатель которой
На рис. 10.5 изображена именно та траектория спуска, которая была получена в данном примере.
Для случая минимизации квадратичной функции справедлив следующий общий результат .
Теорема 10.1. Пусть А - симметричная положительно определенная матрица и минимизируется квадратичная функция (10.24). Тогда при любом выборе начальною приближения метод наискорейшею спуска (10.25), (10.26) сходится и верна следующая оценка погрешности:
Здесь и Ладо - минимальное и максимальное собственные значения матрицы А.
Отметим, что этот метод сходится со скоростью геометрической прогрессии, знаменатель которой причем если их близки, то мало и метод сходится достаточно быстро. Например, в примере 10.1 имеем и поэтому Если же Ащах, то и 1 и следует ожидать медленной сходимости метода наискорейшего спуска.
Пример 10.2. Применение метода наискорейшего спуска для минимизации квадратичной функции при начальном приближении дает последовательность приближений где Траектория спуска изображена на рис. 10.6.
Последовательность сходится здесь со скоростью геометрической прогрессии, знаменатель которой равен т. е. существенно медленнее,
чем в предыдущем примерю. Так как здесь и полученный результат вполне согласуется с оценкой (10.27).
Замечание 1. Мы сформулировали теорему о сходимости метода наискорейшего спуска в случае, когда целевая функция является квадратичной. В общем случае, если минимизируемая функция строго выпуклая и имеет точку минимума х, то также независимо от выбора начального приближения полученная указанным методом последовательность сходится к х при . При этом после попадания в достаточно малую окрестность точки минимума сходимость становится линейной и знаменатель соответствующей геометрической прогрессии оценивается сверху величиной и где и минимальное и максимальное собственные числа матрицы Гессе
Замечание 2. Для квадратичной целевой функции (10.24) решение задачи одномерной минимизации (10.23) удается найти в виде простой явной формулы (10.26). Однако для большинства других нелинейных функций этого сделать нельзя и для вычисления методом наискорейшего спуска приходится применять численные методы одномерной минимизации типа тех, которые были рассмотрены в предыдущей главе.
2. Проблема "оврагов".
Из проведенного выше обсуждения следует, что градиентный метод сходится достаточно быстро, если для минимизируемой функции поверхности уровня близки к сферам (при линии уровня близки к окружностям). Для таких функций и 1. Теорема 10.1, замечание 1, а также результат примера 10.2 указывают на то, что скорость сходимости резко падает при увеличении величины Действительно, известно, что градиентный метод сходится очень медленно, если поверхности уровня минимизируемой функции сильно вытянуты в некоторых направлениях. В двумерном случае рельеф соответствующей поверхности напоминает рельеф местности с оврагом (рис. 10.7). Поэтому такие функции принято называть овражными. Вдоль направлений, характеризующих "дно оврага", овражная функция меняется незначительно, а в других направлениях, характеризующих "склон оврага", происходит резкое изменение функции.
Если начальная точка попадает на "склон оврага", то направление градиентного спуска оказывается почти перпендикулярным "дну оврага" и очередное приближение попадает на противоположный "склон оврага". Следующий шаг в направлении ко "дну оврага" возвращает приближение на первоначальный "склон оврага". В результате вместо того чтобы двигаться вдоль "дна оврага" в направлении к точке минимума, траектория спуска совершает зигзагообразные скачки поперек "оврага", почти не приближаясь к цели (рис. 10.7).
Для ускорения сходимости градиентного метода при минимизации овражных функций разработан ряд специальных "овражных" методов. Дадим представление об одном из простейших приемов. Из двух близких начальных точек совершают градиентный спуск на "дно оврага". Через найденные точки проводят прямую, вдоль которой совершают большой "овражный" шаг (рис. 10.8). Из найденной таким образом точки снова делают один шаг градиентного спуска в точку Затем совершают второй "овражный" шаг вдоль прямой, проходящей через точки . В результате движение вдоль "дна оврага" к точке минимума существенно ускоряется.
Более подробную информацию о проблеме "оврагов" и "овражных" методах можно найти, например, в , .
3. Другие подходы к определению шага спуска.
Как нетрудно понять, на каждой итерации было бы желательно выбирать направление спуска близкое к тому направлению, перемещение вдоль которого приводит из точки в точку х. К сожалению, антиградиент (является, как правило, неудачным направлением спуска. Особенно ярко это проявляется для овражных функций. Поэтому возникает сомнение в целесообразности тщательного поиска решения задачи одномерной минимизации (10.23) и появляется желание сделать в направлении лишь такой шаг, который бы обеспечил "существенное убывание" функции Более того, на практике иногда довольствуются определением значения которое просто обеспечивает уменьшение значения целевой функции.
Метод релаксации
Алгоритм метода заключается в отыскании осевого направления, вдоль которого целевая функция уменьшается наиболее сильно (при поиске минимума). Рассмотрим задачу безусловной оптимизации
Для определения осевого направления в начальной точке поиска из области определяются производные , , по всем независимым переменным. Осевому направлению соответствует наибольшая по модулю производная .
Пусть – осевое направление, т.е. 
.
Если знак производной отрицательный, функция убывает в направлении оси, если положительный – в обратном направлении:
В точке вычисляют . По направлению убывания функции производится один шаг, определяется и в случае улучшения критерия шаги продолжаются до тех пор, пока не будет найдено минимальное значение по выбранному направлению. В этой точке вновь определяются производные по всем переменным, за исключением тех, по которой осуществляется спуск. Снова находится осевое направление наиболее быстрого убывания , по которому производятся дальнейшие шаги и т.д.
Эту процедуру повторяют до тех пор, пока не достигается оптимальная точка, при движении из которой по любому осевому направлению дальнейшего убывания не происходит. На практике критерием окончания поиска служит условие
которое при превращается в точное условие равенства нулю производных в точке экстремума. Естественно условие (3.7) может быть использовано только в том случае, если оптимум лежит внутри допустимой области изменения независимых переменных . Если же оптимум попадает на границу области , критерий типа (3.7) непригоден и вместо него следует применять положительности всех производных по допустимым осевым направлениям.
Алгоритм спуска для выбранного осевого направления может быть записан так
(3.8)
где -значение варьируемой переменной на каждом шаге спуска;
Величина k+1 шага, которая может изменяться в зависимости от номера шага:
– функция знака z;
Вектор точки, в которой последний раз производилось вычисление производных ;
Знак “+” в алгоритме (3.8) принимается при поиске max I, а знак “-” – при поиске min I.Чем меньше шаг h., тем больше количество вычислений на пути движения к оптимуму. Но при слишком большой величине h вблизи оптимума может возникнуть зацикливание процесса поиска. Вблизи оптимума необходимо, чтобы выполнялось условие h Простейший алгоритм изменения шага h состоит в следующем. В начале спуска задается шаг , равный например, 10% от диапазона d; изменения с этим шагом производится спуск по выбранному направлению до тез пор, пока выполняется условие для двух последующих вычислений При нарушении условия на каком-либо шаге направление спуска на оси изменяется на обратное и спуск продолжается из последней точки с уменьшенной вдвое величиной шага. Формальная запись этого алгоритма следующая: В результате использования такой стратегии ша спуска будет уменьшатся в районе оптимума по данному направлению и поиск по направлению можно прекратить, когда станет меньше E. Затем отыскивается новое осевое направление начальный шаг для дальнейшего спуска, обычно меньший пройденного вдоль предыдущего осевого направления. Характер движения в оптимуме в данном методе показан на рисунке 3.4. Рисунок 3.5 – Траектория движения к оптимуму в методе релаксации Улучшение алгоритма поиска по данному методу может быть достигнуто путем применения методов однопараметрической оптимизации. При этом может быть предложена схема решения задачи: Шаг 1. – осевое направление, Шаг 2. – новое осевое направление; Метод градиента
В этом методе используется градиент функции . Градиентом функции в точке Рисунок 3.6 – Градиент функции Направление градиента – это направление наиболее быстрого возрастания функции (наиболее крутого “склона” поверхности отклика). Противоположное ему направление (направление антиградиента) – это направление наибыстрейшего убывания (направление наискорейшего “спуска” величин ). Проекция градиента на плоскость переменных перпендикулярна касательной к линии уровня , т.е. градиент ортогонален к линиям постоянного уровня целевой функции (рис. 3.6). Рисунок 3.7 – Траектория движения к оптимуму в методе градиента В отличие от метода релаксации в методе градиента шаги совершаются в направлении наибыстрейшего уменьшения (увеличения) функции . Поиск оптимума производится в два этапа. На первом этапе находятся значения частных производных по всем переменным , которые определяют направление градиента в рассматриваемой точке. На втором этапе осуществляется шаг в направлении градиента при поиске максимума или в противоположном направлении – при поиске минимума. Если аналитическое выражение неизвестно, то направление градиента определяется поиском на объекте пробных движений. Пусть начальная точка. Дается приращение величина , при этом . Определяют приращение и производную Аналогично определяют производные по остальным переменным. После нахождения составляющих градиента пробные движения прекращаются и начинаются рабочие шаги по выбранному направлению. Причем величина шага тем больше, чем больше абсолютная величина вектора . При выполнении шага одновременно изменяются значения всех независимых переменных. Каждая из них получает приращение, пропорциональное соответствующей составляющей градиента или в векторной форме где – положительная константа; “+” – при поиске max I; “-” – при поиске min I. Алгоритм градиентного поиска при нормировании градиента (деление на модуль) применяется в виде Определяет величину шага по направлению градиента. Алгоритм (3.10) обладает тем достоинством, что при приближении к оптимуму длина шага автоматически уменьшается. А при алгоритме (3.12) стратегию изменения можно строить независимо от абсолютной величины коэффициента. В методе градиента каждый разделяется один рабочий шаг, после которого вновь вычисляются производные, определяется новое направление градиента и процесс поиска продолжается (рис. 3.5). Если размер шага выбран слишком малым, то движение к оптимуму будет слишком долгим из-за необходимости вычисления в очень многих точках. Если же шаг выбран слишком большим, в район оптимума может возникнуть зацикливание. Процесс поиска продолжается до тех пор, пока , , не станут близки к нулю или пока не будет достигнута граница области задания переменных. В алгоритме с автоматическим уточнением шага величину уточняют так, чтобы изменение направления градиента в соседних точках и
Критерии окончания поиска оптимума: где Поиск завершается при выполнении одного из условий (3.14) – (3.17). Недостатком градиентного поиска (так же и рассмотренных выше методов) является то, что при его использовании можно обнаружить только локальный экстремум функции . Для отыскания других локальных экстремумов необходимо производить поиск из других начальных точек. Градиентные методы поиска оптимума
целевой функции основаны на использовании
двух основных свойств градиента функции. 1. Градиент функции
– это вектор, который в каждой точке
области определения функции Проекции градиента
К градиентным методам относятся: метод
релаксации, градиента, наискорейшего
спуска и ряд других . Рассмотрим некоторые из градиентных
методов. В этом методе спуск производится в
направлении наибыстрейшего изменения
целевой функции, что, естественно,
ускоряет процесс поиска оптимума. Поиск оптимума производится в два этапа.
На первом этапе находятся значения
частных производных по всем независимым
переменным, которые определяют направление
градиента в рассматриваемой точке. На
втором этапе осуществляется шаг в
направлении, обратном направлению
градиента (при поиске минимума целевой
функции). При выполнении шага одновременно
изменяются значения всех независимых
переменных. Каждая из них получает
приращение пропорциональное соответствующей
составляющей градиента по данной оси. Формульная запись алгоритма может иметь
вид: В этом случае величина шага
Другая формульная запись алгоритма
имеет вид: В этом алгоритме используется
нормализованный вектор градиента,
указывающий лишь направление наискорейшего
изменения целевой функции, но не указывает
скорости изменения по этому направлению. В стратегии изменения шага
где
Характер поиска оптимума в методе
градиента показан на рис. 2.1. Момент окончания поиска можно найти
проверкой на каждом шаге соотношения где
Рис. 2.1. Характер движения к оптимуму в
методе градиента с большой величиной
шага Недостатком градиентного метода является
то, что при его использовании можно
обнаружить только локальный минимум
целевой функции. Для того, чтобы найти
у функции другие локальные минимумы,
необходимо производить поиск из других
начальных точек. Другим недостатком этого метода является
значительный объем вычислений, т.к. на
каждом шаге определяются значения всех
частных производных оптимизируемой
функции по всем независимым переменным. При применении метода градиента на
каждом шаге нужно определять значения
частных производных оптимизируемой
функции по всем независимым переменным.
Если число независимых переменных
значительно, тогда объем вычислений
существенно возрастает и время поиска
оптимума увеличивается. Сокращения объема вычислений можно
добиться используя метод наискорейшего
спуска. Сущность метода заключается в следующем.
После того как в начальной точке будет
найден градиент оптимизируемой функции
и тем самым определено направление ее
наибыстрейшего убывания в указанной
точке, в данном направлении делается
шаг спуска (рис. 2.2). Если значение функции в результате
этого шага уменьшилось, производится
очередной шаг в том же направлении, и
так до тех пор, пока в этом направлении
не будет найден минимум, после чего
вычисляется градиент и определяется
новое направление наибыстрейшего
убывания целевой функции. Рис. 2.2. Характер движения к оптимуму в
методе наискорейшего спуска (–) и
методе градиента (∙∙∙∙) В сравнении с методом градиента метод
наискорейшего спуска оказывается более
выгодным из-за сокращения объема
вычислений. Важной особенностью метода наискорейшего
спуска является то, что при его применении
каждое новое направлении движения к
оптимуму ортогонально предшествующему.
Это объясняется тем, что движение в
одном направлении производится до тех
пор, пока направление движения не
окажется касательным к какой-либо линии
постоянного уровня. В качестве критерия окончания поиска
может использоваться то же условие, что
и в рассмотренном выше методе. Кроме того, можно также принять условие
окончания поиска в форме соотношения где
Совместное применение условий окончания
поиска оправдано в тех случаях, когда
оптимизируемая функция имеет резко
выраженный минимум. Рис. 2.3. К определению окончания поиска
в методе наискорейшего спуска В качестве стратегии изменения шага
спуска можно использовать методы
изложенные выше (2.7). Градиентный метод и его разновидности относятся к самым распространенным методам поиска экстремума функций нескольких переменных. Идея градиентного метода заключается в том, чтобы в процессе поиска экстремума (для определенности максимума) двигаться каждый раз в направлении наибольшего возрастания целевой функции. Градиентный метод предполагает вычисление первых производных целевой функции по ее аргументам. Он, как и предыдущие, относится к приближенным методам и позволяет, как правило, не достигнуть точки оптимума, а только приблизиться к ней за конечное число шагов. Рис. 4.11.
Рис. 4.12.
(двумерный случай) Вначале выбирают начальную точку Если в одномерном случае (см. подпараграф 4.2.6) из нее можно было сдвинуться только влево или вправо (см. рис. 4.9), то в многомерном случае число возможных направлений перемещения бесконечно велико. На рис. 4.11, иллюстрирующем случай двух переменных, стрелками, выходящими из начальной точки А,
показаны различные возможные направления. При этом движение по некоторым из них дает увеличение значения целевой функции по отношению к точке А
(например, направления 1-3),
а по другим направлениям приводит к его уменьшению (направления 5-8).
Учитывая, что положение точки оптимума неизвестно, считается наилучшим то направление, в котором целевая функция возрастает быстрее всего. Это направление называется градиентом
функции. Отметим, что в каждой точке координатной плоскости направление градиента перпендикулярно касательной к линии уровня, проведенной через ту же точку. В математическом анализе доказано, что составляющие вектора градиента функции у
=/(*, х 2 ,
..., х п)
являются ее частными производными по аргументам, т.е. &ад/(х 1 ,х
2 ,.= {ду/дху,ду/дх 2 , ...,ду/дх п }.
(4.20) Таким образом, при поиске максимума по методу градиента на первой итерации вычисляют составляющие градиента по формулам (4.20) для начальной точки и делают рабочий шаг в найденном направлении, т.е. осуществляется переход в новую точку -0) У" с координатами: 1§гас1/(х (0)), или в векторной форме где X -
постоянный или переменный параметр, определяющий длину рабочего шага, ?і>0. На второй итерации снова вычисляют вектор градиента уже для новой точки.У, после чего по анало- гичной формуле переходят в точку х^ >
и т.д. (рис. 4.12). Для произвольной к-
й итерации имеем Если отыскивается не максимум, а минимум целевой функции, то на каждой итерации делается шаг в направлении, противоположном направлению градиента. Оно называется направлением антиградиента. Вместо формулы (4.22) в этом случае будет Существует много разновидностей метода градиента, различающихся выбором рабочего шага. Можно, например, переходить в каждую последующую точку при постоянной величине X,
и тогда длина рабочего шага - расстояние между соседними точками х^ их 1 " - окажется пропорциональном модулю вектора градиента. Можно, наоборот, на каждой итерации выбирать X
таким, чтобы длина рабочего шага оставалась постоянной. Пример.
Требуется найти максимум функции у = 110-2(лг, -4) 2 -3(* 2 -5) 2 . Разумеется, воспользовавшись необходимым условием экстремума, сразу получим искомое решение: х ] -
4; х 2
= 5. Однако на этом простом примере удобно продемонстрировать алгоритм градиентного метода. Вычислим градиент целевой функции: grad у = {ду/дх-,ду/дх 2 } =
{4(4 - *,); 6(5 - х 2)} и выбираем начальную точку Л*» = {х}°> = 0; 4°> = О}. Значение целевой функции для этой точки, как легко подсчитать, равно у[х^
j = 3. Положим, X
= const = 0,1. Величина градиента в точке Зс (0) равна grad y|x^j = {16; 30}. Тогда на первой итерации получим согласно формулам (4.21) координаты точки х 1)
= 0 + 0,1 16 = 1,6; х^ = 0 + 0,1 30 = 3. у(х (1)) = 110 - 2(1,6 - 4) 2 - 3(3 - 5) 2 = 86,48. Как видно, оно существенно больше предыдущего значения. На второй итерации имеем по формулам (4.22):
(3.9)
; , если ;
называется вектор, проекциями которого на координатные оси являются частные производные функции по координатам (рис. 6.5)
.
, (3.10)
, (3.11)
; (3.12)
(3.13)
; (3.16)
; (3.17)
– норма вектора.
направлен по нормали к поверхности
уровня, проведенной через эту точку.
на оси координат равны частным производным
функции
по соответствующим переменным, т.е.
. (2.4)Метод градиента
,
. (2.5)
при постоянном значении параметраhизменяется автоматически с изменением
величины градиента и при приближении
к оптимуму уменьшается.
,
. (2.6)
в этом случае используется то, что
градиенты
и
отличаются по направлению. Изменение
шага поиска производится в соответствии
с правилом:
(2.7)
– угол поворота градиента наk-ом
шаге, определяемый выражением
,
, 
– допустимые пределы угла поворота
градиента.
,
– заданная погрешность расчета.
Метод наискорейшего спуска
,
и
– координаты начальной и конечной
точек последнего отрезка спуска. Этот
же критерий может использоваться в
сочетании с контролем значений целевой
функции в точках
и
.
