Определение функции лагранжа и множителей. Метод множителей Лагранжа

Описание метода

Обоснование

Нижеприведенное обоснование метода множителей Лагранжа не является его строгим доказательством. Оно содержит эвристические рассуждения, помогающие понять геометрический смысл метода.

Двумерный случай

Линии уровня и кривая .

Пусть требуется найти экстремум некоторой функции двух переменных при условии, задаваемом уравнением . Мы будем считать, что все функции непрерывно дифференцируемы, и данное уравнение задает гладкую кривую S на плоскости . Тогда задача сводится к нахождению экстремума функции f на кривой S . Будем также считать, что S не проходит через точки, в которых градиент f обращается в 0 .

Нарисуем на плоскости линии уровня функции f (то есть кривые ). Из геометрических соображений видно, что экстремумом функции f на кривой S могут быть только точки, в которых касательные к S и соответствующей линии уровня совпадают. Действительно, если кривая S пересекает линию уровня f в точке трансверсально (то есть под некоторым ненулевым углом), то двигаясь по кривой S из точки мы можем попасть как на линии уровня, соответствующие большему значению f , так и меньшему. Следовательно, такая точка не может быть точкой экстремума.

Тем самым, необходимым условием экстремума в нашем случае будет совпадение касательных. Чтобы записать его в аналитической форме, заметим, что оно эквивалентно параллельности градиентов функций f и ψ в данной точке, поскольку вектор градиента перпендикулярен касательной к линии уровня. Это условие выражается в следующей форме:

где λ - некоторое число, отличное от нуля, и являющееся множителем Лагранжа.

Рассмотрим теперь функцию Лагранжа , зависящую от и λ :

Необходимым условием ее экстремума является равенство нулю градиента . В соответствии с правилами дифференцирования, оно записывается в виде

Мы получили систему, первые два уравнения которой эквивалентны необходимому условию локального экстремума (1), а третье - уравнению . Из нее можно найти . При этом , поскольку в противном случае градиент функции f обращается в нуль в точке , что противоречит нашим предположениям. Следует заметить, что найденные таким образом точки могут и не являться искомыми точками условного экстремума - рассмотренное условие носит необходимый, но не достаточный характер. Нахождение условного экстремума с помощью вспомогательной функции L и составляет основу метода множителей Лагранжа, примененного здесь для простейшего случая двух переменных. Оказывается, вышеприведенные рассуждения обобщаются на случай произвольного числа переменных и уравнений, задающих условия.

На основе метода множителей Лагранжа можно доказать и некоторые достаточные условия для условного экстремума, требующие анализа вторых производных функции Лагранжа.

Применение

• Метод множителей Лагранжа применяется при решении задач нелинейного программирования, возникающих во многих областях (например, в экономике).
• Основной метод решения задачи об оптимизации качества кодирования аудио и видео данных при заданном среднем битрейте (оптимизация искажений - англ. Rate-Distortion optimization ).

См. также

Ссылки

• Зорич В. А. Математический анализ. Часть 1. - изд. 2-е, испр. и доп. - М.: ФАЗИС, 1997.

Wikimedia Foundation . 2010 .

Смотреть что такое "Множители Лагранжа" в других словарях:

Множители Лагранжа - дополнительные множители, преобразующие целевую функцию экстремальной задачи выпуклого программирования (в частности, линейного программирования) при ее решении одним из классических методов методом разрешающих множителей… … Экономико-математический словарь

множители Лагранжа - Дополнительные множители, преобразующие целевую функцию экстремальной задачи выпуклого программирования (в частности, линейного программирования) при ее решении одним из классических методов методом разрешающих множителей (методом Лагранжа).… … Справочник технического переводчика

Механики. 1) Лагранжа уравнения 1 го рода дифференциальные ур ния движения механич. системы, к рые даны в проекциях на прямоугольные координатные оси и содержат т. н. множители Лагранжа. Получены Ж. Лагранжем в 1788. Для голономной системы,… … Физическая энциклопедия

Механики обыкновенные дифференциальные уравнения 2 го порядка, описывающие движения механич. систем под действием приложенных к ним сил. Л. у. установлены Ж. Лаг ранжем в двух формах: Л. у. 1 го рода, или уравнения в декартовых координатах с… … Математическая энциклопедия

1) в гидромеханике ур ния движения жидкости (газа) в переменных Лагранжа, к рыми являются координаты ч ц среды. Получены франц. учёным Ж. Лагранжем (J. Lagrange; ок. 1780). Из Л. у. определяется закон движения ч ц среды в виде зависимостей… … Физическая энциклопедия

Метод множителей Лагранжа, метод нахождения условного экстремума функции f(x), где, относительно m ограничений, i меняется от единицы до m. Содержание 1 Описание метода … Википедия

Функция, используемая при решении задач на условный экстремум функций многих переменных и функционалов. С помощью Л. ф. записываются необходимые условия оптимальности в задачах на условный экстремум. При этом не требуется выражать одни переменные … Математическая энциклопедия

Метод решения задач на Условный экстремум; Л. м. м. заключается в сведении этих задач к задачам на безусловный экстремум вспомогательной функции т. н. функции Лагранжа. Для задачи об экстремуме функции f (х1, x2,..., xn) при… …

Переменные, с помощью к рых строится Лагранжа функция при исследовании задач на условный экстремум. Использование Л. м. и функции Лагранжа позволяет единообразным способом получать необходимые условия оптимальности в задачах на условный экстремум … Математическая энциклопедия

1) в гидромеханике уравнения движения жид кой среды, записанные в переменных Лагранжа, которыми являются координаты частиц среды. Из Л. у. определяется закон движения частиц среды в виде зависимостей координат от времени, а по ним… … Большая советская энциклопедия

Метод Множителей Лагранжа является классическим методом решения задач математического программирования (в частности выпуклого). К сожалению, при практическом применении метода могут встретиться значительные вычислительные трудности, сужающие область его использования. Мы рассматриваем здесь метод Лагранжа главным образом потому, что он является аппаратом, активно используемым для обоснования различных современных численных методов, широко применяемых на практике. Что же касается функции Лагранжа и множителей Лагранжа, то они играют самостоятельную и исключительно важную роль в теории и приложениях не только математического программирования.

Рассмотрим классическую задачу оптимизации

max (min) z=f(x) (7.20)

Эта задача выделяется из задачи (7.18), (7.19) тем, что среди ограничений (7.21) нет неравенств, нет условий неотрицательности переменных, их дискретности, и функции f(x) и непрерывны и имеют частные производные по крайней мере второго порядка.

Классический подход к решению задачи (7.20), (7.21) дает систему уравнений (необходимые условия), которым должна удовлетворять точка х*,доставляющая функции f(x)локальный экстремум на множестве точек, удовлетворяющих ограничениям (7.21) (для задачи выпуклого программирования найденная точка х*в соответствии с теоремой 7.6 будет одновременно и точкой глобального экстремума).

Предположим, что в точке х* функция (7.20) имеет локальный условный экстремум и ранг матрицы равен . Тогда необходимые условия запишутся в виде:

(7.22)

есть функция Лагранжа; - множители Лагранжа.

Существуют также и достаточные условия, при выполнении которых решение системы уравнений (7.22) определяет точку экстремума функции f(x). Этот вопрос решается на основании исследования знака второго дифференциала функции Лагранжа. Однако достаточные условия представляют главным образом теоретический интерес.

Можно указать следующий порядок решения задачи (7.20), (7.21) методом множителей Лагранжа:

1) составить функцию Лагранжа (7.23);

2) найти частные производные функции Лагранжа по всем переменным и приравнять их нулю. Тем самым будет получена система (7.22), состоящая из уравнений. Решить полученную систему (если это окажется возможным!) и найти таким образом все стационарные точки функции Лагранжа;

3) из стационарных точек, взятых без координат , выбрать точки, в которых функция f(x) имеет условные локальные экстремумы при наличии ограничений (7.21). Этот выбор осуществляется, например, с применением достаточных условий локального экстремума. Часто исследование упрощается, если использовать конкретные условия задачи.

Пример 7.3 . Найти оптимальное распределение ограниченного ресурса в a ед. между n потребителями, если прибыль, получаемая при выделении j-му потребителю x j единиц ресурса, вычисляется по формуле .

Решение. Математическая модель задачи имеет следующий вид:

Составляем функцию Лагранжа:

.

Находим частные производные функции Лагранжа и приравниваем их нулю:

Решая эту систему уравнений, получаем:

Таким образом, если j-му потребителю будет выделено ед. ресурса, то суммарная прибыль достигнет максимальной величины и составит ден. ед.

Мы рассмотрелиметод Лагранжа применительно к классической задаче оптимизации. Можно обобщить этот метод на случай, когда переменные неотрицательны и некоторые ограничения заданы в форме неравенств. Однако это обобщение имеет преимущественно теоретическое значение и не приводит к конкретным вычислительным алгоритмам.

В заключение дадим множителям Лагранжа экономическую интерпретацию. Для этого обратимся к простейшей классической задаче оптимизации

max (min) z =f (x 1 , х 2); (7.24)

𝜑(x 1 , х 2)=b. (7.25)

Предположим, что условный экстремум достигается в точке . Соответствующее экстремальное значение функции f (x )

Допустим, что в ограничениях (7.25) величина b может меняться, тогда координаты точки экстремума, а следовательно, и экстремальное значение f* функции f (x ) станут величинами, зависящими от b , т. е. ,, а поэтому производная функции (7.24)

С уть метода Лагранжа заключается в сведении задачи на условный экстремум к решению задачи безусловного экстремума. Рассмотрим модель нелинейного программирования:

(5.2)

где
– известные функции,

а
– заданные коэффициенты.

Отметим, что в данной постановке задачи ограничения заданы равенствами, отсутствует условие неотрицательности переменных. Кроме того, полагаем, что функции
непрерывны со своими первыми частными производными.

Преобразуем условия (5.2) таким образом, чтобы в левых или правых частях равенств стоял ноль :

(5.3)

Составим функцию Лагранжа. В нее входит целевая функция (5.1) и правые части ограничений (5.3), взятые соответственно с коэффициентами
. Коэффициентов Лагранжа будет столько, сколько ограничений в задаче.

Точки экстремума функции (5.4) являются точками экстремума исходной задачи и наоборот: оптимальный план задачи (5.1)-(5.2) является точкой глобального экстремума функции Лагранжа.

Действительно, пусть найдено решение
задачи (5.1)-(5.2), тогда выполняются условия (5.3). Подставим план
в функцию (5.4) и убедимся в справедливости равенства (5.5).

Таким образом, чтобы найти оптимальный план исходной задачи, необходимо исследовать на экстремум функцию Лагранжа. Функция имеет экстремальные значения в точках, где ее частные производные равны нулю . Такие точки называютсястационарными.

Определим частные производные функции (5.4)

,

.

После приравнивания нулю производных получим системуm+n уравнений сm+n неизвестными

,(5.6)

В общем случае система (5.6)-(5.7) будем иметь несколько решений, куда войдут все максимумы и минимумы функции Лагранжа. Для того чтобы выделить глобальный максимум или минимум, во всех найденных точках вычисляют значения целевой функции. Наибольшее из этих значений будет глобальным максимумом, а наименьшее – глобальным минимумом. В некоторых случаях оказывается возможным использование достаточных условий строгого экстремума непрерывных функций (см. ниже задачу 5.2):

пусть функция
непрерывна и дважды дифференцируема в некоторой окрестности своей стационарной точки(т.е.
)). Тогда:

а ) если
, (5.8)

то – точка строгого максимума функции
;

б) если
, (5.9)

то – точка строгого минимума функции
;

г ) если
,

то вопрос о наличии экстремума остается открытым.

Кроме того, некоторые решения системы (5.6)-(5.7) могут быть отрицательными. Что не согласуется с экономическим смыслом переменных. В этом случае следует проанализировать возможность замены отрицательных значений нулевыми.

Экономический смысл множителей Лагранжа. Оптимальное значение множителя
показывает на сколько изменится значение критерияZ при увеличении или уменьшении ресурсаj на одну единицу, так как

Метод Лагранжа можно применять и в том случае, когда ограничения представляют собой неравенства. Так, нахождение экстремума функции
при условиях

,

выполняют в несколько этапов:

1. Определяют стационарные точки целевой функции, для чего решают систему уравнений

.

2. Из стационарных точек отбирают те, координаты которых удовлетворяют условиям

3. Методом Лагранжа решают задачу с ограничениями-равенствами (5.1)-(5.2).

4. Исследуют на глобальный максимум точки, найденные на втором и третьем этапах: сравнивают значения целевой функции в этих точках – наибольшее значение соответствует оптимальному плану.

Задача 5.1 Решим методом Лагранжа задачу 1.3, рассмотренную в первом разделе. Оптимальное распределение водных ресурсов описывается математической моделью

.

Составим функцию Лагранжа

Найдем безусловный максимум этой функции. Для этого вычислим частные производные и приравняем их к нулю

,

Таким образом, получили систему линейных уравнений вида

Решение системы уравнений представляет собой оптимальный план распределения водных ресурсов по орошаемым участкам

, .

Величины
измеряются в сотнях тысяч кубических метров.
- величина чистого дохода на одну сотню тысяч кубических метров поливной воды. Следовательно, предельная цена 1 м 3 оросительной воды равна
ден. ед.

Максимальный дополнительный чистый доход от орошения составит

160·12,26 2 +7600·12,26-130·8,55 2 +5900·8,55-10·16,19 2 +4000·16,19=

172391,02 (ден. ед.)

Задача 5.2 Решить задачу нелинейного программирования

Ограничение представим в виде:

.

Составим функцию Лагранжа и определим ее частные производные

.

Чтобы определить стационарные точки функции Лагранжа, следует приравнять нулю ее частные производные. В результате получим систему уравнений

.

Из первого уравнения следует

. (5.10)

Выражение подставим во второе уравнение

,

откуда следует два решения для :

и
. (5.11)

Подставив эти решения в третье уравнение, получим

,
.

Значения множителя Лагранжа и неизвестной вычислим по выражениям (5.10)-(5.11):

,
,
,
.

Таким образом, получили две точки экстремума:

;
.

Для того чтобы узнать являются ли данные точки точками максимума или минимум, воспользуемся достаточными условиями строгого экстремума (5.8)-(5.9). Предварительно выражение для , полученное из ограничения математической модели, подставим в целевую функцию

,

. (5.12)

Для проверки условий строгого экстремума следует определить знак второй производной функции (5.11) в найденных нами экстремальных точках
и
.

,
;

.

Таким образом, (·)
является точкой минимума исходной задачи (
), а (·)
– точкой максимума.

Оптимальный план :

,
,
,

.

Найти полином означает определить значения его коэффициента . Для этого используя условие интерполяции можно сформировать систему линœейных алгебраических уравнений (СЛАУ).

Определитель этой СЛАУ принято называть определителœем Вандермонда. Определитель Вандермонда не равен нулю при для , то есть в том случае, когда в интерполяционной таблице нет совпадающих узлов. Τᴀᴋᴎᴍ ᴏϬᴩᴀᴈᴏᴍ, можно утверждать, что СЛАУ имеет решение и это решение единственно. Решив СЛАУ и определив неизвестные коэффициенты можно построить интерполяционный полином .

Полином, удовлетворяющий условиям интерполяции, при интерполяции методом Лагранжа строится в виде линœейной комбинации многочленов n-ой степени:

Многочлены принято называть базисными многочленами. Для того, чтобы многочлен Лагранжа удовлетворял условиям интерполяции крайне важно, чтобы для его базисных многочленов выполнялись следующие условия:

для .

В случае если эти условия выполняются, то для любого имеем:

Τᴀᴋᴎᴍ ᴏϬᴩᴀᴈᴏᴍ, выполнение заданных условий для базисных многочленов означает, что выполняются и условия интерполяции.

Определим вид базисных многочленов исходя из наложенных на них ограничений.

1-е условие: при .

2-е условие: .

Окончательно для базисного многочлена можно записать:

Тогда, подставляя полученное выражение для базисных многочленов в исходный полином, получаем окончательный вид многочлена Лагранжа:

Частная форма многочлена Лагранжа при принято называть формулой линœейной интерполяции:

.

Многочлен Лагранжа взятый при принято называть формулой квадратичной интерполяции:

Метод Лагранжа. - понятие и виды. Классификация и особенности категории "Метод Лагранжа." 2017, 2018.

Метод множителей Лагранжа (в англ. литературе «LaGrange"s method of undetermined multipliers») ˗ это численный метод решения оптимизационных задач, который позволяет определить «условный» экстремум целевой функции (минимальное или максимальное значение)

при наличии заданных ограничений на ее переменные в виде равенств (т.е. определена область допустимых значений)

˗ это значения аргумента функции (управляемые параметры) на вещественной области при котором значение функции стремится к экстремуму. Применение названия «условный» экстремум связано с тем, что на переменные наложено дополнительное условие, которое ограничивает область допустимых значений при поиске экстремума функции.

Метод множителей Лагранжа позволяет задачу поиска условного экстремума целевой функции на множестве допустимых значений преобразовать к задаче безусловной оптимизации функции.

В случае если функции и непрерывны вместе со своими частными производными, то существуют такие переменные λ не равные одновременно нулю, при которых выполняется следующее условие:

Таким образом, в соответствии с методом множителей Лагранжа для поиска экстремума целевой функции на множестве допустимых значений составляю функцию Лагранжа L(х, λ), которую в дальнейшем оптимизируют:

где λ ˗ вектор дополнительных переменных, называемых неопределенными множителями Лагранжа.

Таким образом, задача нахождения условного экстремума функции f(x) свелась к задаче поиска безусловного экстремума функции L(x, λ).

и

Необходимое условие экстремума функции Лагранжа задается системой уравнений (система состоит из «n + m» уравнений):

Решение данной системы уравнений позволяет определить аргументы функции (Х), при которых значение функции L(x, λ), а также значение целевой функции f(x) соответствуют экстремуму.

Величина множителей Лагранжа (λ) имеет практический интерес в случае, если ограничения представлены в форме со свободным членом уравнения (константой). В этом случае можно рассматривать дальнейшее (увеличение/уменьшение) значения целевой функции за счет изменения значения константы в системе уравнения . Таким образом, множитель Лагранжа характеризует скорость изменения максимума целевой функции при изменении ограничивающей константы.

Существует несколько способов определения характера экстремума полученной функции:

Первый способ: Пусть – координаты точки экстремума, а - соответствующее значение целевой функции. Берется точка , близкая к точке , и вычисляется значение целевой функции :

Если , то в точке имеет место максимум.

Если , то в точке имеет место минимум.

Второй способ: Достаточным условием, из которого можно выяснить характер экстремума, является знак второго дифференциала функции Лагранжа. Второй дифференциал функции Лагранжа определяется следующим образом:

Если в заданной точке минимум , если же , то целевая функция f(x) имеет в данной точке условный максимум.

Третий способ: Также характер экстремума функции можно выяснить рассмотрев гессиан функции Лагранжа. Матрица Гессе представляет собой симметричную квадратную матрицу вторых частных производных функции в точке , в которой элементы матрицы симметричны относительно главной диагонали.

Для определения типа экстремума (максимум или минимум функции) можно воспользоваться правилом Сильвестра:

1. Для того, чтобы второй дифференциал функции Лагранжа был знакоположителен необходимо, чтобы угловые миноры функции были положительными . При таких условиях функция в этой точке имеет минимум.

2. Для того, чтобы второй дифференциал функции Лагранжа был знакоотрицателен , необходимо, чтобы угловые миноры функции чередовались, причем первый элемент матрицы должен быть отрицательнsv . При таких условиях функция в этой точке имеет максимум.

Под угловым минором понимаем минор, расположенный в первых k строках и k столбцах исходной матрицы.

Основное практическое значение метода Лагранжа заключается в том, что он позволяет перейти от условной оптимизации к безусловной и, соответственно, расширить арсенал доступных методов решения задачи. Однако задача решения системы уравнений, к которой сводится данный метод, в общем случае не проще исходной задачи поиска экстремума. Такие методы называются непрямыми. Их применение объясняется необходимостью получить решение экстремальной задачи в аналитической форме (допустим, для тех или иных теоретических выкладок). При решении конкретных практических задач обычно используются прямые методы, основанные на итеративных процессах вычисления и сравнения значений оптимизируемых функций.

Методика расчета

1 шаг : Определяем функцию Лагранжа из заданной целевой функции и системы ограничений:

Вперёд

Для того, чтобы добавить Ваш комментарий к статье, пожалуйста, зарегистрируйтесь на сайте.