Проекційно-ітераційна реалізація метода умовного градієнта мінімізації функціонала в гільбертовому просторі

A projection-iteration method based on one variant of the conditional gradient method for solving constrained minimization problem in Hilbert space is investigated. Method makes possible to substitute the initial extreme problem with some sequence of ancillary approximate extreme problems given in H...

Ausführliche Beschreibung

Gespeichert in:
Bibliographische Detailangaben
Datum:2013
1. Verfasser: Hart, L. L.
Format: Artikel
Sprache:Ukrainisch
Veröffentlicht: The National Technical University of Ukraine "Igor Sikorsky Kyiv Polytechnic Institute" 2013
Online Zugang:https://journal.iasa.kpi.ua/article/view/44151
Tags: Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
Назва журналу:System research and information technologies
Завантажити файл: Pdf

Institution

System research and information technologies
_version_ 1867334241118846976
author Hart, L. L.
author_facet Hart, L. L.
author_institution_txt_mv [ { "author": "L. L. Hart", "institution": null } ]
author_sort Hart, L. L.
baseUrl_str http://journal.iasa.kpi.ua/oai
collection OJS
datestamp_date 2018-03-30T15:16:01Z
description A projection-iteration method based on one variant of the conditional gradient method for solving constrained minimization problem in Hilbert space is investigated. Method makes possible to substitute the initial extreme problem with some sequence of ancillary approximate extreme problems given in Hilbert spaces which are isomorphic to subspaces of initial space. Then only several successive approximations for each of the approximate problems are found by means of the conditional gradient method, and the last of them for determining the initial approximation in iterative process for the next approximate problem is used. Theorems of feasibility and convergence of the projection-iteration method are proved, estimates of error and convergence degree are obtained.
first_indexed 2025-07-17T10:18:57Z
format Article
fulltext © Л.Л. Гарт, 2013 104 ISSN 1681–6048 System Research & Information Technologies, 2013, № 3 УДК 519.8 ПРОЕКЦИОННО-ИТЕРАЦИОННАЯ РЕАЛИЗАЦИЯ МЕТОДА УСЛОВНОГО ГРАДИЕНТА МИНИМИЗАЦИИ ФУНКЦИОНАЛА В ГИЛЬБЕРТОВОМ ПРОСТРАНСТВЕ Л.Л. ГАРТ Рассмотрен проекционно-итерационный метод, основанный на одном варианте метода условного градиента, для решения задачи минимиза- ции с ограничениями в гильбертовом пространстве. Метод позволяет заменить исходную экстремальную задачу некоторой последователь- ностью вспомогательных аппроксимирующих ее экстремальных задач, заданных в гильбертовых пространствах, изоморфных подпространст- вам исходного пространства, и для каждой из «приближенных» задач находить с помощью метода условного градиента лишь несколько приближений, последнее из которых использовать для определения начального приближения в итерационном процессе для следующей «приближенной» задачи. Доказаны теоремы об осуществимости и схо- димости проекционно-итерационного метода. Получены оценки ско- рости сходимости и погрешности. ВВЕДЕНИЕ В последнее время весьма актуальными стали вопросы наилучшего (в том или ином смысле) управления различными процессами физики, техники, экономики, описываемыми системами обыкновенных дифференциальных уравнений, уравнениями с частными производными, интегро-дифферен- циальными уравнениями, задачи наилучшего приближения функций и мно- гие другие. Все вышеупомянутые задачи можно трактовать как экстремаль- ные задачи в подходящим образом выбранных функциональных простран- ствах и для их исследования использовать аппарат и методы функционального анализа. Такая трактовка позволяет выявить общие закономерности, прису- щие широким классам экстремальных задач, создавать и исследовать общие методы их решения. Для решения экстремальных задач часто применяют методы аппрокси- мационного (проекционного) типа, позволяющие заменить исходную задачу некоторой последовательностью вспомогательных аппроксимирующих ее экстремальных задач. Вопросам аппроксимации различных классов экстре- мальных задач посвящены работы многих авторов. Исследования проекцион- ных, а также проекционно-итерационных методов решения экстремальных задач с ограничениями в гильбертовых и рефлексивных банаховых простран- ствах, проводились, в частности, С.Д. Балашовой [1], в работах которой бы- ли предложены общие условия аппроксимации и сходимости последо- вательностей точных и приближенных решений аппроксимирующих экстремальных задач, рассматриваемых как в подпространствах исходного пространства, так и в некоторых пространствах, изоморфных им. Проекционно-итерационная реализация метода условного градиента минимизации … Системні дослідження та інформаційні технології, 2013, № 3 105 Несмотря на широкую область применения, проекционные методы имеют свои недостатки. Хотя аппроксимирующие экстремальные задачи и проще исходной, тем не менее получение их точных решений практически затруднительно. Сложным является также вопрос о выборе такой задачи из всей последовательности «приближенных» экстремальных задач, который обеспечивал бы получение решения исходной задачи с заданной степенью точности. Если же решение некоторой «приближенной» задачи не удовлет- воряет поставленным требованиям, то приходится решать следующую «приближенную» задачу, никак не используя при этом результат, получен- ный на предыдущем шаге. Проекционно-итерационный подход к приближенному решению экст- ремальной задачи естественно устраняет трудности, возникающие при ре- шении этой задачи обычным проекционным методом, так как основан на возможности применения итерационных методов к решению аппроксими- рующих ее задач. При этом для каждой из «приближенных» экстремальных задач находится с помощью выбранного итерационного метода лишь не- сколько приближений и на основании последнего из них строится начальное приближение для следующей «приближенной» задачи. Данная работа посвящена исследованию вопроса о сходимости и оцен- ке скорости сходимости одного проекционно-итерационного метода реше- ния задачи минимизации функционала на множестве гильбертова простран- ства, основанного на методе условного градиента для минимизации аппроксимирующих функционалов в некоторых пространствах, изоморф- ных подпространствам исходного пространства. ПОСТАНОВКА ЗАДАЧИ Пусть на некотором выпуклом замкнутом ограниченном множестве Ω ве- щественного гильбертова пространства H задан ограниченный снизу функционал :)(uF ∞−>= Ω∈ *)( inf FuF u . (1) Для приближенного решения задачи минимизации )(uF на :Ω inf, )( →uF H⊂Ω∈u (2) рассмотрим последовательность более простых, аппроксимирующих )(uF функционалов ),~(~ nn uF заданных соответственно на некоторых множествах nΩ ~ вещественных гильбертовых пространств nH~ , ...,2 ,1=n . Будем счи- тать, что пространства nH~ изоморфны подпространствам nH исходного пространства H ( HHHH n ⊂⊂⊂⊂⊂ ......21 ) и nΦ — линейный огра- ниченный оператор, ставящий во взаимно однозначное соответствие каждо- му элементу nn Hu ∈ элемент nn Hu ~~ ∈ , причем Cn ≤Φ , ,...2 ,1=n , (3) ;0const >=C 1−Φn — оператор, осуществляющий обратное отображение nH~ на .nH Л.Л. Гарт ISSN 1681–6048 System Research & Information Technologies, 2013, № 3 106 Предположим, что множества ,} ,~ :~~ {~ nn nnnnnnn HuuuHu ∩Ω=Ω∈Φ=∈=Ω ...,2 ,1=n , Θ≠Ω1 ~ выпуклые и замкнутые в nH~ , при этом ограниченность каждого из них в nH~ вытекает из ограниченности в H множества .Ω В самом деле, из су- ществования 0const >=M такого, что Mu H ≤ для всех Ω∈u , ограни- ченности линейного оператора nΦ и условия (3) получаем для любого nnu Ω∈ ~~ : , ~ ~~ MCuuu HnnHnnHn nn ⋅≤Φ≤Φ= т.е. nΩ ~ — ограниченное множество в nH~ , ...,2 ,1=n . Будем предполагать в дальнейшем, что функционалы ),~(~ nn uF ...,2 ,1=n для любых nnu Ω∈ ~~ связаны с исходным функционалом )(uF ус- ловием близости nnnnn uFuF β~)~()~(~ 1 ≤Φ− − , (4) где 0const~ >=nβ , 0~ →nβ при .∞→n Для каждого из функционалов ),~(~ nn uF ...,2 ,1=n будем рассматривать задачу минимизации на соответствующем множестве nΩ ~ : nnnn HuF ~~u~ inf, )~(~ n ⊂Ω∈→ , ...,2 ,1=n . (5) Заметим при этом, что в силу условия близости (4) и (1) )~(~~)~(~* 1 nnnnnn uFuFF ≤−Φ≤− − ββ , ...,2 ,1=n . (6) для любых nnu Ω∈ ~~ , т.е. функционалы )~(~ nn uF ограничены снизу на nΩ ~ : ∞−>= Ω∈ * nnn~~ ~)u~(~inf FF nnu , ...,2 ,1=n . Исследования проекционных методов решения задачи (2), основанных на указанной аппроксимации )(uF последовательностью функционалов )~(~ nn uF , ...,2 ,1=n и последующем точном решении задач минимизации (5), проводились в работах [1−3]. В них при определенных условиях установле- на сходимость последовательности ∞ =1 *}~{ nnF к *F при ∞→n и доказано, что в случае )~(~~ ** nnn uFF = , где nnu Ω∈ ~~* , последовательность ∞ = −Φ 1 *1 n }~{ nnu выступает в роли минимизирующей для функционала ),(uF а также в роли последовательности приближений к точке *u минимума )(uF на ,Ω если такая точка существует. В работах [1−4] рассмотрены также некоторые проек- ционно-итерационные методы решения задачи минимизации (2), основанные на применении итерационных методов к решению задач минимизации (5). При этом для каждого из функционалов ),~(~ nn uF ...,2 ,1=n с помощью выбранно- го итерационного метода находится лишь несколько приближений n k nu Ω∈ ~~ )( , nkk ,...,2 ,1= ( nk — целое положительное число) и на основании Проекционно-итерационная реализация метода условного градиента минимизации … Системні дослідження та інформаційні технології, 2013, № 3 107 последнего из них строится начальное приближение для минимизации сле- дующего функционала .)~(~ 11 ++ nn uF В качестве минимизирующей последова- тельности для исходного функционала )(uF на множестве ,H⊂Ω а также в качестве последовательности приближений к точке Ω∈*u (если она су- ществует) принимается последовательность ∞ = −Φ 1 )(1 n }~{ n k n nu . Цель работы — исследование сходимости проекционно-итерационного метода решения задачи (2), использующего для минимизации аппроксими- рующих функционалов )~(~ nn uF на ,~ nΩ ...,2 ,1=n один из вариантов метода условного градиента, описанный в [5]. МЕТОД РЕШЕНИЯ Предположим, что функционалы )(uF и ),~(~ nn uF ...,2 ,1=n непрерывно дифференцируемы в смысле Фреше на множествах H⊂Ω и nn H~~ ⊂Ω , ...,2 ,1=n соответственно. В качестве начального приближения в проекцион- но-итерационном процессе возьмем некоторый элемент 1 )0( 1 ~~ Ω∈u . Сле- дуя [6], если уже известно приближение n k nu Ω∈ ~~ )( ( ,1 ,...,1 ,0 −= nkk ...,2 ,1=n ), берем главную линейную часть )~~ ),~(~()~(~ )()()( k nn k nnn k n uuuFuF −′≡ , nnu Ω∈ ~~ приращения ⎟ ⎠ ⎞ ⎜ ⎝ ⎛ −+−′=− nH k nn k nn k nn k nnnn uuouuuFuFuF ~ )()()()( ~~)~~ ,)~(~()~(~)~(~ , и определяем вспомогательное приближение n k nu Ω∈ ~)( из условия .)~~ ),~(~(min)~(~min)(~ )()( ~~ )( ~~ )()( k nn k nn u n k n u k n k n uuuFuFuF nnnn −′== Ω∈Ω∈ (7) Так как множество nΩ ~ замкнуто, ограничено и выпукло в гильбертовом пространстве nH~ , а линейный (и тем более, выпуклый) функционал )~(~ )( n k n uF непрерывен, то на основании теоремы 6.1.4 из [6] такой элемент n k nu Ω∈ ~)( существует. При этом, очевидно, 0)~(~)~(~min)(~ )()()( ~~ )()( =≤= Ω∈ k n k nn k n u k n k n uFuFuF nn . (8) Если окажется, что 0)(~ )()( =k n k n uF при некотором nkk < , то с учетом (7) для всех nnu Ω∈ ~~ будем иметь ,0)~~ ),~(~( )()( ≥−′ k nn k nn uuuF откуда следует, что элемент )(~ k nu удовлетворяет необходимому условию минимума функционала )~(~ nn uF на множестве nΩ ~ [6]. В этом случае итерации для функционала )~(~ nn uF на nΩ ~ прекращаются и для выяснения того, будет ли )(~ k nu точкой минимума )~(~ nn uF на nΩ ~ , а элемент )(1~ k nn u−Φ — точкой минимума функцио- нала )(uF на множестве ,Ω нужны дополнительные исследования поведе- Л.Л. Гарт ISSN 1681–6048 System Research & Information Technologies, 2013, № 3 108 ния этих функционалов в окрестности указанных точек. В частности, если функционал )~(~ nn uF выпуклый на nΩ ~ и ,0)(~ )()( =k n k n uF то )(~ k nu в самом де- ле будет точкой минимума )~(~ nn uF на nΩ ~ . Если же элемент )(1~ k nn u−Φ точкой минимума функционала )(uF на Ω не является, то следует положить )(1 n1 )0( 1 ~~ k nnn uu − ++ ΦΦ= (понятно, что 1 )0( 1 ~~ ++ Ω∈ nnu ) и продолжить итерации уже для следующего функционала )~(~ 11 ++ nn uF на множестве 1 ~ +Ωn . В дальней- шем будем предполагать, что .0)(~ )()( <k n k n uF Тогда заведомо ,~ )()( k n k n uu ≠ и в качестве следующего приближения можно принять )~(~~~ )()()()()1( k n k n k n k n k n uuuu −+=+ α , ,1 ,...,1 ,0 −= nkk (9) )(1 n1 )0( 1 ~~ nk nnn uu − ++ ΦΦ= , ...,2 ,1=n , (10) где )(~ k nα может быть выбрано одним из следующих способов [6]: а) )~(~min)~(~ )( 1~ 0 )()( n k n k n k n gg n αα α ≤≤ = , ;)~(~~(~)~(~ )()()()( k n k nn k nnn k n uuuFg −+≡ αα б) )(~~ ~)~(~)~(~ )()((k) n )1()( k n k nn k nn k nn uFuFuF αε≥− + , 1~0 )( ≤≤ k nα , (11) где nε ~ — заданный параметр алгоритма, 1~~0 <≤< nεε ; в) если выполняется условие nn HnnHnnnn vuLvFuF ~~ ~~ )~(~)~(~ −≤′−′ , ...,2 ,1=n (12) при всех nnn vu Ω∈ ~~ ,~ , 0const >=L , то )(~ k nα можно определить так: )()()( ~~~ k n k n k n ηγα = , (13) где ⎪⎭ ⎪ ⎬ ⎫ ⎪⎩ ⎪ ⎨ ⎧ − = 2~)()( )()( )( ||~|| |)(~| 1; min~ nH k n k n k n k nk n uu uF η ; L nk nn )~1(2~~ )( ε γδ − ≤≤ , (14) nε ~ и nδ ~ — заданные параметры алгоритма, L n n )~1(2~~0 ε δδ − ≤≤< , .1~~0 <≤< nεε В силу выпуклости множества nΩ ~ , очевидно, n k nu Ω∈+ ~~ )1( для всех .1 ,...,1 ,0 −= nkk Исследование сходимости одного из вариантов проекционно- итерационного метода решения задачи (2), определяемого формулами (7), (9), (10), с выбором величины )(~ k nα согласно п. а) проводилось в работе [4]. Здесь рассмотрим вопрос о сходимости и оценке скорости сходимости еще одного варианта проекционно-итерационного метода (7), (9), (10) с выбором )(~ k nα согласно пп. б), в) [5]. Теорема 1. Пусть Ω — выпуклое замкнутое ограниченное множество в гильбертовом пространстве ,H а nΩ ~ — выпуклые замкнутые множества Проекционно-итерационная реализация метода условного градиента минимизации … Системні дослідження та інформаційні технології, 2013, № 3 109 в гильбертовых пространствах nH~ , ...,2 ,1=n соответственно. Пусть ),()( 1 Ω∈CuF ),~()~(~ 1 nnn CuF Ω∈ ...,2 ,1=n и для каждого из указанных номеров n градиент )~(~ nn uF ′ на множестве nΩ ~ удовлетворяет условию Лип- шица (12). Пусть выполнены условия (1) и (4), причем ∞<∑ ∞ =1 ~ n nβ . Тогда последовательность ∞ =1 )( }~{ n k n nu , удовлетворяющая условиям (7), (9)–(11), существует и для всех 1 ,...,1 ,0 −= nkk 0)~ ),~(~()(~ )()()()()( →−′= k n k n k nn k n k n uuuFuF ( ∞→n ) при любом выборе 1 )0( 1 ~~ Ω∈u . Доказательство. Покажем осуществимость проекционно-итерацион- ного процесса (7), (9)–(11). Обозначим через H vu vuD −= Ω∈ sup , диаметр множества ,H⊂Ω а через n nnn Hnn vu n vuD ~ ~~,~ ~~ sup~ −= Ω∈ — диаметр множества nn H~~ ⊂Ω . Поскольку множе- ства Ω и nΩ ~ ограничены, то ∞<D , ∞<nD~ и, кроме того, с учетом (3) имеем: ≤Φ−Φ=−= Ω∈Ω∈ n nnn n nnn Hnnnn vu Hnn vu n vuvuD ~ , ~ ~~,~ sup~~ sup~ DCvu Hnn vu n nnn ⋅≤−⋅Φ≤ Ω∈ sup , , ...,2 ,1=n . (15) Пусть начальное приближение 1 )0( 1 ~~ Ω∈u в проекционно-итерационном процессе (7), (9)–(11) выбрано произвольно. Предположим, что при некото- ром значении n ( ...,2 ,1=n ) уже известно приближение nnu Ω∈ ~~ )0( . Анало- гично тому, как это сделано в [6] для минимизации функции многих пере- менных, можно показать для функционала )~(~ nn uF на множестве nn H~~ ⊂Ω гильбертова пространства возможность построения последовательности приближений ∞ =0 )( }~{ k k nu , удовлетворяющей условиям (7), (9) для ...,1 ,0=k и (11), при которой 0)~ ),~(~()(~ )()()()()( →−′= k n k n k nn k n k n uuuFuF ( ∞→k ). Сначала покажем, что при выполнимости условий теоремы величину )(~ k nα из (11) можно искать в виде (13), (14). Заметим из (14), что для любого ...,1 ,0=k возможно, или 2 ~ )()( )()( )( ~ |)(~| 1~ nH k n k n k n k nk n uu uF − ≤=η , или ≤22 )()( |)(~| DC uF k n k n 1 ~ |)(~|~ ~ |)(~| 2 ~ )()( )()( )( 2 )()( < − =≤≤ nH k n k n k n k nk n n k n k n uu uF D uF η с учетом (15). В обоих случаях имеем Л.Л. Гарт ISSN 1681–6048 System Research & Information Technologies, 2013, № 3 110 ,1 |)(~| ~ ~0 )()( 2 ~ )()( )( ≤ − < k n k n H k n k n k n uF uu nη 1~|)(~| 1; min )( 22 )()( ≤≤ ⎪⎭ ⎪ ⎬ ⎫ ⎪⎩ ⎪ ⎨ ⎧ k n k n k n DC uF η ( ...,1 ,0=k ). (16) На основании леммы 2.1.1 из [6] с учетом (8), (13), (14), (16) получим ≥− + )~(~)~(~ )1()( k nn k nn uFuF =−−−′−≥ 2 ~ )()( 2(k) n)()()((k) n ~ 2 ~ )~ ),~(~(~ nH k n k n k n k n k nn uuLuuuF α α ×=−−′= |)(~|~~ 2 ~ |)(~|~ )()((k) n 2 ~ )()( 2(k) n)()((k) n k n k nH k n k n k n k n uFuu L uF n α α α ≥⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎝ ⎛ −≥ ⎟ ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎜ ⎝ ⎛ − −× 2 ~ 1 )(~~ )(~ ~ ~ 2 ~ 1 (k) n)()((k) n)()( 2 ~ )()( )( (k) n γαηγ LuF uF uuL k n k nk n k n H k n k n k n n |)(~| )(~ 1;min ~~|)(~|~~ )()( 22 )()( )()((k) n k n k n k n k n nn k n k nn uF DC uF uF ⎪⎭ ⎪ ⎬ ⎫ ⎪⎩ ⎪ ⎨ ⎧ ≥≥ δεαε , ...,1 ,0=k . (17) Отсюда для всех ...,1 ,0=k будем иметь [ ])~(~)~(~ ~~ 1|)(~| |)(~| ;1 min0 )1()()()( 22 )()( +−≤ ⎪⎭ ⎪ ⎬ ⎫ ⎪⎩ ⎪ ⎨ ⎧ ≤ k nn k nn nn k n k n k n k n uFuFuF DC uF δε . Так как последовательность ∞ =0 )( )}~(~{ k k nn uF не возрастает и в силу (6) огра- ничена снизу на n ~Ω , то она сходится и 0)~(~)~(~ )1()( →− +k nn k nn uFuF при .∞→k Поэтому из последнего соотношения получаем, что предел )(~lim )()( k n k n k uF ∞→ существует и равен нулю при каждом фиксированном зна- чении n ( ...,2 ,1=n ). Покажем теперь, что предел )(~lim )()( k n k nn uF ∞→ также существует и равен нулю для всех интересующих нас в методе (7), (9)–(11) значений 1 ,...,1 ,0 −= nkk . С этой целью установим сходимость последовательности ∞ =1 )( )}~(~{ n k nn nuF при ∞→n . Запишем для произвольного 1>n +−=− ∑ − = + −− − 1 0 )()1()( 11 )( ))~(~)~(~()~(~)~(~ 1 n nn k k k nn k nn k nn k nn uFuFuFuF .)~(~)~(~ )( 11 )0( 1− −−−+ nk nnnn uFuF С учетом неравенства (17) получим ∑ − = −− + ⎪⎭ ⎪ ⎬ ⎫ ⎪⎩ ⎪ ⎨ ⎧ −≤− − 1 0 )()( 22 )()( )( 11 )( n 1 |)(~| |)(~| 1;min ~~)~(~)~(~ k k k n k n k n k n nn k nn k nn uF DC uF uFuF nn δε Проекционно-итерационная реализация метода условного градиента минимизации … Системні дослідження та інформаційні технології, 2013, № 3 111 )~(~)~(~ )( 11 )0( 1− −−−+ nk nnnn uFuF , 1>n . В силу условия близости (4) и формулы (10) будем иметь −Φ+Φ−=− −− −− − )~()~()~(~)~(~)~(~ )0(1)0(1)0()( 11 )0( 1 nnnnnn k nnnn uFuFuFuFuF n ≤−Φ+Φ− −−− −−− − −− − − )~(~)~()~( )( 11 )( 1 1 1 )( 1 1 1 111 nnn k nn k nn k nn uFuFuF 1 )( 1 1 1 )0(1 1 ~~)~()~(~~ 1 −− − − − − +=Φ−Φ++≤ − nn k nnnnnn nuFuF ββββ , 1>n , поэтому ≤− − −− )~(~)~(~ )( 11 )( 1nn k nn k nn uFuF 1 1k 0k )()( 22 )()( ~~ |)(~| |)(~| ;1min ~~ n − − = ++ ⎪⎭ ⎪ ⎬ ⎫ ⎪⎩ ⎪ ⎨ ⎧ −≤ ∑ nn k n k n k n k n nn uF DC uF ββδε (18) для всех .1>n Отсюда, в частности, следует, что 1 )( 11 )( ~~)~(~)~(~ 1 −−− ++≤ − nn k nn k nn nn uFuF ββ , .1>n (19) Далее, поскольку 0~ →nβ при ∞→n , то из оценки (6) замечаем, что последовательность ∞ =1 )( )}~(~{ n k nn nuF ограничена снизу: ,)~(~~* )( 1 nk nn uFF ≤−β ...,2 ,1=n . Это в совокупности с условием теоремы ∞<∑ ∞ =1 ~ n nβ означает, что числовая последовательность ∞ =1}{ nnb , ∑ − = + +−= 1 1 1 )( ),~~( )~(~ n i ii k nnn nuFb ββ ко- торая в силу (19) монотонно убывает, также ограничена снизу, а значит, имеет конечный предел. Но тогда имеет предел и последовательность ∞ =1 )( )}~(~{ n k nn nuF . Воспользуемся этим фактом, условиями ,0~~ >≥ εε n 0~~ >≥ δδ n ( ...,2 ,1=n ) и получим из (18) для всех 1n > следующее соотношение: ≤ ⎪⎭ ⎪ ⎬ ⎫ ⎪⎩ ⎪ ⎨ ⎧ ≤ ∑ − = 1k 0k )()( 22 )()( n |)(~| )(~ 1;min 0 k n k n k n k n uF DC uF ]~~)~(~)~(~[~ ~ 1 1 )()( 1 1 1 −− ++−≤ − − nn k nn k n nn n uFuF ββ δε . Так как ,0)~(~)~(~ )()( 1 1 1 →−− − − nn n k nn k n uFuF 0~ →nβ при ∞→n , то, переходя в последнем неравенстве к пределу при ∞→n , будем иметь: 0)(~lim )()( = ∞→ k n k nn uF для всех значений 1 ,...,1 ,0 −= nkk , что и требовалось доказать. Теорема доказана. Л.Л. Гарт ISSN 1681–6048 System Research & Information Technologies, 2013, № 3 112 Теорема 2. Пусть сохраняют силу все условия теоремы 1. Пусть, кроме того, функционалы )(uF и )~(~ nn uF , ,...2 ,1=n выпуклы на H⊂Ω и nn H~~ ⊂Ω соответственно и выполнено условие (A): для каждого Ω∈*u ( **)( FuF = ) существует последовательность { }∞=1 ~ nnu , nnu Ω∈ ~~ , такая, что *~ lim 1 n uunn =Φ− →∞ . Пусть 1 )0( 1 ~~ Ω∈u выбрано произвольно и последовательность ∞ =1 )( }~{ n k n nu определена согласно условиям (7), (9)–(11). Тогда для всех nkk ...,2, ,1= существует *)~(~ lim )( FuF k nnn = ∞→ , последовательность ∞ = −Φ 1 )(1 }~{ n k nn nu является минимизирующей для )(uF и любая ее слабая предельная точка есть точка минимума )(uF на Ω , причем в случае единственности точки минимума к ней слабо сходится вся последовательность ∞ = −Φ 1 )(1 }~{ n k nn nu . Если к тому же, начиная с некоторого 1≥≥ Nn nn n DCk δε ~~ 22 < , (20) то справедлива оценка n )(1 *)~( σ≤−Φ− FuF nk nn , Nn > , (21) где n 2 1i 1 n ~2 ~ 4 ββσ ++= ∏∑∏ =+= − += n ij j n Ni n Nj j qqM , 22 nnn n DC4 ~~k 1q δε −= , n ~ε , n ~δ — заданные числа, 1~~0 <≤< nεε , L n n )~1(2~~0 ε δδ − ≤≤< , 0>M — постоянная, не зависящая от n , D — диаметр множества Ω . Доказательство. Выпуклые непрерывные функционалы )(uF и )~(~ nn uF на замкнутых ограниченных выпуклых множествах H⊂Ω и nn H~~ ⊂Ω , ...,2 ,1=n гильбертовых пространств соответственно достигают на них своей нижней грани [6]: *),(*)( inf uFFuF u == Ω∈ ,)~(~~)~(~inf ** ~~ nnnnn u uFFuF nn == Ω∈ ...,2 ,1=n , причем из непрерывности )(uF на ,Ω условий (А) и (4) вытекает [2], что .)~(~ lim ** FuF nn n = ∞→ Так же, как в работе [6], для выпуклого функционала )~()~(~ 1 nnn CuF Ω∈ на выпуклом множестве nΩ ~ , ...,2 ,1=n с помощью условия (7) можно полу- чить =−′≤−≤−≤ + )~~ ),~(~()~(~)~(~)~(~)~(~0 *)()(*)(*)1( n k n k nnnn k nnnn k nn uuuFuFuFuFuF Проекционно-итерационная реализация метода условного градиента минимизации … Системні дослідження та інформаційні технології, 2013, № 3 113 )(~)~(~ )()(*)( k n k nn k n uFuF −≤−= , 1 ,...,1 ,0 −= nkk . На основании этого соотношения и оценки (6) будем иметь ≤−+−≤− |)~(~||)~(~)~(~||)~(~| *)(*)(*)( FuFuFuFFuF k nnnn k nn k nn n k n k n uF β~)(~ )1()1( +−≤ −− (22) для всех nkk ,...,2 ,1= , ...,2 ,1=n . Поскольку 0~ →nβ при ∞→n и в силу теоремы 1 0)(~ )1()1( →−− k n k n uF при ∞→n для всех nkk ,...,2 ,1= , то, перехо- дя к пределу в неравенстве (22), получаем *)~(~ lim )( FuF k nnn = ∞→ , . ,...,2 ,1 nkk = Далее, из соотношения *)~(~)~(~)~(*)~( )()()(1)(1 FuFuFuFFuF nnnn k nn k nn k nn k nn −+−Φ=−Φ −− , ...,2 ,1=n (23) с учетом условия близости (4) и неравенства (22) можно получить n k n k n k nn nnn uFFuF β~2)(~*)~(0 )1()1()(1 +−≤−Φ≤ −−− , ...,2 ,1=n , (24) откуда при ∞→n вытекает предельное соотношение ,*)~( lim )(1 FuF nk nnn =Φ− ∞→ т.е. ∞ = −Φ 1 )(1 }~{ n k nn nu — минимизирующая последовательность для функциона- ла )(uF . В силу теоремы 6.1.2 из [6] выпуклое замкнутое ограниченное множе- ство Ω в гильбертовом пространстве H слабо компактно, поэтому сущест- вует хотя бы одна подпоследовательность ∞ = −Φ 1 )(1 }~{ i k nn in i u последовательно- сти Ω∈Φ ∞ = − 1 )(1 }~{ n k nn nu , которая слабо сходится к некоторому элементу .* Ω∈v Поскольку выпуклый непрерывный функционал )(uF на выпуклом множестве H⊂Ω слабо полунепрерывен снизу [6], то ,*)()~( lim)~( lim *)(1)(1* FvFuFuFF in i n k nn i k nnn ≥≥Φ=Φ= − ∞→ − ∞→ т.е. .**)( FvF = Если )(uF достигает своего минимума в единственной точке Ω∈*u , то вся последовательность ∞ = −Φ 1 )(1 }~{ n k nn nu слабо сходится к .*u Докажем оценку (21). С помощью неравенств (18) и (4) можно получить +−Φ=Φ−Φ − − − − − − )~(~)~()~()~( )()(1)( 1 1 1 )(1 1 nnnn k nn k nn k nn k nn uFuFuFuF ≤Φ−+−+ −−− − − −−−−− )~()~(~)~(~)~(~ )( 1 1 1 )( 11 )( 11 )( 111 nnnn k nn k nn k nn k nn uFuFuFuF 1 1k 0k )()( 22 )()( ~2~2|)(~| |)(~| 1;min ~~ n − − = ++ ⎪⎭ ⎪ ⎬ ⎫ ⎪⎩ ⎪ ⎨ ⎧ −≤ ∑ nn k n k n k n k n nn uF DC uF ββδε , 1>n . Л.Л. Гарт ISSN 1681–6048 System Research & Information Technologies, 2013, № 3 114 В силу теоремы 1 0)(~ )()( →k n k n uF при ∞→n для любых =k 1 ,...,1 ,0 −= nk , поэтому найдется число 10 ≥N такое, что при всех 0Nn > 22 )()( 22 )()( |)(~||)(~| 1;min DC uF DC uF k n k n k n k n = ⎪⎭ ⎪ ⎬ ⎫ ⎪⎩ ⎪ ⎨ ⎧ , 1 ,...,1 ,0 −= nkk и для указанных 0Nn > будем иметь 1 1k 0k 2)()( 22 )( 1 1 1 )(1 ~2~2|)(~| ~~ )~()~( n 1 − − = − − − − ++−≤Φ−Φ ∑− nn k n k n nnk nn k nn uF DC uFuF nn ββ δε . Введем для краткости обозначение *)~( )(1 FuFa nk nnn −Φ= − и перепишем последнее неравенство в виде 1 1 0 2)()( 221 ~2~2|)(~| ~~ − − = − ++−≤− ∑ nn k k k n k n nn nn n uF DC aa ββ δε , 0Nn > . Так как 0)(~ )()( →k n k n uF с ростом k при каждом фиксированном 0Nn > , то при условии |)(~||)(~| )1()1()()( −−≥ nn k n k n k n k n uFuF , 1 ,...,1 ,0 −= nkk по- лучим 1 2)1()1( 221 ~2~2|)(~| ~~ − −− − ++−≤− nn k n k nn nn nn nn uFk DC aa ββ δε , 0Nn > . Согласно оценке (24) nn k n k n auF nn β~2|)(~| )1()1( −≥−− , поэтому 1 2 n221 ~2~2)~2(k ~~ −− −−−≥− nnnn nn nn a DC aa βββ δε , 0Nn > , (25) или 0)~2()~2()~2(k ~~ 11 2 n22 ≤+−−+− −− nnnnnn nn aaa DC βββ δε , 0Nn > . Решение этого неравенства относительно na с учетом того, что ,0≥na дает nn nn n DCa β δε ~2)1(~~k 2 0 n 22 +Δ+−≤≤ , 0Nn > , (26) где ).~2( ~~ 41 1122 −− ++=Δ nn nnn n a DC k β δε Применим формулу бинома Ньютона для оценки снизу величины nΔ . Обозначим )~2( ~~k 4 1122 n −− += nn nn n a DC z β δε , так что 2 1 )1( nn z+=Δ , 0Nn > . Поскольку 0→na , 0~ →nβ при ∞→n , то найдется число 0NN ≥ такое, что при всех Nn > будут выполнены одновременно условие (21) и неравенство 4 1 ~20 11 ≤+≤ −− nna β . (27) Проекционно-итерационная реализация метода условного градиента минимизации … Системні дослідження та інформаційні технології, 2013, № 3 115 Тогда для указанных номеров n будет 1|| ≤nz , что гарантирует сходимость ряда m n m r n z m mrrrz ! 1)1)...(( )1( 0 ∑ ∞ = +−− =+ , Nn > при любом значении .r Легко видеть, что при 2 1=r в силу неотрицатель- ности nz сумма каждых двух соседних членов этого ряда 0 1)!( )1)...(( ! 1)1)...(( 1 ≥ + −− + +−− +m n m n z m mrrrz m mrrr , .12 += lm Поэтому, удерживая три первых члена ряда, будем иметь n 2 8 1 2 11 Δ≤−+ nn zz , и неравенство (26) при Nn > заведомо будет выпол- ненным, если nnn nnn nnn a DC k aa ββ δε β ~2)~2( ~~~2 0 2 112211 ++−+≤≤ −−−− , .Nn > (28) Далее, для всех Nn > из формулы (27), очевидно, следует ,)~2()~2( 4 1 2 1111 −−−− +−≤+− nnnn aa ββ так что выполнимость неравенства n1n1n22 nnn n ~2)~2a( DC4 ~~k 1 a0 ββ δε ++⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎝ ⎛ −≤≤ −− , Nn > (29) автоматически влечет выполнимость (28), а значит, и (25) при всех .Nn > Принимая в формуле (29) обозначение 224 ~~ 1 DC k q nnn n δε −= , получаем ≤+++≤++≤ −−−−−− nnnnnnnnnnnn qaqqaqa βββββ ~2~4)~2(~2)~2( 122111 n 2 1i 1 ~2 ~ 4 )~2( ... βββ +++≤≤ ∏∑∏ =+= − += n ij j n Ni n Nj jNN qqa , Nn > . Наконец, пользуясь теоремой 2.6.2 из [6], условием (4) и оценкой (6), находим +−+−Φ=+ − *)()()(1 ~)~(~)~(~)~(~2 N k NN k NN k NNNN FuFuFuFa NNNβ ,~4 ~4~)~(~~2*~ *)(* M k BFuFFF N N NN k NNNN N =+≤+−≤+−+ βββ где )~(~inf~ ~~ NN u * N uFF NN Ω∈ = , ⎪⎭ ⎪ ⎬ ⎫ ⎪⎩ ⎪ ⎨ ⎧ −= *)0( 22 ~)~(~ ;~~ max NNN NN FuFDCB δε . Таким образом, справедливость оценки (21) установлена. Остается заметить, что в силу (20) 1 4 ~~ 10 22 <−=< DC k q nnn n δε при всех Nn > так, что 0→nσ при .∞→n Теорема доказана. Л.Л. Гарт ISSN 1681–6048 System Research & Information Technologies, 2013, № 3 116 Замечание. В условиях теоремы 2 может быть получена оценка, харак- теризующая скорость сходимости последовательности ∞ =1 )( )}~(~{ n k nn nuF к .*F А именно, из соотношения (23) с учетом условия близости (4) и оценки (21) следует nn k nn FuF n βσ ~|)~(~| *)( +≤− , .Nn > Теорема 3. Пусть выполнены все условия теоремы 1 и условие (А). Пусть, кроме того, )(uF — сильно выпуклый функционал на ,H⊂Ω а функционалы )~(~ nn uF выпуклы на nn H~~ ⊂Ω , ...,2 ,1=n соответственно. Тогда последовательность ∞ = −Φ 1 )(1 }~{ n k nn nu , где )(~ nk nu определяются согласно условиям (7), (9)–(11), сходится к единственной точке *u минимума )(uF на Ω по норме пространства H при любом выборе 1 )0( 1 ~~ Ω∈u . Если к тому же, начиная с некоторого номера ,1≥≥ Nn выполняется условие (20), то справедлива оценка nH k nn uu n σ χ 2*~ 2)(1 ≤−Φ− , ,Nn > (30) где 0>nσ определяется формулой (21), .0const >=χ Доказательство. Из сильной выпуклости непрерывного функционала )(uF следует его выпуклость и ограниченность снизу на замкнутом выпук- лом множестве H⊂Ω [6], так что выполняются все условия теоремы 2. Кроме того, )u(F достигает минимума на Ω в единственной точке *u и при этом справедливо неравенство )*)()~(F( 2*~ )(12)(1 uFuuu nn k nnH k nn −Φ≤−Φ −− χ , ...,2 ,1=n , где 0>χ — константа сильной выпуклости )(uF [6]. Отсюда в силу теоре- мы 2 вытекает сходимость ∞ = −Φ 1 )(1 }~{ n k nn nu к *u по норме пространства .H Оценка (30) является следствием последнего неравенства и оценки (21). Теорема доказана. ВЫВОДЫ В данной работе проведено исследование проекционно-итерационного ме- тода решения задачи минимизации с ограничениями (2) в гильбертовом пространстве H , основанного на одном варианте метода условного гра- диента. При достаточно общих условиях аппроксимации задачи (2) рас- смотрены вопросы осуществимости и сходимости проекционно- итерационного процесса приближений, возникающего в результате проек- тирования в гильбертовы пространства, изоморфные подпространствам ис- ходного пространства. В работе сформулированы и доказаны три теоремы, в которых установ- лены условия существования проекционно-итерационной последовательно- Проекционно-итерационная реализация метода условного градиента минимизации … Системні дослідження та інформаційні технології, 2013, № 3 117 сти приближений ∞ =1 )( }~{ n k n nu , определяемой формулами (7), (9)–(11), усло- вия, при которых соответствующая последовательность элементов ∞ = −Φ 1 )(1 }~{ n k nn nu является в H минимизирующей для исходного функционала )(uF , а также условия слабой и сильной сходимости по норме пространства H этой последовательности к точке *u минимума )(uF на множестве .H⊂Ω Получены теоретические оценки скорости сходимости и погрешности проекционно-итерационного метода решения задачи минимизации функ- ционала )(uF на множестве H⊂Ω , основанного на методе условного гра- диента с выбором итерационного параметра согласно формулам (11), (12). Сформулированные и доказанные в работе теоремы могут быть ис- пользованы при исследовании практической сходимости и вычислительной эффективности рассмотренного варианта проекционно-итерационного ме- тода применительно к различным экстремальным задачам с ограничениями, а также при численном анализе и приближенном решении практически важ- ных задач оптимизации сложных систем [7, 8]. ЛИТЕРАТУРА 1. Балашова С.Д. О решении задач минимизации проекционно-итерационными методами // Математические модели и вычислительные методы в прикладных задачах. — Д.: Изд-во ДГУ, 1996. — С. 99–104. 2. Балашова С.Д., Тавадзе Э.Л. О сходимости проекционно-итерационного метода решения экстремальной задачи с ограничениями // Математические модели и вычислительные методы в прикладных задачах. — Д.: Изд-во ДГУ, 1996. — С. 128–134. 3. Тавадзе Л.Л. Применение проекционно-итерационного метода к решению задачи об оптимальном нагреве стержня. — Днепропетровск, 1997. — 16 c. — Деп. в ГHТБ Украины 27.10.97, № 534−Ук 97. 4. Тавадзе Э.Л., Тавадзе Л.Л. Проекционно-итерационный метод решения задачи минимизации с ограничениями, основанный на методе условного градиента // Математическое моделирование. — Днепродзержинск: Изд-во ДГТУ, 1998. — № 3. — C. 128–134. 5. Данилин Ю.М. Методы минимизации, основанные на аппроксимации исходного функционала выпуклым // ЖВМ и МФ. — 1970. — 10, № 5. — С. 1067–1080. 6. Васильев Ф.П. Лекции по методам решения экстремальных задач. — М.: Изд- во Моск. ун-та, 1974. — 374 c. 7. Гарт Л.Л., Гарт Э.Л. Проекционно-итерационный метод решения одной задачи оптимального управления теплофизической системой // Вiсник Днiпропетровського унiверситету. — Д.: Изд-во ДГУ, 2000. — Т. 1. Вип. 3. — С. 112–118. 8. Гарт Л.Л., Поляков Н.В. Применение проекционно-итерационного метода к решению задач оптимального управления колебательными процессами // Питання прикладної математики i математичного моделювання. — Д.: Вид-во ДНУ, 2010. — С. 71–80. Поступила 19.03.2012
id journaliasakpiua-article-44151
institution System research and information technologies
keywords_txt_mv keywords
language Ukrainian
last_indexed 2025-07-17T10:18:57Z
publishDate 2013
publisher The National Technical University of Ukraine &quot;Igor Sikorsky Kyiv Polytechnic Institute&quot;
record_format ojs
resource_txt_mv journaliasakpiua/f9/b701761839a5ee05a9996eb2a682a3f9.pdf
spelling journaliasakpiua-article-441512018-03-30T15:16:01Z Projection-iterative realization of the method of conditional gradient of functional minimizing in Hilbert space Проекционно-итерационная реализация метода условного градиента минимизации функционала в гильбертовом пространстве Проекційно-ітераційна реалізація метода умовного градієнта мінімізації функціонала в гільбертовому просторі Hart, L. L. A projection-iteration method based on one variant of the conditional gradient method for solving constrained minimization problem in Hilbert space is investigated. Method makes possible to substitute the initial extreme problem with some sequence of ancillary approximate extreme problems given in Hilbert spaces which are isomorphic to subspaces of initial space. Then only several successive approximations for each of the approximate problems are found by means of the conditional gradient method, and the last of them for determining the initial approximation in iterative process for the next approximate problem is used. Theorems of feasibility and convergence of the projection-iteration method are proved, estimates of error and convergence degree are obtained. Рассмотрен проекционно-итерационный метод, основанный на одном варианте метода условного градиента, для решения задачи минимизации с ограничениями в гильбертовом пространстве. Метод позволяет заменить исходную экстремальную задачу некоторой последовательностью вспомогательных аппроксимирующих ее экстремальных задач, заданных в гильбертовых пространствах, изоморфных подпространствам исходного пространства, и для каждой из «приближенных» задач находить с помощью метода условного градиента лишь несколько приближений, последнее из которых использовать для определения начального приближения в итерационном процессе для следующей «приближенной» задачи. Доказаны теоремы об осуществимости и сходимости проекционно-итерационного метода. Получены оценки скорости сходимости и погрешности. Розглянуто проекційно-ітераційний метод, оснований на одному варіанті методу умовного градієнта для розв’язання задачі мінімізації з обмеженнями в гільбертовому просторі. Метод дозволяє замінити вихідну екстремальну задачу деякою послідовністю допоміжних апроксимуючих її екстремальних задач, заданих у гільбертових просторах, ізоморфних підпросторам вихідного простору, та для кожної з «наближених» задач знаходити за допомогою методу умовного градієнта лише декілька наближень, останнє з яких використовувати для визначення початкового наближення в ітераційному процесі для наступної «наближеної» задачі. Доведено теореми про здійсненість та збіжність проекційно-ітераційного методу. Отримано оцінки швидкості збіжності та похибки. The National Technical University of Ukraine &quot;Igor Sikorsky Kyiv Polytechnic Institute&quot; 2013-09-25 Article Article application/pdf https://journal.iasa.kpi.ua/article/view/44151 System research and information technologies; No. 3 (2013); 104-117 Системные исследования и информационные технологии; № 3 (2013); 104-117 Системні дослідження та інформаційні технології; № 3 (2013); 104-117 2308-8893 1681-6048 uk https://journal.iasa.kpi.ua/article/view/44151/40380 Copyright (c) 2021 System research and information technologies
spellingShingle Hart, L. L.
Проекційно-ітераційна реалізація метода умовного градієнта мінімізації функціонала в гільбертовому просторі
title Проекційно-ітераційна реалізація метода умовного градієнта мінімізації функціонала в гільбертовому просторі
title_alt Projection-iterative realization of the method of conditional gradient of functional minimizing in Hilbert space
Проекционно-итерационная реализация метода условного градиента минимизации функционала в гильбертовом пространстве
title_full Проекційно-ітераційна реалізація метода умовного градієнта мінімізації функціонала в гільбертовому просторі
title_fullStr Проекційно-ітераційна реалізація метода умовного градієнта мінімізації функціонала в гільбертовому просторі
title_full_unstemmed Проекційно-ітераційна реалізація метода умовного градієнта мінімізації функціонала в гільбертовому просторі
title_short Проекційно-ітераційна реалізація метода умовного градієнта мінімізації функціонала в гільбертовому просторі
title_sort проекційно-ітераційна реалізація метода умовного градієнта мінімізації функціонала в гільбертовому просторі
url https://journal.iasa.kpi.ua/article/view/44151
work_keys_str_mv AT hartll projectioniterativerealizationofthemethodofconditionalgradientoffunctionalminimizinginhilbertspace
AT hartll proekcionnoiteracionnaârealizaciâmetodauslovnogogradientaminimizaciifunkcionalavgilʹbertovomprostranstve
AT hartll proekcíjnoíteracíjnarealízacíâmetodaumovnogogradíêntamínímízacíífunkcíonalavgílʹbertovomuprostorí