Использование Общероссийского математического портала Math- Net.Ru подразумевает, что вы прочитали и согласны с пользова- тельским соглашением

(1)

Math-Net.Ru

Общероссийский математический портал

Ф. П. Васильев, М. Д. Ячимович, Об итеративной регуляризации метода Ньютона, Ж. вычисл. ма- тем. и матем. физ., 1981, том 21, номер 3, 775–

778 Использование Общероссийского математического портала Math- Net.Ru подразумевает, что вы прочитали и согласны с пользова- тельским соглашением

http://www.mathnet.ru/rus/agreement Параметры загрузки:

IP: 178.128.90.69

6 ноября 2022 г., 07:28:01

(2)

Научные сообщения 7 7 3

= / V |Re xk\'' j + ( V \1mx

^h

\>- \ = \\X\\"< ,<Щ\хС,

^г

.

k

Из (8) и (9) следует V2D<Vi, так что ||

А\

^р

^

^Г)9 субмультипликативна согласно теореме 1,

Литература

1. Von Neumann J. Some matrix-inequalities and metrization of matrix-space.— Bull.

Inst. Math, and Mech. Univ. Tomsk, 1937, v. 1, p. 2 8 6 - 2 9 9 .

2. Ostrowski A. Uber Normen von Matrizen.— Math. Z., 1955, v. 63, p. 2 - 1 8 .

•3. Maitre J.-F. Norme composee et norme associee generalisee d'une matrice.— Numer.

Math., 1967, v. 10, p. 1 3 2 - 1 4 1 .

4 . Merikoski J. The Holder and Minkowski matrix⁽norms.— Acta Univ. Tamperensis, 1976, v. A70, p. 1 - 6 3 .

Ь. Beckenbach E. F, Bellman R. Inequalities. Berlin etc.: Springer, 1971.

Поступила в редакцию 16.VII.1979

У Д К 517.988.8

ОБ ИТЕРАТИВНОЙ РЕГУЛЯРИЗАЦИИ МЕТОДА НЬЮТОНА ВАСИЛЬЕВ Ф. П., ЯЧ И МО ВИЧ М. Д .

(Москва, Титоград, СФРЮ)

Предлагается итеративная регуляризация метода Ньютона, которая

| Для задач выпуклого программирования сходится при любом выборе на

чального приближения. Ограничения типа равенств и неравенств учи

тываются с помощью штрафных функций.

Хорошо известно (см., например, [ 1 ] ) , что метод Ньютона предъявляет высокие требования к выбору начального приближения. Этот недостаток может быть исправ

лен с помощью итеративной регуляризации данного метода [ 2 ] ; ниже показывается, как это сделать для задач выпуклого программирования. Заметим, что в [2] ана

логичный результат получен при требовании равномерной выпуклости минимизи

руемой функции.

Пусть на гильбертовом пространстве Н определены функции 1{и), g i ( n ) , . . . , . . , gs(u). Рассмотрим задачу минимизации функции 1(и) на множестве

<1) U={u^H: gl{u)<0, * = 1 , 2 , . . . , г; ^ ( и ) = 0 , г = г + 1 , . . . , s}.

Будем предполагать, что

<2) inf 7 ( г г ) = / . > - о о , U*={u^U:I(u) 0 . и

Как известно [ 3 ] , эта задача некорректна в метрике пространства Н и для ее решения нужно использовать метод регуляризации. Ограничения типа неравенств и равенств из U будем учитывать с помощью штрафной функции вида

Г 5

Р(и)=

у^{тах[0;Ыи)]}*

+ ^ \gi(»)\^p, ^П, р>1.

г = 1 i = r + l Составим функцию Тихонова

Oik

Th(u) =I(u) +AkP(u) + | N |2, u&H, k=0,1,..., 2

где otfc>0, A^h>0.

(3)

Пусть функции I(u), g%(u), i = l , 2, s, принадлежат классу С²{Н) и таковы, что существует [ЗУ'(и)]""1» и&Н. Рассмотрим итерационный процесс

(3) vw=v^h-[T^h"{v^k)Y-W(v^h)i Л « 0 , 1 , . . . , с некоторым начальным приближением у^{0 е}# .

Т е о р е м а 1. Пусть:

1) функции 1(и), #^г( и ) , г = 1 , 2 , . . . , 5, принадлежат классу С²(Н) и 1(и), g^t(u)^t i—l, 2 , . . . , г, г = г + 1 , . . . , s, выпуклы на Н, удовлетворяют условиям (2) щ кроме того,

(4) max [ | | / " ( и ) - / " H i " ' ( в ) - i " ' ( i > ) , | | ] = s ; L | |M- i > | | , (5) | | i " ( u ) N £ o ( l + l k l l ) , L, £ „ = c o n s t 2 * 0 ;

2) функция Лагранжа

*

L(u,X)=I(u) + ^ X^l^g^t( u )

имеет седловую точку (v„ X*) на множестве ЯХЛо, Л о = { Я = ( X i , . . . , X⁸)l Я^г^ 0 , i =

= 1, 2 , . . . , г } , в следующем смысле:

L(v„ X)<L(v„ X*)<L(u, X*) Yu^H, X^A0;

3) для нормального решения и+ задачи минимизации 1(и) на U известна апри

орная оценка | | » J | < d ;

4) числовые последовательности {а&}, {Ah} удовлетворяют условиям q—i

l i m a^{f t}= 0 , lim A^k= lim a^hA^k = + oo^} Я=р(р-1)~¹,

CO fo-> c* oo

ал L0(^fc+i—Ak)

m,

К <

b, KA

^k

, < I,

<x>k+i Ah - cch+i

К ~ < W

^A

h+i 1 (

^A

Ui -

^A

u)

^A

h

⁺

i 1

" ^ 'SRLt ' a j < 3L0L* (1 + # ) '

л

К+1

^KJ

k+l

где

Л = ( й^я+ 2 | Я * | ^ -¹р¹- в в и р о в * -¹Л я¹ V^/², | Г | « = У | V | « ,

а постоянные m>l, 6 > 1 , Z > 0 , t>0 таковы, что 6mb(2m-l+l)<:t;

5) начальное приближение v0 для последовательности определяемой по формулам (3), таково, что

(6) ^ o W o ' M I K a o2. Тогда

lim | | i >^{f e}- B . | | = 0 .

Д о к а з а т е л ь с т в о . Из сильной выпуклости функции Th(u) следует существо

вание [ Т У ' ( к ) ] -¹ и оценка

(7) \\[Тк"(и))-Ч«*н-1, к=0, 1 , . . .

Таким образом, последовательность {vh} существует. Наряду с {vu} введем последо-

(4)

Научные сообщения 111

вательность {и^к}, однозначно определяемую условием Th(ик) = ' i n f Тк(и).

н

Заметим, что из теоремы 1 работы [4] следует lim \\и^к—и*\\=0.

Поэтому достаточно доказать, что lim \\v^k-u^k\\=0.

Й-> оо

Введем числовую последовательность а^к=\\Т^к (v^k)\\. Для a^{k + i} имеем ak+l= \\Тк+1(vk+l) \\<\\Th'(uk+i) || + \\TUI(Vk+i)rTk'(uk+i) ||<

<\\T^h'(v^h+i) ||+ ( a^k- a^{k + i}) \\v^k+l\\ + (A^h+i-A^k) \\P'(v^h+i) ||.

Можно показать [ 3 ] , что | | г г Л < # , к=0, 1 , . . . . Отсюда и из сильной выпуклости функции Т^к(и) следует, что

1

l l » M - i l l < l l » * l l + l b k+ i- B f c l l < ^ + — i| 2 Y K+i) l l . Тогда из условия (5) с учетом неравенства

2a^h-a^k+i\+Lo(A^k+i-Ak)<(2m-l + l)a^k+i получим

( 2 7 r a - l + Z ) a f e + i

(8) a^{k + i} < \\T^k'(v^h+l)\\+R(a^k-<x^k+i)+L⁰(l+R) (A^k+l-A^k).

а

^к

Далее нетрудно показать, что о < ел< 1 .

Отсюда, из условия (4) и оценки (7) следует, что

| | Z V ( i b+i ) \\^2ЬАкак~Чк\

Тогда из (8) получим для последовательности {ак} рекуррентное соотношение Akcck+i

a^k+i<2L(2m-l+l) a^{f e 2}+ R(a^k-a^k+i) +L⁰(i+R) (A^k+i-A^k), fc=0,1,... . Для последовательности ck=ak/ak имеем

Ak ak—cx,k+i Ak+i—Ak

c^h+i<2L(2m-l+l)—сь²+Д +L^Q(l+R) , & = 0 , 1 , . . . .

Докажем по индукции, что C&fe

< 9 ) ^С ^ - П ~ ' & = 0 , 1 , . . . . A^kLt

При k=0 справедливость (9) следует из условия ( 6 ) . Пусть (9) справедливо для не

которого & > 0 . Тогда

2(2m-l+l)a^k a,^k-a^k+i A^k+i—A^h

c^k⁺ⁱ< . + R

+ L

0

(l+i?) =

Lt²A^k (x^k+i а ь⁺1

ak+i г 2mb(2m-l+l) 1 1 т ^ a^k+i

~~ Л ц ^ ! . ' Г 3 3 J '

Неравенство (9) доказано. Из сильной выпуклости функции Т^к(и) тогда имеем

\\v^k—и^к\\<с^к-*0 при &->°°, что и требовалось.

(5)

Для удовлетворения условия (6) можно выбрать v0 так, чтобы И Го7 (МП была достаточно малым, и поэтому условие (6), на первый взгляд, выглядит как ограни

чение на выбор начального приближения. На самом деле при любом выборе началь

ного приближения v^Q условия 4 ) , 5) теоремы можно удовлетворить за счет выбора последовательностей {а^к}, {А^к}. Можно, например, взять

а^к=В(к+1)-¹'; А^к=(к + 1)\ к=0, 1 , . . . ,

B>max i — , — 2^Ltd, (9L2*2|X*|«flf-i/>1-«),/%

^ 21 2

[6LoL*(l+d)]'/', ( 7 2 М о2^ | Я * | ^ - ^1-9)1 / 5, 2 ^ | | ^ о 1 1 , [ Ш | | / ' ( * о ) + Р ' К ) H P J , где и0 — произвольное начальное приближение, 3/2<q<2, a min (т, Ь)>24*. Таким образом, предложенный подход расширяет возможности метода Ньютона.

Кратко остановимся на случае, когда в (1) ограничения типа #^г( и ) < 0 , gj(u)—0 отсутствуют, т. е. U=H. Тогда

(10) T^h(u)=I(u) + — | | а | |², а * > 0 , & = 0 , 1 , . . . . 2

Т е о р е м а 2. Пусть:

1) функция 1(и) выпукла на Я , 1(и) &С2(Н), выполнены условия (2) при TJ—H и \\V\u)-I" (v)\\<>L\\u-v\\, L = c o n s t ^ 0 , и, v^H\

2) для нормального решения и+ задачи минимизации 1(и) на Н известна апри

орная оценка \\uj\<d;

3) числовая последовательность {<хк} удовлетворяет условиям а* / 1~ч \

lim а^к=0, 1 < < min j m; 1 + <%k+i V , & = 0 , 1 , . . . ,

й.->-оо ak +i \ Ltd I

где положительные постоянные t, m > l , f < l таковы, что (2m—1)

4) начальное приближение v⁰ для последовательности {v^k} из (3), (10) таково*

что £ г | | Г о ' Ы 1 К а0 2. Тогда

lim | | У ь- и . | | = 0 .

ft-*- оо¹

Д о к а з а т е л ь с т в о теоремы 2 получается из доказательства теоремы 1, если в последнем положим P(u)^0, Ak=l, & = 0 , 1 , . . . , и произведем небольшие очевид

ные изменения. В качестве {а^к}, например, можно взять а^к=В(к+1)~\ к=0, 1 , . . . ,

{

^2Ш¹,22Л|Ы1, [2Lt\\If(vQ)\\]^ | , ш>2.

Литература

1. Васильев Ф. П. Лекции !по методам решения экстремальных задач. М.: Изд-во МГУ, 1974.

2. Бакушинский А. Б. Методы решения монотонных вариационных неравенств, осно

ванные на принципе итеративной: регуляризации.— Ж. вычисл. матем. и матем.

физ., 1977, т. 17, № 6, с. 1350—1362.

3. Тихонов А. Я . , Арсенин В. Я. Методы решения некорректных задач. М.: Наука, 1974.

4. Васильев Ф. П. О регуляризации некорректных экстремальных задач.— Докл. А Н

СССР, 1978, т. 241, № 5, с. 1 0 0 1 - 1 0 0 4 . * Поступила в редакцию 16.VII.1979