В. В. Ермаков, Н. Н. Калиткин, Оптимальный шаг и ре- гуляризация метода Ньютона, Ж. вычисл. матем. и ма- тем. физ., 1981, том 21, номер 2, 491–497

(1)

Math-Net.Ru

Общероссийский математический портал

В. В. Ермаков, Н. Н. Калиткин, Оптимальный шаг и ре- гуляризация метода Ньютона, Ж. вычисл. матем. и ма- тем. физ., 1981, том 21, номер 2, 491–497

Использование Общероссийского математического портала Math-Net.Ru под- разумевает, что вы прочитали и согласны с пользовательским соглашением http://www.mathnet.ru/rus/agreement

Параметры загрузки:

IP: 178.128.90.69

6 ноября 2022 г., 07:04:23

(2)

В Ы Ч И С Л И Т Е Л Ь Н О Й МАТЕМАТИКИ И МАТЕМАТИЧЕСКОЙ Ф И З И К И Т о м 21 , Март 1981 Апрель № 2

НАУЧНЫЕ СОЪБЩЕНИЯ

У Д К 517.988.8

О П Т И М А Л Ь Н Ы Й Ш А Г И Р Е Г У Л Я Р И З А Ц И Я МЕТОДА НЬЮТОНА ЕРМАКОВ В. В., КАЛ ИТ КIIН II. И.

1

' i • • • •. . /

(Москва)

Д л я непрерывного аналога метода Ньютона п р е д л о ж е н способ в ы бора оптимального ш а г а и построен р е г у л я р и з у ю щ и й алгоритм. Это привело к у л у ч ш е н и ю сходимости метода. ;

§ 1. Аналог метода Ньютона

Вопрос о построении э ф ф е к т и в н ы х алгоритмов р е ш е н и я системы н е л и н е й н ы х у р а в н е н и й - :

(1) / ( * ) = 0 , / = { / ц . . . , Ы , x={x^h...,x^N}

д о сих п о р остается а к т у а л ь н ы м . Одним и з наиболее распространенных способов р е ш е н и я этой з а д а ч и я в л я е т с я метод Ньютона, к в а д р а т и ч н о с х о д я щ и й с я вблизи простых изолированных корней х системы (1). Однако п р и неудачно выбранном нулевом п р и б л и ж е н и й сходимость (вдали от корня) м о ж е т стать медленной и л и отсутствовать. • ^

В н а с т о я щ е е в р е м я наиболее п е р с п е к т и в н ы м п р е д с т а в л я е т с я н е п р е р ы в н ы й ана

л о г метода Ньютона (н.а.м.н:), предложенный, в [1] и р а з в и т ы й в [ 2 ] , [ 3 ] . Он з а к л ю ч а е т с я в том, что вводится в р е м я t и р е ш а е т с я эволюционная задача

(2) f{x) =-/(*), x=x(t), * ( 0 ) = х ° . dx

dt ..! . . .... , • Ее и н т е г р а л есть f(x(t))=f(x°)e-t1 т а к что когда то /(#)->() и x(t) стремится к искомому корню х. П р а к т и ч е с к и р е а л и з у е т с я ;не н е п р е р ы в н ы й , а дискретный а н а - -лог метода Ньютона (а.м.н.), когда у р а в н е н и е (2) а п п р о к с и м и р у е т с я схемой Эйлера

(3) хп+1=хп-хпа{хп), а(х) = [1'(х)]-Ч(х).

П р и тп= 1 эта схема совпадает с классическим методом Ньютона'. В [2] д о к а з а н а сходимость схемы (3) к р е ш е н и ю эволюционной з а д а ч и (2) на конечном отрезке в р е м е н и п р и тп- * 0 , если в окрестности \х—х]\<\\х°—х\\ ф у н к ц и я f(x) удовлетворяет некоторым дополнительным условиям (в частности, оператор f(x) имеет о б р а т н ы й ) .

Д л я п р а к т и ч е с к и х расчетов необходимо дополнить а.м.н. некоторым алгоритмом выбора ш а г а х^п. В [ 3 ] , [4] предложено несколько алгоритмов, использующих п р и н цип у м е н ь ш е н и я н е в я з к и . Йз н и х н а и л у ч ш и е р е з у л ь т а т ы д а в а л а формула

(4а) т„^{+ 1}=т„6п/6п-1,:: finHI/C**)!!² .

п р и дополнительном ограничении • .;.

(46) е < т^{п +}1 < 1 , 6 ^ 0 . 0 1 * 0 . 1 . |

(3)

492 Ермаков В. В., Калиткин Н. Н.

Здесь 6 — некоторый априорно з а д а н н ы й минимально допустимый ш а г . Д л я а л г о ритма (3), (4) сходимость не д о к а з а н а ; но п р а к т и к а расчетов [ 2 ] , [4] п о к а з а л а , что*

область сходимости этого алгоритма шире, чем у метода Ньютона. П р и у м е н ь ш е н и и ; 0 область сходимости р а с ш и р я е т с я , а сходимость з а м е д л я е т с я .

§ 2. О п т и м а л ь н ы й ш а г

1. Естественно считать оптимальным такой ш а г т, который м и н и м и з и р у е т н е в я з к у вдоль выбранного н а п р а в л е н и я . Н а п р а в л е н и е м на п-м ш а г е а.м.н. я в л я е т с я ; вектор ап, определяемый схемой (3). Н е в я з к а вдоль этого, н а п р а в л е н и я р а в н а

(5) Ы т ) = = ( / ( я^п- т а^п) , f(xⁿ-xaⁿ)).

(Строгое н а х о ж д е н и е з н а ч е н и я т, м и н и м и з и р у ю щ е г о н е в я з к у (5), я в л я е т с я с р а в н и тельно с л о ж н о й задачей. Удобнее р е ш и т ь эту з а д а ч у п р и б л и ж е н н о .

Д л я этого аппроксимируем н е в я з к у (5) к в а д р а т и ч н о й ф у н к ц и е й (6) "б^п(т> '>«бп(р) + — т + с т Л ^d6n(0)

Из (3) и (5) следует, что (7)

d6⁷(0) dx Потребуем, чтобы да с учетом (7 в (6), п о л у ч а е м

dx

= " 2 / (х^п) f(xⁿ)aⁿ= - 2 /² {х^п) = - 2 6^я( 0 ) .

п р и т==1 п р и б л и ж е н н о е равенство (6) становилось точным. О т с ю - ) определим константу с = 6п( 1 ) + бп( 0 ) . П о д с т а в л я я это значение*

з н а ч е н и е ш а г а , м и н и м и з и р у ю щ е е д а н н у ю к в а д р а т и ч н у ю ф у н к ц и ю : 6п(0)

б „ ( 0 ) + 6^п( 1 )

Очевидно, 0 < тп< 1 . Этот ш а г будем н а з ы в а т ь оптимальным.

П о л у ч е н н а я формула имеет один недостаток. Можно подобрать т а к и е примеры,, когда в ы ч и с л е н н ы й по н е й ш а г в д а л и от к о р н я о к а ж е т с я м а л ы м и сходимость б у д е г медленной. Целесообразно ограничить ш а г снизу величиной 0, к а к рекомендовано*

в [ 3 ] , [ 4 ] , п о л а г а я

(8) ' ' -cn= m a x I 0 , ' 1 , 0 - 0 , 1 . ^Б-⁽⁰^>

\ б „ ( 0 ) + бп( 1 ) /

П р и этом всегда| в ы п о л н я е т с я 0 < тп< 1 .

2. Можно п о к а з а т ь , что в м а л о й окрестности простого изолированного к о р н я х сходимость а.м.н. с о п т и м а л ь н ы м ш а г о м (8) я в л я е т с я к в а д р а т и ч н о й . В самом д е л ег

з а п и ш е м ф о р м у л у (3) в виде Поскольку

=<p(sn), y(x)=x-x[f'(x)]-4(x),

<р' (х) = 1 - т + т [ / ' (х) ]-Т (х) [/' (х) ] -1/(х), то д л я простого

в е л и ч и н а П р и т = 1

в б л и з и у к а з а н н о г о

изолированного к о р н я у ) = 1 - т , ^(x)=x[f(x)]~T(xh

ф ' ( £ ) = 0 и ф о р м у л ы а.м.н. переходят- в метод Ньютона, когда*

к о р н я

хк - х « у"(х) (х¹ ^п-х)²

2 ^{п р и} ^\\х

п-х\\<&1.

(4)

Поэтому вблизи простого к о р н я н е в я з к и , в х о д я щ и е в ф о р м у л у оптимального шага,

р а в н ы ; ,

'. бп( 0 ) « [ //№ ) ( ^ - ^ ) ]2« 1 , . М О Ч П Ж * ? "¹ - * ) ]2~ 8 Л 0 ) , а сам о п т и м а л ь н ы й ш а г (8) п р а к т и ч е с к и равен единице:

Т о г д а и т е р а ц и я а.м.н. с оптимальным шагом дает

».(1-т«) ( *ⁿ- * ) + T h [ / 4 * ) } ~ V " ( * ) (х^п-х)²*

* \ f ' W ] - 4 " ' . ' ;

Следовательно, сходимость я в л я е т с я квадратичной, к а к в методе Ньютона, причем

с тем ж е численным коэффициентом. 1

Если корень не простой й м а т р и ц а fix) не имеет обратной, то сходимость а.м.н.

в б л и з и к о р н я будет линейной, к а к и в методе Ньютона. Можно показать, что п р и -этом величина ш а г а т^п^ 0 . 9 3 * 0 . 9 4 , что приводит к • н е з н а ч и т е л ь н о м у увеличению

числа и т е р а ц и й по сравнению с методом Ньютона.^Vi

§ 3. Р е г у л я р и з а ц и я

1. Если нулевое п р и б л и ж е н и е х° таково, что detf(x) о б р а щ а е т с я в н у л ь в н е которых точках окрестности \\х—х\\<\\х°—х\\, то н.а.м.н. и а.м.н. могут расходиться, д а ж е когда корень х простой изолированный. Это вызвано тем, что э к в и в а л е н т н а я -схеме (3) л и н е й н а я система д л я определения п р и р а щ е н и я аргумента f(xn)Ax=

•*=—xf(xn) становится некорректной. : ;

В таком случае полезна р е г у л я р и з а ц и я э т о й " с и с т е м ы по А. Н. Тихонову [ 5 ] : [$E+f*(xⁿ)f(xⁿ)](xⁿ+ⁱ-xⁿ) = -xⁿf*(xⁿ)f{xⁿ), j}>0,

г д е звездочкой отмечена эрмитово-сопряженная м а т р и ц а . Величину п а р а м е т р а р е г у л я р и з а ц и и р целесообразно выбрать по н е в я з к е :

Р = с с /²( я^п) , 0 < а « 1 .

Т о г д а получим следующую; ф о р м у л у регуляризованного аналога метода Ньютона (р.а.м.н.) ( п р е д л о ж е н н а я здесь р е г у л я р и з а ц и я 'существенно отличается от рассмот

р е н н о й в [ 6 ] ) : ;

(9) xⁿ+y=xⁿ-xⁿ[af²(xⁿ)+f*(xⁿ)f(xⁿ)]-if*^

О ч е в и д н о , расчет по формуле (9) в о з м о ж е н д а ж е в том случае, когда очередное п р и б л и ж е н и е х^п случайно совпало с простым корнем х системы ( 1 ) .

Оптимальный ш а г д л я р.а.м.н. м о ж н о выбирать т а к ж е п о формуле (8), если ,а<^1, ч т о н а п р а к т и к е расчетов с р е г у л я р и з а ц и е й всегда в ы п о л н я е т с я ;

2. Н е п р е р ы в н ы й аналог! ф о р м у л ы (9) п р и т^п- ^ 0 п р е д с т а в л я е т собой эволюцион

ное у р а в н е н и е • • ; . • • • !

1 dx^;

(10) [a,f4x)+r(x)f(x)]— = -r(x)f(xy, x=x(t).

dt ; Д л я р е ш е н и я у р а в н е н и я (10) имеет место соотношение,

d dx - : —f2(x)=2f(x)f{x) = - 2 ( z / , ^ )v

dt^; dt . ,

где ; : ;

?=/'•(*)/(*), , B=[afHx)+f*(x)f(x)]-K

П у с т ь f(x) непрерывна, а; сфера \\x—х||<;]|д;⁰-х|] н е содержит никакого кратного ж о р н я системы (1). Тогда всюду в этой сфере м а т р и ц а В эрмитова и положительно-

(5)

494 Ермаков В. В., Калиткин Н. Н.

определенная, следовательно, d

dt

m<o.

Отсюда видно, что т р а е к т о р и я эволюционного у р а в н е н и я (10) сходится и л и к к о р ню х системы (1), и л и к корню х системы (если т а к о й к о р е н ь существует)

( Н ) Г ( * ) / ( * ) = 0 .

З а м е т и м , что система ( И ) м о ж е т и м е т ь корень я, о т л и ч н ы й от х, только п р ж d e t / ' * ( х ) = 0 , п р и ч е м это условие я в л я е т с я необходимым, но не достаточным.

использовании дискретной ф о р м у л ы (9) сходимость к к о р н я м с и с т е -^ч наблюдаться только д л я настолько м а л ы х ш а г о в т^п, которые и с к л ю - этов благодаря ограничению (46). Это хорошо и л л ю с т р и р у е т с я н а и одной переменной

Однако п р и м ы (11) м о ж е т ч а ю т с я и з расч п р и м е р е ф у н к ц и

Нх) ^{=а + Ьх}², а > 0 , 6 > 0 , =0.

Д л я нее процессы (9) и (10) вблизи л о ж н о г о к о р н я х принимают, с о о т в е т с т в е н но, вид

2xⁿabxn \

| а : | « 1 , а « 1 ,

in ^ 1 -

аа²+АЬ²х^п2

dx/dt=-2abx(aaz+Ab2x2)-K

I ' •' . Т и п и ч н ы е з н а ч е н и я п а р а м е т р а р е г у л я р и з а ц и и в р а с ч е т а х н е к о р р е к т н ы х з а д а ч с о

с т а в л я ю т а « 1 0 - ? - Н 0 -⁶, а %^п>0А. Видно, что п р и р а з у м н ы х з н а ч е н и я х о с т а л ь н ы х п а р а м е т р о в д и с к р е т н ы й процесс м о ж е т сходиться к х только в очень у з к о й о к р е с т ности | х° | ^аа j 2x6, а вне нее он расходится. Т а к и м образом, сходимость р.а.м.н- к л о ж н ы м к о р н я м м а л о в е р о я т н а .

3. Скорость сходимости р.а.м.н. вблизи простого изолированного к о р н я я в л я е т с я к в а д р а т и ч н о й . К этому нетрудно п р и й т и п у т е м р а с с у ж д е н и й , а н а л о г и ч н ы х п р о в е д е н н ы м в ы ш е . Достаточно заметить, что вблизи такого к о р н я f(xⁿ) ^f(x) (xⁿ—х)^v т а к что р е г у л я р и з у ю щ и й член в (9) я в л я е т с я добавкой 0(а\\хп—х\\2) к г л а в н о м у . 4. Р е г у л я р и з а ц и я у с л о ж н я е т алгоритм и заметно у в е л и ч и в а е т объем в ы ч и с л е н и й на к а ж д о й и т е р а ц и и . В то ж е в р е м я а н а л и з п р и в е д е н н ы х н и ж е ч и с л е н н ы х расчетов^

п о к а з а л , что з а ч а с т у ю и т е р а ц и и хорошо сходятся и без р е г у л я р и з а ц и и . П о э т о м у р е г у л я р и з а ц и ю целесообразно в к л ю ч а т ь только на тех и т е р а ц и я х , когда система (3) действительно о к а ж е т с я плохо обусловленной. Т а к о й процесс будем н а з ы в а т ь ч а с тично р е г у л я р и з о в а н н ы м аналогом метода Ньютона (ч.р.а.м.н.).

В о з м о ж н ы р а з л и ч н ы е к р и т е р и и в к л ю ч е н и я р е г у л я р и з а ц и и . Н а п р и м е р , т а к и м криг терием м о ж е т быть п о я в л е н и е больших компонент п р и р а щ е н и я xⁿ⁺ⁱ—х^п, найденного»

без р е г у л я р и з а ц и и . Б ы л о замечено, что часто п л о х а я обусловленность в о з н и к а е т при*

н е у д а ч н о м выборе нулевого п р и б л и ж е н и я ; поэтому в д а н н о й работе две п е р в ы е и т е р а ц и и проводились с р е г у л я р и з а ц и е й , а последующие — без нее.

§ 4., Ч и с л е н н ы е э к с п е р и м е н т ы

1. Когда нулевое п р и б л и ж е н и е н а х о д и т с я Далеко от корня, то достаточные к р и т е р и и сходимости, н а й д е н н ы е теоретически, з а ч а с т у ю не в ы п о л н я ю т с я , В этом с л у чае с р а в н и в а т ь р а з н ы е методы п р и х о д и т с я на ч и с л е н н ы х п р и м е р а х .

В н а с т о я щ е й работе с р а в н и в а л и с ь м е ж д у собой метод Ньютона и описанные»

здесь в а р и а ц и и его аналога с р а з н ы м и способами выбора ш а г а и н а л и ч и е м и л и о т сутствием р е г у л я р и з а ц и и . Д л я с р а в н е н и я п р и в л е к а л с я т а к ж е метод Б р а у н а [ 7 ] , к о торый некоторые в ы ч и с л и т е л и с ч и т а л и наиболее э ф ф е к т и в н ы м д л я систем н е л и н е й -

(6)

н ы х у р а в н е н и й ; этот метод основан н а сочетании! метода Ньютона с методом и с к л ю ч е н и я Гаусса и в с л у ч а е одного у р а в н е н и я совпадает с методом Ньютона 1 ):

Все методы с р а в н и в а л и с ь н а ч е т ы р е х п р и м е р а х . П е р в ы е т р и были п р е д л о ж е н ы в [7] и с п е ц и а л ь н о в ы б р а н ы т а к , чтобы метод Ньютона плохо сходился (а метод, Б р а у н а — х о р о ш о ) . .

П р и м е р 1, З а д а н а система iV у р а в н е н и й (при з н а ч е н и я х N=4, 8, 16, 32) д л я ф у н к ц и й

N ' N U ( x ) = xⁱ+ ^ x^j- N - l¹ K i < i V - l , j

Ы*)=Д

* ; - 1 .

3 = 1 I

j =

^l

З а нулевое п р и б л и ж е н и е в ы б р а н в е к т о р с Xi0=0S. Р е ш е н и е этой системы не е д и н ственно; кроме очевидного первого к о р н я Хг=1 и м е е т с я е щ е по к р а й н е й мере один

(его компоненты не имеют такого простого в и д а ) . Нетрудно проверить, что д л я этой системы * ' ;.

d e t / ' ( * ) = (

У

¹

— \ Т Т

х} и detf(x°)=2ⁱ-^N.

\ %N Xi /

JLA

i = i

j =

^l

П р и большой р а з м е р н о с т и с и с т е м ы | d e t / ' ( s0) ] « c l , поэтому выбранное здесь н у л е в о е п р и б л и ж е н и е очень н е б л а г о п р и я т н о д л я п р и м е н е н и я метода Ньютона. В данном п р и мере метод Б р а у н а сходится к п е р в о м у корню системы, а остальные м е т о д ы — ко второму.

П р и м е р 2. З а д а н а система д в у х у р а в н е н и й д л я ф у н к ц и й

/ i ( z ) = S i2- * 2 - l , f2(x) = (xi-2)2+(x2-0.b)2-l,

и в ы б р а н о нулевое п р и б л и ж е н и е я ° = ( 0 . 1 , 2.0). Эта система имеет два к о р н я : х&

« ( 1 . 5 4 6 3 , 1.3912) и я » (1.0673, 0.1392). В д а н н о м п р и м е р е все методы с х о д я т с я ко в т о рому корню.

П р и м е р 3. З а д а н а система д в у х у р а в н е н и й д л я ф у н к ц и й

fi(z)=Xi-13+X2[x2(5—X2)-2], f2(x)=xi-29+x2[x2(x2+l)-14:]1

и в ы б р а н о нулевое п р и б л и ж е н и е ж ° = ( 1 5 , —2). Эта система имеет р е ш е н и е £ = ( 5 , 4 ) . Ее определитель м а т р и ц ы Якоби d e t / ' ( a ? ) = 6 a ; 22— 8 х2- 1 2 о б р а щ а е т с я в н у л ь на осо

бых л и н и я х # 2 ^ 2 . 5 3 и £ j2« — 0 . 9 0 . Видно, что п р и д в и ж е н и и от выбранного нулевого^

п р и б л и ж е н и я к корню т р а е к т о р и я п е р е с е к а е т обе э т и л и н и и .

1 П р и м е р 4. Т р е б у е т с я н а й т и м и н и м у м с к а л я р н о й ф у н к ц и и двух переменных,, к о т о р а я и м е е т р е л ь е ф о в р а ж н о г о т и п а с очень к р у т ы м и с к л о н а м и :

O(x)=xi2+100(xi3-xi-x2)2. •"

Эта з а д а ч а сводится к р е ш е н и ю системы д в у х • н е л и н е й н ы х у р а в н е н и й дФ / dxi=0r

п р и ч е м к о р е н ь очевиден: 5; = ( 0 , 0 ) . З а нулевое п р и б л и ж е н и е в ы б и р а е т с я ж ° = ( 1 , 1 ) . 2. В таблице п р е д с т а в л е н ы числа и т е р а ц и и , т р е б у ю щ и е с я д л я у с т а н о в л е н и я 4 з н а к о в после з а п я т о й (поскольку в б л и з и к о р н я сходимость всех с р а в н и в а е м ы х м е тодов к в а д р а т и ч н а я , к о р н и п р и этом о п р е д е л я ю т с я с точностью ~ 1 0 -8) .

П р и в е д е н н ы е р е з у л ь т а т ы , во-первых, п о д т в е р ж д а ю т д а н н ы е [ 2 ] , [3] о том, ч т а а.м.н. более э ф ф е к т и в е н , ч е м метод Ньютона, во-вторых, п о к а з ы в а ю т , что п р е д л о ж е н н ы й здесь выбор оптимального ш а г а (8) обеспечивает, к а к п р а в и л о , более б ы с т р у ю сходимость по с р а в н е н и ю с ш а г о м (4) и з [ 3 ] , [ 4 ] , в-третьих, п о к а з ы в а ю т , ч т о регу

л я р и з а ц и я на п е р в ы х и т е р а ц и я х у л у ч ш а е т сходимость ' п р и н е у д а ч н о м нулевом п р и б л и ж е н и и (пример 1), не у х у д ш а я ее в о с т а л ь н ы х с л у ч а я х . Р е г у л я р и з а ц и я на всех

'*) Сравнений G методом [6] н е проводилось,; ибо в у к а з а н н о й работе не п р и в е дено н и к а к и х к о н к р е т н ы х р е г у л я р и з у ю щ и х алгоритмов.

(7)

496 Ермаков В. В.у Калиткин Н. Н.

и т е р а ц и я х нецелесообразна, ибо если т р а е к т о р и я проходит через поверхности 4etf(x)=0, она м о ж е т у х у д ш и т ь сходимость (пример 3 ) .

Сравнение п о к а з ы в а е т т а к ж е , что алгоритм Б р а у н а [1] д а ж е на тех п р и м е р а х , которые были специально подобраны д л я и л л ю с т р а ц и и его п о л о ж и т е л ь н ы х сторон, у с т у п а е т ч.р.а.м.н. Если еще учесть сложность алгоритма Б р а у н а , а1 т а к ж е то, что д л я с л у ч а я одного у р а в н е н и я он совпадает с методом Ньютона (и, следовательно,

Метод а

Пример

Метод а 1

2 3 4

J V = 4 i V = 8 . N=iQ N=32 _\

Н ь ю т о н а 18 ^оо ^оо ^оо 24 57 8

Б р а у н а [7] ^

-

⁶ ⁷ ⁸ ^— ¹⁰ ¹⁰ ^—

А.м.н. с ш а г о м (4) . (см. 1 3 ] , [4])

-

³⁴ ^оо ^оо, ^оо ⁵³ ²³ ¹⁷

А.м.н. с о п т и м а л ь

н ы м ш а г о м (8) — 6 ^оо ^оо ^оо 8 И 53

н ы м ш а г о м (8)

до-ю 6 ^об ^оо — 8 11

-

Р.а.м.н. с о п т и м а л ь 5 ^оо 3

_

⁸ ^И

Р.а.м.н. с о п т и м а л ь _Ю-6

6 ^оо 4 , 8 278 _

н ы м ш а г о м 12 2 4 3 8 ^со 50

Ю-2 3 4 5 3 - 7 ^оо 67 Ч.р.а.м.н. с о п т и м а л ь

н ы м ш а г о м ю -³ 4 4 3 5 8 12 43

с о х р а н я е т его п р и н ц и п и а л ь н ы е н е д о с т а т к и ) , то м о ж н о у т в е р ж д а т ь , что алгоритм Б р а у н а н е э ф ф е к т и в е н .

В [7] проведено сравнение некоторых других методов р е ш е н и я систем н е л и н е й н ы х у р а в н е н и й [ 8 ] , [9] и показано, что на примере' 3 э т и - м е т о д ы р а с х о д я т с я . Тем с а м ы м они т о ж е о к а з ы в а ю т с я н е э ф ф е к т и в н ы м и .

Ч а с т и ч н о р е г у л я р и з о в а н н ы й аналог метода Ньютона с о п т и м а л ь н ы м ш а г о м ока

з а л с я , к а к видно из таблицы, наиболее н а д е ж н ы м и почти всегда наиболее быстро с х о д я щ и м с я . По-видимому, с т а н д а р т н ы е п р о г р а м м ы д л я р е ш е н и я систем н е л и н е й н ы х у р а в н е н и й целесообразно составлять на основе этого алгоритма.

3; П р и м е р 4 п о к а з ы в а е т , что р а з н ы е в а р и а н т ы а.м.н. позволяют находить мини

мум с к а л я р н о й ф у н к ц и и Ф(х) д а ж е при рельефе овражного типа, х о т я такие з а д а ч и с ч и т а ю т т р у д н ы м и и р е ш а ю т обычно с п е ц и а л ь н ы м и методами [10].

-Метод Ньютона д л я т а к и х з а д а ч н е н а д е ж е н , ибо вдали от р е ш е н и я его т р а е к т о р и я м о ж е т беспорядочно б л у ж д а т ь , перескочить в другой овраг и т.. д. (быстрая е г о сходимость в п р и м е р е 4 я в л я е т с я случайной, поскольку там овраг и м и н и м у м един

с т в е н н ы е ) .

Наоборот, т р а е к т о р и и н.а.м.н., определяемые д л я данной з а д а ч и системой обык

н о в е н н ы х д и ф ф е р е н ц и а л ь н ы х у р а в н е н и й dx

(12) , — =-\ф"(х)]-*Ф'(х), x=x(t),

dt^: - • ' '

после первого п р и б л и ж е н и я к д н у оврага не у д а л я ю т с я от него. Тем с а м ы м п р и б л и ж е н и е их к м и н и м у м у не носит х а р а к т е р а б л у ж д а н и й . Эту особенность с о х р а н я ю т и в а р и а н т ы а.м.н. при достаточно малом ш а г е т.

От метода градиентного спуска, т р а е к т о р и и которого о п р е д е л я ю т с я системой у р а в н е н и й

(13) dx/dt=-Ф'(x)

и т о ж е с б л и ж а ю т с я с дном оврага, н.а.м.н, выгодно о т л и ч а е т с я другим свойством.

Системы д и ф ф е р е н ц и а л ь н ы х у р а в н е н и й градиентного спуска (13) нередко о к а з ы в а -

(8)

ются «жесткими», что хорошо видно на примере к в а д р а т и ч н о й ф у н к ц и и Ф ( я ) =

=axi² + bx²² п р и 0<а<^Ь. И н т е г р а л ь н ы е к р и в ы е т а к и х у р а в н е н и й имеют у ч а с т к и с большой кривизной, и численное их н а х о ж д е н и е я в л я е т с я с л о ж н о й задачей. У р а в н е н и я ж е н.а.м.н. (12) не ж е с т к и е , и д а ж е схема Эйлера удовлетворительна д л я и х и н т е г р и р о в а н и я ; так, д л я к в а д р а т и ч н о й ф у н к ц и и и н т е г р а л ь н ы е к р и в ы е о к а з ы в а ю т с я п р я м ы м и . , I

Б л а г о д а р я этим свойствам ч.р.а.м.н. может о к а з а т ь с я э ф ф е к т и в н ы м в з а д а ч а х н а х о ж д е н и я всех л о к а л ь н ы х минимумов ф у н к ц и и н е с к о л ь к и х переменных, если с е рию н у л е в ы х п р и б л и ж е н и й выбрать на основе ЛПт-последовательностей многомер

ных точек [11].

Авторы п о л ь з у ю т с я случаем поблагодарить И. В. П у з ы н и н а и И. М. Соболя з а о б с у ж д е н и я .

Литература i

1. Гавурин М. К. Н е л и н е й н ы е ф у н к ц и о н а л ь н ы е у р а в н е н и я и н е п р е р ы в н ы е аналоги и т е р а т и в н ы х м е т о д о в . - И з в . вузов. Математика, 1958, т. 5(6), с. 18-31.

2. Жидков Е. П., Пузынин И. В. Об о'дном метбде в в е д е н и я п а р а м е т р а п р и р е ш е н и и к р а е в ы х з а д а ч д л я н е л и н е й н ы х обыкновенных д и ф ф е р е н ц и а л ь н ы х у р а в н е н и й второго п о р я д к а . - Ж . вычисл. матем. ! и матем. физ., 1967, т. 7, № 5, с. 1086-1095.

3. Гареев Ф. А. и др. Численное р е ш е н и е з а д а ч н а собственные з н а ч е н и я д л я и н - т е 1 т ю д и ф ф е р е н ц и а л ь н ы х у р а в н е н и и в теории я д р а . - Ж . вычисл. матем. 'и м а тем. физ., 1977, т. 17, № 2, с. 407-419.

4. Пузынин И. В. Н е п р е р ы в н ы й аналог м е т о д а ' Ньютона д л я численного р е ш е н и я з а д а ч квантовой м е х а н и к и : Дис. н а соискание у ч . ст. докт. физ.-матем. н а у к . Дубна: ОИЯИ, 1979. !

5. Тихонов А. Н., Арсенин В. Я. Методы р е ш е н и я н е к о р р е к т н ы х задач. М.: Н а у к а , 1974.

6. Александров Л. Р е г у л я р и з о в а н н ы е в ы ч и с л и т е л ь н ы е процессы Н ь ю т о н а - К а н т о р о в и ч а . - Ж . вычисл. матем. и матем. физ.,; 1971, т. 11, № 1, с. 36-43.

7. Brown К. М. A q u a d r a t i c a l l y convergent Newtpn-like m e t h o d based u p o n G a u s s i a n e l i m i n a t i o n . - S I AM J. N u m e r . Analysis, 1969, v. 6, № 4, p. 560-569.

8. Broyden C. G. A class of m e t h o d s for solving n o n l i n e a r s i m u l t a n e o u s equations.—

Math. Comput., 1965, v. 19, p . 577-593.¹

9. Spath H. T h e d a m p e d T a y l o r ' s series m e t h o d for m i n i m i z i n g a s u m of s q u a r e s and for solving s y s t e m s of n o n l i n e a r e q u a t i o n s . - C o m m u n s ACM, 1967, v. 10, p . 726-728.

10. Гельфанд И. M., Цетлин М. Л. Метод о в р а г о в . - У с п е х и матем. н а у к , 1962, т. 17, V № 1, с. 3-25.

11. Соболь И. М. Ч и с л е н н ы е методы Монте-Карло. М.: Н а у к а , 1973.

Поступила в р е д а к ц и ю 18.VI.1979

9 ЖВМ и МФ, № 2