Math-Net.Ru
Общероссийский математический портал
Й. Гергей, Обращение матриц и решение систем линейных и нелинейных уравнений методом окаймления, Ж. вы- числ. матем. и матем. физ., 1979, том 19, номер 4, 803–
810
Использование Общероссийского математического портала Math-Net.Ru под- разумевает, что вы прочитали и согласны с пользовательским соглашением http://www.mathnet.ru/rus/agreement
Параметры загрузки:
IP: 178.128.90.69
6 ноября 2022 г., 11:25:09
I ЖУРНАЛ ВЫЧИСЛИТЕЛЬНОЙ МАТЕМАТИКИ И МАТЕМАТИЧЕСКОЙ ФИЗИКИ Т о м 19 " Июль 1979 Август № 4
УДК 519.613 ОБРАЩЕНИЕ МАТРИЦ И РЕШЕНИЕ СИСТЕМ ЛИНЕЙНЫХ Ж НЕЛИНЕЙНЫХ УРАВНЕНИЙ МЕТОДОМ ОКАЙМЛЕНИЯ
! Й.ГЕРГЕЙ
! (Будапешт) Венгрия)
Показано, что метод о к а й м л е н и я и метод Гаусса - Ж о р д а н а обра
щ е н и я м а т р и ц ы совпадают. Рассмотрено несколько следствий совпадет ния. Предложен алгоритм р е ш е н и я систем л и н е й н ы х у р а в н е н и й методом о к а й м л е н и я и м о д и ф и к а ц и я метода Ньютона д л я нелинейного случая.
| § 1. Введение
Известно много методов обращения матриц. Самыми распространенны
ми из них .являются методы: исключения Гаусса, Гаусса — Жордана, Кроу- та и окаймления. В литературе можно найти указание, что первые три ме
тода совпадают (см., например, [1 , г] ) . Ниже показывается, что совпадаю
щими являются все четыре. Точнее, мы покажем, что метод окаймления совпадает с методом Гаусса — Жордана.
Пусть матрица -А=||яу|[, i, у—1, 2 , . . , п, невырожденная. Обозначим через Ah ее левую верхнюю часть, т. е.,
Л
л=.||яу1и
г , / = 1 , 2 , . . . , к. Матрицы Ah, й = 1 , 2 , . . . , га, невырожденные. Метод ^ окаймления состоит в следующем (см. [ii3]): ищется матрица, обратная к
в форме
Тогда (1.1)
А-1 Цк\
Vk Як
&>1, ,Ai==ai=aiU ^ 1 = 0 , У !т= 0 ,
h= (ah-vMh-hh)
~S r
f t=-pA_U
A,
qk*=-$kVkTAk-u^k-^A^+^A^UhVMk^i'
Если мы выполним вычисления по формулам (1.1) при /с=2, 3 , . . . , п, то получим АгГ^А'1. С другой стороны, самый распространенный метод обращения матриц (метод Гаусса — Жордана) состоит в следующем:
, t v и = 1 /
(1.2) | • ' ,
\аг,:=-аф», / = 1 , . 2 , . . . , п, j¥-i,
1>
804 Й. Тер гей
ahi:=akl+akiaih А, 7 = 1 , 2,:.., щ k,l^=i, : / , ац:=ацац, / = 1 , 2 , ...,га, ]Фи
(Знак :== показывает, что значение правой части присваивается левой.) Если мы выполним вычисления по формулам (1.2) при г = 1 , 2 , . . . , п , то
получим Л "1 на месте Л . 4 •
Т е о р е м а 1. Метод окаймления, реализуемый по формулам (1.1), и, метод Гаусса — Жорданау реализуемый по схеме (1.2), теоретически сов
падают.
Д о к а з а т е л ь с т в о теоремы 1 можно найти в [4] . Здесь мы л и ш ь сделаем два замечания. Из доказательства следует соотношение
M Q V V detUb-i) >
(1.3) $h=akk= .
detU
f t)
• Видно, что после /с-го шага исключения Гаусса — Жордана в к-ж столбце появляется вектор гк и в к-й строке — вектор qh\
§ 2. Решение систем линейных уравнений методом окаймления
Метод окаймления для редгениц систем линейных уравнений предло
жен в [3] , Здесь мы излагаем его иным способом, в результате чего про
ясняется связь с ним метода Гаусса — Жордана, Можно придать методу окаймления наглядную форму и.обобщить его на нелинейный случай.,
' Решим систему уравнений . 1
( 2 . 1 ) , а«я,-= Ьи . . i=l, 2 , . . . , п,
методом окаймления. Пусть х°= ( 0 , . . . , 0 ) , xh=(xih1.. . , 0 , . . . , 0 ) , 0 <
<к^п. Предположим, что все матрицы Ak, / с = 1 , 2 , . . .;, п, невырожденные.
Вначале из первого уравнения системы (2.1) найдей вектор Ьх^—
= (б^!°, 0 , . . . . , 0) такой, что х'=х°+8хи х1 = {х,\ 0 , / . . , 0) и я ^ б я Д Ины
ми словами, решим уравнение а^Ьх^=Ъи откуда 6x1°=bl/aii и
Затем из первых двух уравнений системы (2.1) найдем вектор 8х2=
= ( 6 ^ , 8х2°, 0 , . . . , 0 ) такой, что 3*=xl+te%=(xf, х2\ 0 , . . . , 0 ) , х22=8х2°г xiz=xii+8xii. Для этого подставим хг в указанные два уравнения и, со
гласно предыдущим результатам и принятым обозначениям, получим си
стему • ' ~" - ' '
аиЬх11+апЬх2=$, а21Х^+ап8х2+а228х2=Ъ^ ''
Первое уравнение определяет • г
• а±2 а &
6 x1 1= C i16 ^ 2 ° — — —— б ^2, т . е . C i = - - — ;
' . ап # н J.
а из второго можно вычислить 8х2 (так как с* уже известно):
a22~\~a2\Ci у - •
Обращение матриц и решение систем уравнений 805
и так продолжаем счет далее. На (&+1)-м шаге решаются уравнения (2.2) н
(2.3) ak+1, j (%jh~^~ Cjh8?ck+1) 1 > f e + 16 #f c + 1=1. . j=i ,
Из уравнений (2.2).можно получить вектор (2.4)
ап. . —1
# 1 , /г+1
як-'-
6+1Подставив cft в (2.3), можн6чвычислить
л
;ft -
ч_
£После этого
(2.6) xr'=xr+§xh\iCik, Xb+i=*8xk+i.
Если мы выполним счет при fc=0, 1, ...\п— 1, то вектор #п даст решение
уравнения (2.1). 4 .' . -уф ' (У:ЧЪГ'I
§ 3. Алгоритм счета
Решение описанным выше методом предполагает обращение матрицы А методом окаймления. Для этого требуется п3 мультипликативных опе
раций (умножения и, деления). Укажем;алгоритм с меньшим количест
вом операций. ' , ;
Пусть исключение Гаусса — Жордана, выполняется в матрице А при
£=1, 2 , . . . ,./г по формулам .
~: 'ац: = 1/ац, . . - • / : • • , • '• • • ; (3.1) ; ац:=ац*аи, / > i , i ,i \. -,\ ,/ :v
ahi:=ahi—ahiau, - кФ1, V>i. . - . - ' . - г " .оЧ
Преобразованные элементы матрицы А будем обозначать так же, как и исходные. Используем обозначения § 1. Формулу (2.5) при помощи (1.1),
(1.3) и (2.4) можно записать в виде
7 . Т ft
/ о о \ я 0 Ok+i—Uh+iX -
(d.Z) oxk+i=»- ; : == % + i , f t + i ( b f t + i - ^ + i ^ ) , \ поскольку cf t=—-47 l~Iiif t.
Легко видеть, что вектор с- появляется в. (/с~М)-м столбце матрицы Л (первые к элементов) после выполнения исключения.
Таким образом, алгоритм метода следующий.
Ш а г 1. Выполняется исключение,:,Гаусса — Жордана : по форму
лам (3.1). : • •
806 Й. Гергей
Ш;аг 2. При k=0, 1,. . . , п— 1 выполняется следующее:
а) 8x1+1 считается по формулам (3.2),
б) вектор xk+i считается по формулам (2.6) (вектор — ск является пер
вым к-ж элементом (/с+1)-го столбца матрицы после исключения).
Вектор хч является решением системы уравнений (2.1).
П р и м е р ! . . Решаем систему линейных уравнений 2 x + i / + 4 z = 1 2 , , : 8x-3y+2z=20,
ix+lly-z=33
методом окаймления. Матрица системы
2 1 4 12
А = : 8 - 3 2 , Ь = 20 4 11 - 1 33
Производим исключение Гаусса — Жордана на матрице А и записыва
ем начальные значения поддиагональных элементов: - 0.5 0.5 1
8 - 1 / 7 2 , 4 11 — 1 / 2 7 Реализуем алгоритм при. &=^0, 1, 2:
'хгг = 6хг° = ctubi = 6 , - 'С
X22,=8x2°=a22(h2—dzixS) = 4 , х^ = хг1 + Ьх^схх = 4, х2 =
с ^ - 0 . 5 , 4 4 0
^ 33 — 8 ^ 3 ° # 3 з ( ^ 3 ^ 3 1 ^ 12 ^ 3 2 ^ 22) . 1, С* 1?
а ^ ^ + с ^ б а ^ З , . а ;2 3= ^2 2+ с2 2б а ; з0= 2 . Результат решения
3
с2'
§ 4. Решение систем нелинейных уравнений Рентам систему нелинейных уравнений
.(4.-1) ' / , ( * ) = 0 , i = l , 2 , . , . , и ,
сначала методом Ньютона. Пусть ее матрица Якоби
Обращение матриц и решение систем уравнений 807
Исходя из начального приближения х° найдем первое приближение х\¥^
= x ° + u . Применение метода Ньютона означает, что нам нужно решить си
стему линейных уравнений . • ,
( 4 . 2 ) Л Ц= - / 0 Г ° ) , / = ( / , , . . . , / , , ) . > =::-,;^
Решим уравнение (4.2) методом окаймления. Это означает, согласно (2.2) и ;(2.3), что при &=0, 1,...,?г—1 нужно решить систему линейных
уравнений ' ;
(4.3) ! •. V a « c / 6 %+ 1' + f lf f t + 16 t tf c +i = 0 , \
(4.4) \ ,^ah+l>^ : r /•
и\={щк,;.., и Д 0 , . . . , 0 ) , u |+ 1 = » if t+ 6 t tf t + l l i ^ / c , » ^ = 6 U f t+ 1, &n — решение системы ;(4.2).
\ § 5. Модификация метода Ньютона
Изменим метод Ньютона следующим образом: найдем первое прибли
жение в форме xx=xQ+vn-, где vn — решение системы ? (5.1) \ ' ^ al ici* 6 z ;f t+ i + a<,f t + 16 i ;A + 1= 0 ,
(5.2У j / , ^ ( ^ + ^ + ( ^ , 1 ) 6 ^ 0 = 0 , .
* = 0 , 1 , . | . . ^ - 1 , 0 , . . . , 0 ) , v™=v?+c?bvk+ir Kk^vlH-
=Ъик+и ректор ( с \ 1) — (сД сД 1 , 0 , 0 ) . Система (5.1), (5.2) отлича
ется от фистемы (4.3), (4.4) тем, что (5.2) — нелинейное уравнение для неизвестного 6vh+i, в то время как (4.4) — линейное ((4.3) и (5.1) совпа
дают), i :
ii •' " . •
Так как система (5.1), (5.2) — нелинейное приближение для решения (4.1), т о h cQ+ vn вообще дает лучшее приближение для решения (4.1), чём
х°+ип. ; V '
Итерационный метод, который излагается в [5] , является, модификаци
ей метода Ньютона, описанного выше. В [5] показано на одном примере, что сходимость предлагаемого итерационного метода быстрее, чем сходи
мость метода Ньютона.
Теперь поясним на примере преимущества модифицированного мето
да Ньютора, затем сформулируем-алгоритм.
П р и й ё р 2 . Решим систему нелинейных уравнений
\ К ( « , » ) «а+ Уа- 2 = 0 ; U(x1y)^x2~y2-1=0
исходя ик начального приближения л:0=1.25, г/0=0.75. Метод Ньютона дает приближения
| к=1.2250, , ^ = 0 . 7 0 8 3 , ;
| ж2=1.2247, г/2=0.7071.
808 Й. Гергей
Модифицированный метод Ньютона состоит в следующем.
а. Решаем уравнение , , (1.25+6z;02+0.752-2=0.
Его решение'"6w±=—0.05104 и х^х.+би^ГЛШб.
б. Из равенства (2.4) при к=1 получаем
- ••: , -бд/бу 1.5 • ;
Ci=— — = >=—0.6.
8fJ8x 2.5. ; ч ^ ; '
Затем решаем уравнение • ^
и(ху1+с^и2, г /0+ б г ;2) ^ ( 1 . 1 9 8 9 6 - 0 . 6 6 У2)2- ( 0 . 7 5 + б ^2)2— 1 = 0 .
Его решение 8г;2==-0.04294 И у±=у0+ди2=0Л0Ш_9 х,=х\1-0.Ш2=
=1.22472. Точное решение системы
г/=У0.5—0.70711, *=У1.5~1.22474.
Из цримера видно, что модифицированный метод Ньютона на одном ша- ' ге дает то же приближение, что и метод Ньютона на двух шагах.
А л г о р и т м р е ш е н и я с и с т е м ы н е л и н е й н ы х у р а в н е н и й . Алгоритм счета для нелинейного случая является вариацией алго
ритма счета для линейного случая, описанного выше.
Ш а г 1. Выписываем матрицу Якоби и выполняем исключение Гаус
са — Жордана на ней по формуле (3.1).
Ш а г 2. При / с = 0 , ' 1 , . . . , п—1 выполняем: следующее:
а) выбираем вектор —ск из матрицы (первый к-и элемент (&+1)-го столбца матрицы, -после ^исключения) и решаем уравнение (5.2);
г б) считаем вектор xk+i по формулам (2.6). V.
Вектор хп является новым приближенным решением системы нели
нейных уравнений (4.1).
Можно предложить одно наглядное объяснение описанных методов:
вектор (cfe, 1) определяет некоторое направление^в (к+1)-мерном под
пространстве (ск определяется иа. уравнений (4.3) или (5.1)). Нужно ре
шать уравнение (2.3) в линейном случае или уравнение (5.2) в нелиней
ном случае по направлению (cf t, 1)..,
§ 6. Сходимость ' , Докажем, что модифицированный метод Ньютона дает сходимость бо
лее быструю, чем метод Ньютона. '.
Предполагается, что система (4.1) имеет решение х* и найдется ок
рестность S,x*<^S, где удовлетворяются следующие условия:
а) функции fi(x), i = l , 2 , . . . , 72, дважды дифференцируемы и их вто
рые производные ограничены в S;, , . б)/ известно такое, начальное приближение x0(=S, где верхние левые
части матрицы Якоби системы (4;1) (т. ё. Матрицы Ah) не вырождены; • в) при любом индексе й = 1 , 2 , . , п можно решить уравнение (5.2).
Т е о р е м а 2. При условиях а ) , б) и в) модифицированный метод Ньютона сходится, и притом быстрее, чём метод Ньютона.
Обращение матриц и решение систем уравнений 809
* Д о к!а з а т е л ь с т в о , Определим функции
I .: ' • • ' • • : . • . . . ,
|| L. .. •• ..- ; .. •• -. - ' ': • - v . ; - ОчевиднЬ, что F(x*) = 0 и F ' ( # ) > 0 , если хФх*. /Поэтому минимизация функции F(x) и решение систем уравнений (4.1) совпадают. Построим алгоритм для приближенного-нахождения минимума функции F(x).
А л г о р и т м . При &=0, 1 , . . . ,п—1 выполняем следующие- шаги.
Ш а Ц а* Минимизируем по переменным б ф у н к ц и ю , (6.1) Fk+i(x"+v"+(c\i)bvk+i) : i
при условии, ЧТО * . .
Отсюда получаем А: уравнений для определения к неизвестных сД
= 1 , 2 , . . ; . , А. Затем из условия минимума функции" (6.1) получаем' §vk+l. . Ш aril б. Пусть • ' .
\ и*+1=игк+(Сг\ l)bvk+i, Кку Vk+t ==8vk+i. ; - : - • Легко видеть, что-результат этого; алгоритма и результат алгоритма йй
§ 5 совпадают. Так как на каждом шаге минимизируется одна из функ
ций /"г, а!другие не изменяются, имеем •
\. ' fe+4 ' ; ' fe+i\ : ' "' : ''' ' 'J
Отсюда следует (если х1=х°+ип), что F(xl)<F(x°). А это значит, что ми
нимизирующий алгоритм сходится. 4 т
Как показано выше, этот алгоритм дает тот же результат, что и моди
фицированный метод Ньютона. Таким образом, сходимость модифцццрр- ванного метода Ньютона доказана.
Решв^м теперь систему уравнений (4.1) методом Ньютона так, как опи
сано в §: 4. Посмотрим, что получится тогда для значений функций Fu Так как в 'предыдущем алгоритме x°+vh+l минимизирует функцию Fh+l, то
(6.3) | : \ - Fk+i( x ^ b ) ^ . : ^ r ^ r: ^ . ; ^ / . • ^ ; • .: г ; :
где uh+i йблучается при счете по методу Ньютона. Равенство в (6.3) вы
полняется лишь при ^условии, что решения уравнений (5.2) и (4.4) сов
падают. Этот случай реализуется, если функция fk+i(x) линейная, А тюгда число итераций конечно. ./ . ' f ; ^; Л з Если {же по крайней мере одна из функций fi (х) нелинейная1 и по крайней мере одна из них выпуклая или вогнутая вблизи корня, то этого'
достаточно, чтобы - .
;! F(x°+vn) <F(x°+un). , -
Это неравенство означает, что сходимость модифицированного \ метода Ньютона!! быстрее, чем сходимость метода Ньютона. Точнее, сходимость модифицированного метода Ньютона в любом случае квадратична. у
Й. Г ер гей
§ 7. Следствия
1. Как известно, методом Гаусса — Жордана нельзя воспользоваться, если главный элемент матрицы А равен нулю. Кроме того, обратная мат
рица будет очень неточной при слишком малых значениях главных эле
ментов. Методом окаймления также нельзя пользоваться, если знамена
теле в выражении для равняется нулю. Если он мал, то обратная матри
ц а будет неточной.
2; Если А — невырожденная матрица, то метод Гаусса — Жордана с выбором главного элемента по всей матрице будет устойчивым. В методе окаймления тоже есть возможность выбирать так называемый главный элемент, т . е . можно переставить строки и столбцы так, чтобы знамена
тель у рА имел самое большое значение. Но для этого нужно вычислять знаменатели $k для всех возможных случаев и выбирать из них самый г большой по модулю. Это гораздо более трудоемко, чем выбор главного элемента матрицы в методе Гаусса — Жордана, поэтому использование
такого приема нецелесообразно.
3. Если А — положительно-определенная матрица, то метод Гаусса — Жордана вполне устойчив без какого-либо выбора главных, элементов (см. I1]). Поэтому, согласно теореме 2, в случае положительно-опреде- лднной матрицы метод окаймления устойчив.
4. В ходе решения систем линейных й нелинейных уравнений методом
•окаймления также можно выбирать главный элемент и можно перестав
лять строки и столбцы. В счете по формулам (2.3),; (2.6), (3.1) и (5.2) надо принимать во внимание, что в результате перестановки строк проис
ходит перестановка уравнений, а из перестановки столбцов следует пере
нумерация неизвестных.
5. Если матрица Якоби системы (4.1) положительно-определенная, имеют место условия а) и в) из § 6, поэтому в данном случае утверждение теоремы 2 справедливо.
Поступила в редакцию 3.05.1978 '•'"••у- ' Переработанный вариант 14.09.1978
, , Цитированная литература
1. Дж. X. Уилкинсон. А л г е б р а и ч е с к а я проблема собственных з н а ч е н и й . М., «Наука», .. 1 9 7 0 . * . ;
2. В. В. BqeeoduH. Ч и с л е н н ы е методы линейной алгебры. М., «Наука», 1966.
1 Ъ. Д. к. Фаддеев, В. П. Фаддеева. Вычислительные методы линейной алгебры. М., ' Ф и з м а т г и з , 1963.
4. / . Gergely. M a t r i x inversion and solution "of linear and n o n l i n e a r system by m e t h o d ,> of b o r d e r i n g . I n «Numer. methods)). Budapest, Janos Bolyai - N o r t h Holl, 1979.
Ь.Й. Г ер гей, Один_ метод р е ш е н и я систем н е л и н е й н ы х у р а в н е н и й . Ж . вычисл. ма-
С тУ; и матём. физ., 1976, 16, № 3, 776-778.