Sistemas de Equações
Lineares (SEL ) – Parte II
■
Motivação I
■ Ocorrência em larga escala de sistemas lineares em
cálculos de Engenharia e modelagem científica ■ Exemplos:
■ Simulações de processos químicos ■ Simulações de dispositivos e circuitos
■ M o d e l a g e m d e p r o c e s s o s g e o c i e n t í f i c o s e
geoambientais
■ Análise estrutural ■ Biologia estrutural
■ Modelagem de processos físicos
■
Motivação II
■ Tendência à existência de matrizes de coeficientes à
grandes e esparsas
■ Grandes ⇨ Comum para n > 100.000
■ Esparsas ⇨ Maioria dos coeficientes nulos
■ Resolução de sistemas esparsos por métodos diretos
■ Processos de triangularização e fatoração ⇨
Onerosos, por não preservarem a esparsidade original, que pode ser útil por facilitar a resolução do sistema.
■
Motivação III
■ Métodos mais apropriados para a resolução de
sistemas de natureza esparsa ⇨ Métodos iterativos
■ Gauss-Jacobi ■ Gauss-Seidel
■ A partir de uma estimativa inicial xi0, consistem em
encontrar uma seqüência de estimativas xik que convirja
p a r a u m a s o l u ç ã o d o S E L a p ó s u m n ú m e r o suficientemente grande de iterações.
Métodos Iterativos
!
!
!
!
!
!
!
#
$
$
$
$
$
$
$
&
) 0 ( 3 ) 0 ( 2 ) 0 ( 1x
x
x
!
!
!
!
!
!
!
!
#
$
$
$
$
$
$
$
&
) 1 ( 3 ) 1 ( 2 ) 1 ( 1x
x
x
!
!
!
!
!
!
!
!
#
$
$
$
$
$
$
$
&
) 2 ( 3 ) 2 ( 2 ) 2 ( 1x
x
x
!
!
!
!
!
!
!
!
#
$
$
$
$
$
$
$
&
) k ( 3 ) k ( 2 ) k ( 1x
x
x
!
!
■
Vantagem ⇒ Menos suscetíveis ao acúmulo de
erros de arredondamento do que o método de
Eliminação de Gauss.
■
Lembretes importantes:
■ Como todo processo iterativo, estes métodos
sempre apresentarão um resultado aproximado, que será tão próximo do resultado real conforme o número de iterações realizadas.
■ Além disto, também é preciso ter cuidado com a
convergência destes métodos.
Métodos Iterativos
■ Transformação do sistema linear Ax=b em x = Cx +g
■ A: matriz dos coeficientes, n x m ■ x: vetor das variáveis, n x 1;
■ b: vetor dos termos constantes, n x 1; ■ C: matriz, n x n; e
■ g: vetor, n x 1.
■ Métodos a estudar
Método de Gauss-Jacobi
■ Conhecida a estimativa inicial, x(0), obtém-se
consecutivamente os vetores: o) aproximaçã ésima -(k , g Cx x o) aproximaçã (segunda , g Cx x o) aproximaçã (primeira , g Cx x ) 1 k ( ) k ( ) 1 ( ) 2 ( ) 0 ( ) 1 ( + = + = + = − !
▪ De um modo geral, a aproximação x(k+1) é calculada
pela fórmula:
x(k+1) = C x(k)+g, k=0, 1, ...
▪ Método de Gauss-Jacobi
▪ Da primeira equação do sistema:
a11 x1 + a12 x2 + ... +a1n x2 = b1 obtém-se: x1 = (1/a11) (b1 - a12 x2 - ... -a1n x2) e, analogamente, x2 = (1/a22) (b2 - a21 x1 - ... -a2n xn) xn = (1/ann) (bn - an1 x1 - ... - ann-1 xn-1)
!
Método de Gauss-Jacobi
▪ Método de Gauss-Jacobi
▪ Desta forma, para x = C x + g, obtém-se:
! ! ! ! ! ! ! ! ! ! ! ! ! ! " # $ $ $ $ $ $ $ $ $ $ $ $ $ $ % & = nn n 33 3 22 2 11 1 a b a b a b a b g ! ! ! ! ! ! ! ! ! " # $ $ $ $ $ $ $ $ % & − − − − − − − − − − − − = 0 a a a a a a a a 0 a a a a a a a a 0 a a a a a a a a 0 C nn 3 n nn 2 n nn 1 n 33 n 3 33 32 33 31 22 n 2 22 23 22 21 11 n 1 11 13 11 12 ! " # ! # " " ! ! e
Método de Gauss-Jacobi
▪ Método de Gauss-Jacobi
▪ Distância entre duas iterações
▪ Critério de Parada
x
-x
max
d
(k)=
(k)i (ki -1)x
max
d
d
(k) i (k) (k) r<
ε
"
"
=
Método de Gauss-Jacobi
▪ Método de Gauss-Jacobi – Exemplo 13 ▪ Seja o sistema: ▪ Determinação de 2x 3x 10xC e g 6 8 x 5x x 7 3x 2x x 10 3 2 1 3 2 1 3 2 1 = + + = + + = + + ! ! ! ! ! ! ! ! " # $ $ $ $ $ $ $ $ % & = 10 6 5 8 10 7 g
!"
#
$%
&
=
0 3/10 – 1/5 -1/5 0 -1/5 - 0 -2/10 - 3/10C
Método de Gauss-Jacobi
▪ Método de Gauss-Jacobi – Exemplo 13
▪ Assim, considerando como estimativa inicial:
e ε = 0,05, obtém-se: e
!
!
"
#
$
$
%
&
=
0,6
1,6
-
0,7
x
0!
!
"
#
$
$
%
&
=
+
=
0,94
1,34
0,84
g
Cx
x
(1) (0) |x1(1) – x 1(0)| = 0,14 |x2(1) – x 2(0)| = 2,94 |x (1) – x (0)| = 0,34Método de Gauss-Jacobi
▪ Método de Gauss-Jacobi – Exemplo 13 ▪ Assim: ⇒ e, analogamente: ⇒
!
!
"
#
$
$
%
&
=
+
=
0,030
1,244
0,150
g
Cx
x
(2) (1)ε
>
=
=
0,7315
1,244
0,91
d
r(2)0,1968
1,5640
0,4422
g
Cx
x
(3) (2)!
!
"
#
$
$
%
&
=
+
=
=
=
0,2046
>
ε
1,5640
0,32
d
r(3)Método de Gauss-Jacobi
▪ Método de Gauss-Jacobi – Exemplo 13 ▪ Igualmente: ⇒ e, finalmente: ⇒
!
!
"
#
$
$
%
&
=
+
=
0,0424
1,4722
0,3282
g
Cx
x
(4) (3)ε
> = = 0,1049 1,4722 0,1544 dr(4) ! ! " # $ $ % & = + = 0,0927 1,52590,3929 g Cx x(5) (4)ε
< = = 0,0424 1,5259 0,0647 dr(5)Método de Gauss-Jacobi
Método de Gauss-Seidel
■ Similarmente ao método de Gauss-Jacobi, conhecida a
estimativa inicial, x(0), obtém-se consecutivamente os
vetores x(1), x(2), ..., x(k)
▪ Todavia, ao se calcular xj(k+1), usa-se todos os valores
x1(k+1), x
2(k+1), ..., xj-1(k+1) que já foram calculados e os
valores xj+1(k), x
j+2(k), ..., xn(k) restantes.
Método de Gauss-Seidel
■ Descrição I
■ Seja o seguinte sistema de equações:
n n nn 1 n 1 nn 3 3 n 2 2 n 1 1 n 3 n n 3 1 n 1 n 3 3 33 2 32 1 31 2 n n 2 1 n 1 n 2 3 23 2 22 1 21 1 n n 1 1 n 1 n 1 3 13 2 12 1 11 b x . a x . a x . a x . a x . a .x a .x a .x a .x a .x b a b x . a x . a x . a x . a x . a b x . a x . a x . a x . a x . a = + + + + + = + + + + + = + + + + + = + + + + + − − − − − − − −
!
"
#
"
!
!
!
Método de Gauss-Seidel
Método de Gauss-Seidel
■ Descrição II
■ Isolando xi a partir da linha i, tem-se:
(
)
(
)
(
)
(
n n1 1 n2 2 nn 1 n 1)
nn n n n 3 1 n 1 n 3 2 32 2 31 3 33 3 n n 2 1 n 1 n 2 3 23 1 21 2 22 2 n n 1 1 n 1 n 1 3 13 2 12 1 11 1 x . a x . a x . a b a 1 x x . a x . a x . a x . a b a 1 x x . a x . a x . a x . a b a 1 x x . a x . a x . a x . a b a 1 x − − − − − − − − − − − − = − − − − − = − − − − − = − − − − − =!
"
!
!
!
Método de Gauss-Seidel
Método de Gauss-Seidel
■ Descrição III
■ O processo iterativo se dá a partir das equações:
(
)
(
)
(
)
(
k 1)
1 n 1 n , n 1 k 2 2 n 1 k 1 1 n n nn 1 k n k n n 3 k 1 n 1 n , 3 1 k 2 32 1 k 1 31 3 33 1 k 3 k n n 2 k 1 n 1 n , 2 k 3 23 1 k 1 21 2 22 1 k 2 k n n 1 k 1 n 1 n , 1 k 3 13 k 2 12 1 11 1 k 1 x . a ... x . a x . a b a 1 x x . a x . a ... x . a x . a b a 1 x x . a x . a ... x . a x . a b a 1 x x . a x . a ... x . a x . a b a 1 x + − − + + + − − + + + − − + + − − + − − − − = − − − − − = − − − − − = − − − − − =Método de Gauss-Seidel
Método de Gauss-Seidel
■ Critério de Parada I
■ Diferença relativa entre duas iterações consecutivas, dada por: ! ! ! ! ! " !! ! ! ! # $ !" ! # $ ≠ = = ≠ − = + + + + + ≤ ≤ +
=
0 x 0 x se , 1 0 x x se , 0 0 x se , x x x . Máx M k i 1 k i k i 1 k i 1 k i 1 k i k i 1 k i n i 1 1 k RMétodo de Gauss-Seidel
Método de Gauss-Seidel
■ Critério de Parada II
■ F i m d o p r o c e s s o i t e r a t i v o ⇨ V a l o r d e MRk + 1
suficientemente pequeno para a precisão desejada
▪ Método de Gauss-Seidel – Exemplo 14 ▪ Resolver: ▪ Solução: . 10 . 5 M com , 0 z 6 y 3 x 3 6 z y 4 x 3 5 z y x 5 2 k R ≤ − = + + = + + = + +
(
)
(
)
(
)
(
x y)
2 1 z y 3 x 3 6 1 z z x 3 6 4 1 y z y 5 5 1 x + − = ⇒ − − = − − = − − =Método de Gauss-Seidel
▪ Método de Gauss-Seidel – Exemplo 14
▪ Quadro de resultados do processo iterativo
k x Mxk k y Myk zk Mzk MRk -1 - 0 - 1 - -0,8 2,25 0,65 1 -0,725 2,379 2,379 1,015 0,212 0,92 0,293 -0,967 0,250 0,293 1,009 0,006 0,985 0,066 -0,997 0,030 0,066 1,002 0,007 0,998 0,0013 -1 0,003 0,0013 x = 1,002 y = 0,998 z = -1
Método de Gauss-Seidel
▪ Método de Gauss-Seidel – Exemplo 14
▪ Verificação (substituição no sistema)
x = 1,002 y = 0,998 z = -1
5.(1,002) + 1.(0,998) + 1.(-1) = 5,008 ≅ 5 OK
3.(1,002) + 4.(0,998) + 1.(-1) = 5,998 ≅ 6 OK
3.(1,002) + 3.(0,998) + 6.(-1) = 0 OK
▪ Critérios de Convergência
▪ Processo iterativo ⇨ Convergência para a solução exata não garantida para qualquer sistema.
▪ Necessidade de determinação de certas condições que devem ser satisfeitas por um SEL para a garantia da convergência do método.
▪ Critérios de determinação das condições de convergência
▪ Critério de Sassenfeld
▪ Critério das Linhas
▪ Critério de Sassenfeld I
▪ Sejam as quantidades βi dadas por:
n - ordem do sistema linear que se deseja resolver
aij - coeficientes das equações do sistema
Método de Gauss-Seidel
para i = 2, 3, ..., n∑
= ⋅ = β n 2 j j 1 11 1 a a 1 ! ! ! " # $ $ $ % & + β ⋅ ⋅ = β∑
∑
+ = − = n 1 i j ij 1 i 1 j j ij ii i a a a 1 e▪ Critério de Sassenfeld II
▪ Este critério garante que o método de Gauss-Seidel convergirá para um dado SEL se a quantidade M, definida por:
for menor que 1 (M<1).
Método de Gauss-Seidel
i
max
M
n i 1≤ ≤β
=▪ Critério de Sassenfeld III
▪ Exemplo 15: Seja A a matriz dos coeficientes e b o vetor dos termos constantes, dados por:
for menor que 1 (M<1).
4 44 43 42 41 3 34 33 32 31 2 24 23 22 21 1 14 13 12 11 b a a a a b a a a a b a a a a b a a a a
(
)
(
)
(
)
(
41 1 42 2 43 3)
44 4 34 2 32 1 31 33 3 24 23 1 21 22 2 14 13 12 11 1 a a a a 1 a a a a 1 a a a a 1 a a a a 1 β + β + β ⋅ = β + β + β ⋅ = β + + β ⋅ = β + + ⋅ = βMétodo de Gauss-Seidel
▪ Critério de Sassenfeld IV
▪ Exemplo 15: Seja A a matriz dos coeficientes e b o vetor dos termos constantes, dados por:
4 44 43 42 41 3 34 33 32 31 2 24 23 22 21 1 14 13 12 11 b a a a a b a a a a b a a a a b a a a a
(
)
(
)
(
)
(
41 1 42 2 43 3)
44 4 34 2 32 1 31 33 3 24 23 1 21 22 2 14 13 12 11 1 a a a a 1 a a a a 1 a a a a 1 a a a a 1 β + β + β ⋅ = β + β + β ⋅ = β + + β ⋅ = β + + ⋅ = βMétodo de Gauss-Seidel
▪ Critério de Sassenfeld V ▪ Exemplo 15:
Método de Gauss-Seidel
0 , 10 x 0 , 4 x 8 , 0 x 2 , 1 x 4 , 0 0 , 1 x 2 , 0 x x 2 , 0 x 1 , 0 8 , 7 x 3 , 0 x 6 , 0 x 3 x 6 , 0 4 , 0 x 2 , 0 x 2 , 0 x x 0 , 2 4 3 2 1 4 3 2 1 4 3 2 1 4 3 2 1 − = ⋅ + ⋅ + ⋅ + ⋅ = ⋅ + + ⋅ − ⋅ − − = ⋅ − ⋅ − ⋅ + ⋅ = ⋅ + ⋅ − + ⋅(
)
(
)
(
)
(
0,4 0,7 1,2 0,44 0,8 0,358)
0,2736 4 1 358 , 0 2 , 0 44 , 0 2 , 0 7 , 0 1 , 0 1 1 44 , 0 3 , 0 6 , 0 7 , 0 6 , 0 3 1 7 , 0 2 , 0 2 , 0 1 2 1 4 3 2 1 = ⋅ + ⋅ + ⋅ ⋅ = β = + ⋅ + ⋅ ⋅ = β = + + ⋅ ⋅ = β = + + ⋅ = β M < 1 ⇒ Convergência dasolução do sistema a partir do
10.0 4.0 0.8 1.2 0.4 1.0 0.2 1.0 0.2 0.1 -7.8 0.3 0.6 3.0 0.6 0.4 0.2 0.2 1.0 2.0 A b
Método de Gauss-Seidel
▪ Critério de Sassenfeld VI ▪ Exemplo 15: Solução 7 , 0 M =max
β
=Método de Gauss-Seidel
▪ Critério das Linhas
▪ Segundo este critério, um determinado sistema irá convergir pelo método de Gauss-Seidel, se:
n. ..., 3, 2, 1, i para , a a ii n i j 1 j ij < =
∑
≠ =Método de Gauss-Seidel
▪ Critério das Linhas
▪ Exemplo 16: O SEL do Exemplo 14 satisfaz o Critério das Linhas, sendo a verificação quase imediata, se for observado que: 4 , 2 8 , 0 2 , 1 4 , 0 a a a 4 a 5 , 0 2 , 0 2 , 0 1 , 0 a a a 1 a 5 , 1 3 , 0 6 , 0 6 , 0 a a a 3 a 4 , 1 2 , 0 2 , 0 1 a a a 2 a 43 42 41 44 34 32 31 33 24 23 21 22 14 13 12 11 = + + = + + > = = + + = + + > = = + + = + + > = = + + = + + > = 4. 3, 2, 1, i para a a n = <
∑
■
Tanto o
Critério de Sassenfeld
quanto o
Critério
das Linhas
são condições
suficientes
, porém
não
necessárias
, para a convergência do método de
Gauss-Seidel para um dado SEL
■ Um dado SEL pode não satisfazer estes critérios e
ainda convergir
■ Um sistema pode não satisfazer o Critério das
Linhas, porém sua convergência será garantida se satisfizer o Critério de Sassenfeld
Método de Gauss-Seidel
▪ Critério das Linhas x Critério de Sassenfeld ▪ Exemplo 17: Seja o seguinte SEL:
▪ O Critério das Linhas não é satisfeito, visto que:
▪ Todavia, o Critério de Sassenfeld é satisfeito, uma vez que: 18 x 2 x 6 23 x x 10 2 1 2 1 = ⋅ + ⋅ = + ⋅ 6 a 2 a22 = < 21 =
(
6 0,1)
0,3 1 e 1 , 0 1 1 = ⋅ ⋅ = β = ⋅ = βMétodo de Gauss-Seidel
▪ Critério das Linhas x Critério de Sassenfeld
▪ Exemplo 17: Assim sendo, a convergência do SEL é
■
Embora não altere a solução do SEL, a ordem de
aparecimento das equações pode alterar sua
convergência pelo método da Gauss-Seidel.
■ Exemplo 18: Seja o SEL:
■ Observa-se que na ordem atual de aparecimento das equações, o SEL não satisfaz o Critério das Linhas
(verificar!!!); logo, sua convergência não é garantida.
■ A inversão da ordem das duas equações do SEL fará com que o Critério das Linhas seja satisfeito e sua
Considerações Finais
15 x 3 x 5 19 x 10 x 4 2 1 2 1 = ⋅ + ⋅ = ⋅ + ⋅ −■ Ruggiero, M. A. Gomes & Lopes, V. L. da R. Cálculo Numérico: Aspectos teóricos e computacionais.
MAKRON Books, 1996, 2ª ed.
■ Asano, C. H. & Colli, E. Cálculo Numérico:
Fundamentos e Aplicações. Departamento de Matemática Aplicada – IME/USP, 2007.
■ Sanches, I. J. & Furlan, D. C. Métodos Numéricos. DI/UFPR, 2006.
■ Paulino, C. D. & Soares, C. Erros e Propagação de
Erros, Notas de aula, SE/ DM/ IST [Online] http://
w w w . m a t h . i s t . u t l . p t / s t a t / p e / q e b /
semestre_1_2004-2005/PE_erros.pdf [Último
acesso 07 de Junho de 2007].