DCC008 Aula05 Sistemas Lineares

(1)

Num´erico -UFJF

Introdu¸cão Conceitos fundamentais Sistemas de Equa¸cões Lineares Resolu¸cão de Sistemas Triangulares Métodos Diretos

Elimina¸cão Gaussiana Estratégia de pivotamento Decomposi¸cão LU Decomposi¸cão de Cholesky

M´etodos Iterativos Jacobi Gauss-Seidel

Resolu¸c˜ao de Sistemas de Equa¸c˜oes Lineares

DCC008 - C´alculo Num´erico

Departamento de Ciˆencia da Computa¸c˜ao Universidade Federal de Juiz de Fora

(2)

Num´erico -UFJF

Conte´udo

1 Introdu¸c˜ao

2 Conceitos fundamentais

3 Sistemas de Equa¸c˜oes Lineares

4 Resolu¸c˜ao de Sistemas Triangulares

5 M´etodos Diretos

Elimina¸cão Gaussiana Estratégia de pivotamento Decomposi¸cão LU

Decomposi¸c˜ao de Cholesky

6 M´etodos Iterativos

(3)

Num´erico -UFJF Introdu¸c˜ao

Conceitos fundamentais Sistemas de Equa¸cões Lineares Resolu¸cão de Sistemas Triangulares Métodos Diretos

Conte´udo

1 Introdu¸c˜ao

5 M´etodos Diretos

(4)

Sistema de Equa¸c˜oes Lineares

• Uma equa¸cãoé ditalinear se cada termo contém não

mais que uma variável e cada variável aparece na primeira potência

• Um sistema de equa¸cões linearesé um conjunto finito de equa¸cões lineares nas mesmas variáveis

• Um sistema com m equa¸cões en incógnitas é como

    

   

a11x1+a12x2+· · ·+a1nxn=b1

a21x1+a22x2+· · ·+a2nxn=b2 ..

.

am1x1+am2x2+· · ·+amnxn=bm

onde

• aij ∈R s˜ao os coeficientes

• bi ∈Rs˜ao chamadas constantes

• xj ∈Rs˜ao as vari´aveis do problema

(5)

Numérico -UFJF Introdu¸cão Conceitos fundamentais Sistemas de Equa¸cões Lineares Resolu¸cão de Sistemas Triangulares Métodos Diretos Elimina¸cão Gaussiana Estratégia de pivotamento Decomposi¸cão LU Decomposi¸cão de Cholesky Métodos Iterativos Jacobi Gauss-Seidel

Sistema de Equa¸c˜oes Lineares

O sistema         

a11x1+a12x2+· · ·+a1nxn=b1

a₂₁x₁+a₂₂x₂+· · ·+a₂nxn=b2 ..

.

am1x1+am2x2+· · ·+amnxn=bm

pode ser escrito em nota¸c˜ao matricial comoAx=b ou



   

a11 a12 . . . a1n

a₂₁ a₂₂ . . . a₂n

..

. ... ... ... am1 am2 . . . amn

(6)

Importˆancia da resolu¸c˜ao de

sistemas de equa¸c˜oes lineares

• Sistemas de equa¸c˜oes lineares aparecem em diferentes problemas:

• An´alise de estruturas

• Modelagem de circuitos el´etricos

• Rea¸c˜oes qu´ımicas (equilibrar equa¸c˜oes)

• Programa¸c˜ao linear e n˜ao-linear

• Aprendizagem de máquina (regressão/classifica¸cão)

• Circuitos el´etricos

• M´etodos num´ericos

(7)

Num´erico -UFJF

Introdu¸c˜ao

Conceitos fundamentais

Sistemas de Equa¸cões Lineares Resolu¸cão de Sistemas Triangulares Métodos Diretos

Conte´udo

1 Introdu¸c˜ao

5 M´etodos Diretos

(8)

Num´erico -UFJF

Introdu¸c˜ao

Sequˆencias de vetores LD e LI

• Um conjunto de vetores x1,x2, . . . ,xn´e dito ser

Linearmente Independente (LI) se

c₁x1+c2x2+· · ·+cnxn=0

somente se c1 =c2=· · ·=cn= 0

• Caso contr´ario, diz-se que o conjunto de vetores ´e Linearmente Dependente (LD)

• Exemplo: Os vetores

x1= 

 2 −3

4 

,x₂= 

 1 0 3



 e x₃=



 3 −3

7 



s˜ao LD, poisx3=x1+x2⇒x1+x2−x3=0, ou seja,

(9)

Num´erico -UFJF

Introdu¸c˜ao

Posto de uma Matriz

• Posto de uma matriz A∈Rm×n _{´e definido como o}

n´umero m´aximo de vetores linhas (ou de vetores colunas) linearmente independentes de A.

• O número de colunas LI de uma matriz é igual ao número de linhas LI dessa matriz

• Exemplo: Seja

A= 



1 3 0 1 5 4 2 0 6 7 2 1





(10)

Num´erico -UFJF

Introdu¸c˜ao

Determinante de uma matriz

• Determinante ´e uma fun¸c˜ao matricial que associa a cada matriz quadrada de ordemn um escalar. Exemplos:

• ordemn= 1

det(A) = det [a11] =a11 • ordemn= 3

det(A) = det 



a11 a12 a13 a21 a22 a23 a31 a32 a33





(11)

Num´erico -UFJF

Introdu¸c˜ao

Singularidade e Inversa de uma

Matriz

• Singularidade de Matriz

• Uma matrizAcom det(A) = 0 ´e dita singular.

• Quando det(A)6= 0 entãoAé dita não-singular. • Sendo a matriz quadrada A∈Rn×n _{não singular, a sua}

inversa ´e representada porA−1 e ´e definida de forma que

AA−1 =A−1A=I

onde I´e a matriz identidade de ordem n

• Exemplo: Sejam

A=

1 1 2 3

A−1=

3 −1

−2 1

Verifica-se que

AA−1 =A−1A=I=

1 0 0 1

(12)

Num´erico -UFJF

Introdu¸c˜ao Conceitos fundamentais

Sistemas de Equa¸c˜oes Lineares

Resolu¸c˜ao de Sistemas Triangulares M´etodos Diretos

Conte´udo

1 Introdu¸c˜ao

5 M´etodos Diretos

(13)

Num´erico -UFJF

Classifica¸c˜ao de Sistemas de

Equa¸c˜oes Lineares

Seja um sistemaAx=b, com uma matriz quadradaA∈Rn×n_,

tem-se as seguintes possibilidades quanto ao vetor solu¸cãox: Caso 1: Solu¸cão única (consistente e

determinado)

Caso 2: Infinitas solu¸c˜oes (consistente e indeterminado)

(14)

Num´erico -UFJF

Classifica¸c˜ao

Caso 1: Ax=b tem solu¸c˜ao ´unica

x1+x2= 3 x1−x2=−1 ou

1 1

1 −1 x1 x2

=

3 −1

⇒x=

1 2

(15)

Num´erico -UFJF

Classifica¸c˜ao

Caso 2: Ax=b tem infinitas solu¸c˜oes

x1+x2= 1

2x1+ 2x2= 2 ou

1 1 2 2

x1 x2

=

1 2

⇒x=

1−θ θ

(16)

Num´erico -UFJF

Classifica¸c˜ao

Caso 3: Ax=b n˜ao tem solu¸c˜oes

x1+x2= 1 x1+x2= 4 ou

1 1 1 1

x1 x2

=

1 4

(17)

Num´erico -UFJF

Existˆencia e Unicidade da Solu¸c˜ao

de um Sistema Linear

SejaAx=bum sistema linear, ondeAé uma matriz quadrada n×n. As seguintes afirma¸cões são equivalentes:

• A−1 existe;

• A única solu¸cão do sistema homogêneoAy=0; éy ser o vetor nulo;

• Posto da matriz A´en;

• det(A)6= 0;

(18)

Num´erico -UFJF

Existˆencia e Unicidade da Solu¸c˜ao

• Exemplo 1: Comente sobre a solu¸c˜ao do sistema linear:

x1+x2 = 3

x1−x2=−1

(19)

Num´erico -UFJF

Existˆencia e Unicidade da Solu¸c˜ao

x1+x2 = 3

x1−x2=−1

Solu¸cão: Como det(A) =−26= 0 entãoexiste solu¸cãoe ela éunica.´

• Exemplo 2: Descreva sobre a solu¸c˜ao do sistema linear:

x₁+x₂ = 1 2x1+ 2x2 = 2

(20)

Num´erico -UFJF

Existˆencia e Unicidade da Solu¸c˜ao

x1+x2 = 3

x1−x2=−1

Solu¸cão: Como det(A) =−26= 0 entãoexiste solu¸cãoe ela éunica.´

• Exemplo 2: Descreva sobre a solu¸c˜ao do sistema linear:

x₁+x₂ = 1 2x1+ 2x2 = 2

Solu¸cão: Como det(A) = 0 então o sistema não tem solu¸cão ou a solu¸cão não é única

• Exemplo 3: Informe sobre a solu¸c˜ao do sistema linear:

x1+x2 = 1

x₁+x₂ = 4

(21)

Num´erico -UFJF

Exerc´ıcios

1) Classifique o seguinte sistema quanto a existˆencia e unicidade e, caso exista, favor determinar.

  

 

(22)

Num´erico -UFJF

M´etodos para Resolu¸c˜ao de

Sistemas Lineares

• Serão estudados métodos numéricos para encontrar a solu¸cão do sistema de equa¸cões lineares Ax=b

• Considera-se aqui que A´e uma matriz quadrada e n˜ao-singular

• Os m´etodos que ser˜ao apresentados podem ser divididos em

• M´etodos diretos

• Fornecem a solu¸cão exata do problema, a menos de erros de arredondamento, após um número finito de opera¸cões • Métodos iterativos

• Geram uma sequˆencia de vetores a partir de uma

(23)

Num´erico -UFJF

M´etodos para Resolu¸c˜ao de

Sistemas Lineares

• M´etodos num´ericos diretos

• Sistemas triangulares

• Elimina¸c˜ao Gaussiana

• Decomposi¸c˜ao LU

• Decomposi¸cão de Cholesky • Métodos numéricos iterativos

• M´etodo de Jacobi

(24)

Num´erico -UFJF

Introdu¸c˜ao Conceitos fundamentais Sistemas de Equa¸c˜oes Lineares

Resolu¸c˜ao de Sistemas Triangulares

M´etodos Diretos

Conte´udo

1 Introdu¸c˜ao

5 M´etodos Diretos

(25)

Numérico -UFJF Introdu¸cão Conceitos fundamentais Sistemas de Equa¸cões Lineares

Resolu¸cão de Sistemas Triangulares Métodos Diretos Elimina¸cão Gaussiana Estratégia de pivotamento Decomposi¸cão LU Decomposi¸cão de Cholesky Métodos Iterativos Jacobi Gauss-Seidel

Sistema triangular inferior

• Considere um sistema triangular inferior de ordem n dado por     

l11 0 0 . . . 0

l21 l22 0 . . . 0 ..

. . ..

ln1 ln2 ln3 . . . lnn

          x1 x2 .. . xn      =      b1 b2 .. . bn     

• A solu¸cão deste sistema é feita através de um

procedimento chamado desubstitui¸c˜ao(ou substitui¸c˜oes sucessivas):

l11x1=b1⇒x1=

b1

l11

l21x1+l22x2=b2⇒x2=

b2−l21x1

l22 .

. .

(26)

Num´erico -UFJF

M´etodos Diretos

Sistema triangular inferior

De forma geral paraLx=b temos

xi =



bi − i−1 X

j=1

lijxj



 ,

(27)

Num´erico -UFJF

M´etodos Diretos

Sistema triangular inferior

Exemplo

Encontre a solu¸c˜ao do seguinte sistema linear:



  

2 0 0 0

3 5 0 0

1 −6 8 0

−1 4 −3 9 

  



  

x1

x2

x₃ x4



 

=



  

4 1 48

0 

(28)

Num´erico -UFJF

M´etodos Diretos

Sistema triangular inferior

Exemplo

Encontre a solu¸c˜ao do seguinte sistema linear:



  

2 0 0 0

3 5 0 0

1 −6 8 0

−1 4 −3 9 

  



  

x1

x2

x₃ x4



 

=



  

4 1 48

0 

  

Solu¸c˜ao

2x1 = 4 ⇒ x1= 2

(29)

Num´erico -UFJF

M´etodos Diretos

Solu¸c˜ao de um sistema triangular

inferior

xi =



bi − i−1 X

j=1

lijxj



 ,

lii i = 1, . . . ,n

Algoritmo 1:Resolu¸c˜ao de sistema triangular inferior Entrada: L∈Rn×n_,_b_∈_Rn

Sa´ıda: x∈Rn

1 x[1] = b[1] / L[1][1]; 2 parai=2, ..., n fa¸ca 3 s = b[i];

4 paraj=1, ..., i-1 fa¸ca 5 s = s - L[i][j] * x[j];

(30)

Numérico -UFJF Introdu¸cão Conceitos fundamentais Sistemas de Equa¸cões Lineares

Resolu¸cão de Sistemas Triangulares Métodos Diretos Elimina¸cão Gaussiana Estratégia de pivotamento Decomposi¸cão LU Decomposi¸cão de Cholesky Métodos Iterativos Jacobi Gauss-Seidel

Sistema triangular superior

O algoritmo análogo para o caso de um sistema triangular superiorUx=bé chamado de retro-substitui¸cão(ou substitui¸cões retroativas).     

u11 u12 u13 . . . u1n

0 u22 u23 . . . u2n

..

. . ..

0 0 0 . . . unn

          x1 x2 .. . xn      =      b1 b2 .. . bn     

e assim temos

unnxn = bn ⇒ xn=

bn

unn

un−1n−1xn−1+un−1nxn = bn−1 ⇒ xn−1=

bn−1−un−1nxn

un−1n−1 .

. .

u11x1+u12x2+. . .+u1nxn = b1 ⇒ x1=

bn−u12x1−u13x3−. . .−u1nxn

(31)

Num´erico -UFJF

M´etodos Diretos

Sistema triangular superior

De forma geral paraUx=b temos

xi =



bi − n

X

j=i+1

uijxj



 ,

(32)

Num´erico -UFJF

M´etodos Diretos

Sistema triangular superior

Exemplo

Encontre a solu¸c˜ao para o seguinte sistema linear:





2 4 −2

0 1 1

0 0 4



 

 x1

x2

x₃ 

=



 2 4 8



(33)

Num´erico -UFJF

M´etodos Diretos

Sistema triangular superior

Exemplo

Encontre a solu¸c˜ao para o seguinte sistema linear:





2 4 −2

0 1 1

0 0 4



 

 x1

x2

x₃ 

=



 2 4 8





Solu¸c˜ao

4x3 = 8 ⇒ x3 = 2

x2+x3 = 4 ⇒ x2 = 2

(34)

Num´erico -UFJF

M´etodos Diretos

Solu¸c˜ao de um sistema triangular

superior

xi =



bi − n

X

j=i+1

uijxj



 ,

uii i =n, . . . ,1

Algoritmo 2:Resolu¸c˜ao de sistema triangular inferior Dados: U∈Rn×n_,_b_∈_Rn

Sa´ıda: x∈Rn

1 x[n] = b[n]/U[n][n]; 2 parai=n-1, ..., 1 fa¸ca 3 s = b[i];

4 paraj=i+1, ..., n fa¸ca 5 s = s - U[i][j] * x[j];

(35)

Num´erico -UFJF

M´etodos Diretos

Exerc´ıcios

1) Resolva os seguintes sistemas lineares

a)

   

  

5x1+ 2x2+ 1x3 = 0 −x2

5 +

17x3

5 =−7

13x3 =−26

b)

   

  

x1 = 0

3x1

5 +x2 =−7

x1

(36)

Num´erico -UFJF

Introdu¸cão Conceitos fundamentais Sistemas de Equa¸cões Lineares Resolu¸cão de Sistemas Triangulares

M´etodos Diretos

Conte´udo

1 Introdu¸c˜ao

5 M´etodos Diretos

(37)

Num´erico -UFJF

Elimina¸c˜ao Gaussiana

Estratégia de pivotamento Decomposi¸cão LU Decomposi¸cão de Cholesky

Conte´udo

1 Introdu¸c˜ao

5 M´etodos Diretos

(38)

Num´erico -UFJF

M´etodo de Elimina¸c˜ao Gaussiana

• O primeiro método direto que iremos estudar é o método de Elimina¸cão Gaussiana.

(39)

Numérico -UFJF Introdu¸cão Conceitos fundamentais Sistemas de Equa¸cões Lineares Resolu¸cão de Sistemas Triangulares Métodos Diretos Elimina¸cão Gaussiana

Estratégia de pivotamento Decomposi¸cão LU Decomposi¸cão de Cholesky Métodos Iterativos Jacobi Gauss-Seidel

M´etodo de Elimina¸c˜ao Gaussiana

• Por fim, usa-se a retro-substitui¸cãopara obter a solu¸cão do sistema triangular superior obtido ao final dessa etapa de elimina¸cão.



  

x x x x x x x x x x x x x x x x

    ⇒    

x x x x 0 x x x 0 x x x 0 x x x

    ⇒ ⇒    

x x x x 0 x x x 0 0 x x 0 0 x x

    ⇒    

x x x x 0 x x x 0 0 x x 0 0 0 x



(40)

Num´erico -UFJF

M´etodo de Elimina¸c˜ao Gaussiana

• Na Elimina¸cão Gaussiana, as opera¸cões efetuadas para se obter a matriz triangular superior são tais que a matriz triangular obtida possui a mesma solu¸cão que o sistema original.

Sistema equivalente

Dois sistemas de equa¸cões lineares são equivalentes quando possuem o mesmo vetor solu¸cão.

• Um sistema pode ser transformado em um outro sistema equivalente utilizando as seguintes opera¸c˜oes elementares:

• trocar a ordem de duas equa¸c˜oes

• multiplicar uma equa¸c˜ao por uma constante n˜ao-nula

(41)

Num´erico -UFJF

M´etodo de Elimina¸c˜ao Gaussiana

Exemplo

3x1+ 5x2= 9 6x1+ 7x2= 4 Podemos subtrair da linha 2 um m´ultiplo da linha 1, isto ´e

L′₂ =L2−2L1 Efetuando esta opera¸c˜ao obtemos o sistema equivalente

3x1+ 5x2 = 9 −3x₂ =−14

7 6 5 4 3 2 1 0 1

1 0 1 2 3 4 5 6 7

(42)

Num´erico -UFJF

M´etodo de Elimina¸c˜ao Gaussiana

Vamos primeiro estudar um exemplo simples para posteriormente generalizar a ideia.

Exemplo Seja o sistema

x₁₊x₃_{= 0}

x₁₊x₂_{= 1}

2x₁_{+ 3}x₂₊x₃_{= 1}





1 0 1 1 1 0 2 3 1



 



x₁ x₂ x₃



= 



0 1 1





Solu¸c˜ao

Como podemos eliminar os coeficientes abaixo da diagonal principal na primeira coluna?

L′

2=L2−L1

L′₃₌L₃₋₂L₁





1 0 1 0

0 1 −1 1 0 3 −1 1



(43)

Num´erico -UFJF

M´etodo de Elimina¸c˜ao Gaussiana

Exemplo - (cont.)

Precisamos agora de eliminar os coeficientes abaixo da diagonal na segunda coluna (a32). Como?

L′′₃ =L′₃−3L′₂





1 0 1 0

0 1 −1 1

0 0 2 −2





Agora podemos usar a retro-substitui¸c˜ao para encontrar facilmente a solu¸c˜ao deste sistema:

2x3 =−2 ⇒ x3 =−1

x2−x3 = 1 ⇒ x2 = 1 +x3 = 1−1 = 0

x1+x3 = 0 ⇒ x1 =−x3= 1

(44)

Num´erico -UFJF

M´etodo de Elimina¸c˜ao Gaussiana

Mais um exemplo para ajudar a entender om´etodo de Elimina¸c˜ao Gaussiana





2 1 1

4 −6 0

−2 7 2 

 

 x₁ x2

x3 

=



 5 −2

9 



Passo 1:

m21 = a_a21₁₁ = 4/2 = 2⇒L′2 =L2−2L1 (1)

m31 = a_a31₁₁ =−2/2 =−1⇒L′3 =L3+L1 (2)





2 1 1 5

0 −8 −2 −12

0 8 3 14



(45)

Num´erico -UFJF

M´etodo de Elimina¸c˜ao Gaussiana

Passo 2:





2 1 1 5

0 −8 −2 −12

0 8 3 14





m₃₂= a32

a22 = 8/−8 =−1 ⇒ L

′′

3 =L′3+L′2





2 1 1 5

0 −8 −2 −12

0 0 1 2





Pr´oxima etapa: resolver o sistema triangular superior obtido usando o algoritmo deretro-substitui¸c˜ao.

(46)

Numérico -UFJF Introdu¸cão Conceitos fundamentais Sistemas de Equa¸cões Lineares Resolu¸cão de Sistemas Triangulares Métodos Diretos Elimina¸cão Gaussiana

Estratégia de pivotamento Decomposi¸cão LU Decomposi¸cão de Cholesky Métodos Iterativos Jacobi Gauss-Seidel

M´etodo de Elimina¸c˜ao Gaussiana

Formaliza¸c˜ao     

a11 a12 a13 . . . a1n | b1 a21 a22 a23 . . . a2n | b2

..

. ... ... . .. ... | ... an1 an2 an3 . . . ann | bn

     =⇒     

a1j | b1 a2j | b2

.. . | ... anj | bn

     =⇒      L1 L2 .. . Ln     

Passo 1 (k=1): eliminamos os elementos abaixo da diagonal principal na primeira coluna. Suponha quea116= 0. Ent˜ao:

m₂₁ = a₂₁/a₁₁ m31 = a31/a11

.. .

mn1 = an1/a11

(47)

Num´erico -UFJF

M´etodo de Elimina¸c˜ao Gaussiana

Agora, multiplicamos a 1a _{equa¸c˜ao por} _m

i1 e subtra´ımos da i-ésima equa¸cão, isto é

Parai = 2 :n a(1)_ij =a(0)_ij −mi1 a(0)₁j

b(1)_i =b_i(0)−mi1 b1(0), j = 1 :n Equivalente `a: L1_i =L0_i −mi1L01

Observe que n˜ao alteramos a primeira linha, poisi = 2 :n, logo esta permanece inalterada:

a(1)_1j =a_1j(0)=a1j, b1(1)=b (0) 1 =b1

Ap´os essa etapa zeramos todos os elementos abaixo da diagonal principal na 1a _coluna.



     

a₁₁ a₁₂ a₁₃ . . . a₁_n b₁

0 a1

22 a123 . . . a12n b12 0 a1

32 a133 . . . a13n b13

..

. ... ... . .. ... ...

1 1 1 1



(48)

Num´erico -UFJF

M´etodo de Elimina¸c˜ao Gaussiana

Passo 2 (k=2): consiste em introduzir zeros abaixo da diagonal principal na 2a _{coluna. Suponha} _a

226= 0. Definimos

mi2=ai2/a22, i = 3 :n e assim

parai = 3 :n a(2)_ij =a(1)_ij −mi2 a2(1)j

b(2)_i =b_i(1)−mi2 b(2)1 , j = 2 :n o que resulta em



     

a11 a12 a13 . . . a1n b1 0 a₂₂1 a1₂₃ . . . a1₂_n b₂1

0 0 a2

33 . . . a23n b23 ..

. ... ... . .. ... ... 0 0 a2_n3 . . . a2_nn b2_n



(49)

Num´erico -UFJF

M´etodo de Elimina¸c˜ao Gaussiana

Passo 3, Passo 4, ...

Passo k: Considerando akk 6= 0, temos

mik =aik/akk, i =k+ 1 :n

e assim fazemos

para i =k+ 1 :n a(_ijk)=a(_ijk−1)−mik a(_kjk−1)

b_i(k)=b(_ik−1)−mik b_k(k−1), j =k :n

(50)

Num´erico -UFJF

M´etodo de Elimina¸c˜ao Gaussiana

No processo de Elimina¸c˜ao os elementosa11,a(1)₂₂,a(2)₃₃,. . .,

a_kk(k−1) que aparecem na diagonal da matrizA s˜ao chamados de pivˆos.

Se os pivôs não se anulam, isto é, se akk 6= 0,k = 1 :n,

durante o processo, ent˜ao a elimina¸c˜ao procede com sucesso e por fim chegamos ao seguinte sistema triangular superior



     

a11 a12 a13 . . . a1n−1 a1n b1 0 a₂₂1 a1₂₃ . . . a₂1_n₋₁ a1₂_n b₂1 0 0 a2₃₃ . . . a2₃_n₋₁ a2₃_n b₃2

..

. ... ... . .. ... ... 0 0 0 . . . 0 an−1_nn bn−1_n



     

(51)

Num´erico -UFJF

M´etodo de Elimina¸c˜ao Gaussiana

Algoritmo 3:Elimina¸c˜ao Gaussiana Dados: matriz A∈Rn×n_{, vetor} _b_∈_Rn

Sa´ıda: vetor solu¸c˜aox∈Rn

1 parak = 1 :n−1fa¸ca 2 parai =k+ 1 :n fa¸ca 3 m = A[i][k] / A[k][k];

4 paraj =k+ 1 :n fa¸ca

5 A[i][j] = A[i][j] - m * A[k][j];

6 b[i] = b[i] - m * b[k];

(52)

Num´erico -UFJF

Exerc´ıcios

1) Resolva os seguintes sistemas lineares utilizando o M´etodo de Elimina¸c˜ao Gaussiana, quando poss´ıvel:

a)

  

 

2x1−3x2+x3=−5

4x1−8x2−x3=−7 x1+ 2x2+x3= 4

b)

  

 

x1+ 2x2+x3= 3

2x1+ 3x2+x3= 5

(53)

Num´erico -UFJF

Estrat´egia de pivotamento

Decomposi¸c˜ao LU Decomposi¸c˜ao de Cholesky

Conte´udo

1 Introdu¸c˜ao

5 M´etodos Diretos

(54)

Num´erico -UFJF

M´etodo de Elimina¸c˜ao Gaussiana

• Mas, e se na etapak da Elimina¸c˜ao Gaussiana, o pivˆo for zero?

• Isso significa que akk = 0, e assim, ter´ıamos

mik =

aik

akk

⇒ divis˜ao por zero!

• Nesse caso, se um pivˆo for zero, o processo de elimina¸c˜ao tem que parar, ou temporariamente ou permanentemente.

• O sistema pode ou n˜ao ser singular.

• Se o sistema for singular, i.e, det(A) = 0, e portanto como vimos o sistema não possui uma única solu¸cão.

(55)

Num´erico -UFJF

Estrat´egia de pivotamento

Vamos ilustrar a ideia do pivotamento atrav´es de um exemplo. Considere a seguinte matriz.

A= 



1 1 1 2 2 5 4 6 8 



Vamos proceder com a Elimina¸c˜ao Gaussiana.

m₂₁= 2, a1₂_j =a₂0_j −2 a₁0_j

m₃₁= 4, a1₃_j =a₃0_j −4 a₁0_j, j = 1 : 3 Ent˜ao obtemos





1 1 1 0 0 3 0 2 4 

(56)

Num´erico -UFJF

Estrat´egia de pivotamento





1 1 1 0 0 3 0 2 4 



• No próximo passo, o pivô éa22 e usamos ele para calcular

m32. Entretanto

m₃₂= a32 a22

= 2 0

(57)

Num´erico -UFJF

Estrat´egia de pivotamento

• Podemos realizar uma opera¸cão elementar de troca de linhas. Como vimos este tipo de opera¸cão quando realizado em um sistema, não altera a solu¸cão. Sendo assim, vamos trocar as linhas 2 e 3.





1 1 1 0 0 3 0 2 4 

⇒





1 1 1 0 2 4 0 0 3 



(58)

Num´erico -UFJF

Estrat´egia de pivotamento

• A estrat´egia de pivotamento ´e importante pois:

• evita a propaga¸c˜ao de erros num´ericos • nos fornece meios de evitar problemas durante a

Elimina¸cão Gaussiana quando opivôakk no passok é igual a zeroe precisamos calcular o multiplicador

mik = aik akk

(59)

Num´erico -UFJF

Pivotamento Parcial

• No pivotamento parcial, em cada passo k,o pivô é escolhido como o maior elemento em móduloabaixo deakk (inclusive), isto é

Encontrarr tal que: |ark|= max|aik|, k ≤i ≤n

(60)

Num´erico -UFJF

Pivotamento Parcial

Exemplo

Aplique a Elimina¸c˜ao Gaussiana com pivotamento parcial no seguinte sistema:

" ₂ ₄ ₋₂ ₂

4 9 −3 8

−2 −3 7 10

#

A cada passo k:

• encontrar o pivˆo do passo k

• se necess´ario, trocar as linhas

• calcular o multiplicador mik

• para i =k+ 1 :n, calcular

a_ij(k)=a_ij(k−1)−mik a(_kjk−1)

(61)

Num´erico -UFJF

Pivotamento Parcial

Exemplo - (cont.) Passo 1

Escolha do pivˆo: max{2,4,2}= 4. Trocar as linhas 1 e 2. 



2 4 −2 2

4 9 −3 8

−2 −3 7 10 

⇒





4 9 −3 8

2 4 −2 2

−2 −3 7 10 



m21= 2/4 = 1/2 ⇒a12j =a02j −12a01j

m31=−2/4 =−1/2⇒a13j =a30j +12a01j, j = 1 : 3





4 9 −3 8

0 −1₂ −1₂ −2 0 3₂ 11₂ 14



(62)

Num´erico -UFJF

Pivotamento Parcial

Exemplo - (cont.) Passo 2

Escolha do pivˆo: max{1₂,3₂}= 3₂. Trocar as linhas 2 e 3. 



4 9 −3 8

0 −1₂ −1₂ −2 0 3₂ 11₂ 14



⇒





4 9 −3 8

0 3₂ 11₂ 14 0 −1₂ −1₂ −2





m32=−1₂2₃ =−1₃ ⇒ a32j =a13j +13a12j, j = 2 : 3





4 9 −3 8

0 3₂ 11₂ 14 0 0 4₃ 8₃



(63)

Num´erico -UFJF

Pivotamento Parcial

Exemplo - (cont.) Retro-substitui¸c˜ao





4 9 −3 8

0 3₂ 11₂ 14 0 0 4₃ 8₃





4

3x3 = 83 ⇒ x3= 2 3

2x2 + 2 11

2 = 14⇒ x2 = 2

4x1 + 9(2)−3(2) = 8⇒ x1 =−1

(64)

Num´erico -UFJF

Pivotamento Parcial

Exemplo (efeitos num´ericos) Considere o seguinte sistema:

0.0001 1

1 1

x1

x2

=

1 2

Usando um sistema de ponto flutuanteF(10,3,−10,10) (sistema decimal com 3 d´ıgitos na mantissa), com arredondamento, encontre a solu¸c˜ao do sistema usando Elimina¸c˜ao Gaussiana sem pivotamento.

Solu¸c˜ao Temos que

m21= 1

0.0001 = 10000 ⇒ L

′

(65)

Num´erico -UFJF

Pivotamento Parcial

Solu¸c˜ao (efeitos num´ericos) - Cont.

0.0001 1 1

0 −10000∗ ₋₁₀₀₀₀∗∗

Note que (∗) foi obtido como

1−10000×1 = 0.00001×105−0.10000×105 = 0.09999×105

= (arredondando) = 0.100×105

e de forma an´aloga para (∗∗), temos

2−10000×1 = 0.00001×105−0.10000×105 = 0.09998×105

(66)

Num´erico -UFJF

Pivotamento Parcial

Solu¸c˜ao (efeitos num´ericos) - Cont.

Por fim, aplicando a retro-substitui¸cão obtemos uma solu¸cão errada, devido aos erros de aritmética em ponto flutuante cometidos em (∗) e (∗∗) durante a soma/subtra¸cão de números muito pequenos com números muito grandes.

Solu¸cão obtida → xT = 0 1 A solu¸cão exata é dada por

(67)

Num´erico -UFJF

Exerc´ıcios

1) Resolva o seguinte sistema linear com pivotamento em um sistema de ponto flutuante F(10,3,-10,10):

0.0001 1

1 1

x1

x2

=

1 2

2) Resolva os seguintes sistemas lineares atrav´es da Elimina¸c˜ao de Gauss com pivotamento:

a)

  

 

3x1+ 3x2+x3 = 7

2x1+ 2x2−x3 = 3 x1−x2+ 5x3 = 5

b)

  

 

2x1+ 3x2+ 4x3 =−2

3x1+ 2x2−x3 = 4

(68)

Num´erico -UFJF

Elimina¸c˜ao Gaussiana Estrat´egia de pivotamento

Decomposi¸c˜ao LU

Conte´udo

1 Introdu¸c˜ao

5 M´etodos Diretos

(69)

Num´erico -UFJF

Decomposi¸c˜ao LU

Uma matriz quadrada pode ser escrita como o produto de duas matrizesL e U, onde

• L ´e uma matriz triangular inferior unit´aria (com elementos da diagonal principal igual a 1)

• U ´e uma matriz triangular superior Ou seja, a matriz pode ser escrita como

A=LU

Dessa forma para resolver o sistema linearAx=busamos A em sua forma decomposta, isto ´e

Ax=b⇒LUx=b

Ent˜ao definimos

(70)

Num´erico -UFJF

Decomposi¸c˜ao LU

Assim para resolver

L Ux |{z}

y =b

fazemos

Ly=b⇒Ux=y isto ´e, temos os seguintes passos:

1 Como L´e triangular inferior podemos resolverLy=b

facilmente usando o algoritmo desubstitui¸c˜ao. Assim encontramos o vetory.

2 Em seguida substitu´ımos y no sistemaUx=y. ComoU´e

uma matriz triangular superior, podemos resolver este sistema usando o algoritmo daretro-substitui¸c˜aopara encontrar a solu¸c˜ao x.

(71)

Num´erico -UFJF

Decomposi¸c˜ao LU

Condi¸c˜ao sobre a matriz A para a existˆencia de L e U SejamA= (aij) uma matriz quadrada de ordemn eAk o menor principal, constitu´ıdo dask primeiras linhas e k primeiras colunas deA. Assumimos que det(Ak)6= 0 para

k= 1,2, . . . ,n−1. Ent˜ao existe:

• uma ´unica matriz triangular inferior L= (lij) com

lii = 1, i = 1 :n

• uma ´unica matriz triangular superiorU= (uij)

(72)

Decomposi¸c˜ao LU

Calculo de determinante

• Por constru¸c˜ao A=LU, ent˜aodet(A) =det(L)det(U):

LU=       

1 0 0 . . . 0 l21 1 0 . . . 0

l31 l32 1 . . . 0 ..

. ... . .. 1 0 ln1 ln2 ln3 . . . 1              

u₁₁ u₁₂ u₁₃ . . . u₁n

0 u22 u23 . . . u2n

0 0 u33 . . . u3n

..

. ... ... . .. ...

0 0 0 0 unn

      

• Por´em os elementos diagonal principal deL s˜ao sempre 1, assim

det(L) = 1.

• Podemos concluir que

(73)

Decomposi¸c˜ao LU

Calculo da matriz inversa

• Seja uma matrizA nxn decomposta nas seguintes matrizes L eU:

LU=       

1 0 0 . . . 0 l₂₁ 1 0 . . . 0 l31 l32 1 . . . 0

..

. ... . .. 1 0 ln1 ln2 ln3 . . . 1              

u11 u12 u13 . . . u1n

0 u₂₂ u₂₃ . . . u₂n

0 0 u33 . . . u3n

..

. ... ... . .. ...

0 0 0 0 unn

      

• Para encontrar a matriz inversa de Aresolvendo n sistemas lineares com as matrizes Le U

LUxk =Ik

(74)

Decomposi¸c˜ao LU

Obten¸c˜ao das matrizesLeU

Podemos obter as matrizesL eU aplicando a defini¸cão de produto e igualdade de matrizes, ou seja, impondo queAseja igual aLU, ondeL é triangular inferior unitária e U triangular superior. Então LU=       

1 0 0 . . . 0 l21 1 0 . . . 0

l31 l32 1 . . . 0 ..

. ... . .. 1 0 ln1 ln2 ln3 . . . 1              

u₁₁ u₁₂ u₁₃ . . . u₁n

0 u22 u23 . . . u2n

0 0 u33 . . . u3n

..

. ... ... . .. ...

0 0 0 0 unn

      

Vamos obter os elementos deL eU da seguinte forma:

• 1a _{linha de}_U

• 1a _{coluna de} _L

• 2a _{linha de}_U

• 2a _{coluna de} _L

(75)

Num´erico -UFJF

Decomposi¸c˜ao LU

1a linha de U

a11= 1 u11⇒u11=a11

a12= 1 u12⇒u12=a12 . . .

a₁n= 1 u1n⇒u1n=a1n

1a coluna de L

a21=l21 u11⇒l21= _ua21₁₁

a₃₁=l₃₁ u₁₁⇒l₃₁= a31

u11 . . .

(76)

Num´erico -UFJF

Decomposi¸c˜ao LU

2a linha de U

a22=l21u12+ 1u22⇒u22=a22−l21u12

a23=l21u13+ 1u23⇒u23=a23−l21u13 . . .

a₂n=l21u1n+ 1u2n⇒u2n=a2n−l21u1n

2a coluna de L

a32=l31u12+l32u22⇒l32=

a₃₂−l₃₁u₁₂ u22

a42=l41u12+l42u22⇒l42=

a42−l41u1

u22 . . .

an2 =ln1u12+ln2u22⇒ln2 =

an2−ln1u12

(77)

Num´erico -UFJF

Decomposi¸c˜ao LU

Algoritmo para Obten¸c˜ao das

matrizes

L

e

U

uij =aij − i−1 X

k=1

lik ukj, i ≤j

lij = aij − j−1 X

k=1

lik ukj

! ,

ujj, i >j

Algoritmo 4:Decomposi¸c˜ao LU

1 parai = 1 :n fa¸ca 2 paraj =i :n fa¸ca

3 uij =aij −Pki−1=1lik ukj ;

4 paraj =i+ 1 :n fa¸ca

5 lij =

aij −Pj_k−1₌₁lik ukj

,

(78)

Num´erico -UFJF

Decomposi¸c˜ao LU

Com m´etodo de Elimina¸c˜ao Gaussiana Exemplo: Seja a matrizAdada por

A= 



2 1 1

4 −6 0

−2 7 2 



Passo 1

m21 = a_a21₁₁ = 4/2 = 2⇒L′2 =L2−2L1

m31 = a_a31₁₁ =−2/2 =−1⇒L′3 =L3+L1

A′ = 



2 1 1

0 −8 −2

0 8 3



(79)

Num´erico -UFJF

Decomposi¸c˜ao LU

Com m´etodo de Elimina¸c˜ao Gaussiana Passo 2

A′ = 



2 1 1

0 −8 −2

0 8 3





m32= a_a32₂₂ = 8/−8 =−1 ⇒ L′′3 =L′3+L′2

• As matrizesL e U s˜ao dadas por

A′′ =





2 1 1

0 −8 −2

0 0 1



=U;L= 



1 0 0

m21 1 0

m31 m32 1



= 



1 0 0

2 1 0

−1 −1 1





• MatrizU resulta diretamente do m´etodo de Elimina¸c˜ao Gaussiana

• MatrizL´e formada pelos multiplicadores mij calculados ao

(80)

Num´erico -UFJF

Decomposi¸c˜ao LU

M´etodo de Elimina¸c˜ao Gaussiana com pivotamento

• SejaP uma matriz de permuta¸c˜aoque corresponde a matriz identidade, ent˜ao temos

PA=A

• Logo, determinando a decomposi¸c˜ao LU deA, temos

PA=LU

• Utilizando o método de Elimina¸cão Gaussiana para determinar as matrizes Le U, pode ser que a matrizP resultante não seja mais a matriz identidade.

(81)

Num´erico -UFJF

Decomposi¸c˜ao LU

M´etodo de Elimina¸c˜ao Gaussiana com pivotamento Exemplo: Considere as seguintes matrizes Ae P:

A= 



1 1 1 2 2 5 4 6 8 

 P=





1 0 0 0 1 0 0 0 1 



ou seja,PA=A. Vamos proceder com a Elimina¸c˜ao Gaussiana aplicado na matrizA.

m21= 2, L′2=L2−m21L1

m₃₁= 4, L′₃=L₃−m₃₁L₁ Ent˜ao obtemos:

A= 



1 1 1 0 0 3 0 2 4 

(82)

Num´erico -UFJF

Decomposi¸c˜ao LU

• No próximo passo, o pivô éa₂₂ e usamos ele para calcular m32. Entretanto

m32=

a32

a22 = 2

0 =?

• Podemos realizar uma opera¸cão elementar de troca de linhas. Como vimos este tipo de opera¸cão quando realizado em um sistema, não altera a solu¸cão. Sendo assim, vamos trocar as linhas 2 e 3.





1 1 1 0 0 3 0 2 4 

⇒





1 1 1 0 2 4 0 0 3 



(83)

Num´erico -UFJF

Decomposi¸c˜ao LU

• No final do processo, temos PA=LU, tais que

U= 



1 1 1 0 2 4 0 0 3 

 L=





1 0 0 4 1 0 2 0 1 

 P =





1 0 0 0 0 1 0 1 0 

(84)

Num´erico -UFJF

Decomposi¸c˜ao LU

Exerc´ıcios

1) Considere o sistema linear:

  

 

5x₁+ 2x₂+x₃ =−12 −x1+ 4x2+ 2x3= 20 2x1−3x2+ 10x3 = 3

a) Resolva-o usando a decomposi¸c˜ao LU.

b) Calcule odet(A) usando a decomposi¸c˜ao

2) Encontre a inversa da seguinte matriz por meio da decomposi¸c˜ao LU





5 2 1 3 1 4 1 1 3 

(85)

Num´erico -UFJF

Conte´udo

1 Introdu¸c˜ao

5 M´etodos Diretos

(86)

Num´erico -UFJF

Decomposi¸c˜ao de Cholesky

Matriz Sim´etrica

Uma matriz realAquadrada de ordem né simétrica se possui as mesmas entradas acima e abaixo da diagonal principal, isto é, se

aij =aji, ∀ i,j

PortantoA=AT_.

Matriz Positiva Definida

Uma matrizAquadrada de ordem n´e positiva definida, se e somente se

det(Ak)>0, k = 1,2, . . . ,n

(87)

Decomposi¸c˜ao de Cholesky

• A decomposi¸cão de Cholesky é um caso especial da fatora¸cão LU aplicada para matrizes simétricas e positiva definida

• Esta decomposi¸c˜ao pode ser obtida a partir de

A=GGT

onde G´e uma matriz triangular inferior tal que

A=     

a11 a12 . . . a1n

a21 a22 . . . a2n .

.

. ... . .. ...

an1 an2 . . . ann

     =     

g11 0 . . . 0

g21 g22 . . . 0 .

.

. ... . .. 0

gn1 gn2 . . . gnn

         

g11 g21 . . . gn1 0 g22 . . . g2n .

.

. ... . .. ... 0 0 . . . gnn



(88)

Num´erico -UFJF

Obten¸c˜ao da matriz

G

Pelo produto e igualdade de matrizes podemos obter os elementos deG. Elementos da diagonal principal:

a11=g112

a22=g212 +g222 ..

.

ann =gn21+gn22+. . .+gnn2

de forma geral

gii =

v u u t_a_ii ₋

i−1 X

k=1

(89)

Num´erico -UFJF

Obten¸c˜ao da matriz

G

Para os elementos fora da diagonal principal, temos

a21=g21g11 a31=g31g11

.. .

an1=gn1g11

a32=g31g21+g32g22 a42=g41g21+g42g22

.. .

an2=gn1g21+gn2g22

de forma geral

gij = aij−

j−1

X

k=1 gikgjk

gjj