Métodos iterativos para sistemas lineares

(1)

UNIVERSIDADE FEDERAL DE SANTA CATARINA Centro de Ciˆencias F´ısicas e Matem´aticas

Curso de Licenciatura em Matem´atica

M ´ETODOS ITERATIVOS PARA SISTEMAS

LINEARES

Autora: Ivandra Kremer

Orientador: Prof. Dr. Paulo Rafael B¨osing Florian´opolis

(2)

Ivandra Kremer

M´etodos Iterativos para Sistemas Lineares

Trabalho acadêmico de graduação apresentado à disciplina Trabalho de Conclusão de Curso II, do Curso de Matemática - Habilitação Licenciatura, do Centro Ciências F´ısicas e Matemáticas da Universidade Federal de Santa Catarina

Professora: Carmem Suzane Comitre Gimenez

Florian´opolis Fevereiro 2009

(3)

Agradecimentos

Nestes cinco anos de muitos aprendizados gostaria de agradecer a

muitas pessoas que estiveram do meu lado: `A Deus, pela

oportunidade de desfrutar das maravilhas do aprender e ter

confiado a mim a tarefa de ensinar. Ao meu orientador Paulo, pelo

incentivo, apoio, compreens˜ao e por acreditar e acompanhar cada

passo do meu trabalho. Ao meus av´os, por me acolheram em sua

casa, e me incentivaram nos momentos em que precisei. A minha

fam´ılia, pelo incentivo dado em todos os momentos de minha vida.

Ao meu namorado Marcos, pelo companheirismo, incentivo e

compreens˜ao. E aos meus amigos, que me incentivaram nas horas

(4)

(5)

Sum´ario

1 Noções Básicas 8 2 Métodos Iterativos 14 2.1 Processos Estacionários . . . 14 2.1.1 Método de Jacobi . . . 17 2.1.2 Método de Gauss-Seidel . . . 18

2.1.3 Convergˆencia dos M´etodos . . . 20

2.2 Processos de Relaxac¸˜ao . . . 23

2.2.1 Princ´ıpios Básicos do Processo de Relaxação . . . 26

2.2.2 M´etodo dos Gradientes . . . 27

2.2.3 M´etodo dos Gradientes Conjugados . . . 28

3 Aplicações dos Métodos Iterativos 33

(6)

Introduc¸˜ao

Os métodos iterativos foram muito utilizados durante o século XX, por causa dos avanços tecnológicos. Estes métodos servem para resolver sistemas lineares que surgem em diversas áreas como: engenharia e matemática.

Dentre os tipos de métodos para resolução de sistemas lineares podemos desta-car os métodos diretos e os iterativos, sendo que no primeiro as soluções são obti-das sem a necessidade de qualquer tipo de aproximação (à exceção da precisão da máquina) e no segundo a solução aproximada do sistema é encontrada sob uma certa tolerância previamente determinada.

Os métodos iterativos tem por finalidade o melhoramento cont´ınuo da solução aproximada até que esta esteja precisa o “suficiente”. Sendo que, nestes métodos são utilizadas técnicas para aproximações sucessivas chegando a soluções mais precisas a cada passo, para um dado sistema linear.

Não se pode garantir a priori que os métodos iterativos resolvam qualquer tipo de sistema, é necessário analisar certos critérios estabelecidos em relação ao sistema. Já os métodos diretos resolvem todos os tipos de sistema determinados, mas alguns de forma mais demorada.

Os métodos iterativos se dividem em estacionários e não-estacionários. Um método é estacionário quando cada aproximante da solução é obtido do anterior sempre pelo mesmo processo. Entre os métodos iterativos estacionários temos o Jacobi, Gauss-Seidel, Gradiente, SOR e SSOR. E entre os não-estacionários temos o Gradiente Conjugado (GC).

O método de Jacobi é uma homenagem ao matemático Carl Gustav Jacob Ja-cobi (1804−1851), que teve uma grande influência no renascimento da Matemática em universidades alemãs no século XIX. O método consiste em dada uma aproximação inicial e uma tolerância para a solução, gera-se uma sequência de vetores que converge para a solução exata, efetuando o mesmo processo uma quantidade finita de vezes.

(7)

Já o método de Gauss-Seidel é uma homenagem aos matemáticos alemães Carl Friedrich Gauss(1777 − 1855) e Philipp Ludwig von Seidel (1821 − 1896), este último trabalhou como assistente de Jacobi resolvendo problemas que resul-taram do estudo de Gauss. Este método difere-se apenas do Jacobi por utilizar valores mais atualizados para algumas componentes, o que faz reduzir o número de iterações até obter a tolerância determinada.

Um dos métodos iterativos mais conhecidos é o Gradiente Conjugado. Ele foi introduzido nos anos 50 por: Magnus Hestenes(1906 − 1991) e Edward Stiefel (1875 − 1968). O método resolve sistemas lineares onde a matriz A é positiva definida e simétrica. Ele possui como base para o seu desenvolvimento o método dos Gradientes.

O Gradiente Conjugado é utilizado frequentemente quando se resolve nu-mericamente equações diferencias parciais. O método consiste em, dado uma aproximação inicial e uma tolerância, calcula-se o res´ıduo e a direção de relaxação e em seguida gera-se uma sequência de vetores, que a cada iteração se aproxima da solução exata, em que o res´ıduo é ortogonal a direção de relaxação.

O objetivo principal deste trabalho é abordar três métodos iterativos: Jacobi, Gauss-Seidel e Gradiente Conjugado. Também mostraremos alguns exemplos fazendo comparações entre as soluções obtidas através de cada método.

Para tanto, dividiremos o trabalho em trˆes cap´ıtulos.

No primeiro apresentaremos os conceitos básicos de álgebra linear e cálculo, necessários para alcançar nossos objetivos. No segundo, desenvolveremos os métodos iterativos e observaremos as condições de convergência do sistema lin-ear. Para finalizar, no terceiro cap´ıtulo resolveremos alguns exemplos aplicando o que foi desenvolvido anteriormente.

(8)

Cap´ıtulo 1

Noções Básicas

Neste cap´ıtulo, apresentaremos as ferramentas que serão utilizadas no decorrer do trabalho. Tais ferramentas, são resultados clássicos de álgebra linear e cálculo. Primeiramente introduzimos conceitos básicos de álgebra linear, tais como: espaço vetorial real, produto interno, norma, autovalores, autovetores e raio es-pectral.

Definição 1.1. Seja V um conjunto não vazio. V é um espaço vetorial real se as operações de adição e multiplicação por escalar estão definidas em V , isto é, a) se u, v ∈ V , então u + v ∈ V ;

a1)u + v = v + u, ∀u, v ∈ V;

a2)(u + v) + z = u + (v + z), ∀u, v, z ∈ V;

a3) ∃ 0(vetor nulo) ∈ V tal que u + 0 = u, ∀u ∈ V ;

a4)∀u ∈ V, ∃ − u ∈ V, u + (−u) = 0;

b) se k ∈ R e u ∈ V , ent˜ao ku ∈ V ;

b1)a.(u + v) = a.u + a.v, ∀a ∈ R, ∀u, v ∈ V;

b2)(a + b).u = a.u + b.u, ∀a, b ∈ R, ∀u ∈ V;

b3)a(b.u) = (a.b)u, ∀a, b ∈ R, ∀u ∈ V;

b4)1.u = u, ∀u ∈ V.

Definição 1.2. Seja V um espaço vetorial. Dizemos que um vetor v é uma combinação linear dos vetores v1, v2, . . . , vn, se v pode ser escrito na forma:

v = α1v1+ α2v2+ . . . + αnvn= n

X

i=1

(9)

Definição 1.3. Seja V um espaço vetorial real. Sejam u e v elementos de V . Um produto escalar (produto interno) é uma aplicação

h·, ·i : V × V −→ R (u, v) 7−→ hu, vi que satisfaz as seguintes propriedades:

i)hu, vi = hv, ui, ∀u, v ∈ V (simetria); ii)hv, u + wi = hv, ui + hv, wi(linearidade);

iii)hα.v, ui = α.hv, ui, ∀α ∈ R, ∀v, u ∈ V (transitividade); iv)hv, vi ≥ 0e hv, vi = 0 ⇔ v = 0.

Um espaço vetorial real V no qual está definido um produto escalar é chamado espaço vetorial euclidiano real.

Exemplo 1.1. Seja V = Rn_{. Sejam u e v ∈ V , dados por u = (u}

1, u2, ..., un)e v = (v1, v2, ..., vn), ent˜ao, hu, vi = u1v1+ u2v2+ ... + unvn = n X i=1 uivi

´e um produto interno em V = Rn_{, que ´e o}_{produto interno usual no R}n_.

Definição 1.4. Seja V um espaço vetorial euclidiano real. Sejam u e v elementos de V . Dizemos que u é ortogonal a v se hu, vi = 0.

Definição 1.5. Seja V um espaço vetorial euclidiano. Uma norma, denotada por k · k, é uma aplicação:

V −→ R

v 7−→ kvk Com as seguintes propriedades:

i)kvk ≥ 0para todo v ∈ V ; ii)kvk = 0 ⇐⇒ v = 0;

iii)kαvk = |α|kvkpara todo α ∈ R e v ∈ V ; iv)kv + uk ≤ kvk + kukpara todo v, u ∈ V . Exemplo 1.2. Seja V = Rn _{e u = (u}

1, u2,· · · , un) ∈ Rn, ent˜ao, as seguintes

aplicações são normas em Rn_:

a) kuk∞= max 1≤i≤n|ui|. b) kuk1 = n X |ui|.

(10)

c) kuk2 =

q

hu, ui.

Definição 1.6. Diz-se que uma sequência de vetores x(k) _{em R}n _{converge para}

x∈ Rn_{com relac¸˜ao a uma norma k · k se, dado qualquer > 0, existir um inteiro}

N()tal que:

kxk_{− xk < , para todo k ≥ N ().}

Definição 1.7. Chama-se norma de uma matriz A qualquer função definida no espaço vetorial das matrizes, com valores em R, satisfazendo as seguintes pro-priedades:

i)kAk ≥ 0;

ii)kAk = 0, se e somente se A for 0 ( matriz com todos os elementos 0); iii)kαAk = |α|kAk;

iv)kA + Bk ≤ kAk + kBk; v)kABk ≤ kAkkBk.

A distância entre as matrizes A e B com relação a esta norma de matriz é kA−Bk. Exemplo 1.3. Seja A uma matriz n × n, então as seguintes aplicações são normas no espaço vetorial das matrizes n × n, com valores em R:

a) kAk∞ = max 1≤i≤n n X j=1 |aij|(norma linha); b) kAk1 = max 1≤j≤n n X i=1 |aij|(norma coluna); c) kAk2 = v u u t n X i,j=1 a2_ij (norma euclidiana).

Uma matriz n × m pode ser considerada como uma função que utiliza mul-tiplicação de matrizes para transformar vetores m dimensionais em vetores n di-mensionais. Uma matriz quadrada A leva o conjunto de vetores n dimensionais em vetores n dimensionais. Neste caso, certos vetores x, não nulos, são paralelos a Ax, o que significa que existe uma constante λ tal que Ax = λx. Para esses vetores, temos (A − λI)x = 0.

Definição 1.8. Se A for uma matriz quadrada, o polinômio caracter´ıstico de A é definido por

p(λ) = det(A − λI)

Definição 1.9. Se p for o polinômio caracter´ıstico da matriz A, os zeros de p são os autovalores, ou valores próprios, da matriz A. Se λ for um autovalor de A e x6= 0satisfazer (A − λI)x = 0, então x é umautovetor, ou vetor próprio, de A, correspondente ao autovalor λ.

(11)

Exemplo 1.4. Para a matriz A=    2 0 0 1 1 2 1 −1 4   

o polinˆomio caracter´ıstico ´e

p(λ) = det(A − λI) = det

   2 − λ 0 0 1 1 − λ 2 1 −1 4 − λ    = λ3− 7λ2+ 16λ − 12 = (λ − 3)(λ − 2)2.

Assim os autovalores de A s˜ao λ1 = 3e λ2 = 2. Um autovetor x = (w, k, u)

correspondente ao autovalor λ1 = 3é solução da equação matriz-vetor

(A − 3.I)x = 0, isto ´e:

   0 0 0    =    −1 0 0 1 −2 2 1 −1 1   .    w k v  

, o que implica w = 0 e k = v. Ent˜ao

vλ1 = (0, y, y), y ∈ R

n_{, y 6= 0.}

Agora para o autovalor λ2 = 2 um autovetor x = (w, k, u) é solução do

sistema (A − 2.I)x = 0, isto ´e:

   0 0 0    =    0 0 0 1 −1 2 1 −1 2   .    w k v  

, o que implica que w − k + 2.v = 0. Ent˜ao

vλ2 = (−2z, 2y, y + z), y, z ∈ R

n

Teorema 1.1. Se k · k for norma de vetor em Rn_{, ent˜ao}

kAk = max

kxk=1kAxk

´e uma norma de matriz.

Pode ser visto em [8] p´ag 509.

Cada norma de vetor produz uma norma de matriz natural associada, e esta ´e denominada por norma de matriz natural.

Definição 1.10. O raio espectral ρ(A) de uma matriz A é definido por ρ(A) = max(λi)

(12)

Para a matriz do Exemplo 1.4 temos, ρ(A) = max

1≤i≤n{2, 2, 3} = 3.

O raio espectral esta intimamente ligado a norma da matriz, conforme veremos a seguir.

Teorema 1.2. Seja A uma matriz n × n, ent˜ao: i)kAk2 = [ρ(ATA)]1/2,

ii)ρ(A) ≤ kAk, para qualquer norma de matriz k · k.

Demonstração. i) A demonstração desta parte não será feita, mas pode ser en-contrada em [7] pág. 21.

ii)Suponha que λi seja um autovalor qualquer de A com autovetor x e que

kxk = 1. Como x ´e um autovetor associado ao autovalor λitemos que Ax = λix.

Ent˜ao,

|λi| = |λi|kxk = kλixk = kAxk ≤ kAkkxk = kAk

Assim ρ(A) = max

1≤i≤n|λi| ≤ kAk

Definição 1.11. Uma matriz A, n × n, é uma matriz convergente, se lim

k→∞a k

ij = 0para i = 1, 2, · · · , n e j = 1, 2, · · · , n.

Teorema 1.3. As seguintes afirmações são equivalentes: i)A é uma matriz convergente;

ii) lim

n→∞kA

n_{k = 0}_{para alguma norma de matriz;}

iii) lim

n→∞kA

n_{k = 0}_{para todas as normas de matrizes;}

iv)ρ(A) < 1; v) lim

n→∞A

n_x_{= 0}_{, para todo x.}

A demonstração deste teorema pode ser encontrada em [3] pág. 14.

Agora vamos abordar alguns conceitos de cálculo que são utilizados para anal-isar os pontos cr´ıticos de uma função. Primeiramente para uma variável e em seguida para n variáveis. Mas antes vamos considerar algumas definições que serão necessárias durante o processo.

Definição 1.12. Seja A uma matriz n × n e x ∈ Rn_{, então uma forma quadrática}

(13)

1)Positiva definida se f(x) > 0 para todo x 6= 0; 2)Positiva semidefinida se f(x) ≥ 0 para todo x; 3)Negativa definida se f(x) < 0 para todo x 6= 0; 4)Negativa semidefinida se f(x) ≤ 0 para todo x;

5)Indefinida se f(x) assume tanto valores positivos quanto negativos.

Uma matriz simétrica A é chamada de positiva definida, positiva semidefinida, negativa definida, negativa semidefinida ou indefinida se a forma quadrática f(x) = xtAxtem a propriedade correspondente.

Definição 1.13. Seja y = f(x) uma função de uma variável, se x ∈ R, então, um ponto x0 é denominadoponto cr´ıtico de f se f0(x) = 0.

Teorema 1.4. Suponha que f00_{seja cont´ınua na proximidade x.}

a)Se f00_(x

0) > 0, ent˜ao x0 ´eponto de m´ınimo;

b)Se f00_(x

0) < 0, então x0 éponto de máximo;

c)Se f00_(x

0) = 0, então x0 éponto de inflexão.

Definição 1.14. Um ponto P = (x1, x2,· · · , xn)t tal que o grad f(P ) = 0 é

denominado ponto cr´ıtico de f.

Seja A a matriz cujos elementos (aij) = ∂

2_f ∂xi∂xj isto ´e: A(P ) =        ∂2_f ∂x12 ∂2_f ∂x1∂x2 · · · ∂2_f ∂x1∂xn ∂2_f ∂x2∂x1 ∂2_f ∂x22 · · · ∂2_f ∂x2∂xn ... ∂2_f ∂xn∂x1 ∂2_f ∂xn∂x2 . . . ∂2_f ∂xn2        .

Teorema 1.5. Suponha que A(P ) seja cont´ınua na proximidade de P . Então: a)Se A(P ):positiva definida, então P é ponto de m´ınimo;

b)Se A(P ):negativa definida, então P é ponto de máximo; c)Se A(P ): indefinida, então P é ponto de sela.

(14)

Cap´ıtulo 2

M´etodos Iterativos

O objetivo deste cap´ıtulo é inicialmente desenvolver a construção dos métodos iterativos de Jacobi, Gauss-Seidel, Gradiente e Gradiente Conjugado. Em seguida, apresentaremos resultados que garantem a convergência dos métodos desenvolvi-dos.

2.1 Processos Estacion´arios

Ummétodo iterativo é estacionário se cada aproximante da solução é obtido do anterior sempre pelo mesmo processo. Como já afirmamos na introdução desse trabalho os métodos estacionários abordados nesse trabalho serão: o método de Jacobi, o método de Gauss-Seidel e o método de Gradiente.

Considere o sistema linear Ax = b, em que A é uma matriz quadrada de ordem n, x é um vetor n × 1 e b é um vetor n × 1.

Suponha que esse sistema seja transformado (de forma equivalente) em: ¯

x= T ¯x+ c (2.1)

em que T = I − A e c = b.

A matriz T é uma matriz quadrada de ordem n e c é um vetor n×1, de maneira que a solução x de (2.1) é, também, solução de Ax = b.

Partindo de uma aproximação x(0)_{, obtemos as aproximações sucessivas x}(k)

para a solução desejada x, usando o processo iterativo estacionário definido por: x(k) = T x(k−1)+ c, k = 1, 2, · · · . (2.2) Se a sequência x(k) _{converge para a solução x então esta coincide com a}

soluc¸˜ao x de Ax = b. Nesse caso passando-se o limite em (2.2) em ambos os membros temos que

(15)

Então x também é solução do sistema Ax = b.

O resultado a seguir é utilizado no próximo teorema, que fornece a condição necessária e suficiente para a convergência da sequência x(k)_.

Lema 2.1. Se o raio espectral ρ(T ) satisfaz ρ(T ) < 1, ent˜ao (I − T )−1 _{existe e}

(I − T )−1 = I + T + T2+ · · · =

∞

X

j=0

Tj

Esta demonstração pode ser encontrada em [3] pág. 422.

Teorema 2.1. Para qualquer x(0) _{∈ R}n_{, a sequˆencia x}(k)_{definida por}

x(k) = T x(k−1)+ c, para cada k ≥ 1,

converge para a soluc¸˜ao ¯x = T ¯x + c se e somente se ρ(T ) < 1.

Demonstração. (⇐)Suponha ρ(T ) < 1. Então: x(k) = T x(k−1)+ c = T (T x(k−2)+ c) + c = T2x(k−2)+ (T + I)c = T2(T x(k−3)+ c) + (T + I)c = T3x(k−3)+ (T2+ T + I)c. x(k) = Tkx(0)+ (T(k−1)+ · · · + T + I)c.

Como ρ(T ) < 1, pelo Teorema 1.3, temos que: lim

k→∞T

k_x(0) _{= 0}

O Lema 2.1 implica que: lim k→∞x (k) _{= lim} k→∞[T (k)_x(0)_{+ (T}(k−1)_{+ · · · + T + 1)c] =} = 0 + ∞ X j=0 Tjc= (I − T )−1c.

(16)

(⇒) Considere z ∈ Rn_{, se lim} k→∞T

k_z _{= 0, ent˜ao, pelo Teorema 1.3, isto ´e}

equivalente a ρ(T ) < 1.

Seja z um vetor arbitrário e ¯x a solução única de ¯x = T ¯x + c, pois se tiver mais de uma solução não seria convergente. Defina x(0) _{= ¯}_x_{− z} _{e, para k ≥ 1,}

x(k) _{= T x}(k−1)_{+ c.}

Ent˜ao x(k)_{converge para ¯x.}

Al´em disso ¯x − x(k) _{= (T ¯}_x_{− c) − (T x}(k−1)_{+ c) = T (¯}_x_{− x}(k−1)_{), desta forma}

obtemos que: ¯ x−x(k)_{= T (¯}_x_−x(k−1)_{) = T (T (¯}_x_−x(k−2)_{)) = T}2_(¯_x_−x(k−2)_{) = T}k_(¯_x_−x(0)_{) =} = Tk_z Logo lim k→∞T k_z _{= lim} k→∞T k_(¯_x_{− x}(0)_{) = 0.}

Como z ∈ Rn_{era arbitrário então T é uma matriz convergente e segue que ρ(T ) <}

1.

Essa demonstração é apresentada em [3] pág. 423.

Em geral é dif´ıcil verificar o Teorema 2.1. Entretanto, podemos obter uma condição suficiente que a matriz T deve satisfazer para assegurar a convergência do processo iterativo definido por (2.1). Enunciaremos a seguir tal condição em um corolário.

Corol´ario 2.1. O processo iterativo definido por x(k)_{= T x}(k−1)_+c_{´e convergente}

se, para qualquer norma de matrizes, kT k < 1.

Demonstração. Vamos introduzir o vetor erro e(k)_{para estudar a convergência da}

sequência x(k) _{para a solução x de Ax = b, então considere:}

e(k)= ¯x− x(k) Subtraindo de (2.1) membro a membro (2.2) obtemos:

¯

x− x(k)= T (¯x− x(k−1)) + c − c

e(k)= T e(k−1) (2.3)

Donde podemos escrever que e(k−1) _{= T e}(k−2)_{e substituindo em (2.3) temos:}

e(k) = T (T e(k−2)) = T2e(k−2) e(k) = T2_e(k−2)

e assim, por aplicac¸˜oes sucessivas, segue que:

(17)

em que e(0) _{´e o erro inicial. Tomando norma de matriz na express˜ao (2.4), segue} que: ke(k)k = kTk.e(0)k ≤ kT kk.ke(0)k Portanto ke(k)_{k ≤ kT k}k .ke(0)k. Se kT k < 1, teremos que ke(k)k = kx − x(k)k → 0

se kT k < 1, para alguma norma de matriz, ent˜ao temos garantida a con-vergˆencia do processo iterativo definido inicialmente.

Demonstração apresentada em [4] pág. 169.

2.1.1 M´etodo de Jacobi

Considere o sistema linear, Ax = b de ordem n, com aii6= 0,

           a11x1 + a12x2+ · · · + a1nxn = b1 a21x1 + a22x2+ · · · + a2nxn = b2 ... an1x1+ an2x2+ · · · + annxn = bn (2.5)

Isolando x mediante a separac¸˜ao pela diagonal temos:

             x1 = _a1₁₁(b1− a12x2− a13x3− · · · − a1nxn) x2 = _a1₂₂(b2− a21x1− a23x3− · · · − a2nxn) ... xn= _a1_nn(bn− an1x1− an2x2− · · · − an,n−1xn−1) (2.6)

Para o sistema linear (2.5), o método de Jacobi consiste em dado uma aproximação inicial x(0) _{= (x}(0)

1 , x (0)

2 ,· · · , x(0)n )t e uma tolerˆancia, gera-se uma sequˆencia de

vetores

(x(k)1 , x (k)

2 ,· · · , x(k)n )t, k = 1, 2, 3, · · · ,

que converge para a solução exata, através do processo iterativo definido por:

               x(k+1)1 = _a1₁₁(b1− a12x(k)2 − a13x(k)3 − · · · − a1nx(k)n ) x(k+1)2 = _a1₂₂(b2− a21x(k)1 − a23x(k)3 − · · · − a2nx(k)n ) ... x(k+1)_n = 1 ann(bn− an1x (k) 1 − an2x(k)2 − · · · − an,n−1x(k)n−1) (2.7)

(18)

Agora vamos escrever o m´etodo de outra maneira. Seja a matriz A = L+D + U em que:

L=matriz triangular inferior formada pela parte inferior (abaixo da diagonal) da matriz A;

D=matriz diagonal formada pela diagonal da matriz A;

U =matriz triangular superior formada pela parte superior (acima da diagonal) da matriz A.

Ent˜ao escrevemos o sistema linear Ax = b como (L + D + U )x = b Dx= (−L − U )x + b x= D−1(−L − U )x + D−1b

x= T x + c em que T = D−1_{(−L − U )}_{e c = D}−1_b.

Determinando a seqüência de aproximações (x(k) 1 , x (k) 2 ,· · · , x(k)n ),k = 1, 2, 3, · · · temos: x(k+1) = T x(k)+ c. (2.8) Resumindo:

1)Escolhe-se uma aproximac¸˜ao inicial x(0)_{e dado > 0 e M, em que M ∈ N}∗

é o número máximo de iterações e uma tolerância.

2)Geram-se aproximac¸˜oes sucessivas de x(k)_{a partir do sistema (2.8).}

3)Continua-se a gerar aproximações até que um dos critérios abaixo seja sat-isfeito:

a)kx(k+1)_{− x}(k)_{k <}_ou

b)k > M.

Observação 2.1. Na prática não efetuamos as iterações com base em (2.8), mas sim em (2.7). A iteração definida por (2.8) tem fins puramente teóricos para anal-isar a convergência do método.

2.1.2 M´etodo de Gauss-Seidel

Seja o sistema linear Ax = b, isolando x mediante a separação da diagonal obtemos um sistema como (2.6). O método iterativo de Gauss-Seidel consiste no

(19)

seguinte fato: a partir de uma aproximac¸˜ao inicial x(0) _{= (x}(0) 1 , x

(0)

2 ,· · · , x(0)n )t,

obter-se uma sequˆencia (x(k)1 , x

(k)

2 ,· · · , x(k)n )t, k = 1, 2, 3, · · · ,

atrav´es do processo iterativo definido por:

               x(k+1)₁ = 1 a11(b1− a12x (k) 2 − a13x(k)3 − · · · − a1nx(k)n ) x(k+1)₂ = 1 a22(b2− a21x (k+1) 1 − a23x(k)3 − · · · − a2nx(k)n ) ... x(k+1)_n = 1 ann(bn− an1x (k+1) 1 − an2x(k+1)2 − · · · − an,n−1x(k+1)n−1 ) (2.9)

Aqui temos que na iteração k + 1 já utilizamos os valores das coordenadas do vetor x(k+1) _calculados.

Considere novamente o sistema linear Ax = b como: (L + D + U )x = b (L + D)x = −U x + b multiplicando por D−1_temos

(L∗+ I)x = −U∗x+ b∗, em que, L∗ _{= D}−1_L_{, U}∗ _{= D}−1_U_{, b}∗ _{= D}−1_b_.

Determinando a seqüência de aproximações (x(k) 1 , x (k) 2 ,· · · , x(k)n )t, k= 1, 2, 3, · · · temos: (L∗+ I)x(k+1) = −U∗x(k)+ b∗ x(k+1) = −(L∗+ I)−1U∗x(k)+ (L∗+ I)−1b∗ Tomando T = −(L∗_{+ I)}−1_U∗_{e c = (L}∗_{+ I)}−1_b∗_obtemos: x(k+1) = T x(k)+ c (2.10) Resumindo temos:

1)Escolhe-se uma aproximac¸˜ao inicial x(0) _{e dado > 0 e M ∈ N}∗_{, em que}

M é o número máximo de iterações e uma tolerância.

2)Geram-se aproximac¸˜oes sucessivas de x(k)_{a partir do sistema (??).}

3)Continua-se a gerar aproximações até que um dos critérios abaixo seja sat-isfeito:

a)kx(k+1)_{− x}(k)_{k <}_ou

b)k > M.

Observação 2.2. Assim como no método de Jacobi, não efetuamos as iterações com base em (2.10), mas sim, usando (2.9). Desse modo não é necessário inverter a matriz (L∗_{+ I).}

(20)

2.1.3 Convergˆencia dos M´etodos

Considere o sistema Ax = b na sua forma ¯

x= T ¯x+ c com a iterac¸˜ao definida por:

x(k+1)= T x(k)+ c, k= 1, 2, 3, · · · (2.11) Seja e(k)_{, o erro na k-ésima iteração, isto é,}

e(k) = x(k)− ¯x=⇒ x(k) = e(k)+ ¯x para k + 1 temos: x(k+1) = e(k+1)+ ¯x. Substituindo em (2.11) segue: e(k+1)+ ¯x= T (e(k)+ ¯x) + c, k = 1, 2, · · · e(k+1) = T e(k)_{+ T ¯}_x_{+ c − ¯}_x como ¯x = T ¯x + c, assim e(k+1) = T e(k).

Teorema 2.2. É condição suficiente para que a iteração (2.11) convirja, que os

elementos tij de T satisfac¸am a desigualdade n

X

i=1

|tij| ≤ L < 1, ∀ j = 1, 2, 3, · · · , n,

qualquer que seja a aproximac¸˜ao inicial x(0)_.

Demonstrac¸˜ao. Escrevendo e(k+1) _{= T e}(k)_{na sua forma expandida, tem-se:}

e(k+1)₁ = t11e(k)1 + t12e(k)2 + · · · + t1ne(k)n

e(k+1)₂ = t21e(k)1 + t22e(k)2 + · · · + t2ne(k)n

...

e(k+1)_n = tn1e(k)1 + tn2e(k)2 + · · · + tnne(k)n

Tomando os m´odulos em ambos os lados e aplicando a desigualdade triangu-lar, tem-se:

|e(k+1)1 | = |t11e(k)1 + t12e(k)2 + · · · + t1ne(k)n | ≤ |t11||e(k)1 | + |t12||e(k)2 | + · · · +

|t1n||e(k)n |

|e(k+1)2 | = |t21e(k)1 + t22e(k)2 + · · · + t2ne(k)n | ≤ |t21||e(k)1 | + |t22||e(k)2 | + · · · +

(21)

... |e(k+1)

n | = |tn1e(k)1 + tn2e(k)2 + · · · + tnne(k)n | ≤ |tn1||e(k)1 | + |tn2||e(k)2 | + · · · +

|tnn||e(k)n |.

Agora somando membro a membro, obt´em-se:

n X i=1 |e(k+1)i | ≤ n X i=1 |e(k)1 ||ti1| + |e(k)2 | n X i=1 |ti2| + · · · + |e(k)n | n X i=1 |tin|. De_n X i=1 |tij| ≤ L < 1, para j = 0, 1, · · · , n temos n X i=1 |e(k+1)i | ≤ |e (k) 1 |L + |e (k) 2 |L + · · · + |e(k)n |L Ou seja: n X i=1 |e(k+1)i | ≤ L n X i=1 |e(k)i | (2.12) Se k=0 em (2.12) n X i=1 |e(1)i | ≤ L n X i=1 |e(0)i | (2.13) Se k=1 em (2.12) n X i=1 |e(2)i | ≤ L n X i=1 |e(1)i | Por (2.13) n X i=1 |e(2)i | ≤ L2 n X i=1 |e(0)i | (2.14) Se k=2 em (2.12) n X i=1 |e(3)i | ≤ L n X i=1 |e(2)i | Por (2.14) n X i=1 |e(3)i | ≤ L3 n X i=1 |e(0)i |

(22)

n X i=1 |e(k+1)_i | ≤ L(k+1) n X i=1 |e(0)_i | Como 0 < L < 1, segue que

lim k→∞ n X i=1 |e(k+1)_i | ≤ lim k→∞L (k+1)Xn i=1 |e(0)_i | = n X i=1 |e(0)_i | lim k→∞L (k+1) _{= 0} Logo lim k→∞ n X i=1 |e(k+1)_i | = 0.

Demonstração apresentada em [1] pág.66.

Corolário 2.2. (Critério das Linhas): É condição suficiente para que a iteração x(k+1) = T x(k)_{+ c}_{convirja, que} |tii| > n X j = 1 i6= j |tij|, para i = 1, 2, · · · , n (2.15)

Demonstração. • Para o método de Jacobi, temos que,

n X i=1 |tij| = (|t1j| + |t2j| + · · · + |tj−1,j| + |tj+1,j| + · · · + |tnj|) |tjj| , para j = 1, 2, · · · , n. De (2.15) obtemos que,     n X j= 1 i6= j |tij|    |tii| < 1.

Segue pelo Teorema 2.2 que a iterac¸˜ao x(k+1) _{= T x}(k)_{+ c}_converge.

•Para o m´etodo de Gauss-Seidel a prova encontra-se em [8] p´ag. 240.

A matriz que satisfaz as hipóteses do critério das linhas é chamadadiagonal dominante estrita.

Teorema 2.3. É condição suficiente, para que a iteração definida por x(k+1) ₌

T xk+ cconvirja, que os elementos tij de T satisfac¸am a desigualdade: n

X

j=1

|tij| ≤ L < 1, para i = 1, 2, 3, · · · , n,

(23)

Corolário 2.3. (Critério das Colunas) É condição suficiente para que a iteração x(k+1) = T x(k)_{+ c}_{convirja, que} |ajj| > X j = 1 i6= j |aij|, para j = 1, 2, · · · , n.

A demonstração para o método de Jacobi é análoga ao Corolário 2.2 e para o método de Gauss-Seidel encontra-se em [8] pág. 240.

Na prática são usados apenas os corolários para verificar a convergência dos métodos. Note ainda que basta apenas um dos critérios ser satisfeito para garantir a convergência.

2.2 Processos de Relaxac¸˜ao

Nesta seção introduziremos alguns métodos iterativos para resolver sistemas lineares conhecidos como processos de relaxação. Seja o sistema linear Ax + b = 0em que A é uma matriz simétrica n×n positiva definida, x e b são vetores n×1. Considere que o sistema possui uma única solução.

Seja v uma aproximação da solução, então, r= Av + b

r é o vetor res´ıduo que indica o quanto a aproximação da solução ”falha”em sat-isfazer o sistema. O objetivo do processo de relaxação é que o res´ıduo se anule, ou seja, que v seja a solução do sistema.

Para que isto ocorra considere a função quadrática:

F(v) = 1

2hAv, vi + hb, vi (2.16)

em que A = (aij)´e uma matriz sim´etrica, v = (v1, v2,· · · , vn)t, b = (b1, b2,· · · , bn)t.

A idéia é calcular as derivadas parciais de F (v) (em relação a vi) e obtermos

que gradF (v) = 0, assim vamos ter que o res´ıduo se anula, pois gradF (v) = Av+ b = r, conforme vamos mostrar.

Calculando os produtos escalares da função quadrática, temos que, F(v) = 1 2 n X i,j=1 aijvivj + n X i=1 bivi. Pois, Av=       a11 a12 · · · a1n a21 a22 · · · a2n ...             v1 v2 ...       =       a11v1+ a12v2+ · · · + a1nvn a21v1+ a22v2+ · · · + a2nvn ...       ,

(24)

de onde segue que, hAv, vi = a11v12+ a12v1v2+ · · · + a1nv1vn+ a21v2v1+ a22v22+ · · · + a2nv2vn+ ... an1vnv1+ an2vnv2 + · · · + annv2n= = n X i=1 n X j=1 aijvivj = n X i,j=1 aijvivj. Al´em disso, hb, vi = b1v1+ b2v2+ · · · + bnvn = n X i=1 bivi.

Diferenciando cada um dos termos de F (v) temos,

∂ n X i,j=1 aijvivj ∂vi = = 2a11v1+ a12v2+ · · · + a1ivi+ · · · + a1nvn+ +ai1v1+ ai2v2+ · · · + 2aiivi+ · · · + a1nvn+ ... +an1v1+ an2v2+ · · · + anivi+ · · · + 2annvn= = 2 n X j=1 aijvj

pois A é simétrica. E temos também ∂ n X i=1 bivi ∂vi = b1+ b2 + · · · + bn = bi Logo ∂F(v) ∂vi = 1 22 n X j=1 aijvj+ bi = n X j=1 aijvj+ bi, para i = 1, 2, · · · , n.

(25)

Portanto, grad F(v) = 0 ⇔ ∂F(v) ∂vi = 0, i = 1, 2, · · · , n ⇔ n X j=1 aijvj+ bi = 0, i = 1, 2, · · · , n.

Desta forma, segue grad F (v) = 0 e temosAv + b = 0, poisXn

j=1

aijvj + bi =

Av+ b. Logo se v = x, onde x é a solução, devemos ter o grad F (v) = 0. Note que nos vetores que não são solução, o gradiente representa o res´ıduo, ou seja, grad F(v) = r.

Teorema 2.4. O problema de determinar a soluc¸˜ao do sistema linear Ax+b = 0,

em que A é simétrica positiva definida, é equivalente ao problema de determinar o ponto de m´ınimo de F (v) = 1

2hAv, vi + hb, vi.

Demonstração. Evidentemente que P = (x1, x2,· · · , xn)t é ponto de m´ınimo

de F se e somente se P é solução do sistema Ax + b = 0, pois, se P é ponto estacionário de F , então grad F (v) = 0 ⇒ r = 0 assim P é solução do sistema Ax+ b = 0. Resta provar que F tem um único ponto estacionário e que este ponto é de m´ınimo.

Temos que v ´e ponto de m´ınimo de F se e somente se grad F (v) = 0, isto ´e, se e somente se:

n

X

j=1

aijvj + bi = 0 , para i = 1, 2, · · · , n.

Como o sistema admite uma única solução temos que o ponto estacionário é único, assim ∂2_F ∂vi2 (v) = a11,· · · , ∂2_F ∂vi∂vj (v) = aij

temos que A = (vij). Como por hipótese A é positiva definida, então pelo

resul-tado na p´ag.13 no primeiro cap´ıtulo temos que v ´e ponto de m´ınimo.

Demonstração apresentada em [4] pág.183.

Os métodos de relaxação são usados apenas para sistemas lineares onde a matriz dos coeficientes é positiva definida, caso isso não aconteça os métodos de relaxação não convergem.

(26)

2.2.1 Princ´ıpios Básicos do Processo de Relaxação

A base do princ´ıpio geral de relaxação é determinar o ponto de m´ınimo da função quadrática F (v) = 1

2hAv, vi + hb, vi. Para isso comec¸amos com uma

aproximação para a solução v, selecionamos uma direção p e corrigimos v nesta direção, com o objetivo de minimizar F (v), e continuamos o processo até atingir o ponto de m´ınimo. Desta forma anularemos o res´ıduo na direção p.

Variando v na direc¸˜ao p tomamos

v0 = v + tp,

assim temos que encontrar o parâmetro t de modo que a função F atinge o seu min´ımo nesta direção. Vamos determinar o min´ımo de F na direção p. Temos então:

F(v0) = 1 2hAv

0_{, v}0_{i + hb, v}0_i

= 1

2hA(v + tp), v + tpi + hb, v + tpi = 1

2[hAv, vi + hAv, tpi + hAtp, vi + hAtp, tpi] + hb, vi + hb, tpi = 1

2[hAv, vi + 2hb, vi + 2thAv, pi + t

2_{hAp, pi] + thb, vi}

= F (v) + 1 2[t

2_{hAp, pi + 2thAv, pi + 2thb, pi]}

= F (v) + t 2 2hAp, pi + 1 2[2t(hAv, pi + hb, pi)] = F (v) + t 2 2hAp, pi + thAv + b, pi como r = Av + b temos = F (v) + t 2 2hAp, pi + thr, pi que é uma função quadrática do parâmetro t.

O parâmetro t é selecionado de tal forma que F é m´ınimo dentro do conjunto examinado, onde a condição para que isto aconteça é:

∂F ∂t(v 0_{) =} ∂ ∂t[F (v) + t2 2hAp, pi + thr, pi] = 0

(27)

⇒ thAp, pi + hr, pi = 0logo t = −hr, pi hAp, pi. Como ∂2F ∂t2 (v 0_{) = hAp, pi > 0,}

pois A é positiva definida, temos que t é m´ınimo como foi visto na pág. 13 do Cap´ıtulo 1.

Segue

tmin =

−hr, pi hAp, pi.

Se a direção p da relaxação for ortogonal ao do res´ıduo r, então ter´ıamos tmin = 0e assim não haverá melhora na aproximação da solução.

Teorema 2.5. Para o ponto de m´ınimo v0_{, com t = t}

min, o novo res´ıduo r0 =

Av0+ bé ortogonal à direção p da relaxação. Demonstração. Temos que

r0 = Av0+ b = A(v + tp) + b = Av + b + Atp = r + tAp. Portanto

hr0_{, pi = hr + tAp, pi = hr, pi + thAp, pi.}

Para t = tmin

hr0, pi = hr, pi − hr, pi

hAp, pihAp, pi = hr, pi − hr, pi = 0. Logo r0 _{e p s˜ao ortogonais.}

Esta demonstração esta apresentada em [4] pág. 185.

2.2.2 M´etodo dos Gradientes

Seja Ax = b, com A simétrica positiva definida. Vimos anteriormente que a solução do sistema linear coincide com o ponto de m´ınimo da função quadrática F(v). Agora vamos definir a direção p(k)por,

p(k) = −r(k−1), para k = 1, 2, · · · , (2.17) de forma que esta direção é dirigida para este ponto de m´ınimo. Então vamos reescrever o tminutilizando a direção p(k).

t = −hr, pi = −hr

(k−1)_{, p}(k)_i

= hr

(28)

Assim temos que: v(k) = v(k−1)_{+ tp}(k) v(k)= v(k−1)− tminr(k−1). e que r(k)= Av(k)+ b r(k)= A(v(k−1)− tminr(k−1)) + b r(k)= Av(k−1)+ b − tminAr(k−1) r(k) = r(k−1)− tminAr(k−1).

Resumindo temos: dado v(0)_{, uma tolerˆancia > 0, e um M ∈ N}∗_{, o m´etodo}

dos Gradientes consiste em: a)r(0) _{= Av}(0)_{+ b} b)para k = 1, 2, · · · b1)tmin = hr (k−1)_,r(k−1)_i hAr(k−1)_,r(k−1)_i b2)v(k)_{= v}(k−1)_{− t} minr(k−1) b3)r(k)_{= r}(k−1)_{− t} minAr(k−1)

b4)Se kv(k)_{− v}(k−1)_{k <}_{ou se k ≥ M, fim, sen˜ao b)novamente.}

2.2.3 M´etodo dos Gradientes Conjugados

Este é outro método de relaxação, que iremos apresentar agora, mas para isso precisamos considerar a seguinte definição:

Definição 2.1. Dada uma matriz positiva definida A, p(k)_{e p}(k−1) _{são direções}

conjugadas se

hAp(k)_{, p}(k−1)_{i = hp}(k)_{, Ap}(k−1)_{i = 0.}

O primeiro passo deste método é igual ao primeiro passo do método dos Gra-dientes.

Agora escolha p(k)_{, que é a direção de relaxação, como uma combinação linear}

de r(k−1)_{e p}(k−1)_{, da seguinte forma:}

p(k) = −r(k−1)+ αk−1p(k−1), para k = 1, 2, 3, · · · . (2.18)

Precisamos determinar o parâmetro αk−1 que será obtido através das direções

conjugadas. Como

(29)

de (2.18) obtemos que h−r(k−1)+ αk−1p(k−1), Ap(k−1)i = 0 −hr(k−1), Ap(k−1)i + αk−1hp(k−1), Ap(k−1)i = 0, logo αk−1 = hr(k−1)_{, Ap}(k−1)_i hp(k−1)_{, Ap}(k−1)_i.

Agora vamos determinar a sequência de aproximações para a solução:

v(k)= v(k−1)+ qkp(k) (2.19)

em que

qk=

−hr(k−1)_{, p}(k)_i

hAp(k)_{, p}(k)_i .

Subtituimos (2.19) no res´ıduo, que ´e dado por r(k)_{= Av}(k)_{+ b}_obtemos,

r(k) = A(v(k−1)_{+ q}

kp(k)) + b

r(k) = r(k−1)+ qkAp(k). (2.20)

Observac¸˜ao 2.3. O res´ıduo de cada passo, possui as seguintes propriedades: a)hr(k)_{, r}(k−1)_{i = 0;}

Temos que, substituindo em r(k−1)_{por (2.17) e pelo Teorema 2.5 segue que res´ıduos}

consecutivos s˜ao ortogonais:

hr(k), r(k−1)i = −hr(k), p(k)i = 0, k = 1, 2, · · · . b)hr(k)_{, p}(k)_{i = 0;}

Substituindo p(k) _{pela expressão (2.17) e pelo resultado da Observação 2.1}

item a) temos:

hr(k), p(k)i = −hr(k), r(k−1)i = 0, k = 1, 2, · · · .

Com estas propriedades obtemos algumas simplificações nas fórmulas de qke

αk−1.

Primeiramente temos

qk =

−hr(k−1)_{, p}(k)_i

hAp(k)_{, p}(k)_i

(30)

= hr(k−1), r(k−1)i − αk−1hr(k−1), p(k−1)i

da Observac¸˜ao 2.1 item b) temos que hr(k−1)_{, p}(k−1)_{i = 0}_assim:

−hr(k−1), p(k)i = hr(k−1), r(k−1)i

logo

qk=

hr(k−1)_{, r}(k−1)_i

hAp(k)_{, p}(k)_i .

Agora vamos simplificar a express˜ao de

αk−1 = hr(k−1)_{, Ap}(k−1)_i hp(k−1)_{, Ap}(k−1)_i. primeiramente de (2.20) obtemos Ap(k−1) = 1 qk−1 (r(k−1)− r(k−2)). Substituindo Ap(k−1) _{no numerador de α} k−1temos: hr(k−1), Ap(k−1)i = hr(k−1), 1 qk−1 (r(k−1)− r(k−2))i = = 1 qk−1 hr(k−1), r(k−1)i − 1 qk−1 hr(k−1), r(k−2)i da Observac¸˜ao 2.1 item a) temos que hr(k−1)_{, r}(k−1)_{i = 0, segue:}

hr(k−1), Ap(k−1)i = 1 qk−1

hr(k−1), r(k−1)i. (2.21) Agora substituindo Ap(k−1)_{no denominador de α}

k−1 temos: hp(k−1), Ap(k−1)i = hp(k−1), 1 qk−1 (r(k−1)− r(k−2))i = = 1 qk−1 hp(k−1), r(k−1)i − 1 qk−1 hp(k−1), r(k−2)i pela Observac¸˜ao 2.1 item b) hp(k−1)_{, r}(k−1)_{i = 0}_{segue que:}

hp(k−1), Ap(k−1)i = − 1 qk−1

hp(k−1), r(k−2)i. (2.22)

(31)

− 1 qk−1 hp(k−1)_{, r}(k−2)_{i = −} 1 qk−2 h−r(k−2)_{+ α} k−1p(k−1), r(k−2)i = = 1 qk−1 hr(k−2), r(k−2)i − αk−1 qk−1 hp(k−2), r(k−2)i

pela Observac¸˜ao 2.1 item b) hp(k−2)_{, r}(k−2)_{i = 0}_{segue que:}

− 1 qk−1

hp(k−1), r(k−2)i = 1 qk−1

hr(k−2), r(k−2)i. (2.23) Ent˜ao, usando (2.21) e (2.23) obtemos que,

αk−1 = 1 qk−1hr (k−1)_{, r}(k−1)_i 1 qk−1hr (k−2)_{, r}(k−2)_i = hr(k−1)_{, r}(k−1)_i hr(k−2)_{, r}(k−2)_i.

Resumindo, devemos efetuar o seguinte processo para encontrar a solução aproximada do sistema utilizando o método dos gradiente conjugados:

Dado v(0) _{e > 0, e M ∈ N}∗_{devemos calcular:}

a)r(0) _{= Av}(0)_{+ b} p(1) = −r(0) q1 = hr(0)_{, r}(0)_i hAr(0)_{, r}(0)_i v(1) = v(0)+ q1p(1) r(1) = r(0)+ q1Ap(1) b) 1)αk−1 = hr (k−1)_,r(k−1)_i hr(k−2)_,r(k−2)_i b2)p(k)_{= −r}(k−1)_{+ α} k−1p(k−1) b3)qk= hr (k−1)_,r(k−1)_i hAp(k)_,p(k)_i b4)v(k) _{= v}(k−1)_{+ q} kp(k) b5)r(k) _{= r}(k−1)_{+ q} kAp(k)

(32)

Teorema 2.6. O método dos Gradientes Conjugados fornece a solução

(33)

Cap´ıtulo 3

Aplicações dos Métodos Iterativos

Neste cap´ıtulo veremos alguns problemas onde iremos aplicar os quatro méto-dos estudaméto-dos: Jacobi, Gauss-Seidel, Gradiente e Gradiente Conjugado. Será feita uma comparação entre os métodos, verificando o número de iterações necessárias e a solução aproximada encontrada por cada método. Os problemas a seguir foram retirados do livro de Cálculo Numérico da autora Neide Bertoldi Franco (4).

No primeiro exemplo vamos desenvolver o método dos Gradientes e Gradi-entes Conjugados, mostrando passo a passo como chegar a solução. Mas antes disto vamos calcular a função quadrática dada por (2.20) e mostrar que o ponto de m´ınimo desta função é solução do sistema. Nos exemplos seguintes vamos resolver problemas aplicados.

As soluções aproximadas deste Cap´ıtulo foram obtidas a partir de códigos es-critos usando a Linguagem de Programação C++_.

Exemplo 3.1. Consideramos o seguinte sistema:

(

3x +2y −2 = 0

2x +6y + 8 = 0 (3.1)

Calcule a função quadrática, mostre que o ponto de m´ınimo é solução do sistema (3.1) e aplique os métodos dos Gradientes e Gradientes Conjugados.

É fácil verificar que a solução do sistema linear é: x = (2, −2)t_{. Para explicitar}

a função quadrática, F (v), primeiramente calculamos:

Av = 3 2 2 6 ! v1 v2 ! = 3v1+ 2v2 2v1+ 6v2 ! ,

(34)

assim, hAv, vi = 3v12+ 4v1v2+ 6v22; hb, vi = −2v1+ 8v2. Logo: F(v) = 1 2(3v1 2_{+ 4v} 1v2+ 6v22) − 2v1+ 8v2. Al´em disso: A(P ) =   ∂2_F ∂v12 ∂2_F ∂v1∂v2 ∂2_F ∂v2∂v1 ∂2_F ∂v22   3 2 1 6 !

que é uma matriz positiva definida, pela Definição 1.12. Assim F (v) tem um ponto de m´ınimo em (2, −2)t_{, que é a solução do sistema (3.1), conforme foi}

provado no Teorema 2.4.

Agora vamos calcular uma aproximação da solução a partir do vetor v(0) ₌

(5, −3)t_{pelos m´etodos do Gradiente e Gradiente Conjugado.}

Primeiramente pelo Gradiente. Seja v(0) _{= (5, −3)}t_{, ent˜ao,}

r(0) = Av(0)+ b = 3 2 2 6 ! 5 −3 ! + −2 8 ! = 7 0 ! . Para k = 1, obtemos: hr(0)_{, r}(0)_{i = 49 + 0 = 49,} Ar(0) = 3 2 2 6 ! 7 0 ! = 21 14 ! ⇒ hAr(0), r(0)i = 147 + 0 = 147. Assim, tmin = ₁₄₇49 = 0.33.E, v(1) = v(0)− tminr(0) = 5 −3 ! − 0.33 7 0 ! = 2.69 −3 ! , r(1) = r(0)− tminAr(0) = 7 0 ! − 0.33 21 14 ! = 0.07 −4.62 ! . Para k = 2, obtemos: hr(1)_{, r}(1)_{i = 0.0049 + 21.34 = 21.345,} Ar(1) = 3 2 2 6 ! 0.07 −4.62 ! = −9.03 −27.58 ! ⇒ hAr(1), r(1)i = −0.63 + 127.42 = 126.78.

(35)

Desse modo, tmin = 21.349_126.78 = 0.168. Segue que, v(2) = v(1)− tminr(1) = 2.69₋₃ ! − 0.168 0.07 −4.62 ! = 2.67 −2.22 ! , r(2) = r(1)− tminAr(1) = 0.07 −4.62 ! − 0.168 −9.03 −27.58 ! = 1.59 0.01 ! . Para k = 3, obtemos: hr(2)_{, r}(2)_{i = 2.53 + 0.0001 = 2.5301,} Ar(2)= 3 2 2 6 ! 1.59 0.01 ! = 4.79 3.24 ! ⇒ hAr(2), r(2)i = 7.62 + 0.0324 = 7.65. Assim, tmin = 2.5301_7.65 = 0.33. Segue que, v(3) = v(2)− tminr(2) = 2.67 −2.22 ! − 0.33 1.59 0.01 ! = 2.15 −2.22 ! , r(3) = r(2)− tminAr(2) = 1.59_0.01 ! − 0.33 4.79 3.24 ! = 0.01 −1.06 ! . Para k = 4, obtemos: hr(3)_{, r}(3)_{i = 0.0001 + 1.12 = 1.12,} Ar(3) = 3 2 2 6 ! 0.01 −1.06 ! = −2.09 −6.34 ! ⇒ hAr(3), r(3)i = −0.0209 + 6.72 = 6.70. Desse modo, tmin = 1.12_6.70 = 0.16.

Agora, v(4) = v(3)− tminr(3) = _−2.222.15 ! − 0.16 0.01 −1.06 ! = 2.14 −2.05 ! , r(4) = r(3)− tminAr(3) = _−1.060.01 ! − 0.16 −2.09 −6.34 ! = 0.34 −0.05 ! . Para k = 5, obtemos: hr(4)_{, r}(4)_{i = 0.12 + 0.0025 = 0.12,}

(36)

Ar(4) = 3 2 2 6 ! 0.34 −0.05 ! = 0.92 0.38 ! ⇒ hAr(3), r(3)i = 0.31 − 0.019 = 0.291. Assim: tmin = _0.2910.12 = 0.41. Logo, v(5) = v(4)− tminr(4) = _−2.052.14 ! − 0.41 0.34 −0.05 ! = 2.00 −2.02 ! . Agora aplicando o m´etodo dos Gradientes Conjugados. Considere v(0) ₌

(5, −3)t_ent˜ao: r(0) = Av(0)+ b = 3 2 2 6 ! 5 −3 ! + −2 8 ! = 7 0 ! , p(1) = −r(0) = −7 0 ! , hr(0), r(0)i = 49 + 0 = 49, Ar(0) = 3 2 2 6 ! 7 0 ! = 21 14 ! , ⇒ hAr(0), r(0)i = 147 + 0 = 147. Assim, q1 = hr(0)_{, r}(0)_i hAr(0)_{, r}(0)_i = 49 147 = 0.33, e, v(1) = v(0)+ q1p(1) = 5 −3 ! + 0.33 −7 0 ! = 2.69 −3 ! , Ap(1) = 3 2 2 6 ! −7 0 ! = −21 −14 ! r(1) = r(0)+ q1Ap(1) = 7 0 ! + 0.33 −21 −14 ! = 0.07 −4.62 ! . Para k = 2, temos, hr(1)_{, r}(1)_{i = 0.0049 + 21.34 = 21, 345,} α1 = hr(1)_{, r}(1)_i hr(0)_{, r}(0)_i = 21.345 49 = 0.436,

(37)

p(2) = −r(1)+ α1p(1) = −0.07_4.62 ! + 0.436 −7 0 ! = −3.12 4.62 ! , Ap(2) = 3 2 2 6 ! −3.12 4.62 ! = −0.12 21.48 ! , ⇒ hAp(2), p(2)i = 0.37 + 99.24 = 99.61. Assim, q2 = hr(1)_{, r}(1)_i hAp(2)_{, p}(2)_i = 21.349 99.61 = 0.214, v(2) = v(1)_{+ q} 2p(2) = 2.69₋₃ ! + 0.214 −3.12 4.62 ! = 2.02 −2.01 ! . Comparando a solução aproximada do método dos Gradientes na iteração k = 2 com a obtida acima para o método dos Gradientes Conjugados vemos que o método dos Gradientes Conjugados converge para a solução com menos iterações. Pelo Teorema 2.6 o método dos Gradientes Conjugados deveria convergir em duas iterações (pois a matriz é 2 × 2). No entanto, a solução obtida acima para k = 2 não é exatamente (2, −2)t_{, isto provavelmente deve-se ao fato dos cálculos terem}

sidos feitos sem a precis˜ao requerida.

Exemplo 3.2. Considere o circuito 3.1, com resistências e baterias tal como indi-cado; escolhemos arbitrariamente as orientações das correntes.

(38)

Aplicando a lei de Kirchoff, que diz que a soma algébrica das diferenças de potencial em qualquer circuito fechado é zero, achamos para as correntes i1, i2, i3:

     6i1 + 10(i1− i2) + 4(i1− i3) − 26 = 0 5i2 + 5i2 + 5(i2− i3) + 10(i2− i1) = 0

11i3 + 4(i3− i1) + 5(i3− i2) − 7 = 0

Organizando o sistema obtemos:

     20i1 − 10i2 − 4i3 = 26 −10i1 + 25i2 − 5i3 = 0 −4i1 − 5i2 + 20i3 = 7

a) É poss´ıvel aplicar os métodos com convergência assegurada? Justifique. Vamos aplicar o critério das linhas, conforme o Corolário 2.2, para verificar a convergência do sistema. O critério nos diz que se

|aii| >

X

j=1_i6=j

|aij| ∀i = 1, 2, · · · , n.

Para a primeira linha temos que:

|a11| = 20e |a12| + |a13| = 10 + 4 = 14

assim |a11| > |a12| + |a13|.

Para a segunda linha : |a22| = 25e |a21| + |a23| = 10 + 5 = 15

assim |a22| > |a21| + |a23|.

Para a terceira linha: |a33| = 20e |a31| + |a32| = 4 + 5 = 9

logo |a33| > |a31| + |a32|.

Desta forma é poss´ıvel aplicar os métodos de Gauss e Jacobi, no sistema das correntes. Podemos aplicar também o método dos Gradientes Conjugados pois a matriz é simétrica positiva definida.

b)Obtenha a solução aproximada com uma tolerância < 10−2_{e i}(0) _{= (0, 0, 0)}t_.

A partir do método de Jacobi obtemos a solução (1.99108, 0.99216, 0.993717)t

na 10a _{iteração com um tolerância de 0.00899503. Utilizando o método de Gauss}

encontramos a solução (1.99814, 0.998904, 0.999355)t _{na 7}a _{iteração com uma}

tolerância de 0.00391774. Já o método do Gradiente Conjugado alcançou a solução exata (2, 1, 1)t_{na 3}a _{iteração com tolerância zero.}

Podemos ver que o método de Gauss converge mais rápido que o de Jacobi, conforme o esperado. O Gradiente Conjugado convergiu para a solução, na ter-ceira iteração, satisfazendo o Teorema 2.6.

Exemplo 3.3. Suponha uma barra R de metal homegˆeneo onde: AB = CD = 4 e AC = BD = 3u.m.. Veja Figura 3.2.

(39)

Figura 3.2: Barra de metal homogˆeneo.

A temperatura ao longo de AB, AC, BD ´e mantida constante e igual a 0◦_C_,

enquanto ao longo de CD ela é igual a 1◦_{C. A distribuição do calor na barra R}

obedece à seguinte equação, conhecida como Equação de Laplace. ∂2_u

∂x2 +

∂2_u

∂y2 = 0 (3.2)

com as condic¸˜oes de contorno:

u(x, 3) = 1 para 0 < x < 4, u(x, 0) = 0 para 0 < x < 4, u(0, y) = 0 para 0 < y < 3, u(4, y) = 0 para 0 < y < 3,

Consideremos uma divisão do retângulo ABCD em retângulos menores a partir de uma divisão de AB em intervalos de amplitude h = 1, e de uma divisão de CD em intervalos iguais de amplitude k = 1, como mostra a Figura 3.3.

A temperatura u nos pontos internos pode ser obtida numericamente aproxi-mando as derivadas segundas da equação (3.2) pelas diferenças de segunda ordem. Considando o desenvolvimento de u(x+h, y) e u(x−h, y) em série de Taylor em torno do ponto x,

(40)

Figura 3.3: Divisão da barra homogênea em retângulos.

u(x+h, y) = u(x, y)+hux(x, y)+

h2 2!uxx(x, y)+ h3 3!uxxx(x, y)+ h4 4!uxxxx(x, y)+· · · e

u(x−h, y) = u(x, y)−hux(x, y)+

h2 2!uxx(x, y)− h3 3!uxxx(x, y)+ h4 4!uxxxx(x, y)+· · · . Somando, obtemos:

u(x + h, y) + u(x − h, y) = 2u(x, y) + 2h

2 2!uxx(x, y) + 2 h4 4!uxxxx(x, y) + · · · isolando uxx(x, y), uxx(x, y) =

u(x − h, y) − 2u(x, y) + u(x + h, y) − 2h4

4!uxxxx(x, y)

h2 + · · ·

dessa forma, o ´ultimo termo ´e o erro de truncamento em que

uxx(x, y) =

u(x − h, y) − 2u(x, y) + u(x + h, y)

h2 + θ(h

(41)

em que o último termo é o erro de truncamento. De modo análogo desenvolvendo u(x, y + h)e u(x, y −h), estamos considerando k = h na série de Taylor em torno do ponto y, obtemos:

uyy(x, y) =

u(x, y − h) − 2u(x, y) + u(x, y + h)

h2 + θ(h

2_).

Desta forma;

u(x − h, y) − 2u(x, y) + u(x + h, y)

h2 (3.3)

e

u(x, y − h) − 2u(x, y) + u(x, y + h)

h2 (3.4)

aproximam as derivadas segundas uxxe uyy, respectivamente, com θ(h2).

Substi-tuindo (3.3) e (3.4) em (3.2) obtemos

u(x − h, y) − 2u(x, y) + u(x + h, y)

h2 +

u(x, y − h) − 2u(x, y) + u(x, y + h)

h2 = 0

(3.5) para cada par (x, y) em R.

Agora vamos determinar um sistema de seis equações lineares nas incógnitas u1, u2,· · · , u6. Resolva-o pelos métodos de: Jacobi, Gauss-Seidel e Gradiente

Conjugado e resolvˆe-los.

Para u1 = u(1, 2)em (3.5) temos:

u(0, 2) − 2u(1, 2) + u(2, 2) + u(1, 1) − 2u(1, 2) + u(1, 3)

1 = 0

−4u1 + u2+ u4+ 1 = 0

−4u1+ u2+ u4 = −1 (3.6)

u(1, 2) − 2u(2, 2) + u(3, 2) + u(2, 1) − 2u(2, 2) + u(2, 3)

1 = 0

u1− 2u2+ u3+ u5 − 2u2+ 1 = 0

ou

(42)

u(2, 2) − 2u(3, 2) + u(4, 2) + u(3, 1) − 2u(3, 2) + u(3, 3)

1 = 0

u2 − 2u3+ 0 + u6− 2u3+ 1 = 0

ou

u2− 4u3+ u6 = −1. (3.8)

u(0, 1) − 2u(1, 1) + u(2, 1) + u(1, 0) − 2u(1, 1) + u(1, 2)

1 = 0

0 − 2u4+ u5+ 0 − 2u4+ u1 = 0

ou

u1− 4u4+ u5 = 0. (3.9)

u(1, 1) − 2u(2, 1) + u(3, 1) + u(2, 0) − 2u(2, 1) + u(2, 2)

1 = 0

u4− 2u5+ u6+ 0 − 2u5+ u2 = 0

ou

u2+ u4− 4u5 + u6 = 0. (3.10)

u(2, 1) − 2u(3, 1) + u(4, 1) + u(3, 0) − 2u(3, 1) + u(3, 2)

1 = 0

u5 − 2u6+ 0 + 0 − 2u6+ u3 = 0

ou

u3+ u5− 4u6 = 0. (3.11)

A partir das equações (3.6) à (3.11), obtemos o seguinte sistema:

                   −4u1 + u2 + 0 + u4 + 0 + 0 = −1 u1 + −4u2 + u3 + 0 + u5 + 0 = −1 0 + u2 + −4u3 + 0 + 0 + u6 = −1 u1 + 0 + 0 + −4u4 + u5 + 0 = 0 0 + u2 + 0 + u4 + −4u5 + u6 = 0 0 + 0 + u3 + 0 + u5 + −4u6 = 0

(43)

Escrevendo da forma Ax = b segue:           −4 1 0 1 0 0 1 −4 1 0 1 0 0 1 −4 0 0 1 1 0 0 −4 1 0 0 1 0 1 −4 1 0 0 1 0 1 −4                     u1 u2 u3 u4 u5 u6           =           −1 −1 −1 0 0 0          

Considere uma tolerˆancia < 10−3_{e u}(0) _{= (0, 0, 0, 0, 0, 0)}t_.

A partir do método de Jacobi obtemos a solução (0.415786, 0.508757, 0.415786, 0.154884, 0.204455, 0.154884)t_{na 13}a_{iteração com uma tolerância 0.000715441.}

Através do método de Gauss obtemos a solução (0.415963, 0.509158, 0.416081, 0.155167, 0.204873, 0.155239)t_{na 8}a_{iteração com tolerância 9.08881e}−6_.

Já método do Gradiente Conjugado teve como solução (0.416149, 0.509317, 0.416149, 0.15528, 0.204969, 0.15528)t _{na 4}a _{iteração com}

tolerˆancia zero.

Podemos observar que o método dos Gradientes Conjugados converge mais depressa que os outros dois. E, o Teorema 2.6 foi novamente satisfeito, pois o sis-tema no método dos Gradientes Conjugados convergiu em 4a_{iterações, enquanto}

que o sistema tem ordem 6.

Exemplo 3.4. Considere a malha quadrada da Figura 3.4, cujos bordos AC e BD s˜ao mantidos `a temperatura de 20◦_C_{, o bordo AB, a 40}◦_C_{; e o bordo CD, a 10}◦_C_,

com o uso de isolantes t´ermicos em A,B,C,D.

Para determinar a temperatura nos pontos interiores da malha, pode-se supor que a temperatura em cada ponto é igual a média aritmética dos quatro pontos vizinhos. Considerando as coordenadas na Figura 3.4 vamos determinar as 16 relações que são encontradas a partir da temperatura dos pontos interiores. Na verdade, faremos a seguir somente algumas delas.

a11= a01+ a12+ a10+ a21 4 = 40 + a12+ 20 + a21 4 −4a11+ a12+ a21= −60 (3.12) a12 = a02+ a11+ a13+ a22 4 = 40 + a11+ a13+ a22 4 a11− 4a12+ a13+ a22= −40 (3.13) = a03+ a12+ a14+ a23 = 40 + a12+ a14+ a23

(44)

Figura 3.4: Malha quadrada. a12− 4a13+ a14+ a23= −40 (3.14) a14= a04+ a13+ a15+ a24 4 = 40 + a13+ 20 + a24 4 a13− 4a14+ a24= −60 (3.15) a21 = a20+ a11+ a22+ a31 4 = 20 + a11+ a22+ a31 4 a11− 4a21+ a22+ a31= −20 (3.16) a31 = a30+ a21+ a32+ a41 4 = 20 + a21+ a32+ a41 4 a21− 4a31+ a32+ a41= −20 (3.17) a41= a40+ a31+ a42+ a51 4 = 20 + a31+ a42+ 10 4 a31− 4a41+ a42= −30 (3.18)

(45)

A partir das equações (3.12) à (3.18) e de modo análogo para as demais obte-mos o sistema Ax = b, em que:

A=                                 −4 1 0 0 1 0 0 0 0 0 0 0 0 0 0 0 1 −4 1 0 0 1 0 0 0 0 0 0 0 0 0 0 0 1 −4 1 0 0 1 0 0 0 0 0 0 0 0 0 0 0 1 −4 0 0 0 1 0 0 0 0 0 0 0 0 1 0 0 0 −4 1 0 0 1 0 0 0 0 0 0 0 0 1 0 0 1 −4 1 0 0 1 0 0 0 0 0 0 0 0 1 0 0 1 −4 1 0 0 1 0 0 0 0 0 0 0 0 1 0 0 1 −4 0 0 0 1 0 0 0 0 0 0 0 0 1 0 0 0 −4 1 0 0 1 0 0 0 0 0 0 0 0 1 0 0 1 −4 1 0 0 1 0 0 0 0 0 0 0 0 1 0 0 1 −4 1 0 0 1 0 0 0 0 0 0 0 0 1 0 0 1 −4 0 0 0 1 0 0 0 0 0 0 0 0 1 0 0 0 −4 1 0 0 0 0 0 0 0 0 0 0 0 1 0 0 1 −4 1 0 0 0 0 0 0 0 0 0 0 0 1 0 0 1 −4 1 0 0 0 0 0 0 0 0 0 0 0 1 0 0 1 −4                                 , x= a11 a12 a13 a14 a21 a22 a23 a24 a31 a32 a33 a34 a41 a42 a43 a44 t b= −60 −40 −40 −60 −20 0 0 −20 −20 0 0 −20 −30 −10 −10 −30 t

Para resolver o sistema Ax=b, vamos considerar a tolerˆancia como sendo < 10−3

e v(0) _{= (0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0)}t_.

Através do método de Jacobi obteve-se na 47a _{iteração uma tolerância de}

0.000950029. Já no método de Gauss obteve-se uma tolerância de 0.000843505 na 26a

iteração. E no método do Gradiente Conjugado obtivesse tolerância 0 na 6a_{iteração.}

Neste exemplo temos que o Teorema 2.6 foi novamente satisfeito, pois obtemos a solução na 6a_{iteração e o sistema é de ordem 16.}

(46)

Considerac¸˜oes Finais

No primeiro cap´ıtulo, apresentamos definições e resultados básicos necessários para o desenvolvimento dos métodos iterativos abordados nesse trabalho. Na sequência, no Capitulo 2, desenvolvemos os métodos iterativos de Jacobi, Gauss-Seidel, Gradiente e Gradiente Conjugado. Além disso, apresentamos também resultados teóricos referentes a convergência dos métodos.

No terceiro cap´ıtulo, resolvemos numericamente alguns problemas aplica-dos, com a finalidade de aplicar e comparar os métodos desenvolvidos. Para isso, usamos códigos escritos na linguagem de programação C++_{. Dessa forma,}

podemos evidenciar que o método dos Gradientes Conjugados converge com um número menor de iterações quando comparado com os outros métodos apresenta-dos e também em até n passos, onde n é a ordem do sistema.

Os métodos iterativos também podem ser estudados a partir do subespaço de Krilov, tanto os métodos deste trabalho como os que não foram como: Gradiente Pré-Condicionado, SOR, SSOR e outros. Uma área bastante interessante para continuar o estudo sobre este assunto.

(47)

Referˆencias Bibliogr´aficas

[1] BARROSO, Leônidas Conceição - Cálculo Numérico. 2a_{edição, Ed. Harbra,}

S˜ao Paulo, 1987.

[2] BOLDRINI, J.L.; COSTA S.I.R.; FIGUEIREDO, V.L.; H. G. Wetzler

-Álgebra Linear.3a _{edição, Ed. Harbra, 1980.}

[3] BURDEN, Richard L.; FARIES J. Douglas - Análise Numérica. Cengage Leaning, São Paulo, 2008.

[4] FRANCO, Neide Bertoldi - Cálculo Numérico. Pearson Pretince Hall, São Paulo, 2006.

[5] ISSACSON, E.; KELLER, H. B. - Analysis of numerical methods. John Wi-ley e Sons, New York, 1966.

[6] ORTEGA, J.M.- Numerical analysis; a second course. Academic Press, New York, 1972.

[7] POOLE, David - ´Algebra Linear. Thonson, S˜ao Paulo, 2004.

[8] SANTOS, Vitoriano Ruas de Barros - Curso de C´alculo Num´erico. 3a

edição, Livros Técnicos e Cient´ıficos Editora S. A., Rio de Janeiro, 1976. [9] SCHWARZ, H.R.; RUTISHAUSER, H. ; STIEFEL, E. - Numerical analysis

of symmetric matrices. Prentice-Hall, 1973.