Autovalores e Autovetores

(1)

Algoritmos Num´

ericos II / Computa¸c˜

ao Cient´ıfica

Autovalores e Autovetores

Lucia Catabriga

1

1_{DI/UFES - Brazil}

(2)

Ideia B´

asica

Se multiplicarmos a matriz por um autovetor encontramos um

multiplo do pr´

oprio autovetor, com constante de multiplicidade

conhecida por autovalor.

Seja

A =





16 −24

18

3 −2

0 −9

18 −17





o vetor





2

1

0 



satisfaz a





16 −24

18

3 −2

0 −9

18 −17









2

1

0 



= 4





2

1

0 



Portanto





2

1

0 

(3)

Polinˆ

omio Caracter´ıstico

Aq = λq ⇒ (A − I λ)q = 0

  (16 − λ) −24 18 3 (−2 − λ) 0 −9 18 (−17 − λ)     q1 q2 q3   = λ   0 0 0  

que é um sistema homogêneo. Este sistema só tem solu¸cão não-trivial (qi 6= 0) se a

matriz for singular, ou seja se o determinante for nulo.

det   (16 − λ) −24 18 3 (−2 − λ) 0 −9 18 (−17 − λ)   = 0 ⇔ λ3+ 3λ2− 36λ + 32 = 0 ou (λ − 4)(λ − 1)(λ + 8) = 0

que é denominado polinômio caracter´ıstico. Os autovalores da matriz A são λ = 4, λ = 1 e λ = −8.

(4)

Polinˆ

omio Caracter´ıstico

Em geral a equa¸c˜

ao Aq = λq pode ser representada pelo sistema

homogˆ

eneo (A − λI )q = 0. Se A ´

e uma matriz de ordem n o

sistema homogˆ

eneo tem solu¸c˜

ao n˜

ao-trivial se

det







(a

11

− λ)

a

12

. . .

a

1n

a

21

(a

22

− λ) . . .

a

2n

..

.

..

.

. ..

..

.

a

n1

a

n2

. . .

(a

nn

− λ)







= 0

O polinˆ

omio caracter´ıstico tem a forma geral:

λ

n

+ c

n−1

λ

n−1

+ . . . + c

1

λ + c

0

= 0

(5)

Propriedades

I O produto dos autovalores da matriz ´e igual ao determinante da matriz detA = (−1)n_c

0= λ1λ2. . . λn. Portanto se A ´e singular, existe pelo menos um

autovalor λi= 0

I A matriz A e sua transposta At _{tem os mesmos autovalores, pois o}

detA = detAt_.

I O determinante de uma matriz triangular é igual ao produto dos elementos da diagonal. Então se A é triangular:

det(A − λI ) = (a11− λ)(a22− λ) . . . (ann− λ). Portanto os autovalores de uma

matriz triangular s˜ao iguais aos elementos da diagonal.

I Se as linhas e colunas correspondentes de uma matriz s˜ao trocadas os autovalores permanecem os mesmos. Por exemplo:

  16 −24 18 3 −2 0 −9 18 −17     q1 q2 q3   = λ   q1 q2 q3  

Se trocarmos a linha 1 com a linha 2 e a coluna 1 com a coluna 2, obtemos:   −2 3 0 −24 16 18 18 −9 −17     q2 q1 q3   = λ   q2 q1 q3  

observe que os autovalores permanecem os mesmos, mas ao autovetores tem a 1a. coordenada q1trocada com a segunda coordenada q2.

(6)

C´

alculo de Autovetores

O cálculo dos autovetores associados envolvem a solu¸cão de um sistema homogêneo. Para cada autovalor definimos um sistema de n equa¸cões e n incógnitas

(A − λI )q = 0. Por exemplo, a matriz:

A =   16 −24 18 3 −2 0 −9 18 −17  

tem por autovalores λ1= 4, λ2= 1 e λ3= −8. O autovetor associado a λ2= 1 ´e o

vetor q tq (A − λ2I )q = 0, ou seja   15 −24 18 3 −3 0 −9 18 −18     q1 q2 q3   =   0 0 0   ∼   15 −24 18 0 1.8 −3.6 0 3.6 −7.2     q1 q2 q3   =   0 0 0  

Ou seja, L3= 2L2e q1= q2= 2q3. Portanto qualquer vetor que possui esta

propriedade ´e autovetor associado ao autovalor λ = 1. Seja q =   2 2 1  .

(7)

´

E poss´ıvel combinar a equa¸

c˜

ao padr˜

ao dos autovalores com todos

os autovalores e correspondentes autovetores na forma:

A







q

1

q

2

. . .

q

n







=







q

1

q

2

. . .

q

n













λ

1

λ

2

. ..

λ

n







isto ´

e,

AQ = QΛ

onde Λ ´

e a matriz diagonal dos autovalores.

Q matriz quadrada contendo todos os autovetores.

(8)

M´

etodo da Potˆ

encia

I

O objetivo do m´

etodo das potˆ

encias ´

e determinar o autovalor

de maior m´

odulo dentre todos os autovalores de uma matriz.

I

Seja A uma matriz de ordem n e λ

1

, λ

2

, . . . , λ

n

os autovalores

de A e q

1

, q

2

, . . . , q

n

os autovetores correspondentes.

I

Suponha que |λ

1

| > |λ

2

| ≥ . . . ≥ |λ

n

|. Seja u

(0)

uma

combina¸c˜

ao linear dos autovetores correspondentes:

u

(0)

= c

1

q

1

+ c

2

q

2

+ . . . + c

n

q

n I

Os autovetores s˜

ao linearmente independentes.

(9)

u

(1)

₌

_Au

(0)

₌

_c

1

Aq

1

+ c

2

Aq

2

+ . . . + c

n

Aq

n

=

c

1

λ

1

q

1

+ c

2

λ

2

q

2

+ . . . + c

n

λ

n

q

n

=

λ

1

h

c

1

q

1

+ c

2λ_λ2₁

q

2

+ . . . + c

nλ_λn₁

q

n

i

u

(2)

=

A

2

u

(0)

=

λ

1

h

c

1

Aq

1

+ c

2λ_λ2₁

Aq

2

+ . . . + c

nλ_λn₁

Aq

n

i

=

λ

2 1

c

1

q

1

+ c

2

λ2 λ1

2

q

2

+ . . . + c

n

λn λ1

2

q

n

(10)

Se pr´

e-multiplicarmos a express˜

ao pela matriz A k-vezes obtemos:

u

(k)

= A

k

u

(0)

= λ

k₁

"

c

1

q

1

+ c

2

λ

2

λ

1

k

q

2

+ . . . + c

n

λ

n

λ

1

k

q

n

#

Como |λ

1

| > |λ

2

| ≥ . . . ≥ |λ

n

|, temos que

λi λ1

< 1, para

i = 2, . . . , n. Portanto quando k → ∞ ,

λi λ1

k

→ 0 para

i = 2, . . . , n.

(11)

Ent˜

ao, o vetor

"

c

1

q

1

+ c

2

λ

2

λ

1

k

q

2

+ . . . + c

n

λ

n

λ

1

k

q

n

#

→ c

1

q

1

que ´

e um autovetor associado a λ

1

. Portanto podemos afirmar que

para valores grandes de k

u

(k)

' λ

k₁

c

1

q

1

u

(k)

tende a ser proporcional ao autovetor q

1

. Considerando que o

autovetor pode ter tamanho arbitr´

ario (ou seja, um autovetor

multiplicado por um escalar tem o mesmo autovalor associado) ´

e

conveniente normalizar o vetor que gera o processo iterativo depois

de cada multiplica¸

c˜

ao. O algoritmo iterativo para determinar q

1

pode ser representado atrav´

es das equa¸

c˜

oes:

(12)

O processo iterativo para determinar q

1

pode ser representado

atrav´

es das equa¸

c˜

oes:







v

(k)

= Au

(k)

u

(k+1)

=

1_α

v

(k)

onde α = ± k v

(k)

k

(13)

Seja u(0)_{= (1 1 1)}(t) _{e a norma do m´}_{aximo para obter o valor de α, temos:} I Itera¸cão 1   528.2 547.6 156.4 273.8 312.8 98.0 78.2 98.0 39.0   | {z } A   1 1 1   | {z } u(0) =   1232.1 684.6 215.3   | {z } v(0) = 1232.1 | {z } α   1 0.5556 0.1747   | {z } u(1) I Itera¸cão 2   A     1 0.5556 0.1747   | {z } u(1) =   859.7 464.7 139.5   | {z } v(1) = 859.7 | {z } α   1 0.5406 0.1622   | {z } u(2) I Itera¸cão 3   A     1 0.5406 0.1622   | {z } u(2) =   849.5 458.8 137.3   | {z } v(2) = 849.5 | {z } α   1 0.5400 0.1616   | {z } u(3) I Itera¸cão 4   A     1 0.5400 0.1616   | {z } u(3) =   849.1 458.6 137.4   | {z } v(3) = 849.1 | {z } α   1 0.5400 0.1619   | {z } u(4) O autovetor é u(4)_{' q}

(14)

Observa¸c˜

oes:

I Quando a norma do máximo é usada o sinal de α pode ser o mesmo do maior elemento em módulo. Neste caso α convergirá para λ1até mesmo quando ele

for negativo, além disso a sequência de vetores convergirá normalmente para q1.

I _{E possivel observar que a convergˆ}´ _{encia para o autovalor pode ser mais r´}_apida que a convergˆencia para o autovetor associado.

I Em geral, dependendo de cada aplica¸cão, é poss´ıvel escolher uma aproxima¸cão inicial para o autovetor associado ao autovalor de maior módulo através de algum critério. Porém, quando não existe alguma informa¸cão, é necessário um cuidado especial para não escolher u(0)tal que o coeficiente c1seja nulo ou

muito pequeno quando comparado com os outros coeficientes.

I Para implementa¸cões computacionais do método das potências, a determina¸cão do vetor inicial u(0)é feita através de procedimentos automáticos. Um procedimento bastante usado consiste em gerar os elementos dos vetor através de números randômicos no intervalo −1 ≤ u_i(0)≤ 1. Quando este processo é usado a probabilidade de ocorrer c1= 0 é bem pequena.

(15)

Caracter´ısticas da Convergˆ

encia do M´

etodo das Potˆ

encias

O autovetor u(k)pode ser expresso: u(k)= q1+ e(k)onde

e(k)= λ2 λ1 k_c 2 c1q2+ . . . + λn λ1 k_c n c1qn

Por hip´otese temos que |λ1| > |λ2| ≥ . . . ≥ |λn|, portanto para valores grande de k o

erro pode ser aproximado por k e(k)_k∼ λ2 λ1 (k) |c2| |c₁| k q2k

Podemows supor que |c2| ∼ |c1|, o que nos d´a a possibilidade de estimar o n´umero de

itera¸cões necessárias para atingir uma tolerância pré-fixada. Supor tolerância de 10−s. O erro na itera¸cão k depende do quociente

λ2 λ1 k , ent˜ao: λ2 λ1 k ' 10−s_{⇒ k '} −sln10 ln|λ2/λ1| Portanto se λ2 λ1

estiver próximo de 1, o método das potências converge

vagarosamente. É poss´ıvel acelerar a convergência do método das potências usando o Coeficiente de Rayleigh para normalizar o vetor v(k)_:

α =(u

(k)₎t_Au(k)

(u(k)₎t_u(k) =

(u(k))tv(k) (u(k)₎t_u(k)

(16)

Algoritmo 1: M´

etodo das Potˆ

encias - vers˜

ao 1

1

Entrada: A,v

(0)

,,k

_max

2

Inicializar ρ (ρ = 1.0)

3

Inicializar λ

_k

(λ

_k

= 0.0)

4

while ρ > and k < k

_max

do

5

u = Av

(k) 6

λ

_k+1

=

v (k)T_u v(k)T_v(k) 7

v

(k+1)

=

_λu k+1 8

ρ =

|λk+1_|λ −λk| k+1|

ou ρ = kv

(k+1)

_{− v}

(k)

_k

9

k = k + 1

10

end

11

Sa´ıda: λ

_k+1

, v

(k+1)

(17)

No entanto, podemos escalonar a sequˆ

encia v

(k)

, antes de calcular

o λ

k

.

Para isso, seja y

(k)

=

_kuu(k)(k)_k

, ent˜

ao ky

(k)

k = 1.

λ

k

=

y

(k)T

Ay

(k)

y

(k)T

_y

(k)

= y

(18)

Algoritmo 2: M´

etodo das Potˆ

encias - vers˜

ao 2

1

Entrada: A,z

(0)

,,k

max

2

Inicializar ρ (ρ = 1.0)

3

Inicializar λ

k

(λ

k

= 0.0)

4

while ρ > and k < k

max

do

5

y

(k)

=

v(k) kv(k)_k 6

z = Ay

(k) 7

λ

_k+1

= y

(k)T

z

(k+1) 8

ρ =

|λk+1_|λ −λk| k+1|

ou ρ = ky

(k)

_{− y}

(k−1)

_k

9

k = k + 1

10

end

11

Sa´ıda: λ

k+1

, y

(k+1)

(19)

Introdu¸c˜

ao

I

Os m´

etodos de transforma¸c˜

ao tem por objetivo modificar a

matriz original em outra que contenha os mesmos autovalores,

sendo sua determina¸

c˜

ao trivial.

I

Por exemplo, transformando a matriz original em uma matriz

diagonal ou triangular – de forma que as matrizes tenham os

mesmos autovalores – os elementos da diagonal da matriz

resultante ser˜

ao os autovalores da matriz original.

(20)

Ideia B´

asica

As transforma¸c˜

oes mais gerais consistem em obter:

¯

A = N

−1

AN

(1)

onde N ´

e uma matriz n˜

ao singular da mesma ordem que A. Seja λ

e q autovalor e autovetor correspondente, ent˜

ao:

Aq = λq

(2)

sendo ¯

q = N

−1

q temos que:

¯

A¯

q

=

N

−1

ANN

−1

q = N

−1

λq

=

λN

−1

q = λ¯

q

(3)

(21)

I

Considerando um sequˆ

encia de transforma¸c˜

oes, temos:

¯

A = A

k+1

= N

k−1

N

−1 k−1

. . . N

−1 2

N

−1 1

AN

1

N

2

. . . N

k−1

N

k

(4)

sendo ¯

A uma matriz diagonal ou triangular.

I

Os autovalores de A ser˜

ao os elementos da diagonal de A

k+1

.

I

Sendo λ

j

= ¯

a

jj

autovalor, o autovetor correspondente ser´

a a

(22)

I

Para matrizes sim´

etricas, as transforma¸

c˜

oes podem ser feitas

por matrizes ortogonais, ou seja,

N

−1

= N

t

, portanto ¯

A = N

t

AN

(5)

Se λ e q s˜

ao autovalor e autovetor correspondentes de A,

ent˜

ao λ e N

t

q s˜

ao autovalor e autovetor correspondentes de

¯

A.

I

Em geral, os m´

etodos de transforma¸

c˜

ao s˜

ao processos

iterativos, sendo portanto dependentes de condi¸

c˜

oes de

convergˆ

encia.

(23)

Diagonaliza¸c˜

ao de Jacobi para Matrizes sim´

etricas

I

M´

etodo baseado em transforma¸

c˜

oes orgogonais;

I

Cada transforma¸

c˜

ao tem por objetivo eliminar um par de

coeficientes;

I

N˜

ao h´

a garantias que na pr´

oxima transforma¸c˜

ao os

coeficientes anulados, permanecer˜

ao nulos.

I

Os erros de arredondamento podem influenciar o resultado,

uma vez que o n´

umero de opera¸

c˜

oes de ponto flutuante

necess´

ario ´

e grande.

(24)

suponha uma matriz de rota¸c˜

ao N

pq

definida por:

N

pq

=







p

q

1 c

−s

p

1 s

c

q

1 





(6)

onde,

c =

cosα

s =

senα

(7)

sendo α o ˆ

angulo de rota¸

c˜

ao. A opera¸

c˜

ao N

t

pq

AN

pq

, altera apenas as

(25)

A cada itera¸

c˜

ao i o elemento a

pq

ser´

a eliminado seguindo os seguintes

passos:

1. Calcular:

φ

=

a

qq

− a

pp

2a

pq

(8)

t

=











1 φ+sinal (φ)

√

φ2₊₁

, se φ 6= 0;

1 se φ = 0.,

(9)

cosα

=

√

1 1 + t

2

(10)

senα

=

√

t

1 + t

2

(11)

2. A

k+1

= N

pqt

AN

pq

(26)

M´

etodo C´ıclico ce Jacobi

I

A escolha de qual elemento ser´

a eliminado ´

e um importante passo

para a convergˆ

encia do m´

etodo de Jacobi.

I

Uma alternativa ´

e percorrer ciclicamente os elementos de fora da

diagonal principal por linha;

I

Definir (p, q) sequencialmente por: (1, 2), (1, 3), ..., (1, n), (2, 3),

..., (2, n), ..., (n − 1, n).

I

Al´

em disso, como os elementos de um ciclo a outro tendem a

descrecer, podemos utilizar um crit´

erio para escolher eliminar ou

n˜

ao uma determinada posi¸

c˜

ao de acordo com um crit´

erio de

tolerˆ

ancia. Por exemplo a cada passo eliminar somente os

coeficientes tais que |a

pq

| < ρ

0

10

−(c−1)

. Sendo, ρ

0

uma tolerˆ

ancia

(27)

Determine os autovalores e autovetores, com tolerˆ

ancia

= 5 × 10

−2

e ρ

0

= 0.5

A =





3

0.4

5

0.4

4

0.1

5

0.1 −2





1

o

_Ciclo:

|a

12

| < 0.5 ⇒ a transforma¸c˜

ao sobre o elemento (1, 2) ser´

a omitida.

|a

13

| > 0.5 ⇒ a transforma¸c˜

ao sobre o elemento (1, 3) ser´

a dada por:

N

1

=





0.8507

0 −0.5257

0

1

0 0.5257

0 0.8507





⇒ A

2

=





6.9202

0.3928

0 0.3928

4 −0.1252

0 −0.1252

−5.0902





(28)

|a

12

| > 0.05 ⇒ a transforma¸c˜

ao sobre o elemento (1, 2) ser´

a dada por:

N

2

=





0.9839

−0.1788

0 −0.1788

0.9839

0

1 



⇒ A

3

=





6.1616

0 −0.0224

0 3.9289

−0.1232

−0.0224

−0.1232

−5.0902





|a

13

| < 0.05 ⇒ a transforma¸c˜

ao sobre o elemento (1, 3) ser´

a omitida.

|a

23

| < 0.05 ⇒ a transforma¸c˜

ao sobre o elemento (2, 3) ser´

a dada por:

N

3

=





1

0

0 0.9999

0.0137

0 −0.0137

0.9999





⇒ A

4

=





6.1616

0.0003

−0.0224

0.0003

3.9303

0 −0.0224

0 −5.0919





6.1616, 3.9303 e −5.0919 s˜

ao autovalores e autovetores correspondentes

iguais as colunas de:

N

1

N

2

N

3

=





0.8370

−0.1449

−0.5277

0.1788

0.9838

0.0135

0.5172

−0.1056

0.8439





(29)

M´

etodo LR

I

Determina todos os autovalores de uma matriz;

I

O m´

etodo consiste em construir uma sequˆ

encia de matrizes

A

1

, A

2

, . . . , A

k

de tal forma que a matriz A

k

seja aproximamente

triangular superior, sendo que os autovalores de A e A

k

s˜

ao os

elementos da diagonal de A

k

.

I

A cada itera¸

c˜

ao k, fatoramos A

k

= L

k

R

k

, sendo L

k

e R

k

,

respectivamente, matriz triangular inferior com 1 na diagonal e

matriz triangular superior. A itera¸c˜

ao k + 1 deve ser calculada por,

A

k+1

= R

k

L

k

.

(30)

Assim,

A

1

=

A =

L

1

R

1

A

2

=

R

1

L

1

=

L

2

R

2

A

3

=

R

2

L

2

=

L

2

R

2

..

.

A

k

=

R

k−1

L

k−1

=

L

k

R

k

..

.

(12)

Observa¸

c˜

oes:

I

Pode-se provar que: Se os autovalores de A s˜

ao distintos, a

sequˆ

encia {A

k+1

} converge para uma matriz triangular superior R.

I

A matriz R tem os mesmos autovalores de A.

A

k

= R

k−1

L

k−1

= L

−1_k−1

. . . L

−11

AL

1

. . . L

k

(31)

M´

etodo QR

I

Determina todos os autovalores de uma matriz;

I

O m´

etodo consiste em construir uma sequˆ

encia de matrizes

A

1

, A

2

, . . . , A

k

de tal forma que a matriz A

k

seja aproximamente

triangular superior, sendo que os autovalores de A e A

k

s˜

ao os

elementos da diagonal de A

k

.

I

A cada itera¸

c˜

ao k, decompomos A

k

= Q

k

R

k

, sendo Q

k

uma matriz

ortogonal e R

k

uma matriz triangular superior. A itera¸

c˜

ao k + 1

(32)

Assim,

A

1

=

A =

Q

1

R

1

A

2

=

R

1

Q

1

=

Q

2

R

2

A

3

=

R

2

Q

2

=

Q

2

R

2

..

.

A

k

=

R

k−1

Q

k−1

=

Q

k

R

k

..

.

(13)

Observa¸

c˜

oes:

I

Pode-se provar que: Se os autovalores de A s˜

ao distintos, a

sequˆ

encia {A

k+1

} converge para uma matriz triangular superior R.

I

A matriz R tem os mesmos autovalores de A.

A

k

= R

k−1

Q

k−1

= Q

_k−1−1

. . . Q

1−1

AQ

1

. . . Q

k

(33)

Em cada passo do m´

etodo QR, devemos determinar matrizes Q

k

e R

k

,

sendo Q

k

matriz ortogonal e R

k

matriz triangular superior. Esta

decomposi¸

c˜

ao pode ser obtida utilizando transforma¸

c˜

oes ortogonais,

como por exemplo Rota¸c˜

oes de Givens que podem ser sumarizadas por:

para zerar os elementos abaixo da diagonal na coluna j , vamos executar

rota¸c˜

oes de Givens da linha j + 1 at´

e a linha n, considerando a matriz

ortogonal N

pq

dada por:

N

pq

=







p

q

1 c

s

p

1 −s

c

q

1 





c =

_q

a

pp

a

2 pp

+ a

2qp

s =

_q

a

qp

a

2 pp

+ a

2qp

A matriz Q

k

respons´

avel por zerar os coeficientes abaixo da diagonal na

coluna j ´

e dada por:

Q

k

= N

j +1,jt

N

t j +2,j

N

t j +3,j

. . . N

t n,j

(34)

Redu¸c˜

ao a Forma de Hessemberg

I

O processo termina quando o elemento de maior valor absoluto da

matriz A

k

abaixo da diagonal for menor que uma tolerˆ

ancia

pr´

e-fixada.

I

Para matrizes de ordem elevada, o m´

etodo QR tende a ter uma

convergˆ

encia lenta. Para acelerar o processo ´

e utilizado estrat´

egias

para transformar a matriz original A em uma matriz com

caracter´ısticas especiais.

I

A forma de Hessemberg superior consiste em uma matriz triangular

com a subdiagonal inferior com elementos tamb´

em n˜

ao nulos.

I

A redu¸

c˜

ao est´

a baseada na utiliza¸

c˜

ao de opera¸

c˜

oes elementares,

organizadas por coluna em n − 2 etapas:

A

n−1

= N

n−2−1

. . . N

−1 2

N

−1

1

AN

1

N

2

. . . N

n−2

sendo N

j

matriz elementar.

(35)

M´

etodo da Itera¸c˜

ao Inversa

Seja λ autovalor aproximado de A. Desejamos obter q tal que:

Aq = λq. Considere z

(0)

_{um vetor condi¸c˜}

_{ao inicial para o c´}

_alculo

do autovetor correspondente. Define-se duas sequˆ

encias {w

(m)

} e

{z

(m)

_{} tq}

(A − λI )w

(m+1)

= z

(m)

e z

(m+1)

=

w

(m+1)

kw

(m+1)

_k

p/ m ≥ 0

O processo que acabamos de apresentar ´

e essencialmente o

M´

etodo das potˆ

encias aplicado a matriz (A − λI )

−1

.

(36)

Algoritmo 3: M´

etodo da Itera¸

c˜

ao Inversa

1 Entrada: A,λ,,maxiter

2 Calcula os fatores L, U e P de (A − λI ) (Controlar singularidade de U)

3 Define q inicial (usar fun¸c˜ao randˆomica)

4 qa= Lq 5 ρ = kq − qak2 6 k = 0

7 while ρ > and k < maxiter do

8 Resolva Ly = Pqa 9 Resolva Uv = y 10 q =_{kv k}v 2 11 ρ = kq − qak2 12 qa= q 13 k = k + 1 14 end 15 Sa´ıda: q, k