Bases, frames (quadros) e decomposições lineares

Bases, frames (quadros) e decomposições

lineares

Introdução

●

Até o momento no curso:

– Bases e frames.

– Bases → ortogonais (ortonormais) e biortogonais.

– Frames → justos, genéricos.

– Representações “mínimas” e redundantes.

– Preservação da energia.

– Produtos internos, decomposições lineares.

– Etc…

●

Mas! De onde vem tudo isso? Por que é dessa forma?

Qual a sua importância?

Espaços vetoriais

●

Em nosso dia-a-dia, estamos acostumados a lidar com “coisas” em 2 ou 3 dimensões → ℝ ² , ℝ ³ .

● Para tanto → notação vetorial

⃗ v = [ ^{v v 1 2} ] ^{= [ 3 2 ] = 3 ^ i + 2 ^ j = 3 [ 1 0 ] + 2 [ 0 1 ]}

⃗ A = [ ^{2, 3, 6} ] ^{T = 2 ^ i + 3 ^ j + 6 k ^}

= [ ^{A 1, A 2 , A 3} ] ^T

Espaços vetoriais

●

Fechamento em relação à adição:

⃗

a = [ ^{a 1, a 2} ] ^T

⃗ b = [ ^{b 1, b 2} ] ^T

⃗

a +⃗ b = [ ^{a 1 + b 1, a 2 + b 2} ] ^T

⃗

a −⃗ b =⃗ a + ( −⃗ b ) =

= [ ^{a 1 − b 1, a 2 − b 2} ] ^T

⃗

a =⃗ b ⇒ ⃗ a −⃗ b =⃗ 0 = [ ^{0, 0} ] ^T ⇒ a ₁ = b _1, a ₂ = b ₂

⃗

a = [ ^{a 1, a 2} ] ^T

k ⃗ a = [ ^{k a 1, k a 2} ] ^T

●

Fechamento em relação à multiplicação por escalar:

ℝ ² , ℝ ^{3 são}

espaços vetoriais

fechados

Produto interno, norma e distância

●

Produto interno (escalar, “dot product”):

⟨⃗ a , ⃗ b ⟩=‖ a ‖⋅‖ b ‖ cos θ _{a b} , 0 ⩽θ _{a b} ⩽π

=‖ a ‖⋅‖ b ‖⋅ [ ^{cos (θ a ) cos (θ b )+ sin (θ a ) sin (θ b )} ]

= a ₁ b ₁ + a ₂ b ₂

Forma trigonométrica

Forma algébrica

=‖ a ‖⋅‖ b ‖ cos (θ _a −θ _b )

=‖ a ‖⋅‖ b ‖⋅ [ ^{‖ a a 1 ‖ ‖ b b 1 ‖ + ‖ a a 2 ‖ ‖ b b 2 ‖} ]

⟨⃗ a , ⃗ b ⟩= ∑

i = 1 N

a _i b _i

⟨⃗ a , ⃗ b ⟩=⃗ a ⋅⃗ b ⇒

Produto interno, norma e distância

●

Em ℝ ³ teríamos

⃗

v _A =[ x _{A 0} x _A1 x _{A 2} ] ^T ⃗ v _B =[ x _{B 0} x _{B 1} x _{B 2} ] ^T

⟨⃗ v _A , ⃗ v _B ⟩=‖ v _A ‖⋅‖ v _B ‖ cos θ AB = x _{A 0} x _{B 0} + x _{A 1} x _{B 1} + x _{A 2} x _{B 2}

Forma trigonométrica Forma algébrica

●

Generalizando → em espaços vetoriais de dimensão N ( ℝ ^N ):

⟨ ⃗ v _A , v ⃗ _B ⟩=‖ v _A ‖⋅‖ v _B ‖ cos θ _AB = x _{A 0} x _{B 0} + x _{A 1} x _{B 1} +⋯+ x _{A ( N − 1 )} x _{B ( N − 1 )}

⟨ ⃗ v _A , v ⃗ _B ⟩= ∑

k = 0 N − 1

x _Ak x _Bk ∗ Produto interno generalizado

Produto interno, norma e distância

●

O produto interno de um vetor com ele mesmo será

⟨ ⃗ v _A , v ⃗ _A ⟩= x _{A 0} x _{A 0} + x _{A 1} x _{A 1} +⋯+ x _{A ( N − 1 )} x _{A ( N − 1 )}

= x ² _A0 + x ² _A1 +⋯+ x ² _{A ( N − 1 )}

= ∑

k = 0 N − 1

x ² _Ak

●

A raiz quadrada positiva é a norma-l ₂ do vetor:

‖⃗ v _A ‖= √ ^{⟨ ⃗ v A , v ⃗ A ⟩=} √ ^{N ∑ k = − 0 1 x 2 Ak = l 2}

“Energia” do vetor

“Comprimento”

do vetor

Produto interno, norma e distância

●

Distância (erro, discrepância) entre dois vetores → norma da diferença:

d ( ⃗ v _A , v ⃗ _B )=‖⃗ v _A − ⃗ v _B ‖= √ ^{[ x A 0 − x B 0 ] 2 +⋯+[ x A ( N − 1 ) − x B ( N − 1 ) ] 2}

= √ ^{N ∑ k = −1 0 [ x Ak − x Bk ] 2}

Usado, por exemplo, em avaliações de aproximações:

“root-mean-square” (RMSE),

“signal to noise ration” (SNR),

“peak SNR” (PSNR) e

regressão por mínimos

quadrados, etc...

Produto interno, norma e distância

●

O produto interno é uma medida de orientação entre dois vetores: ⟨ ⃗ v _A , v ⃗ _B ⟩=‖ v _A ‖⋅‖ v _B ‖ cos θ _AB

– Se os vetores são colineares e no mesmo sentido:

Vetores ortogonais θ _AB = 0 ⇒ ⟨ ⃗ v _A , v ⃗ _B ⟩ máximo

θ _AB = π ⇒ ⟨ ⃗ v _A , v ⃗ _B ⟩ mínimo ( negativo )

θ _AB = π

2 ⇒ ⟨ ⃗ v _A , v ⃗ _B ⟩= 0 ⇒ ⃗ a ⊥⃗ b

– Se são colineares, mas em sentidos opostos:

– Se são perpendiculares:

●

Se um dos vetores for de norma constante ou unitário→

avaliação de similaridade!

⟨ v _A , v _B ⟩=‖ v _A ‖⋅ 1 cos θ _AB ⃗ u _a = ⃗ a

‖ a ‖ , ‖⃗ u _a ‖= 1

Projeção vetorial

●

Projetar um vetor em outro vetor:

proj _{⃗ B} ⃗ A =‖ A ‖ cos θ _AB ⃗ u _B

= ⟨ ⃗ A , ⃗ B ⟩

‖⃗ B ‖ ⋅ ⃗ B

‖⃗ B ‖

●

Projetar um vetor em um subespaço vetorial:

⃗ a proj _xy ⃗ a = proj _x ⃗ a + proj _y ⃗ a

=‖ A ‖ cos α ⃗ u _x +‖ A ‖ cos β ⃗ u _y

= ⟨ ⃗ A , ⃗ x ⟩

‖⃗ x ‖ ⋅ ⃗ x

‖⃗ x ‖ + ⟨ ⃗ A , ⃗ y ⟩

‖⃗ y ‖ ⋅ ⃗ y

‖⃗ y ‖

Espaços vetoriais N-dimensionais

●

Os conceitos de vetores, pontos, linhas, planos, etc., podem ser generalizados para qualquer

dimensão.

●

Ex.:

⃗

a = [ ^{a 1, a 2, ⋯ , a N} ] ^T N-tuplos de números reais, .

Espaço ℝ ^N Todos os vetores de números reais de dimensão N.

●

Ex.: Espaço ℂ ^N Vetores de números complexos de dimensão N.

a _i ∈ℝ

⃗

a = [ ^{a 1, a 2, ⋯ , a N} ] ^T N-tuplos de números complexos . a _i ∈ℂ

= [ ^{( a 1 ℜ + j a 1 ℑ ) , ( a 2 ℜ + j a 2 ℑ ) , ⋯ , ( aN ℜ + j aN ℑ )} ] ^T

= [ ^{(| a 1 | e ϕ}

^{) , (| a 2 | e ϕ}

^{) , ⋯ , (| a N | e ϕ}

⁾ ] ^T

Espaço ℝ ^∞ Todas as funções de variáveis reais contínuas.

⃗ f = f ( t )

●

Ex.:

Espaços vetoriais N-dimensionais

●

Os conceitos de vetores, pontos, linhas, planos, etc., podem ser generalizados para qualquer

dimensão.

●

Ex.:

⃗

a = [ ^{a 1, a 2, ⋯ , a N} ] ^T N-tuplos de números reais, .

Espaço ℝ ^N Todos os vetores de números reais de dimensão N.

●

Ex.: Espaço ℂ ^N Vetores de números complexos de dimensão N.

a _i ∈ℝ

⃗

a = [ ^{a 1, a 2, ⋯ , a N} ] ^T N-tuplos de números complexos . a _i ∈ℂ

= [ ^{( a 1 ℜ + j a 1 ℑ ) , ( a 2 ℜ + j a 2 ℑ ) , ⋯ , ( aN ℜ + j aN ℑ )} ] ^T

= [ ^{(| a 1 | e ϕ}

^{) , (| a 2 | e ϕ}

^{) , ⋯ , (| a N | e ϕ}

⁾ ] ^T

Espaço ℝ ^∞ Todas as funções de variáveis reais contínuas.

⃗ f = f ( t )

●

Ex.:

Hummm! → qualquer conjunto de dados, reais ou complexos, de dimensão N (ex.:

x(n), 0 ≤ n ≤ N-1) pode ser tratado como um vetor em um espaço de dimensão N…

Qualquer função de variável contínua (ex.:

f(t), f(d), f(°C)), real ou complexa, pode ser tratada como um vetor em um espaço de dimensão ∞…

Qualquer função de 2 dimensões MxN

(ex.: imagens) pode ser tratada como um

vetor em um espaço MxN...

Espaços vetoriais N-dimensionais

●

As propriedades básicas são as mesmas. Ex.:

⃗

a = [ ^{a 1, a 2, ⋯ , a N} ] ^T

⃗ b = [ ^{b 1, b 2, ⋯ , b N} ] ^T

⃗

a +⃗ b = [ ^{a 1 + b 1, a 2 + b 2, ⋯ , a N + b N} ] ^T

k ⃗ a = [ ^{k a 1 , k a 2, ⋯ , k a N} ] ^T

‖⃗ a ‖= √ ^{a 1 2 + a 2 2 +⋯+ a N =‖⃗ a ‖ 2 = l 2 norm}

⟨⃗ a , ⃗ b ⟩=‖⃗ a ‖⋅‖⃗ b ‖ cos θ _{a b} , 0 ⩽θ _{a b} ⩽π ,

= a ₁ b ₁ + a ₂ b ₂ +⋯+ a _N b _N = ∑

i = 1 N

a _i b _i

⃗

u _a = ⃗ a

‖ a ‖ , ‖⃗ u _a ‖= 1 Normalização de ⃗ a

Produto interno

Se ⟨⃗ a , ⃗ b ⟩= 0 Vetores ortogonais

Alguns espaços vetoriais importantes

●

A linha real ℝ , o plano real ℝ ² e o espaço real ℝ ^{3 .}

●

Vetores reais e complexos e dimensão N, ℝ ^{N e .}

●

Polinômios P _n de ordem menor ou igual a n:

f ( x )= c _n x ⁿ + c _{n − 1} x ^{n − 1} +⋯+ c ₁ x + c ₀

●

Polinômios P de ordem infinita.

●

Funções reais contínuas f de variáveis reais.

●

Funções reais contínuas f em um intervalo fechado [a, b].

●

Funções reais contínuas f para as quais f’, f’’,…, f ⁽ⁿ⁾ existem em um intervalo fechado [a, b].

ℂ ^N

Subespaços

●

Um subconjunto W de um espaço vetorial V é um subespaço de V se:

– W é fechado em relação à adição e multiplicação por um escalar.

– W contém a origem (vetor ). ⃗ 0

(⃗ a +⃗ b )=(⃗ b +⃗ a ) ∈ W

Closure

∀ ⃗ a , ⃗ b ∈ W

k ⃗ a ∈ W

●

Example: V = [ ^{v 1, v 2, v 3} ] ^{T Space ℝ 3}

W = [ ^{w 1, w 2} ] ^T is a subspace of V

⃗ b = [ ^{b 1, b 2} ] ^{T ∈ W}

⃗

c = [ ^{c 1, c 2} ] ^{T ∈ W}

(⃗ b +⃗ c )=(⃗ c +⃗ b )= [ ^{b 1 + c 1, b 2 + c 2} ] ^{T ∈ W}

k ⃗ b = [ ^{k b 1, k b 2} ] ^{T ∈ W}

⃗ 0 = [ ^{0, 0} ] ^{T ∈ W}

Bases

●

Independência linear:

{ ^{⃗ x 1, ⃗ x 2, ⃗ x 3, ⋯ , ⃗ x N ,} } são linearmente independentes se

k ₁ ⃗ x ₁ + k ₂ ⃗ x ₂ + ⋯+ k _N ⃗ x _N = ⃗ 0 ⇒ k ₁ = k ₂ =⋯= k _N = 0

●

Bases:

B = { ^{⃗ x 1 , ⃗ x 2 , ⃗ x 3 , ⋯ , ⃗ x N} } são linearmente independentes e Se

∀ ⃗ v ∈ V , ⃗ v = k ₁ ⃗ x ₁ + k ₂ ⃗ x ₂ + ⋯+ k _N ⃗ x _N ^{, então} B é uma base de V

●

Exemplos:

{ ^{x n , x n − 1 ,} ⋯ , x , 1 } é a base padrão para P _n ℝ ³

{ ^{^ i , ^ j , k ^} } é a base padrão para

⃗

e ₁ = [ ^1,0, ⋯ , 0 ] ^{T ,} ⃗ e ₂ = [ ^0,1, ⋯ , 0 ] ^{T ,} ⋯ , ⃗ e _N = [ ^{0, 0,} ⋯ , 1 ] ^T é a base padrão para ℝ ^N

Dimensão do espaço

n + 1

Bases

●

Cobertura (span) de um conjunto de vetores:

S = { ^{⃗ x 1, ⃗ x 2, ⃗ x 3, ⋯ , ⃗ x N} }

k ₁ ⃗ x ₁ + k ₂ ⃗ x ₂ + ⋯+ k _N ⃗ x _N , ∀ k _1, k _2, ⋯ , k _N

Se é umconjunto de vetores no espaço V, então

é o Span ( S )

Consequentemente,

se S = { ^{⃗ x 1, ⃗ x 2, ⃗ x 3, ⋯ , ⃗ x N} } forem linearmente independentes e

Span ( S )= V ^então S é uma base de V

Dimensão de V

O conjunto de todas as combinações lineares de um conjunto finito

de vetores S é chamado de “cobertura” (span) de S!

Exemplos

●

Vetores linearmente dependentes em 2D e 3D.

●

Vetores linearmente independentes em 2D e 3D.

●

Bases em 2D e 3D.

Bases ortogonais e ortonormais

B = { ^{⃗ e 1 , ⃗ e 2 , ⋯ , ⃗ e N} } é uma base ortogonal de se ℝ ^N

⟨⃗ e _i , ⃗ e _j ⟩= { ^{0, ⟨⃗ e i , ⃗ e i ⟩=‖ e i ‖ , i i = ≠ j j} }

●

Exemplo: base ortogonal não-padrão.

B = { ^{⃗ w 1 , ⃗ w 2 , ⃗ w 3} } ^,

⃗ w

= [ ^{1 √ 3 , 1 √ 3 , 1 √ 3} ]

⃗ w

= [ ^{− √ 6 2 , 1 √ 6 , 1 √ 6} ]

⃗ w

= [ ^{0, 1 √ 2 , 1 √ 2} ]

⃗ w ₁ ⋅⃗ w ₂ = 0 → w ₁ ⊥ w ₂

⃗ w ₁ ⋅⃗ w ₃ = 0 → w ₁ ⊥ w ₃

⃗ w ₂ ⋅⃗ w ₃ = 0 → w ₂ ⊥ w ₃

‖⃗ w ₁ ‖= 1

‖⃗ w ₂ ‖= 1

‖⃗ w ₃ ‖= 1

B = { ^{⃗ e 1 , ⃗ e 2 , ⋯ , ⃗ e N} } é uma base ortonormal de se ℝ ^{N ⟨⃗ e i , ⃗ e i ⟩= 1}

Exemplos

●

Exemplo: base ortonormal padrão para ℝ ^N (vetores unitários, matriz identidade, matriz de amostragem)

●

Exemplos: FFT, DCT, DST, DWT, etc...

{ ^{⃗ e 1 , ⃗ e 2 , ⋯ , ⃗ e N} } ⁼ [ ⋮ ⋮ ⋮ ⋱ ⋮ ⋮ ^{1 0 0 0 1 0 0 0 1 ⋯ ⋯ ⋯ 0 0 0 0 0 0} 0 0 0 ⋯ 1 0

0 0 0 ⋯ 0 1 ] ^{⟨⃗ e i , ⃗ e j ⟩= { 0, ⟨⃗ e i , ⃗ e i ⟩= 1 , i i = ≠ j j }}

Projeção em uma base ortogonal

●

Considere um vetor na base padrão R ³

B = { ^{⃗ w 1 , ⃗ w 2 , ⃗ w 3} }

⃗

a = [ ^{a 1 , a 2 , a 3} ] ^{T = a 1 ⋅^ i + a 2 ⋅^ j + a 3 ⋅^ k = a 1 ⋅} [ ^{1 0 0} ] ^{+ a 2 ⋅} [ ^{0 1 0} ] ^{+ a 3 ⋅} [ ^{0 0 1} ]

A projeção de em outra base ortogonal é:

k ₁ =⟨⃗ a , ⃗ w ₁ ⟩ , k ₂ =⟨⃗ a , ⃗ w ₂ ⟩ , k ₃ =⟨⃗ a , ⃗ w ₃ ⟩

⃗ a

●

Exemplo: projeção em base ortogonal não-padrão.

B = { ^{⃗ w 1 , ⃗ w 2 , ⃗ w 3} } ^, _{⃗ a = [ 3 , − 2 , 9 ]} ^T _{= 3 ^ i − 2 ^ j + 9 k ^}

c

=⟨⃗ a , ⃗ w

⟩= 10

√ ^{3 , c}

^{=⟨⃗ a , ⃗ w}

^⟩=

1

√ ^{6 , c}

^{=⟨⃗ a , ⃗ w}

^⟩=−

11

√ ²

⃗

a _B = 10

√ ^{3 ⃗ w 1 +}

1

√ ^{6 ⃗ w 2 −}

11

√ ^{2 ⃗ w 3 =} ∑

k − 1 3

c _k w ⃗ _k

⃗ w

= [ ^{1 √ 3 , 1 √ 3 , 1 √ 3} ]

⃗ w

= [ ^{− √ 6 2 , 1 √ 6 , 1 √ 6} ]

⃗ w

= [ ^{0, 1 √ 2 , 1 √ 2} ]

⃗

a _B = k ₁ ⋅⃗ w ₁ + k ₂ ⋅⃗ w ₂ + k ₃ ⋅⃗ w ₃ ,

Bases biortogonais

●

Agora, considere o seguinte par de vetores em ℝ ² .

ϕ ⃗ ₁ =[ 1, 0 ] ^T , ϕ ⃗ ₂ = [ ^{1 2 , 1} ] ^T

– É possível reconstruir qualquer vetor x como uma expansão

⃗ x = ∑

k = 1 2

c _k ϕ ⃗ _k = c ₁ ϕ ⃗ ₁ + c ₂ ϕ ⃗ ₂ ?

●

Neste caso → base dual!

~ ⃗

ϕ ₁ = [ ^{1 , − 1 2} ] ^T

ϕ ⃗~ ₂ =[ 0,1 ] ^T

c ₁ = ⟨ ^{⃗ x , ϕ ~ ⃗ 1} ⟩ ^{= x 1 − 1} ₂ ^{x 2}

c ₂ = ⟨ ^{⃗ x , ϕ ~ ⃗ 2} ⟩ ^{= x 2}

⃗ x = c ₁ ϕ ⃗ ₁ + c ₂ ϕ ⃗ ₂

= ( ^{x 1 − 1 2 x 2} ) ^⋅ [ ^{1 0} ] ^{+ ( x 2 ) ⋅} [ ^{1 1 / 2} ]

=[ x ₁ x ₂ ] ^T

Bases biortogonais

●

O conjunto _{ϕ 1 =[} 1 0 ] ^T ϕ ₂ = [ ^{1 2 1} ] ^T

ϕ ~ ₁ = [ ^{1 − 1 2} ] ^T

ϕ ~ ₂ =[ 0 1 ] ^T

Forma um par de bases biortogonais em ℝ ² . As equações de análise e síntese tornam-se

⃗ x = ∑

k = 1 2

c _k ϕ ⃗ _k = c ₁ ϕ ⃗ ₁ + c ₂ ϕ ⃗ ₂ =

=⟨⃗ x , ϕ ~ ⃗ 1 ⟩ ⃗ ϕ 1 +⟨⃗ x , ϕ ~ ⃗ 2 ⟩ ⃗ ϕ 2

Bases biortogonais

●

Qualquer conjunto de N vetores pode ser uma base em ℝ ^N .

– Desde que não sejam colineares (paralelos).

●

Para qualquer base, a base dual é única.

●

Condição geral para formação de bases biortogonais?

⟨ ^{ϕ ⃗~ i , ϕ ⃗ k} ⟩ ^{=δ i − k =} { ^{1, 0, if i otherwise = k} }

●

Bases biortogonais oferecem mais graus de liberdade.

●

Desvantagens:

– Normas (energias dos sinais) não são preservadas.

– Vetores das bases não podem ser unitários !

– Computações instáveis se vetores da base são quase-colineares.

Bi-orthogonality!

Frames

●

Nos exemplos anteriores sempre usamos N vetores para espaços _ℝ ^N .

– 2 vetores em _ℝ ² , 3 em ℝ ³ , etc.

– Mínima informação para reconstrução perfeita → BASES de ℝ ^N .

●

Mas, podemos usar mais do que N vetores?

●

Ex.: 3 vetores em ℝ ² .

x =〈 x , ϕ ̃ 0 〉 ϕ 0 +〈 x , ϕ ̃ 1 〉 ϕ 1 +〈 x , ϕ ̃ 2 〉 ϕ 2

This expansion exists if ϕ

, ϕ

and ϕ

are not collinear.

Frames

●

Tais conjuntos redundantes { ϕ ₀ , ϕ ₁ ^, ϕ ₂ } são frames.

●

Para cada frame há infinitos frames duais que garantem reconstrução perfeita:

– Dependência linear entre os vetores.

– Infinitas formas de reconstrução.

{ ^{ϕ 0, ϕ 1, ϕ 2, … , ϕ N + K − 1} } { ^{ϕ ̃ 0, ϕ ̃ 1, ϕ ̃ 2, … , ϕ ̃ N + K − 1} }

●

Como escolher?

– Crie suas regras! Regularização!

Frames

●

Ex.: comece com a base ϕ ₀ =[ 1 0 ] ^T ϕ 1 =[ 0 1 ] ^T

Adicione outro vetor ϕ ₂ =− ϕ ₀ − ϕ ₁ =[− 1 − 1 ] ^T

●

Como há 3 vetores em ℝ ² :

– Linearmente dependentes.

– A decomposição é redundante.

– Sobrecompleto → podem

representar qualquer outro vetor

em ℝ ² .

Frames

●

Um possível frame dual é

ϕ ~ ₀ = ϕ ₀ + ϕ ₁ =[ 1 1 ] ^T ϕ ~ ₁ = 2 ϕ ₁ =[ 0 2 ] ^T ϕ ~ ₂ = ϕ ₀ =[ 1 0 ]

Nesse caso, a decomposição será:

x =〈 x , ϕ ̃ ₀ 〉 ϕ ₀ +〈 x , ϕ ̃ ₁ 〉 ϕ ₁ +〈 x , ϕ ̃ ₂ 〉 ϕ ₂ =

=〈 x , ( ϕ ₀ + ϕ ₁ )〉 ϕ ₀ +〈 x , 2 ϕ ₁ 〉 ϕ ₁ +〈 x , ϕ ₁ 〉 ϕ ₂

Frames justos

●

É possível construir um frame de forma a “imitar” uma base ortogonal?

●

Considere:

ϕ 0 = [ √ ^{2 3 0 ] T}

ϕ 1 = [ ^{− √ 1 6 √ 1 2} ] ^T

ϕ ₂ = [ ^{− √ 1 6 − √ 1 2} ]

●

Para qualquer vetor em ℝ ² pode-se verificar que:

x = ∑

k = 0 2

〈 x , ϕ k 〉=〈 x , ϕ 0 〉 ϕ 0 +〈 x , ϕ 1 〉 ϕ 1 +〈 x , ϕ 2 〉 ϕ 2

Frames justos

●

Frames justos:

– Os mesmos vetores compõem o frame original e seu dual.

– A norma é preservada (conservação da energia).

●

Para isso, as normas dos vetores devem ser menores que 1 (no exemplo, √ 2/3).

– Se os vetores forem unitários → redundância

∑ k = 0 2

∣〈 x , ϕ _k 〉∣ ² = 3

2 ∥ x ∥ ² 3/2 é a redundância do frame.

●

Exemplos:

– FFT sobrecompleta, SWT, Wpackets, Ridgelets, Curvelets,

Contourlets, etc...

Matrizes, transformadas e decomposições lineares

●

Matrizes:

A = ( ^{a a a ⋮ m 11 21 1 a a a ⋮ m 12 22 2 ⋯ ⋯ ⋯ ⋮ ⋯ a a a mn 1n 2 n} ) ^{= ( a ij ) m × n}

●

Adição, subtração e igualdade:

A = ( ^{a ij} ) ^m × n

B = ( ^{b ij} ) ^m × n

A + B = ( ^{a ij + b ij} ) ^m × n

A − B = ( ^{a ij − b ij} ) ^m × n

A = B ⇒ A − B = ( ⁰ ) ^m × n ⇒ a _ij = b _ij ∀ i , j

kA =

( Multiplicação por escalar: ^{k a k a k a ⋮ m 11 21 1 k a k a k a ⋮ m 12 22 2 ⋯ ⋯ ⋯ ⋯ k a k a k a ⋮ 1 2 mn n n} ) ^{= ( k a ij ) m × n}

Multiplicação matricial

A _{m × p} ⋅ B _{p × n} = ( ^{a a a ⋮ m 11 21 1 a a a ⋮ m 12 22 2 ⋯ ⋯ ⋯ ⋮ ⋯ a a a 1 2 mp p p} ) ^⋅ ( ^{b b b ⋮ 11 21 p 1 b b b ⋮ 12 22 p 2 ⋯ ⋯ ⋯ ⋮ ⋯ b b b 1n 2 pn n} )

= ( ^{a a a m 21 11 1 b b b 11 11 11 + + + a a a 12 22 m 2 b b b 21 21 ⋮ 21 +⋯+ +⋯+ +⋯+ a a a 1 2 mp p p b b b p p p 1 1 1 ⋯ ⋯ ⋯ ⋯ a a a m 11 21 1 b b b 1 1 1 n n n + + + a a a 12 22 m 2 b b b 2n 2 ⋮ 2 n n +⋯+ +⋯+ +⋯+ a a a 1 2 mp p p b b b pn pn pn} )

A _{m × p} ⋅ B _{p × n} = ( ^{c ij} ) ^{m × n =} ( ^{∑ k = p 1 a ik b kj} ) ^{m × n = C m × n}

Multiplicação matricial e produtos internos

A _{m × p} ⋅ B _{p × n} = ( ^{a a a ⋮ m 11 21 1 a a a ⋮ m 12 22 2 ⋯ ⋯ ⋯ ⋮ ⋯ a a a 1 2 mp p p} ) ^⋅ ( ^{b b b ⋮ 11 21 p 1 b b b ⋮ 12 22 p 2 ⋯ ⋯ ⋯ ⋮ ⋯ b b b 1n 2 pn n} )

= ( ^{a a a m 21 11 1 b b b 11 11 11 + + + a a a 12 22 m 2 b b b 21 21 ⋮ 21 +⋯+ +⋯+ +⋯+ a a a 1 2 mp p p b b b p p p 1 1 1 ⋯ ⋯ ⋯ ⋯ a a a m 11 21 1 b b b 1 1 1 n n n + + + a a a 12 22 m 2 b b b 2n 2 ⋮ 2 n n +⋯+ +⋯+ +⋯+ a a a 1 2 mp p p b b b pn pn pn} )

⟨⃗ a _{1 k} , ⃗ b _{k 1} ⟩

Multiplicação matricial e produtos internos

A _{m × p} ⋅ B _{p × n} = ( ^{a a a ⋮ m 11 21 1 a a a ⋮ m 12 22 2 ⋯ ⋯ ⋯ ⋮ ⋯ a a a 1 2 mp p p} ) ^⋅ ( ^{b b b ⋮ 11 21 p 1 b b b ⋮ 12 22 p 2 ⋯ ⋯ ⋯ ⋮ ⋯ b b b 1n 2 pn n} )

= ( ^{a a a m 21 11 1 b b b 11 11 11 + + + a a a 12 22 m 2 b b b 21 21 ⋮ 21 +⋯+ +⋯+ +⋯+ a a a 1 2 mp p p b b b p p p 1 1 1 ⋯ ⋯ ⋯ ⋯ a a a m 11 21 1 b b b 1 1 1 n n n + + + a a a 12 22 m 2 b b b 2n 2 ⋮ 2 n n +⋯+ +⋯+ +⋯+ a a a 1 2 mp p p b b b pn pn pn} )

⟨⃗ a _{1 k} , ⃗ b _{k 1} ⟩

⟨⃗ a _{1 k} , ⃗ b _{k 2} ⟩

Multiplicação matricial e produtos internos

A _{m × p} ⋅ B _{p × n} = ( ^{a a a ⋮ m 11 21 1 a a a ⋮ m 12 22 2 ⋯ ⋯ ⋯ ⋮ ⋯ a a a 1 2 mp p p} ) ^⋅ ( ^{b b b ⋮ 11 21 p 1 b b b ⋮ 12 22 p 2 ⋯ ⋯ ⋯ ⋮ ⋯ b b b 1n 2 pn n} )

= ( ^{a a a m 21 11 1 b b b 11 11 11 + + + a a a 12 22 m 2 b b b 21 21 ⋮ 21 +⋯+ +⋯+ +⋯+ a a a 1 2 mp p p b b b p p p 1 1 1 ⋯ ⋯ ⋯ ⋯ a a a m 11 21 1 b b b 1 1 1 n n n + + + a a a 12 22 m 2 b b b 2n 2 ⋮ 2 n n +⋯+ +⋯+ +⋯+ a a a 1 2 mp p p b b b pn pn pn} )

⟨⃗ a _{1 k} , ⃗ b _{k 1} ⟩

⟨⃗ a _{1 k} , ⃗ b _{k 2} ⟩

⟨⃗ a _{1 k} ⋮ , ⃗ b _kn ⟩

Multiplicação matricial e produtos internos

A _{m × p} ⋅ B _{p × n} = ( ^{a a a ⋮ m 11 21 1 a a a ⋮ m 12 22 2 ⋯ ⋯ ⋯ ⋮ ⋯ a a a 1 2 mp p p} ) ^⋅ ( ^{b b b ⋮ 11 21 p 1 b b b ⋮ 12 22 p 2 ⋯ ⋯ ⋯ ⋮ ⋯ b b b 1n 2 pn n} )

= ( ^{a a a m 21 11 1 b b b 11 11 11 + + + a a a 12 22 m 2 b b b 21 21 ⋮ 21 +⋯+ +⋯+ +⋯+ a a a 1 2 mp p p b b b p p p 1 1 1 ⋯ ⋯ ⋯ ⋯ a a a m 11 21 1 b b b 1 1 1 n n n + + + a a a 12 22 m 2 b b b 2n 2 ⋮ 2 n n +⋯+ +⋯+ +⋯+ a a a 1 2 mp p p b b b pn pn pn} )

⟨⃗ a _{2 k} , ⃗ b _{k 1} ⟩

Multiplicação matricial e produtos internos

A _{m × p} ⋅ B _{p × n} = ( ^{a a a ⋮ m 11 21 1 a a a ⋮ m 12 22 2 ⋯ ⋯ ⋯ ⋮ ⋯ a a a 1 2 mp p p} ) ^⋅ ( ^{b b b ⋮ 11 21 p 1 b b b ⋮ 12 22 p 2 ⋯ ⋯ ⋯ ⋮ ⋯ b b b 1n 2 pn n} )

= ( ^{a a a m 21 11 1 b b b 11 11 11 + + + a a a 12 22 m 2 b b b 21 21 ⋮ 21 +⋯+ +⋯+ +⋯+ a a a 1 2 mp p p b b b p p p 1 1 1 ⋯ ⋯ ⋯ ⋯ a a a m 11 21 1 b b b 1 1 1 n n n + + + a a a 12 22 m 2 b b b 2n 2 ⋮ 2 n n +⋯+ +⋯+ +⋯+ a a a 1 2 mp p p b b b pn pn pn} )

⟨⃗ a _{2 k} , ⃗ b _{k 1} ⟩

⟨⃗ a _{2 k} , ⃗ b _{k 2} ⟩

Multiplicação matricial e produtos internos

A _{m × p} ⋅ B _{p × n} = ( ^{a a a ⋮ m 11 21 1 a a a ⋮ m 12 22 2 ⋯ ⋯ ⋯ ⋮ ⋯ a a a 1 2 mp p p} ) ^⋅ ( ^{b b b ⋮ 11 21 p 1 b b b ⋮ 12 22 p 2 ⋯ ⋯ ⋯ ⋮ ⋯ b b b 1n 2 pn n} )

= ( ^{a a a m 21 11 1 b b b 11 11 11 + + + a a a 12 22 m 2 b b b 21 21 ⋮ 21 +⋯+ +⋯+ +⋯+ a a a 1 2 mp p p b b b p p p 1 1 1 ⋯ ⋯ ⋯ ⋯ a a a m 11 21 1 b b b 1 1 1 n n n + + + a a a 12 22 m 2 b b b 2n 2 ⋮ 2 n n +⋯+ +⋯+ +⋯+ a a a 1 2 mp p p b b b pn pn pn} )

⟨⃗ a _{2 k} , ⃗ b _{k 1} ⟩

⟨⃗ a _{2 k} , ⃗ b _{k 2} ⟩

⟨⃗ a _{2 k} ⋮ , ⃗ b _kn ⟩

Multiplicação matricial e produtos internos

A _{m × p} ⋅ B _{p × n} = ( ^{a a a ⋮ m 11 21 1 a a a ⋮ m 12 22 2 ⋯ ⋯ ⋯ ⋮ ⋯ a a a 1 2 mp p p} ) ^⋅ ( ^{b b b ⋮ 11 21 p 1 b b b ⋮ 12 22 p 2 ⋯ ⋯ ⋯ ⋮ ⋯ b b b 1n 2 pn n} )

= ( ^{a a a m 21 11 1 b b b 11 11 11 + + + a a a 12 22 m 2 b b b 21 21 ⋮ 21 +⋯+ +⋯+ +⋯+ a a a 1 2 mp p p b b b p p p 1 1 1 ⋯ ⋯ ⋯ ⋯ a a a m 11 21 1 b b b 1 1 1 n n n + + + a a a 12 22 m 2 b b b 2n 2 ⋮ 2 n n +⋯+ +⋯+ +⋯+ a a a 1 2 mp p p b b b pn pn pn} )

⟨⃗ a _mk , ⃗ b _{k 1} ⟩

Multiplicação matricial e produtos internos

A _{m × p} ⋅ B _{p × n} = ( ^{a a a ⋮ m 11 21 1 a a a ⋮ m 12 22 2 ⋯ ⋯ ⋯ ⋮ ⋯ a a a 1 2 mp p p} ) ^⋅ ( ^{b b b ⋮ 11 21 p 1 b b b ⋮ 12 22 p 2 ⋯ ⋯ ⋯ ⋮ ⋯ b b b 1n 2 pn n} )

= ( ^{a a a m 21 11 1 b b b 11 11 11 + + + a a a 12 22 m 2 b b b 21 21 ⋮ 21 +⋯+ +⋯+ +⋯+ a a a 1 2 mp p p b b b p p p 1 1 1 ⋯ ⋯ ⋯ ⋯ a a a m 11 21 1 b b b 1 1 1 n n n + + + a a a 12 22 m 2 b b b 2n 2 ⋮ 2 n n +⋯+ +⋯+ +⋯+ a a a 1 2 mp p p b b b pn pn pn} )

⟨⃗ a _mk , ⃗ b _{k 1} ⟩

⟨⃗ a _mk , ⃗ b _{k 2} ⟩