1.4 Métodos tipo Newton Inexatos
1.4.1 REGINN
Notações: A := F0(x+) ; A
n:= F0 xn e bn:= y F xn :
Gostaríamos de resolver de uma maneira estável o sistema mal posto (1:1) ; assumindo (1:2) e (1:3) ; isto é, gostaríamos de determinar, para cada nível de ruídos > 0 um vetor xN ( )que sirva de aproximação ao vetor procurado x+e de modo que a propriedade (1:6) seja satisfeita.
Podemos pensar em aplicar diretamente o método de Newton na equação
F (x) = y : (1.23)
Para tanto, devemos supor disponível um vetor x02 X e na n ésima iteração resolver a equação linearizada
Ansn= bn; (1.24)
para obter o passo sn e obtermos então xn+1 = xn+ sn: Mas caso o
sistema (1:24) acima seja mal posto, nem sempre será vantajoso cal- cular sn exatamente (mesmo que isso seja possível, conforme ideias já
expostas nas seções anteriores). Seguindo as ideias do método de Gauss Newton, podemos pensar em minimizar o funcional
pn(x) = Anx bn 2
;
mas esse procedimento também pode gerar problemas de instabilidade em problemas mal postos.
O algoritmo que será apresentado resumidamente nessa sub- seção, foi chamado pelo autor de [31] de REGINN (REGularization based on INexact Newton iteration) e será estudado detalhadamente no capítulo 2. Este método não consiste em minimizar o funcional pn; mas apenas determinar um vetor que o torne "pequeno su…ciente".
Repare que se o vetor bn não pertencer ao subespaço R (An)?; então
(veja a …gura 1.1) a norma desse vetor será estritamente maior do que a norma de sua projeção sobre o subespaço R (An)?; isto é
bn > PR(An)?bn = PR(A
n)bn bn :
Figura 1.1: bn2 R (A= n)?=) PR(An)?bn < bn :
iteração externa. Na iteração interna, mantem-se …xado o índice de iteração n e aplica-se um método de regularização para gerar o passo hn que é somado na iteração externa ao vetor corrente xn de…nindo
o vetor xn+1: A iteração externa é então encerrada pelo princípio da discrepância (1:5) :
Para a iteração interna, gera-se uma sequência (sn;m)m2N de
modo que sn;0 = 0 e Ansn;m ! PR(An)bn quando m ! 1. Desse
modo, para m 2 N su…cientemente grande, teremos (veja a …gura 1.1) Ansn;m bn < bn :
Se …xarmos n 1 su…cientemente próximo de 1; teremos ainda Ansn;mn bn < n bn
para algum mn 2 N su…cientemente grande (Repare que sn;mn apro-
xima snna equação 1.24, que está sendo resolvida de forma inexata, por
isso diremos que este é um método do tipo Newton inexato). De…nimos então o passo hn:= sn;mn: O algoritmo a seguir codi…ca o método para
Algoritmo 1 (REGINN) Dados x0; F; y ; ( n) ; F0; ; n := 0; x0:= x0; bn := y F xn ; An:= F0 xn ; Enquanto bn > m := 0; sn;0:= 0; Enquanto Ansn;m bn n bn m := m + 1; compute sn;m; Fim xn+1:= xn+ sn;m; n := n + 1; bn:= y F xn ; An:= F0 xn ; Fim x = xn:
Sob condições adequadas, este algoritmo termina com uma apro- ximação x = xN para o vetor x+ com a propriedade da regularização
(1:6) desejada. Essas condições, são propriedades exigidas da sequência (sn;m)m2Ne da função F: Explicaremos maneiras de escolher convenien-
temente o parâmetro > 1 utilizado no princípio da discrepância (1:5) e a sequência ( n).
Para o caso livre de ruídos = 0; este algoritmo toma a forma: Algoritmo 2 Dados (x0; F; y; ( n) ; F0) n := 0; bn := y F (xn) ; An:= F0(xn) ; Enquanto jjbnjj 6= 0 m := 0; sn;0:= 0; Enquanto jjAnsn;m bnjj njjbnjj m := m + 1; compute sn;m; Fim
xn+1:= xn+ sn;m; n := n + 1; bn := y F (xn) ; An:= F0(xn) ; Fim x = xn:
A importância do algoritmo 2 acima é puramente teórica e não possui relevância em aplicações práticas, uma vez que a sua regra de parada pode não ser atingida num número …nito de iterações. Em geral, temos que lim
n!1xn = x
+: Esse algoritmo será utilizado para clarear as
ideias quando demonstrarmos a convergência do método no caso livre de ruídos (lema 10).
1.4.2
IRGN Inexato
Notações: An:= F0 xn ; bn:= y F xn
O método IRGN foi apresentado na subseção 1.3.2. Na n ésima iteração desse algoritmo, é necessário que se resolva o sistema linear (1:18) para que possamos determinar o passo hn, o qual deve ser adi-
cionado ao vetor corrente xnpara determinar a atualização xn+1: Esse método por si só, já é considerado um método do tipo Newton inexato por alguns autores, porque de alguma maneira ele resolve em cada passo e de forma inexata, a equação linearizada (1:24) :
Em aplicações reais é muito difícil obtermos o passo hn; solução
do sistema linear
[ nI + AnAn] hn= Anbn+ n x0 xn (1.25)
de maneira exata. Na prática, podemos obter somente uma aproxi- mação para esse vetor. Por esse motivo, introduziremos brevemente nessa subseção e explicaremos com detalhes no capítulo 3, o método conhecido como IRGN inexato. Esse método é muito parecido com o próprio IRGN, sendo diferente apenas no fato de que o sistema linear (1:25) acima é assumido ser resolvido somente de maneira aproximada, providenciando na iteração n um vetor hap
n que será o passo do IRGN
inexato. Esse passo será então adicionado ao vetor corrente xn para determinar a atualização xn+1: Novamente o princípio da discrepância (1:5) será aplicado para encerrar a iteração.
Desse modo, teremos que o passo hap
n do IRGN inexato será dado
por
[ nI + AnAn] hapn Anbn+ n x0 xn :
Assumindo que a aproximação hap
n possui uma qualidade apro-
priada, isto é, assumindo que a norma jjhap
n hnjj da diferença entre a
solução exata e a solução aproximada de (1:25) pode ser "controlada", é possível provar que o IRGN inexato produz soluções estáveis para a equação (1:1) : O algoritmo a seguir codi…ca o método com uma escolha a priori da sequência ( n).
Algoritmo 3 (IRGN Inexato) Dados x0; F ; y ; ( n) ; F0; ;
n := 0; x0:= x0; bn := y F xn ; An:= F0 xn ; Enquanto bn > hap n [ nI + AnAn] 1 Anbn+ n x0 xn ; xn+1:= xn+ hap n ; n := n + 1; bn:= y F xn ; An:= F0 xn ; Fim x = xn:
Assumindo condições apropriadas sobre a sequência ( n) e sobre a não linearidade de F; o algoritmo acima termina com uma solução estável x = xN ( )para a equação (1:1) : Assumindo condições de fonte, é possível provar taxas de convergência. No capítulo 3, provaremos a propriedade (1:6) e taxas de convergência, substituindo as condições de fonte do tipo Hölder (1:21) por condições de fonte mais gerais (igualdade (3:2)).
Capítulo 2
Algoritmo REGINN
2.1
Apresentação
As principais ideias desse capítulo podem ser obtidas no artigo [32], com exceção da última seção, a qual possui ideias de [30] e [31]. As ideias básicas sobre o funcionamento do REGINN foram apresentadas na subseção 1.4.1.
Vamos assumir as condições (1:1) ; (1:2) ; (1:3) e a notação A := F0(x+) ; além das já usadas An := F0 xn e bn:= y F xn :
Conforme as ideias apresentadas na subseção 1.4.1, o algoritmo REGINN resolve de maneira inexata e estável em cada passo n; a equação linearizada 1.24 através da geração de uma sequência regulari- zante (sn;m)m2N e da determinação de um parâmetro mn apropriado,
o que de…ne o passo do algoritmo. Em seguida, o vetor corrente é atualizado somando o passo sn;mn obtido.
Para utilizar uma técnica de regularização visando resolver (1:24) de forma estável, podemos tomar por exemplo
sn;m= gm(AnAn) Anbn; (2.1)
onde gm :
h
0; jjAnjj2
i
! R é uma função contínua por partes satis- fazendo as propriedades (C:7)1. Assim, teremos que determinar em
1Veja o apendice C para uma explicação do signi…cado de (2:1) : Consulte o
cada iteração n; um parâmetro mn de modo que sn;mn substitua sn
na equação (1:24) e de modo que possamos ganhar estabilidade no processo. É importante notar porém que a sequência (sn;m)m2N não
precisa ser de…nida necessariamente por (2:1). Vamos usar aqui uma abordagem mais geral e que abrange também esse caso. Na prática procede-se da seguinte forma: com o parâmetro n …xado, gera-se uma sequência (sn;m)m N X de vetores com determinadas propriedades
que iremos especi…car mais adiante (a princípio esta sequência pode ser gerada de qualquer maneira, mas é conveniente termos sempre em mente que ela terá as propriedades de uma sequência gerada por um método de regularização, como por exemplo sn;m= gm(AnAn) Anbn;
com gm satisfazendo (C:7)) e se determina um número n 2 (0; 1].
Provaremos que se a sequência (sn;m)m Ne o parâmetro nforem esco-
lhidos convenientemente em conjunto com restrições apropriadas sobre a não linearidade da função F , então existirá um número j 2 N tal que
Ansn;j bn < n bn :
Tome j = mn 2 N o menor natural satisfazendo esta desigualdade, isto
é
mn:= min
m2N Ansn;m bn < n bn (2.2)
e de…na …nalmente o passo hn := sn;mn: Por conveniência de…nimos
sn;0:= 0:
O algoritmo 1 apresentado na subseção 1.4.1, codi…ca o método com uma escolha a priori da sequência ( n) : Também é possível de…nir a sequência ( n) a posteriori, escolhendo o parâmetro k somente após a determinação de xk na k ésima iteração:
Iniciemos nosso estudo exigindo algumas propriedades da se- quência regularizante (sn;m)m2N:
Ansn;m; bn > 0; 8m 1 se Anbn 6= 0; (2.3)
lim
m!1Ansn;m = PR(An)bn;
jjAnsn;mjj bn ; 8m; n 2 N e algum 1:
A …gura 1.1 ilustra a situação da igualdade em (2:3) acima (compare essa igualdade com a observação 20, apêndice C):
Se de…nirmos sn;mcomo em (2:1) ; então esta sequência satisfaz
as três propriedades em (2:3) acima com Cg. De fato, se y :=
Anbn6= 0; como o operador gm(AnAn) é positivo para m 1,
Ansn;m; bn = Angm(AnAn) Anbn; bn
= gm(AnAn) Anbn; Anbn = hgm(AnAn) y; yi > 0:
Ainda, a igualdade
lim
m!1Ansn;m= PR(An)bn
segue da observação 20. Por …m, usamos a igualdade (C:10) para obter jjAnsn;mjj = Angm(AnAn) Anbn = AnAngm(AnAn) bn
sup
2 (AnAn)
j gm( )j : bn Cg bn ;
onde (AnAn) representa o espectro do operador auto-adjunto AnAn:
Quando utilizamos (2:1) para gerar a sequência (sn;m)m2N; es-
tamos utilizando uma técnica de regularização na iteração interna do REGINN. É importante porém notar que esta sequência pode ser ge- rada de qualquer maneira, desde que as propriedades dela exigidas (2:3) sejam satisfeitas. Estas propriedades é que serão utilizadas para de- monstrar a convergência do método. Alguns métodos não lineares e que não podem ser representados por …ltros de regularização, como os métodos da máxima descida (veja [14] e [5]) e do gradiente conjugado (veja [20] e [12]), também podem ser usados para gerar a sequência (sn;m)m2Nsatisfazendo (2:3) (as demonstrações podem ser obtidas em
[32, apêndice A ]).
De…nição 2 Seja X um espaço vetorial. Dizemos que o vetor h 2 X é direção de descida para o fucional ' : X ! R a partir do vetor x0 2 X se existe > 0 tal que para x := x0+ h com 0 <
temos ' (x ) < ' (x) :
Lema 1 Sejam X um espaço de Hilbert real, h; x02 X e ' : X ! R
um funcional: Se hr' (x0) ; hi < 0; então o vetor h é direção de descida
para o fucional ' a partir do vetor x0 :
1
jjhjjh é unitário, portanto (veja [26, páginas 341 e 342]),
0 > 1
jjhjjhr' (x0) ; hi = hr' (x0) ; h1i = lim!0+
' (x0+ h1) ' (x0)
: Portanto, existe > 0 tal que se 0 < jjhjj ; então
' (x0+ h1) ' (x0)
< 0:
Logo, ' (x0+ h1) < ' (x0) para 0 < jjhjj : Tomando 1:= jjhjj;
vemos que 0 < 1 e além disso, ' (x0+ 1h) = ' (x0+ h1) <
' (x0) ; o que implica que o vetor h é direção de descida para o fucional
' a partir do vetor x0 :
Vamos provar a partir de agora, algumas propriedades da se- quência (sn;m)m2N; obtidas através de (2:3) :
Lema 2 Assuma (2:3) : Então para todo m; n 2 N com Anbn 6= 0; o
vetor sn;mé direção de descida a partir de xn para o funcional
' (x) := 1 2 y F (x) 2 : (2.4) Demonstração: Como r' xn = Anbn; r' xn ; sn;m = bn; Ansn;m < 0
pela primeira linha de (2:3) : Portanto r' xn ; sn;m < 0 e o resul-
tado segue do lema anterior.
Lema 3 Assuma (2:3) : Se PR(An)?bn < bn então o intervalo
Jn:= jj
PR(An)?bnjj
jjbnjj ; 1 é não vazio e para qualquer tolerância n2 Jn;
o índice de parada mn em (2:2) está bem de…nido.
Demonstração:
PR(An)?bn < bn =)
PR(An)?bn
jjbnjj < 1 =) J n6= ?:
Tome n2 Jn: Pela segunda linha de (2:3) ; lim m!1 Ansn;m bn = PR(An)bn bn= PR(An)?bn: Logo, lim m!1 Ansn;m bn jjbnjj = PR(An)?bn jjbnjj < n
e portanto, existe m 2 N tal que Ansn;m bn < n bn ; o que é
su…ciente para garantir a existência de mn:
Observação 1 Se bn 2 R (A= n)?então PR(An)?bn < bn e o lema
acima é assegurado, mas se bn2 R (An)? então PR(An)?bn = bn
e é impossível encontrar n 2 (0; 1] tal que PR(An)?bn < n bn :
Nesse caso o algoritmo REGINN não …ca bem de…nido (Veja a …gura 1.1).
Vamos agora impor uma nova condição sobre a sequência (sn;m)m2N:
Seja sn;0 := 0; …xe n 2 N e assuma que para cada m 2 f1; 2; :::; mng
existe vn;m 12 Y tal que
sn;m= sn;m 1+ Anvn;m 1: (2.5)
Observação 2 A condição acima exige que a sequência (sn;m)m2N
seja gerada iterativamente, de modo que um vetor dessa sequência seja igual ao vetor anterior somado a um vetor pertencente a R (An) : Como sn;0 = 0 2 R (An) ; teremos que sn;m 2 R (An) para todo m; n 2
N: Essa propriedade será necessária para utilizarmos a condição (2:6) abaixo. Além disso, ela será importante na demonstração da convergên- cia do REGINN no caso livre de ruídos: xn ! x+; n ! 1 (lema
10, abaixo).
Perceba que se a sequência (sn;m)m2Nfor gerada por (2:1) ; então
pela igualdade (C:10) ; segue que a propriedade (2:5) acima é satisfeita porque nesse caso,
com vn;m 1:= (gm(AnAn) gm 1(AnAn)) bn:
Iremos agora impor algumas condições sobre a não linearidade da função F para garantir que o algoritmo termina, isto é, que existe N = N ( ) 2 N tal que o princípio da discrepância (1:5) é satisfeito. Com este objetivo, tome x02 D (F ) com F (x0) y > e de…na o
conjunto de nível
L (x0) := x 2 D (F ) : F (x) y F (x0) y :
Repare que por (1:3) ; x+2 L (x0) :
Dados dois vetores v; w 2 D (F ) ; de…nimos o erro de lineariza- ção
E (v; w) := F (v) F (w) F0(w) (v w) ; e impomos a seguinte condição sobre a função não linear F;
jjE (v; w)jj L jjF0(w) (v w)jj ; para algum L < 1 (2.6) e para todo v; w 2 L (x0) com v w 2 N (F0(w))?:
Uma desigualdade parecida com (2:6) é a condição do cone tan- gencial dada por
jjE (v; w)jj ! jjF (w) F (v)jj ; (2.7) para todo v; w 2 L (x0) : De (2:6) decorre a condição (2:7) para todo
v; w 2 L (x0) com v w 2 N (F0(w))?; onde ! := 1 LL > L: De fato,
pela desigualdade triangular reversa, decorre de (2:6) que jjF (v) F (w)jj (1 L) jjF0(w) (v w)jj : Usando novamente (2:6) e o fato de que L < 1,
jjE (v; w)jj L 1
1 LjjF (v) F (w)jj ;
que é a condição (2:7) com ! = 1 LL : Se (2:7) é satisfeito com ! < 1 então (2:6) é também satisfeito com L = 1 !! < !:
A …gura 2.1 apresenta geometricamente o erro de linearização E (v; w) ; F (w) F (v) e F0(w) (v w) ; comparados em (2:6) e (2:7) : Vamos agora assumir uma nova condição sobre a não linearidade
Figura 2.1: Erro de linearização E (v; w) comparado com F (w) F (v) e F0(w) (v w) :
de F: Assuma a existência de % 2 [0; 1) tal que
PR(F0(u))? F x+ F (u) % F x+ F (u) ; (2.8)
para todo u 2 L (x0) :
Em particular, (2:8) implica que se u 2 L (x0) e F (u) 6= y;
então (y F (u)) =2 R (F0(u))?; condição normalmente exigida nos
problemas não lineares que são resolvidos por linearização porque se (y F (u)) 2 R (F0(u))? então F0(u) s = y F (u) =) s = 0 e portanto o passo de Newton s será sempre o vetor nulo (veja também a observação (1)).
A condição (2:8) pode ser provada a partir de (2:6) para os ve- tores u 2 L (x0) tais que x+ u 2 N (F0(u))?; caso L seja pequeno
su…ciente, conforme o resultado do próximo lema.
Lema 4 Assuma (2:6) com L < 12: Então (2:8) é válido com
% = L
1 L < 1
para os vetores u 2 L (x0) tais que x+ u 2 N (F0(w))?:
Demonstração: Seja u 2 L (x0) com x+ u 2 N (F0(u))?: Como o
PR(F0(u))?(F0(u) (x+ u)) é nulo: Portanto
PR(F0(u))? F x+ F (u) = PR(F0(u))?E x+; u (2.9)
E x+; u
L F0(u) x+ u ; onde a última desigualdade decorre de (2:6) : Além disso,
F0(u) x+ u E x+; u + F x+ F (u) L F0(u) x+ u + F x+ F (u) implica em F0(u) x+ u 1 1 L F x + F (u) :
Substituindo esta desigualdade em (2:9), obtemos o resultado desejado.
Observação 3 Observe que se assumirmos a condição (2:6) com L <
1
2; então assumindo (2:8) teremos obrigatoriamente pelo lema acima,
que % 1 LL < 1, válido para todo u 2 L (x0) :
O próximo teorema explica como escolher a constante > 1 e a sequência ( n) : Antes de enunciá-lo, vamos obter alguns resultados preliminares. Observe que se existir < 1 tal que as constantes em (2:3) ; (2:6) e (2:8) satisfazem
L + % < ; (2.10)
então 0 < L % < 1 e portanto escolhendo > 1 + %
L %; (2.11)
teremos que > 1:
Desse modo, podemos de…nir
min:=
(1 + %) jjbnjj
e enquanto o princípio da discrepância (1:5) não for satisfeito, isto é, enquanto bn > teremos min = (1 + %) jjbnjj + % (2.13) < (1 + %) 1 + % < L;
por (2:11) ; o que mostra que enquanto o princípio da discrepância não é satisfeito, o intervalo ( min; L] não é vazio e podemos escolher
n 2 ( min; L] (0; 1] :
Observação 4 Para o caso livre de ruídos = 0; temos simplesmente
min := % < 1 e a constante não precisa ser de…nida. Nesse caso,
(2:13) é satisfeito imediatamente se assumirmos (2:10) :
Temos subsídios su…cientes para garantir que o REGINN termi- nará após um número …nito de iterações.
Teorema 5 Sejam D (F ) aberto e x02 D (F ) : Sejam (sn;m)m2N uma
sequência satisfazendo (2:5) e (2:3) e F uma função satisfazendo (2:6) e (2:8) com as constantes satisfazendo (2:10) : Escolha > 1 conforme (2:11) e selecione n 2 ( min; L] onde min está de…nido em (2:12) : Então existe N = N ( ) tal que as iterações nx1; x2; :::; xN ( )o do REGINN estão bem de…nidas e se mantém em L (x0) : Além disso,
somente a última iteração satisfaz o princípio da discrepância
y F xN ( ) (2.14)
e os resíduos bn decrescem linearmente segundo a taxa bn+1
jjbnjj
< n+ L n < 1; n = 0; 1; :::; N ( ) 1; (2.15)
onde n:= jjAnjjbsn;mnjj
njj .
Demonstração: Vamos usar indução para provar o teorema. Claro que x0 está bem de…nido e pertence ao conjunto L (x0) : Vamos supor
conjunto L (x0) para algum n 2 N: Se bn então o REGINN
termina com N ( ) = n: Caso contrário, bn > e conforme a argumentação imediatamente acima ao enunciado do teorema, podemos tomar n 2 ( min; L] e teremos por (1:3) ; (2:8) e pela de…nição
de min (2:12) ; PR(An)?bn jjbnjj = PR(An)? y F xn + y y jjbnjj (2.16) + PR(An)? F (x+) F xn jjbnjj + % F (x+) F x n jjbnjj = + % F (x +) F x n + y y jjbnjj (1 + %) + % bn jjbnjj = min:
Logo, ( min; L] jjPR(An)?bnjj
jjbnjj ; 1 e tomando tomando n 2
( min; L] ; temos pelo lema 3 que o parâmetro mn em (2:2) está
bem de…nido e por consequência, tanto o passo hn = sn;mn quanto a
atualização xn+1= xn+ hn estão bem de…nidos. Vamos mostrar agora
que xn+12 L (x0) : Inicialmente veri…quemos que hn = sn;mn é direção
de descida para o funcional (2:4) a partir de xn. Se Anbn = 0 então bn2 N (An) = R (An)? e portanto
PR(An)?bn
jjbnjj
= 1;
contradizendo (2:16) : Logo Anbn 6= 0 e o lema 2 implica no resultado desejado. Como D (F ) é aberto, segue da de…nição 2 que existe > 0 tal que xn; := xn+ hn pertence a D (F ) e
y F (xn; ) < y F xn y F (x0) :
Então xn; 2 L (x0) : Além disso, segue da observação 2 que xn; xn=
Agora, vamos usar (2:6) para obter y F (xn; ) = (2.17) = bn Anhn F (xn; ) F xn Anhn bn Anhn + L jj Anhnjj (1 ) bn+ bn Anhn + L n bn < (1 ) bn + n bn + L n bn = (1 (1 n L n)) bn ;
onde usamos (2:2) na desigualdade estrita. Perceba agora que por (2:3) temos que n e portanto
n 2 ( min; L] =)
n L nL =)
n+ L n :
Logo, Da desigualdade (2:17) acima decorre que
y F (xn; ) < (1 (1 )) bn : (2.18)
De…na agora
max:= sup f 2 (0; 1] : xn; 2 L (x0)g :
Gostaríamos de mostrar que max= 1, obtendo daí que
xn+1= xn+ maxhn= xn; max=) xn+12 L (x0) :
Suponha então que max < 1, isto é, que xn; max pertence a fronteira
de L (x0) D (F ) : Mas,
0 < < 1 =) 0 < 1 < 1 =)
0 < max(1 ) < 1 =) 0 < 1 max(1 ) < 1
Usando a continuidade de F; obtemos de (2:18) ;
y F (xn; max) (1 max(1 )) bn
porque xn 2 L (x0) : Mas isso implica que xn; max não pertence a fron-
teira de L (x0) pois
@L (x0) = x 2 D (F ) : y F (x) = y F (x0) ;
o que é uma contradição. Logo max= 1 e segue o resultado desejado.
Agora tomando = 1 em (2:17) ;
bn+1 < ( n+ L n) bn ;
provando (2:15). Finalmente, como n + L n < 1; temos que
bn < bn 1 < ::: < n b
0 : Logo, existe N = N ( ) 2 N
su…cientemente grande de modo que bn : Isto mostra que a desigualdade (2:14) é em algum momento veri…cada, o que encerra o algoritmo:
Observação 5 O teorema acima pode ser refeito para o caso livre de ruídos sem muitas alterações. Devemos substituir bn por b0n := y
F (xn) : A hipótese bn > deve ser substituída por b0n 6= 0: Então
todos os resultados do teorema serão válidos para esse caso, com exceção de (2:14) que deve ser substituído por b0n = jjy F (xn)jj ! 0
quando n ! 1: Em particular, (2:15) é válido para = 0 e para todo n 2 N tal que b0
n 6= 0:
2.2
Convergência do Método
Usando as desiguladades (2:14) e (1:3) obtemos y F xN ( ) ( + 1) , veja (1:7) ; o que mostra que F xN ( ) ! y = F (x+) e
ainda, y F xN ( ) = O ( ) quando ! 0: No entanto, isso não é su…ciente para provarmos a convergência da sequência xN ( ) quando ! 0: O último teorema da seção anterior prova que para cada nível de ruído > 0; o REGINN termina fornecendo um vetor xN ( ): O objetivo dessa seção será provar que, sob condições adequadas, tem-se convergência da sequência xN ( ) para x+ quando ! 0.
Infelizmente não podemos assumir que o conjunto de nível L (x0)
global de convergência). Ao contrário, em problemas mal postos espera- se que L (x0) seja ilimitado pois é possível que tenhamos uma sequên-
cia (xn) tal que y F (xn) y F (x0) ; 8n 2 N e ao mesmo
tempo jjxnjj ! 1; n ! 1. Estudaremos a convergência da sequên-
cia xN ( ) apenas localmente. Para isso, precisaremos ainda assumir uma quinta propriedade da sequência (sn;m)m2N:
Hipótese 1 Suponha que existe uma função contínua e monotona- mente crescente : R ! R com t (t) ; t 2 [0; 1] tal que se en := x+ xn é o erro na n-ésima iteração e
n := Anen bn jjbnjj < 1; então de…nindo zn;m:= ( n) jj Ansn;m 1 bnjj jjbnjj temos jjsn;m enjj2 jjsn;m 1 enjj2< CM bn : jjvn;m 1jj zn;m
para m 2 f1; 2; :::; mng ; onde CM > 0 é uma constante e sn;m =
sn;m 1+ Anvn;m 1 (veja a condição (2:5) ).
Observação 6 Uma consequência imediata e bastante importante da hipótese 1 é o seguinte resultado de monotonia: Se n está …xado e
( n) Ansn;m 1 bn jjbnjj ; então jjsn;m enjj2 jjsn;m 1 enjj2 < 0 =) jjsn;m enjj < jjsn;m 1 enjj ;
para m 2 f1; 2; :::; mng : Daí, como sn;0= 0;
x+ xn+1 = jjen sn;mnjj
< jjen sn;mn 1jj < jjen sn;mn 2jj
Logo,
x+ xn+1 < x+ xn :
Segundo [32], alguns métodos que satisfazem a hipótese 1 acima são: Landweber e Máxima Descida com (t) = 2t; gradiente conjugado com (t) =p2t; entre outros.
Conforme mencionado acima, nos concentraremos em convergên- cia local. Para um primeiro passo, vamos provar a monotonia do erro jjenjj = x+ xn , restringindo as condições (2:6) e (2:8) a uma bola
de raio > 0 e de centro em x+: Em particular, (2:6) deve ser substi-
tuído por
jjE (v; w)jj L jjF0(w) (v w)jj ; para algum L < 1 (2.19) e para todo v; w 2 B (x+) D (F ) :
Observação 7 Como F (x) = y tem uma única solução x = x+ na
bola B (x+) (1:2), da desigualdade (2:19) acima decorre que N (F0(x+)) = N (A) = f0g : De fato, se existir v 6= 0 tal que v 2 N (A) então tomando t 2 R não nulo tal que u := (x++ tv) 2 B (x+) teremos, devido a
(2:19) ;
jjF (u) yjj F (u) F x+ A u x+ + A u x+
= E u; x+ + jtj : jjAvjj (L + 1) jtj : jjAvjj = 0;
o que implica que u é solução de F (x) = y: Mas isso não pode ocorrer pois u 6= x+. Logo, N (A) = f0g :
Repare que se assumirmos que as constantes em (2:3) e (2:19) satisfazem
L
1 L + L < ; (2.20)
para algum < 1; então a de…nição
min:=
1
+ L 1
implica, pela continuidade de que lim
!1 min=
L
1 L < L:
Logo, existe > 1 tal que
min< L; (2.22)
o que mostra que o intervalo [ min; L] (0; 1] é não vazio e podemos portanto escolher n2 [ min; L] em qualquer iteração.
Observação 8 Para o caso livre de ruídos tomamos simplesmente min:=
L
1 L e então a desigualdade (2:22) é imediatamente satisfeita se
assumirmos (2:20) :
Teorema 6 Assuma (2:3) ; (2:5) e a hipótese 1: Suponha que (2:8) é verdadeiro em B (x+) onde > 0 e assuma (2:19) com L satisfazendo
(2:20). De…na min conforme (2:21) com > 1+%1 % de modo que (2:22)
seja satisfeito: Restrinja todas as tolerâncias n ao intervalo não vazio [ min; L] (0; 1] e comece com x0 2 B (x+) : Então existe N =
N ( ) tal que as iterações nx1; x2; :::; xN ( )o do REGINN estão bem de…nidas e se mantém na bola B (x+) : Ainda, há uma redução no
erro estritamente monótona:
x+ xn < x+ xn 1 ; n = 1; 2; :::; N ( ) : (2.23) Apenas a última iteração satisfaz o princípio da discrepância (2:14) e os resíduos decrescem linearmente na taxa (2:15) :
Demonstração: A argumentação imediatamente acima do enunciado do teorema mostra que n 2 (0; 1] está bem de…nido. Vamos argu- mentar mais uma vez por indução. x0 está bem de…nido e pertence a
bola B (x+) por hipótese: Suponha que para algum n 2 N, as itera-
ções x1; x2; :::; xn estão bem de…nidas e pertencem a bola B (x+) :
Se bn então o REGINN é encerrado com N ( ) = n: Caso contrário, teremos bn > e obtemos como em (2:16) e (2:13)
PR(An)?bn
jjbnjj
(1 + %) jjbnjj
Como % < 1; para > 1+%1 % teremos que 0 < 1+% + % < 1: Da hipótese 1 segue que
1 + %
+ % 1 + %+ % : (2.25)
Como 1; da condição (2:20) e porque t (t) para 0 t 1; obtemos L 1 L+ L L 1 L+ L L 1 L + L < 1 =) L < 3 p 5 2 < 1 2:
Pela observação 3 e usando o fato de que é crescente,
% L 1 L =) (2.26) 1 + % 1 + L 1 L = 1 1 L =) 1 + % + % 1 1 1 L + L 1 L = 1 + L 1 1 L =) 1 + % + % 1 + L 1 1 L = min: Daí, por (2:24) e (2:25) ; PR(An)?bn jjbnjj <1 + % + % 1 + % + % min
e segue do lema 3 que o passo do REGINN hn e por consequência a
atualização xn+1= xn+ hn estão bem de…nidos. Agora usando (2:19) ;
Anen bn = F0 xn x+ xn y F xn
y y + E x+; xn + L jjAnenjj :
Como bn > ; temos que < 1 b
n e então
Anen bn <
1
Resulta que n:= Anen bn jjbnjj < 1 + L 1 1 L; que pela monotonia de implica em
( n) < 1 + L 1 1 L = min n: (2.27) Agora, da de…nição de mn (2:2) ; Ansn;m 1 bn n bn ; m = 1; 2; :::; mn implica que ( n) < Ansn;m 1 bn jjbnjj : Segue da observação 6 que
x+ xn+1 < x+ xn < ;
o que prova (2:23) e também que xn+12 B (x+) : Para provar (2:15)
e que existe N = N ( ) ; basta aplicar um raciocínio análogo ao usado em (2:17) com = 1 :
Perceba que nesse caso a escolha da sequência ( n) pode ser feita a priori. Devemos escolher > 1 de modo que tenhamos simultanea- mente > 1+%1 % e
min:=
1
+ L 1
1 L < L;
e em seguida tomar ( n) [ min; L] :
Observação 9 Este teorema também pode ser provado para o caso livre de ruídos sem muitas alterações. Substitua bn por b0
n e tome min := L
1 L : A desigualdade (2:24) …cará simplesmente
PR(An)?bn
jjbnjj
Como % < 1 e é crescente; (2:26) …ca; % L 1 L =) PR(An)?bn jjbnjj < % < (%) L 1 L = min:
Para provar (2:27) fazemos
Anen b0n = F0(xn) x+ xn (y F (xn)) L jjAnenjj L Anen b0n + b0n ; o que implica em n= Anen b0n jjb0 njj < L 1 L e portanto ( n) < L 1 L = min n: (2.28) Em particular, (2:23) …ca x+ xn+1 < x+ xn ; (2.29)
para todo n 2 N tal que b0
n 6= 0; o que implica ainda que todas as
iterações …cam na bola B (x+) :
Com o teorema 6 acima, podemos mostrar a convergência xN ( ) ! x+quando ! 0; mas apenas numa norma mais fraca do que a norma
padrão em X ou num sentido mais fraco de convergência: Para esse …m, de…nimos um operador fracamente sequêncialmente fechado.
De…nição 3 Uma função F : D (F ) ! Y; onde D (F ) X e X e Y são espaços normados, é dita ser fracamente sequêncialmente fechada se para cada sequência (xn) D (F ) com xn convergindo fracamente
para x 2 X (ou seja, f (xn) ! f (x) para todo funcional linear e
limitado f ) e com F (xn) ! y 2 Y; tivermos que x 2 D (F ) e F (x) =
y:
supor que F é fracamente sequêncialmente fechado.
Corolário 7 Assuma todas as hipóteses e notações do teorema 6. As- suma ainda que F é fracamente sequêncialmente fechado e seja ( j)
uma sequência de números positivos convergindo a zero. Então qual- quer subsequência de xj
N ( j) j
2Npossui ela própria uma subsequência
que converge fracamente para x+:
Demonstração: Pelo teorema 6, qualquer subsequência de x j
N ( j) j
2N
está contida na bola B (x+) ; sendo portanto limitada. Logo, qualquer
subsequência de x j
N ( j) j
2N possui ela própria uma subsequência, que
denotaremos por x jk
N(jk) k
2N
, que converge fracamente a um ele- mento 2 X: Assim, xjk N( jk)* quando k ! 1: Mas, por (1:7) ; F x jk N(jk) y ( + 1) jk ! 0 quando k ! 1; ou seja,