Recuperação de Memórias Não Acessíveis

O papel fundamental de uma memória associativa é armazenar e recuperar padrões. Estas operações envolvem o treinamento de rede e a recuperação de um padrão memorizado em resposta à apresentação de uma versão ruidosa ou distorcida de um padrão chave inicial (padrão anteriormente apresentado à rede).

É um requisito de memórias hetero-associativas armazenar um conjunto arbitrário de padrões de entrada que esteja pareado com outro conjunto arbitrário de padrões de saída. Um padrão chave Xk _{(k = 1,2,…,p, em que p é o número de padrões armazenados na rede) age como se fosse um} estímulo que não apenas determina a posição de armazenamento do padrão Yk _{memorizado, mas} também funciona como um parâmetro para a recuperação de Yk_{. Para uma recuperação perfeita,} deveria ser encontrado Y=Yj_{, em que Y}j _{é o padrão armazenado associado ao padrão chave X}j_. Quando Y?Yj_{, para X=X}j_{, é dito que houve um erro na recuperação do padrão (Haykin, 1999).}

O número de padrões armazenados nas memórias hetero-associativas fornece uma medida direta da capacidade de armazenamento da rede. É desejável que a capacidade de armazenamento de um modelo neural de memória associativa seja a maior possível para permitir que uma grande parte dos padrões armazenados seja recuperada corretamente.

A rede BAM, paradigma selecionado para o presente trabalho, comporta-se como uma memória hetero-associativa de conteúdo endereçável, armazenando e recuperando pares de

padrões. Foi provado (Kosko, 1988) que a BAM converge para algum ponto estável. Entretanto, a capacidade de armazenamento da BAM é pequena (limitada pelo número de neurônios da rede) e freqüentemente a BAM converge para atratores espúrios. É importante esclarecer que, na BAM, alguns pares armazenados que deveriam formar mínimos locais, não o fazem.

Novos modelos de memórias hetero-associativas foram propostas com o objetivo de melhorar o desempenho da BAM, entre eles as redes da família BAM consideradas neste trabalho: a C-BAM com atraso e a C-eBAM. A BAM exponencial (e-BAM) procura melhorar o desempenho da BAM utilizando-se das vantagens da estratégia exponencial: a não linearidade exponencial desta memória de conteúdo endereçável tem uma capacidade de armazenamento exponencialmente escalonada com o número de bits e tem maior capacidade de correção de erros (Wang e Don, 1995) (Wilson e Hancock, 2001). Xiaofeng e Jueban (1998) sugeriram que o atraso de tempo na BAM produz um ruído eficaz na dinâmica da rede, fazendo com que o processo de recuperação de memórias seja melhorado.

Apesar de a e-BAM e de a BAM com atraso apresentarem alternativas para melhorar o desempenho da BAM, ambas continuam apresentando convergência para padrões Y?Yj _{para X=X}j_. Como conseqüência, existem padrões memorizados Yj_{que não podem ser recuperados nem através} de seu par associado Xj _{nem por outro padrão chave X}k_{. Nesta tese, tais padrões são chamados de} padrões inacessíveis.

Nos experimentos realizados com a família C-BAM foi também observado o processo de recuperação das redes. A presente seção mostra como o fenômeno caótico permite que a C-BAM, a C-BAM com atraso e a C-eBAM acessem padrões memorizados que os modelos originais destas redes (ou seja, os modelos não caóticos destas redes hetero-associativas) não podiam recuperar. Em outras palavras, a seção mostra como ocorre a recuperação de padrões memorizados inacessíveis ou padrões memorizados escondidos na família C-BAM. Deste modo, novos experimentos empíricos foram realizados com o objetivo de mostrar como o fenômeno caótico modifica a sensibilidade e a acessibilidade da família de redes C-BAM e permitem que elas recuperem padrões memorizados anteriormente inacessíveis.

A Figura 5.9 ilustra os quatro pares hetero-associativos armazenados utilizados nos experimentos desta seção. Os pares de vetores (Xk_,Yk_{), k=1,..,4, apresentam as seguintes} dimensões: X ∈ {0,1}m_{, m=1,..,15 e Y ∈ {0,1}}n_{, n=1,..,10. Os quadrados pretos simbolizam bits de} valor um, enquanto os quadrados brancos simbolizam bits de valor zero.

93

Figura 5.9. Os pares de vetores (Xk_,Yk_{), k=1,..,4, usados nos experimentos com os mode los C-} BAM.

Conforme visto anteriormente, o comportamento das redes C-BAM torna-se idêntico ao da rede BAM original quando todos os parâmetros (kr, kf, ρ e a) das redes C-BAM recebem valor zero. Nesta situação, as redes C-BAM convergem para um ponto fixo (período um) a partir de um padrão de entrada específico. É importante destacar que, apesar de as redes C-BAM e as redes BAM apresentarem o mesmo comportamento, tais redes são diferentes por causa da função da ativação, que é S(.) para a BAM e f(.) para a C-BAM. Esta diferença pode ser visualizada nas Figuras 4.2 e 4.3.

A Tabela 5.10 mostra a ocorrência de erros no processo de recuperação, porque Y?Yj_{, para} X=Xj_{, são encontrados (Haykin, 1999). Pode ser notado na Tabela 5.10 que a eBAM, melhor, a} C-eBAM com valores de parâmetros zerados, não converge para Y3 _{dado o padrão inicial de} entrada X3_{. Também, tanto a BAM quanto a BAM com atraso não convergem para Y}2_{, Y}3 _{e Y}4 dados os padrões de entrada X2_{, X}3 _{e X}4_{, respectivamente. Isto significa que há padrões} memorizados que não podem ser recuperados ou ainda, são inacessíveis às redes da família C-BAM.

Tabela 5.10. Relação entre as entradas (X) e as saídas (Y) das redes da família C-BAM para kr = kf =ρ = a =0.

Entrada

Saída

X

X

X

X

C-BAM Y1 _Y1 _Y1 _Y1

C-BAM with delay

(σ = 5) Y1 Y1 Y1 Y1

C-eBAM

(β = 1.3) Y

Outros conjuntos de valores de parâmetros para a família C-BAM mostraram que a inclusão do neurônio caótico nestes modelos resultou em uma nova maneira de acessibilidade da memória. Foi visto na Seção 5.1 (Figuras 5.2, 5.3 e 5.4) que a refração acumulada inerente aos neurônios caóticos possibilita que os modelos C-BAM escapem de qualquer ponto fixo e passem a transitar entre todos os padrões armazenados. Uma vez que ocorre a transição entre todos os padrões armazenados (para alguns valores de parâmetros), então os modelos C-BAM permitem, em princípio, o acesso a todos os padrões, inclusive daqueles inacessíveis nos modelos originais, para qualquer padrão inicial de entrada. Como conseqüência, as redes BAM caóticas construídas no Capítulo 4 eliminam a ocorrência de padrões inacessíveis apresentada nos modelos BAM originais. Por outro lado, as redes BAM caóticas nem sempre convergem para pontos fixos.

As Tabelas 5.11, 5.12 e 5.13 mostram a acessibilidade a todos os padrões armazenados das redes C-BAM. Por exemplo, o padrão Y3_{, que é um padrão não acessível à rede eBAM (ver Tabela} 5.10), torna-se acessível à C-eBAM (Tabela 5.11). A Tabela 5.11 ilustra a freqüência de recuperação dos padrões armazenados para cada padrão Xk _{(k=1,..,4) inicial de entrada, em um} total de 3000 iterações. Pode ser verificado que o padrão memorizado Y3 _{é recuperado em 123,} 112, 123 e 108 iterações para os padrões iniciais de entrada X1_{, X}2_{, X}3 _{e X}4_{, respectivamente.}

Similarmente, os padrões Y2_{, Y}3 _{e Y}4_{, antes não acessíveis para a BAM e para a BAM com} atraso (ver Tabela 5.10), tornam-se acessíveis para a C-BAM e para a C-BAM com atraso, conforme ilustrado nas Tabelas 5.12 e 5.13, respectivamente.

Tabela 5.11. Freqüência de recuperação dos padrões armazenados da Figura 5.10 na C-eBAM, para kr=0.9, kf=0.45, ρ=8.0, a=2.0 e β=1.3. Padrão Inicial Saída X1 _X2 _X3 _X4 Y1 1113 1121 1127 1126 Y2 425 414 400 418 Y3 123 112 123 108 Y4 92 120 95 75

95

Tabela 5.12. Freqüência de recuperação dos padrões armazenados da Figura 5.10 na C-BAM, para

kr=0.95, kf=0.45, ρ=7.0 e a=3.0. Padrão Inicial Saída X1 _X2 _X3 _X4 Y1 710 710 714 712 Y2 289 289 269 262 Y3 202 202 201 200 Y4 20 20 20 18

Tabela 5.13. Freqüência de recuperação dos padrões armazenados da Figura 5.10 na C-BAM com atraso, para kr=0.9, kf=0.45, ρ=8.0, a=2.0 e σ=5.

Padrão Inicial Saída X1 _X2 _X3 _X4 Y1 1538 1532 1531 1531 Y2 424 429 425 420 Y3 213 214 212 209 Y4 219 223 218 210