Redes Neuronais Artificiais

A maior parte da investigação em Redes Neuronais Artificiais (RNA) foi inspirada e influenciada pelos sistemas nervosos dos seres vivos, em particular do ser humano. As RNA são modelos sub-simbólicos, e muitos investigadores acreditam que estas oferecem a aproximação mais promissora para a construção de verdadeiros sistemas inteligentes, com capacidade para ultrapassar a explosão combinatória associada à computação simbólica baseada em arquitecturas de Von Newmann.

Os princípios que ainda hoje vigoram sobre as RNA foram apresentados pela primeira vez em 1940 com o trabalho de Warren McCulloch e Walter Pitts, que demonstraram que as

Capítulo 4 – Modelos e Técnicas de Data Mining

77

redes de neurónios artificiais podiam calcular qualquer função aritmética ou lógica [Hagan et al., 1996]. Em 1949, Hebb sugeriu um método para que o modelo de neurónios de McCulloch e Pitts se ajustasse de forma automática, dando origem aos fundamentos das RNA.

O cérebro humano é uma estrutura altamente complexa, não linear e paralela. Possui uma capacidade de organizar os seus constituintes, denominados neurónios, por forma a executarem certas tarefas complexas (e.g., reconhecimento de padrões ou de voz), de uma forma intangível pelo computador mais potente até hoje concebido. Em termos de velocidade de processamento, um neurónio é cerca de 5 a 6 vezes mais lento do que uma porta lógica de silício. Contudo, esta limitação é ultrapassada pela estrutura maciçamente paralela do cérebro. Estima-se que o córtex humano possui cerca de 10 biliões de neurónios e 60 triliões de sinapses.

Um neurónio (Figura 4.4) é uma célula complexa que responde a sinais electro- químicos, sendo composto por um núcleo, um corpo celular, um numeroso conjunto de dendrites (entidades que recebem sinais de outros neurónios via sinapses), e por um axónio, que transmite um estímulo a outros neurónios através das sinapses. Um único neurónio pode estar ligado a centenas, milhares, ou mesmo dezenas de milhares de neurónios. No cérebro existem estruturas anatómicas de pequena, média e alta complexidade com diferentes funções, sendo possíveis parcerias.

Os neurónios tendem a agrupar-se em camadas, existindo três tipos principais de conexões (Figura 4.3): (i) divergentes, onde um neurónio pode estar ligado a outros neurónios através de uma arborização do axónio, (ii) convergentes, onde vários neurónios podem estar conectados a um único neurónio, e (iii) encadeadas ou cíclicas, as quais podem envolver vários neurónios e formarem ciclos.

As conexões podem corresponder a um de dois tipos de sinapses: inibitórias e

excitatórias. Uma sinapse excitatória contribui positivamente para a activação de um neurónio.

Por outro lado, uma sinapse inibitória, influencia a desactivação de um neurónio. Sinapses diferentes possuem diferentes intensidades, que influenciam em escala diferente o comportamento de outros neurónios.

78

Divergente Convergente Encadeada Cíclica

Figura 4.3 Tipos de conexões.

As RNA, também designadas por sistemas conexionistas são modelos simplificados do sistema nervoso central do ser humano. Uma RNA é um processador eminentemente paralelo, composto por unidades de processamento, designadas por neurónios ou nodos, que possuem uma capacidade natural para armazenar conhecimento empírico e torná-lo acessível ao utilizador. Assemelha-se ao comportamento do cérebro humano em dois aspectos: (i) o conhecimento é adqurido a partir de um ambiente, através de um processo de aprendizagem e,

(ii) o conhecimento é armazenado nas conexões, também designadas por ligações ou sinapses,

entre os nodos.

As RNA apresentam características únicas tais como:

. Aprendizagem e generalização: conseguindo descrever o todo a partir de algumas partes, constituindo-se como formas eficientes de aprendizagem e armazenamento de conhecimento;

. Processamento maciçamente paralelo: permitindo que tarefas complexas sejam realizadas num curto espaço de tempo;

. Não linearidade: atendendo a que a maioria dos problemas reais são de natureza não linear;

. Adaptabilidade: podendo adaptar a sua topologia de acordo com mudanças do ambiente;

Capítulo 4 – Modelos e Técnicas de Data Mining

79

. Robustez e degradação suave: permitindo processar o ruído ou informação incompleta de forma eficiente, sendo capazes de manter o seu desempenho quando acontece a desactivação de algumas conexões e/ou nodos;

. Flexibilidade: com um grande domínio de aplicabilidade.

O poder computacional de uma RNA alicerça-se em dois aspectos fundamentais: (i) uma topologia que privilegia o paralelismo, e (ii) a capacidade de aprendizagem e generalização. São estas duas características que tornam possível a resolução de problemas de elevada complexidade, de difícil resolução através de outros métodos.

Durante o processo de aprendizagem, dado por um algoritmo de aprendizagem ou de treino, os pesos das conexões são ajustados de forma a se atingir um dado objectivo; i.e., o estado de conhecimento da rede. Embora esta seja a forma tradicional de construir RNA, também é possível modificar a sua própria estrutura interna (ou topologia), à semelhança do que se passa no cérebro, onde os neurónios (Figura 4.4) podem morrer e novas sinapses, e mesmo neurónios, se podem desenvolver. Para se construir uma RNA tem que se determinar o número de neurónios, definir o seu tipo, como é que estes vão estar ligados, iniciar os pesos da rede e proceder ao treino da rede por aplicação de um algoritmo [Groth, 2000].

80

Um neurónio artificial, denominado nodo (Figura 4.5), é a unidade de processamento chave para a operação de uma RNA. Embora existam diversos tipos de nodos, em princípio, comporta-se como um comparador que produz uma saída quando o efeito cumulativo das entradas excede um dado valor limite. Um nodo é constituído por três elementos fundamentais:

ƒ Um conjunto de conexões que representam as sinapses ou conexões entre neurónios. Cada conexão tem associado um peso, i.e., um número real ou

binário (wij). que tem um efeito excitatório (valores positivos) e inibitório

(valores negativos). Assim, o sinal ou estímulo (xj) como entrada da conexão é

multiplicado pelo correspondente peso wij, onde i representa o nodo objecto de

estudo e j o nodo emissor do sinal. Em algumas situações pode ainda existir uma conexão extra, denominada de bias, cuja entrada é fixada no valor +1, que estabelece uma certa tendência ou inclinação no processo computacional (i.e., adiciona uma constante para que se estabeleçam as correctas condições operacionais para o nodo).

ƒ Um integrador (g), que reduz os n argumentos de entrada (estímulos) a um

único valor. Frequentemente, é utilizada a função adição (∑ ), pesando todas as

entradas numa combinação linear.

ƒ Uma função de activação (f), que pode condicionar o sinal de saída, introduzindo uma componente de não linearidade no processo computacional.

Capítulo 4 – Modelos e Técnicas de Data Mining 81 n Entradas ... Saída (Si) X0 = + 1 Xn X2 X1 w in w i0 = Bias w i1 w i2 ui wi0 y y = f(ui) a ∑

Figura 4.5 Estrutura do neurónio artificial de McCulloch e Pitts.

Em termos formais tem-se que este neurónio artificial ou nodo, é descrito pelas seguintes equações: (Fórmula 4.3)

)

w

x

,...,

w

x

,

w

x

,

w

(

g

u

=

×

×

×

)

u

(

f

S

=

Para um nodo i com n entradas e uma saída, onde ui representa o ganho do nodo i e Si a

82

As três funções de activação (Tabela 4.3) mais utilizadas são: (i) degrau ou heavisidade,

(ii) sinal e (iii) logística ou sigmóide.

Tabela 4.3 Funções de Activação.

FUNÇÃO REPRESENTAÇÃO EQUAÇÃO

DEGRAU x ai t +1 1 se x >= t 0 se x < t SINAL x ai +1 -1 1 se x >= 0 -1 se x < 0 LOGÍSTICA/SIGMÓIDE f x ai +1 x e 1 1 k - +

A função (i) é normalmente utilizada nos nodos do tipo McCulloch-Pitts, em que a saída toma o valor +1 apenas se o ganho for não-negativo, de acordo com a filosofia tudo ou nada. Em seguida, aparecem duas outras funções lineares. A função (iii) cuja forma é similar a um S, é a mais utilizada no uso de RNA. Trata-se de uma função crescente que exibe um balanceamento

Capítulo 4 – Modelos e Técnicas de Data Mining

83

gracioso entre um comportamento linear e não linear. Quando se varia a inclinação (k) obtêm-se funções com diferentes declives.

Os nodos interligam-se numa estrutura de rede denominada por arquitectura ou

topologia. Existem vários tipos de arquitecturas ou topologias de RNA, organizando-se em três

categorias: