REDES NEURAIS ARTIFICIAIS AUTO-ORGANIZÁVEIS UTILIZADAS NA
CLASSIFICAÇÃO DE CRISES CONVULSIVAS
Lucimar F. de Carvalho
1, Candice Abella S. Dani
1, Hugo T. de Carvalho
2, Silvia M.
Nassar
3, Fernando M. Azevedo
3, Diego Dozza
4, Ana Luisa C. Brasil
41
Curso de Ciência da Computação, Dpto. de Informática e Estatística, UPF/RS
2
Médico Especialista – HC/HSVP - Passo Fundo/RS
3
Curso de Pós-Graduação-Ciência da Computação e Engenharia Biomédica, UFSC/SC
4
Alunos Bolsistas – FAPERGS
fossatti@upf.tche.br, caabella@terra.com.br, hugojtc@tpo.com.br, nassar@inf.ufsc.br, azevedo@gpeb.ufsc.br,
dozza@pas.matrix.com.br, 28428@saude.upf.tche.br
Resumo - O objetivo deste trabalho é a implementação de técnicas utilizadas no processo de aprendizagem em
Redes Neurais Artificiais Auto-organizáveis (RNA’s). Inicialmente a rede será treinada a partir do simulador da
Neusciences - ActiveX que utiliza o algoritmo padrão de Kohonen com a aprendizagem competitiva e não
supervisionada. O resultado da simulação será comparado com o algoritmo que utiliza aprendizagem supervisionada através da técnica Learning Vector of Quantization (LVQ1). O domínio escolhido para a implementação dos algoritmos de aprendizagem foi a aplicação no Diagnóstico Clínico das Crises Convulsivas, baseado na Classificação International League Against Epilepsy ILAI/81. De acordo com os resultados encontrados do simulador e do algoritmo que utiliza a técnica LVQ1 em uma matriz (2x2) as bases de treinamento e teste da rede mostraram um índice de convergência de 71,31% e 100%; em uma matriz (5x5) as bases de treinamento e teste apresentaram 84,4% e 100%, respectivamente. A partir destes resultados observou-se que, com a utilização da técnica LVQ1 em ambas as topologias de rede ocorreu uma melhora significativa no reconhecimento dos padrões.
Palavras-Chaves: Inteligência Artificial, Redes Neurais Artificiais, Crise Convulsiva.
Abstract - The objective of this work is the consideration and implementation of some basic premises used in
the learning process in Artificial Neural Networks (ANN`s). Initially the net will be trained starting from the Neusciences simulator: ActiveX to, that use unsupervised learning ,starting from the result of this simulation, be compared with the algorithm of supervised competitive learning through the Kohonen Self-Organizable Map with the technique Learning Vector of Quantization (LVQ1). The chosen domain for the implementation of the learning algorithms was the application in the Clinical Diagnosis of the Convulsive Crises, based on the International Classification League Against Epilepsy ILAI/81. According to the results of the simulator and with the technique LVQ1 using a (2x2) configuration the base of training and test of net showed 71,31% and 100% of convergence; in the (5x5) configuration the base of training and test of net showed 84,4% and 100% of convergence of the neural network. According to the results and with LVQ1 technique the bases of training and test showed a satisfactory performance used in the classification of patterns.
Key-words: Artificial Neural Networks, Convulsive Crisis, Artificial Intelligence. Introdução
Redes que utilizam uma topologia de auto-organização foram pesquisadas por Teuvo Kohonen e podem ser encontradas na sua obra,
Self-Organization and Associative Memory [1]. São
redes que mapeiam informações sensoriais distribuídas em representações de duas ou mais dimensões. Os resultados da aprendizagem encontrados nestas RNA`s são similares aos
encontrados no cérebro humano. As RNA`s incorporaram alguma forma de aprendizagem e podem evoluir com a experiência adquirida através do conceito de generalização.
As RNA`s foram pesquisados inicialmente por Gallant [2] através de uma rede direta para diagnosticarduas doenças a partir de seis sintomas apresentados pelos pacientes. Quando se modela um procedimento de ensino e aprendizagem através de técnicas computacionais, deduz-se uma forma de transmitir conhecimentos organizadamente O grande desafio encontra-se em descobrir processos de ensino e aprendizagem para que o computador apresente um comportamento inteligente, informando ao computador como ele deve se comportar aos diferentes tipos de entradas recebidas. Um dos métodos de informar o computador como ele deve se comportar em uma abordagem conexionista é através dos algoritmos de aprendizagem utilizados nas RNA’s. É através destes algoritmos que as redes neurais conseguem aprender um conjunto de conhecimentos (padrões) após encontrar um conjunto de pesos ideal. Estes pesos vão permitir à rede realizar o processamento desejado, para em uma próxima etapa, generalizá-los em um conjunto maior. Desta forma o conhecimento em uma Rede Neural Artificial está contido na melhor escolha dos seus pesos sinápticos e, principalmente na arquitetura de rede escolhida.
De acordo com Azevedo [3], dois fatores motivam a pesquisa das RNA’s atualmente: o primeiro é modelar o sistema nervoso com suficiente precisão para obter um comportamento emergente, para desta forma, servir de apoio às hipóteses utilizadas na modelagem e, segundo, construir computadores com um alto grau de paralelismo. Quanto maior for o grau de paralelismo, maior será a precisão em relação aos pesos sinápticos, possibilitando desta forma um resultado de saída mais preciso.
Metodologia
Para a implementação da Rede Neural Artificial foi escolhido o simulador da Neusciences - ActiveX que implementa uma rede Auto-organizável de Kohonen utilizando a linguagem VisualBasic e VisualC. Neste artigo serão descritos resultados parciais referentes ao treinamento da rede que utiliza aprendizagem competitiva e não supervisionada O resultado desta simulação será comparado com os algoritmos de aprendizagem competitiva através do Mapa Auto-organizável de Kohonen e com a utilização da técnica Learning
Vector of Quantization (LVQ1), a qual consiste em
rotular os nodos apresentando a saída desejada, tornando o algoritmo supervisionado.
A capacidade de aprendizado presente em uma rede neural é determinado pela topologia das conexões da rede e pela escolha de uma algoritmo de aprendizagem [4]. Novos algoritmos de aprendizagem surgem indicando novas técnicas de pesquisas para garantir um melhor desempenho, principalmente em tarefas de classificação de padrões. Para desenvolver um algoritmo de aprendizagem, deve-se conhecer as técnicas existentes, a partir do estudo de determinadas técnicas, pode-se propor um algoritmo de busca pela melhor escolha e no menor tempo possível. Pode-se encontrar na literatura várias técnicas de aprendizagem: segundo Carbonel [5]: aprendizado por analogia, indução (a partir de exemplos, exploração e descoberta), memorização e dedução. A partir destas técnicas, surgiram os algoritmos de aprendizagem.
Para compreender melhor as arquiteturas de rede utilizadas, serão descritos os métodos de aprendizagem propostos neste trabalho.
Teuvo Kohonen [1], pesquisador da Universidade de Helsinki iniciou esta nova área de pesquisa utilizando mapas topológicos auto-organizáveis. A rede de Kohonen é uma estrutura de duas (2) camadas, onde a primeira camada corresponde as entradas e a segunda camada , chamada de competitiva, é organizada em uma grade m-dimensional a ser mapeada. Nesta aprendizagem a rede neural utiliza categorias a partir das relações estabelecidas produzindo uma saída correspondente a cada categoria de entrada, a partir da auto-organização dos pesos dos neurônios. Os algoritmos de aprendizagem pesquisados por Kohonen são chamados de
Quantização do Vetor de Aprendizagem e são
divididos em três algoritmos: LVQ1, LVQ2 e LVQ3. Nesta pesquisa foi utilizada a técnica LVQ1.
O modelo padrão de Kohonen é uma rede neural tipo feedforward de treinamento não-supervisionado. Na aprendizagem competitiva as unidades de entrada competem entre si. É apresentado um conjunto de entradas, não existindo um padrão de saída correspondente. Os pesos são ajustados de acordo com a Equação 1.
wij (novo) = wij (velho) + α[xi - wij(velho)] (1)
O algoritmo LVQ1 é uma técnica de aprendizado supervisionada que utiliza informações sobre classes para atualizar o vetor de pesos, possibilitando desta forma, uma melhora no
desempenho da rede. Após cada treinamento da rede o algoritmo LVQ1 compara a saída do sistema com a saída desejada. Os pesos são ajustados conforme a Equação 2:
wj (novo) = wj (velho) + α[x - wj(velho)]
se “x” foi classificado corretamente wj (novo) = wj (velho) - α[x - wj(velho)]
se “x” foi classificado incorretamente (2)
A rede mais popular de Kohonen foi implementada no desenvolvimento de um datilógrafo fonético, conhecida como uma “máquina de escrever fonética”, este sistema converge linguagem falada em texto escrito. A rede é utilizada para reconhecer fonemas em fala contínua para o idioma finlandês e o japonês. A rede de Kohonen também tem sido utilizada na exploração de bases de dados [6], na análise de distribuição de renda mundial [7], em sistemas de apoio à decisão de diagnóstico financeiro [8], no controle de processos químicos [9], no controle da qualidade da água [10], na mineração de dados (técnica de data mining) [11].
Para uma compreensão da formação dos
conjuntos de treinamento e teste da rede, será descrito uma definição simplificada do domínio a ser representado – as crises convulsivas juntamente com o seu conjunto de treinamento. A Organização Mundial da Saúde (OMS) definiu epilepsia como "um distúrbio do cérebro, de etiologias variadas, caracterizado pelas crises recorrentes conseqüentes à descarga excessiva dos neurônios cerebrais. A característica principal da epilepsia são as crises recorrentes. Porém existem muitos tipos de crise epiléptica, algumas das quais podem ser facilmente confundidas com sintomas de outras doenças – como a hipoglicemia, crise de StokesAdams, narcolepsia e distúrbios psiquiátricos [12]. Desta forma é importante a classificação e descrição detalhada das crises epilépticas para se obter um diagnóstico mais preciso. Além disto, a escolha do tratamento antiepiléptico, dependerá do tipo de crise a qual poderá se manifestar através de mais de um tipo de crise no mesmo paciente. Já uma síndrome epiléptica é definida como um distúrbio epiléptico caracterizado por um conjunto de sinais e sintomas que ocorrem simultaneamente.
As crises parciais podem permanecer
localizadas ou a atividade anormal da crise pode difundir-se a outras partes do cérebro, dando origem a uma crise generalizada. Esse processo é chamado de Crise Parcial Secundariamente Generalizada (CPSG). As crises generalizadas
iniciam-se simultaneamente nos dois lados do cérebro. O cérebro inteiro envolve-se no distúrbio, que pode ser transitório ou representar uma desordem crônica. As crises parciais começam em parte do hemisfério do cérebro e são devidas a um distúrbio cerebral localizado [13].
Devido à falta de uniformidade na classificação das epilépsias a Liga Internacional
contra Epilepsia (ILAE) instaurou um comitê
internacional para tentar padronizá-la. Eles buscaram os critérios nas informações que podem ser obtidas dos pacientes (história e exame clínico) e nas características do eletroencefalograma. Em geral, a classificação de 1981 tem sido amplamente aceita e é a mais usada. O modelo de desenvolvimento do Sistema Especialista para auxílio ao diagnóstico clínico das crises epilépticas foi baseado nos critérios de classificação do ILAE/81 [14]. O processo de diagnóstico das crises epilépticas geralmente depende da descrição cuidadosa das crises pelo paciente ou uma testemunha. A história deve incluir a descrição dos sintomas iniciais (aura ou crise parcial), as manifestações críticas e os sintomas ou sinais pós-ictais. A maior dificuldade está nas primeiras crises. Quando várias crises já ocorreram, de modo geral, as informações podem ser verificadas por vários informantes ou situações distintas. O fundamental no processo é obter informações precisas sobre a ocorrência temporal dos eventos. Na implementação dos algoritmos estão sendo avaliadas as Crises Parciais Simples (CPS), Crises Parciais Secundariamente Generalizadas (CPSG) e Crises Generalizadas Tônico Clônicas (CGTC).
Treinamento da Rede utilizando o simulador
Neusciences:ActiveX
Para fazer a classificação das crises convulsivas foram utilizados a base de treinamento e teste do simulador da Neusciences:ActiveX, incluindo novos registros de entrada. A base de teste integra 129 padrões de classificações conforme mostra a Figura 1.
A tabela da direita informa o tipo de crise:
CPS, CPSG e CGTC e a tabela da esquerda
descreve o conjunto de registros de entrada dispostos em quatro (4) colunas. Cada coluna poderá ser identificada com os sintomas presentes em uma crise convulsiva. A seguir serão descritos alguns exemplos da nomenclatura dos códigos dos registros de entrada implementados de acordo com as bibliografias consultadas:
1. Sem desmaio inicial, sem comprometimento da consciência, aura visual e luzes piscando são sintomas de uma Crise Parcial Simples de Lobo Occipital – Exemplo 1 com entrada 1, 2, 3 e 4 respectivamente [13];
2. Sem perda inicial da consciência, com comprometimento da consciência, sintomas sensitivos com/ou sem marcha jacksoniana e sensações dolorosas são sintomas de uma Crise Parcial Secundariamente Generalizada de Lobo Parietal – Exemplo 2 com entrada 1, 2, 3 e 4 respectivamente [15];
3. Com perda inicial da consciência, convulsões, movimentos tônico clônicos e cianose são sintomas de uma Crise Tônico Clônica Generalizada – Exemplo 4 com entrada 1, 2, 3 e 4 respectivamente [13];
4. Sem perda inicial de consciência, movimentos adversivos da cabeça, manifestações motoras nas pernas, crises freqüentes/curta duração são sintomas de uma Crise Parcial Simples – Exemplo 8 com entradas 1, 2, 3 e 4 respectivamente [15];
5. Sem perda inicial de consciência, desconforto epigástrico, percepções emocionais, fenômenos psíquicos são sintomas de uma Crise Parcial Simples – Exemplo 9 com entradas 1, 2, 3 e 4 respectivamente [13];
Figura 1 – Padrões de Classificação
Desta forma, todos os registros de entrada que fazem parte do conjunto de treinamento e teste da Rede Kohonen foram padronizados. A taxa de aprendizagem iniciou com 0.5 e foi decrescendo após o número de iterações. Após 5000 épocas de treinamento da Rede Kohonen foram encontrados os padrões de classificações para as crises convulsivas mostrados na Figura 2. Cada posição na tabela representa o neurônio vencedor com seu respectivo padrão de classificação. As tabelas da esquerda e direita, compostas cada uma por uma matriz (5x5), totalizando 25 neurônios artificiais de
saída, foram classificadas com 129 e 20 padrões, referentes à base de treinamento e teste, respectivamente.
Figura 2 –Treinamento e Teste do Simulador
Treinamento da Rede com a técnica LVQ1
Para fazer a comparação com o resultado do simulador foi desenvolvido um algoritmo que utiliza a aprendizagem supervisionada com a técnica LVQ1 [16]. O algoritmo foi implementado na linguagem de programação Delphi 4.02. Abaixo a descrição do algoritmo supervisionado:
x - vetor de treinamento (x1, x2, x3 e x4). T – classe referente ao vetor de treinamento
Wj – peso do vetor da unidade de saída
Cj – classe referente à unidade de saída
|| x – wj|| - Distância Euclidiana entre o vetor de
entrada e a unidade de saída
• Passo 1 - inicializar o vetor com a taxa de aprendizagem
• Passo 2 – repetir os passos 3 à 7 até que a condição de parada seja falsa
• Passo 3 – para cada entrada do vetor de treinamento x, repetir os passos 4 à 5
• Passo 4 – encontar J tal que || x – wj|| seja o
valor mínimo
• Passo 5 – atualizar os pesos wj de acordo
com::
Se T = Cj , fazer
wj (novo) = wj (velho) + α[x - wj (velho)];
Se T ≠≠ Cj , então
wj (novo) = wj (velho) - α[x - wj (velho)].
• Passo 6 – Reduzir a taxa de aprendizagem
• Passo 7 – Testar a condição de parada para um número fixo de iterações.
A topologia da rede foi configurada com 25 de saída em uma matriz (5x5). Nesta topologia de rede apresentam-se 4 entradas ligadas
amplamente com os 25 neurônios de saída. A taxa de aprendizagem iniciou com 0.5 e foi decrescendo após o número de iterações.
No algoritmo supervisionado existe um módulo que realiza a gravação dos pesos. Neste caso, um conjunto de pesos aceitáveis poderão serem recuperados na fase de teste do sistema, agilizando desta forma, a classificações dos padrões.
Resultado das técnicas implementadas
Em ambos os algoritmos foram classificados 129 e 20 padrões para o conjunto de treinamento e teste da rede. Após 5000 épocas de treinamento no simulador foram encontrados os seguintes padrões de classificações para as crises convulsivas em uma matriz (5x5): o número de neurônios vencedores foi de 100% para as Crises Parciais Simples, 72,5% para as Crises Parciais Secundariamente Generalizadas e 59% para as Crises Generalizadas Tônico Clônicas. No conjunto de treinamento com a técnica LVQ1 ocorreu um pequeno aumento no acerto de neurônios vencedores: 100% para as Crises Parciais Simples, 79,4% para as Crises Parciais Secundariamente Generalizadas e 73,3% para as Crises Generalizadas Tônico Clônicas. Na fase de teste do Simulador a rede apresentou uma taxa de acerto de 100% para as Crises Parciais Simples, 85,71% para as Crises Parciais Secundariamente Generalizadas e 80% para as Crises Generalizadas Tônico Clônicas. Com a utilização da técnica LVQ1, a fase de teste, implementada após a rede ter sido treinada obteve um índice de acerto de 100% nos três tipos de crises classificadas.
A partir destes dados foi realizada uma simulação em uma matriz (2x2), conforme mostra a Figura 3. 0 10 20 30 40 50 60 70 80 90 100 Simulador LVQ Conjunto Treinamento Conjunto de Teste
Figura 3 – Desempenho dos algoritmos para a topologia da rede com matriz (2x2)
O índice de convergência da rede apresentado pelo simulador foi de 69,76% e 80% para o conjunto de treinamento e teste respectivamente. Com a implementação da técnica LVQ1 o índice aumentou para 71,31% e 100% para o conjunto de treinamento e teste respectivamente. O resultado geral da simulação foi comparado com a matriz (5x5), com esta topologia o índice de convergência apresentado pelo simulador foi de 77,5% e 90%; com a implementação da técnica LVQ1 o índice aumentou para 84,4% e 100% para o conjunto de treinamento e teste, respectivamente. Este resultado poderá ser observado na Figura 4. 0 10 20 30 40 50 60 70 80 90 100 Simulador LVQ Conjunto de Treinamento Conjunto de Teste
Figura 4 – Desempenho dos algoritmos para a topologia da rede com matriz (5x5)
Conclusões
De acordo com os resultados do simulador e da técnica LVQ1 em uma matriz (2x2), a base de treinamento da rede mostrou um desempenho de 69,76% dos neurônios utilizados na classificação de padrões - apenas 30,24% dos neurônios da rede não obtiveram um índice alto de convergência. A taxa de acerto no conjunto de teste foi de 80%. Através da implementação da técnica LVQ1 o conjunto referente a base de treinamento apresentou os seguintes resultados: 71,31% da rede obtiveram uma boa convergência e 28,69% não obtiveram um bom índice de convergência. No conjunto de teste da rede obteve uma índice de classificação de 100%.
A comparação dos resultados obtidos para ambos os conjuntos mostrou que os índices de classificação obtidos com a utilização da técnica LVQ1 são mais elevados em relação a aplicação do simulador
Com a utilização da topologia (5x5) a base de treinamento do simulador mostrou um desempenho de 77,5% dos neurônios utilizados na
classificação de padrões - apenas 22,5% dos neurônios da rede não obtiveram um índice alto de convergência. A taxa de acerto no conjunto de teste foi de 90%. Através da implementação da técnica LVQ1 o conjunto referente a base de treinamento apresentou os seguintes resultados: 84,4% da rede obtiveram uma boa convergência e 15,5% não obtiveram um bom índice de convergência. No conjunto de teste da rede obteve uma índice de classificação de 100%.
A partir destes resultados, pode-se observar que quanto maior o número de neurônios de saída, melhor o índice de convergência da rede.
Em ambos os algoritmos as topologias de rede convergiram melhor na classificação das Crises Parciais Simples. Verificou-se que os valores de entrada para as Crises Parciais Secundariamente Generalizadas e as Tônico Clônicas são muito próximos, por este motivo não atingiram um bom índice de convergência.
Os próximos trabalhos estão concentrados na remodelagem dos valores de entrada para as Crises Parciais Secundariamente Generalizadas e para as Crises Generalizadas para obter um índice melhor de classificação dos padrões.
Referências Bibiográficas
KOHONEN, T. (2001), Self-Organizing Maps, Germany: Springer-Verlag Berlin Heidelberg, 3ª Edition.
GALLANT, S.I. (1988), Connectionist Expert Systems. Comunications ofr the ACM, 31, p. 152 – 169.
DE AZEVEDO, F.M., Brasil, L.M., De Oliveira, R.C. L. (2000), Redes Neurais com Aplicações em Controle e em Sistemas Especialistas, Florianópolis: Bookstore, 401 p.
GUERRIERE, M. R. J., DETSKY, S. (1991), Neural Networks: What Are They? , Annals of Internal
Medicine, v. 115, n 11, December.
CARBONEL, J. G. et all. (1984), An overview of machine learning. In Machine Learning: An
Artificial Intelligence Approach, p. 3–23. Springer
– Verlag.
KONKELA, T., Kaski, S, Lagus K, kohonen T. (1986), Exploration of full-text database with self-organizing maps. In IEEE International
Conference on Neural Networks-ICNN’96, p.
56-61.
KASKI, S., Kohonen T. (1996), Structures of welfare and poverty in the word discovered by self-organizing maps. Technical report,
Laboratory of Computer and Information,
Helsinki University of Technology, Science.
SERRANO C. C. (1996), Self-organizing neural networks for financial diagnosis. Decision
Support Systems, 17 (13), p. 227-238.
TRYBA V., Goser K. (1991), Self-organizing feature maps for proccess control in chemistry.
In International Conference on Artificial Neural Networks-ICANN’91, p. 847-852.
MPÉ, A., Deveughéle S., Clément M. (1995), Using self-organizing feature maps for water monitoring. In Proceedings of the ICANN`95
Conference, volume Forescating & Marketing,
p. 1-6.
BACK, B., Sere, K., Vanharanta, H. (1996), Data mining account numbers using self- organizing maps. In Finnish Artificial Intelligence
Conference, p. 35-47.
DA COSTA, J. C. (1990), Epilepsy: A Lancet Review, London: Biogalênica Products.
GUERREIRO, C. A. (1983), Liga Brasileira de Epilepsia. Diagnóstico Diferencial entre as Crises Tônico- Clônicas Generalizadas e Crises Parciais Secundariamente Generalizadas, Rio de Janeiro: Biogalênica
Products.
COMMISSION (1981) on Classification and Terminology of the International League Against Epilepsy – Proposal for revised clinical
and electroencephalographic classification on epilepsies seizures. Epilepsia; (22), p.
489-501.
GUERREIRO, C. A., GUERREIRO, M. M. (1993), Epilepsia, São Paulo: Lemos - Editorial.
FAUSETT, L. (1994), Fundamentals of Neural Networks: Architectures, Algorithms and Applications, New Jersey: Prentice Hall, Upper Saddle River.
Contato:
Lucimar Fossatti de Carvalho Rua Uruguai, 379 Apto. 701 99010-110 – Passo Fundo/RS Fone: (0xx) 54 311 3347 E-mail: fossatti@upf.tche.br
Universidade de Passo Fundo/RS http://vitoria.upf.tche.br/~fossatti
