• Nenhum resultado encontrado

Redes Neurais Pulsadas. João Fausto Lorenzato Robson David Montenegro Tarcísio Lucas

N/A
N/A
Protected

Academic year: 2021

Share "Redes Neurais Pulsadas. João Fausto Lorenzato Robson David Montenegro Tarcísio Lucas"

Copied!
48
0
0

Texto

(1)

João Fausto Lorenzato Robson David Montenegro

Tarcísio Lucas

(2)

Introdução

 Modelos de redes neurais podem ser classificados em gerações.

 Primeira Geração

 Neurônios de McCulloch-Pitts

 Segunda Geração

 Neurônios com funções de ativação.

 Terceira Geração  Neurônios Pulsados

(3)

Primeira Geração

 Formadas pelos neurônios de McCulloch-Pitts, como unidades computacionais.

 Também Conhecidos como Perceptrons.

(4)

Primeira Geração

 Limitação:

 Aplicabilidade em problemas linearmente separáveis.

 Deram origem a vários modelos conhecidos:  Redes de Hopfield

(5)

Segunda Geração

 As unidades computacionais são providas de

uma função de ativação que fornecem valores de saída contínuos.

 Exemplos de funções de ativação funções de ativação :

 Sigmóide

 Tangente Hiperbólica

(6)

Segunda Geração

 Possuem maior complexidade que os modelos da primeira geração.

 Suportam algoritmos de aprendizado baseados em gradiente descendente como o

backpropagation.

 Modelos com uma camada escondida podem aproximar qualquer função contínua.

(7)
(8)

Fundamentação Biológica

 Saídas da função de ativação = Taxa média de disparo de um neurônio biológico.

 Limiar de ativação.

 Os modelos da segunda geração são mais realísticos.

(9)

Conceitos Biológicos

 Sinapse.

 Neurônio Pré-Sináptico e Pós-Sináptico.

(10)

Conceitos Biológicos

 Propagação do impulso nervoso.  Bainha de Mielina.  Axônio  Neurotransmissores

(11)

Conceitos Biológicos

 Despolarização.

 Períodos Refratários.

(12)

Conceitos Biológicos.

 Funções de resposta.

 Potencias excitatórios e inibitórios.

(13)

Terceira Geração

 Modelos mais próximos do real.

 Experimentos realizados nos últimos anos

indicam que muitos sistemas neurais biológicos utilizam o tempo de potenciais de ação para

codificar informações.

 Investigação da terceira geração de modelos de redes neurais, que utilizam neurônios pulsados como unidade funcional.

(14)

Vantagens da Terceira Geração

 Velocidade na transmissão e recebimento de informação.

 Boa usabilidade em sistemas de tempo real.

 Baixa complexidade.

(15)

Spiking Neural Network

Terceira Geração

(16)

Neurônio spiking

 Deve simular o seguinte comportamento

1. Codificação da

informação em pulsos. 2. Excitação

3. Inibição 4. Threshold

(17)

Representação da informação

 Disparos médio

 Codificação por sincronismo

período s qtdDisparo Informação

(18)

Representação da informação

 Tempo do disparo

 Instante em que o pulso dispara, para uma determinada janela de tempo: delay coding.

w1 w2 w3

(19)

Threshold-fire model

 Integrate and Fire Model

 Spiking Response 1. Codificação da informação em pulsos. 2. Excitação 3. Inibição 4. Threshold

(20)

Threshold-fire model

 Integrate and Fire Model

 Spiking Response 1. Codificação da informação em pulsos. 2. Excitação 3. Inibição 4. Threshold

(21)

Codificação – tempo do disparo

 Variável => Pulso 0.1 0.7 1.0 j input c x T . 1ms 1ms 0.9 0.3 0.0 ) (t s

...

s

(22)

Threshold-fire model

 Integrate and Fire Model

 Spiking Response 1. Codificação da informação em pulsos. 2. Excitação 3. Inibição 4. Threshold

(23)

Potencial de disparo

)

(

~

)

(

t

,

t

s

P

v u v t: tempo v: neurônios pós-sináptico u: neurônios pré-sináptico s: tempo do sinal Tempo disparos

(24)

Potencial de disparo

)

(

)

(

t

w

, ,

t

s

P

v u v u v t: tempo v: neurônios pós-sináptico u: neurônios pré-sináptico s: tempo do sinal w:peso w Tempo disparo s

(25)

Potencial de disparo

u F s v u v u v

t

w

t

s

P

(

)

, ,

(

)

t: tempo v: neurônios pós-sináptico u: neurônios pré-sináptico s: tempo do sinal w: peso

Fu:tempos de disparo do neurônio u

Tempos disparos s w

(26)

Potencial de disparo

E v u u s F v u v u v u

s

t

w

t

P

, : , ,

(

)

)

(

t: tempo v: neurônios pós-sinápticos u: neurônios pré-sinápticos s: tempo do sinal w: peso

Fu:tempos de disparo do neurônio u

E: neurônios u que tem conexão com o neurônio v

Tempos disparos s w

(27)

Threshold-fire model

 Integrate and Fire Model

 Spiking Response 1. Codificação da informação em pulsos. 2. Excitação 3. Inibição 4. Threshold

(28)
(29)

Threshold-fire model

 Duas principais abordagens Integrate and Fire Model  Spiking Response 1. Codificação da informação em pulsos. 2. Excitação 3. Inibição 4. Threshold

(30)
(31)

Potencial de disparo

i f j i i f i t F f j j j i F t f i i

t

t

t

w

t

t

u

) ( ) (

)

(

)

(

)

(

( ) , ( )

(32)

Potencial de disparo

i f j i i f i t F f j j j i F t f i i

t

t

t

w

t

t

u

) ( ) (

)

(

)

(

)

(

( ) , ( )

(33)

Algoritmos de treinamento

 Hebbian

)

(

0 ,

t

t

w

u v v 0 t v t Taxa de aprendizagem

Tempo que o pulso pos-sináptico disparou

(34)

Algoritmos de treinamento

 Hebbian supervisionado

 Mudança de peso feita apenas nos pesos dos neurônios que representa a classe correta.

A B C D Secretário 1 Secretário 2

)

(

0 ,

t

t

w

u v v

(35)

Fuzzificação de Redes Spike

(36)

Fuzzificação de Redes Spiking

 Reid e Muyeba (2008)

 Regra de aprendizagem Fuzzy

 Fuzzificação por entidade

(37)

Fuzzificação de Redes Spiking

(38)

Fuzzificação de Redes Spiking

(39)
(40)

Fuzzificação de Redes Spiking

(41)

Fuzzificação de Redes Spiking

(42)

Fuzzificação de Redes Spiking

 Fuzzificação do Treinamento

 Time to First Spike Encoding

 Spike Interval and Phase Encoding

 Correlation and Synchronous Encoding

(43)

Fuzzificação de Redes Spiking

(44)

Fuzzificação de Redes Spiking

(45)

Fuzzificação de Redes Spiking

(46)

Referências

 Maass, W. “Networks of Spiking Neurons: The Third

Generation of Neural Network Models” Neural Networks,10(0):1659-1671, 1997.

 Maass, W. “Analog Computatuibs ib betworks of spiking

neurons”. Proceedings of the 7th Italian workshop on neural nets. World Scientific Press. 99-104, 1995.

 Ruf, B., Schmitt, M. “Learning Temporally Encoded Patterns in

networks of spiking neurons” Neural Processing Letters, vol. 5, no. 1,pp.9-18, 1997.

 Hopfield, J.J., “Pattern Recognition computattion using action

potential timing for stimulus representations. Nature, 376,33-36, 1995.

 David Reid, Maybin Muyeba, "Fuzzification of Spiked Neural

Networks," Computer Modeling and Simulation, UKSIM

European Symposium on, pp. 135-140, 2008 Second UKSIM European Symposium on Computer Modeling and Simulation, 2008

(47)
(48)

Referências

Documentos relacionados

De forma geral, a floresta de sucessão secundária espontânea teve a menor produção de serapilheira, em contraste com plantio de Mimosa caesalpiniaefolia que apresentou a maior

Distribuição das variáveis de conhecimento e instrução em: conhece métodos de proteção solar e recebeu orientações sobre o risco de desenvolvimento de lesões

Inscrições prorrogadas até 9 de outubro para Vestibular UFSC 2018 Inscrições para vestibular da UFSC são prorrogadas até

The correction factor, shadow size, and ring-detector distance are derived as a function of radius and width of the ring, sun position, and local latitude.. The largest blocking

A adoção da Lei n.º 7/2008, de 15 de fevereiro, que estabelece as bases do ordenamento e da gestão sustentável dos recursos aquícolas das águas interiores e define os

Eficiência de remoção de coliformes totais, em função da quantidade de bactérias na água bruta, nas diferentes espessuras do meio filtrante nãotecido e do meio filtrante

Results: The mean results of septal and lateral parts of the mitral annulus Pulsed wave TDE showed that myocardial systolic wave (Sm), myocardial early diastolic wave (Em) and Em

âmbito do contrato individual de trabalho entre o Réu e a falecida B. c) A B, muito antes de falecer e durante a vigência do seu contrato de trabalho, exigiu repetidamente e por