Introdução às Redes Neurais Artificiais e aplicações. Luiz P. Calôba. Minicurso IC

Introdução às

Redes Neurais Artificiais

e aplicações

Luiz P. Calôba.

caloba@ufrj.br, www.lps.ufrj.br/~caloba

Redes Neurais Artificiais

O que é isto ?

Para que serve ?

...

s

Neurônio

Processador

MISO

e

1

e

2

e

n-1

e

n

Neurônio biológico

x 1 x j x N x0=1 . . . . . . i ii i i ii i i i i i i ii i i ii i i ii i ui si wi0 wi1 wij win

)

(

...

2 2 1 1

u

v

saída

x

w

x

w

x

w

u

_{n n}

=

+

+

+

=

Neurônio - elemento de processamento

Arquitetura da Rede

x

1

x

₂

x

3

y

2

y

₁

( )

y

_%

=

ϕ

x

Rede Neural

Mapeador não linear, universal













=













=

614

,

0

097

,

0

~

7

,

0

1

,

0

y

x

tgh tgh tgh lin tgh 1 x 1 x 2 1 .2 -.1 -.1 .3 .1 .2 -.1 .1 .2 _.3 .9 .1 .5 -.1 -.1 .2 1.1 4 5 2 1 1 y ~ 2 y ~ 0,1 0,7 0,09 0,61

E a memória,

onde está ?

Memória:

Redes Neurais FeedForward, “Backpropagation”

( )

y

_%

=

ϕ

x

RN

y~ x 3 tgh tgh tg h lin tgh 1 x 1 x 2 1 .2 -.1 -.1 .3 .1 .2 -.1 .1 .2 _.3 .9 .1 .5 -.1 -.1 .2 1.1 4 5 2 1 1 y ~ 2 y ~ 0,1 0,7 0,09 0,61

( )

y

_%

=

ϕ

x

Para que serve ?

Aplicações:

Simuladores

;

Controladores;

Classificadores;

Reconhecimento de padrões;

Filtragem não linear;

etc...

RN

~y

Simulação (modelagem) de Sistemas:

Mundo real

Simulador

X

Y

X

Simulador

Y

Entradas: x1 = velocidade atual x2 = posição do acelerador x3 = posição do freio x4 = inclinação x5 = número de passageiros x6 = etc. Saídas: y1 = velocidade após 3 s

Modelagem clássica de um problema:

Mundo Real

objetos físicos

Representação

Matemática

dos objetos físicos por objetos matemáticos

x

1

x

2 e fórmulas

Uma nova maneira de ver:

Mundo Real

objetos físicos

Representação

Neural

dos objetos físicos por sinais biológicos e uma estrutura neural

Representação

Matemática

dos sinais biológicos por objetos matemáticos

x

1

x

2 e da estrutura neural por fórmulas conhecidas

P

k

1

,

2

,...,

)

,

(

x

k

y

k

=

ϕ

y

k

=

ϕ

(

x

k

)

Simulador

w ϕ~ k

x

k

y

~

+

_

k

ε

k

y

w

∆

aprendizado ou treinamento k

x

Simulação de Sistemas:

Planta

P

k

1

,

2

,...,

)

,

(

x

k

y

k

=

ϕ

y

k

=

ϕ

(

x

k

)

Simulador

w ϕ~ k

x

k

y

~

+

_

k

ε

k

y

w

∆

aprendizado ou treinamento k

x

Aprendizado, Treinamento ou Ajuste do Simulador:

(

)

[

(

~

)

2

]

,...

1

|

i

E

y

y

w

F

_i

=

=

−

Treinamento = Otimização = Minimização do erro na saída

Função Objetivo à Minimizar = EMQ na saída

Método: Gradiente descendente

i i i i i i

w

w

w

w

F

w

w

←

+

∆

∂

∂

−

=

∆

α

Demo: OCR

...

...

Robustez

Morte de neurônios

NeuralTB

Sistema de Apoio ao Diagnóstico de Tuberculose Bacteriana

Exemplos de aplicações:

• Modelagem de um Conversor

Siderúrgico da CSN • Modelagem de plantas de

destilarias da Petrobras

• Previsão de atrazo no pagamento por clientes (pessoas e instituições) • Previsão do PIB brasileiro

• Previsão de volatilidade de opções Telebrás

• Previsão de demanda de pico de energia • Identificação do locutor e do conteúdo da alocução • Identificação da confiabilidade de informantes • Identificação de patologias em eletrocardiogramas • Identificação de malignidade em anomalias na mama

• Classificação de defeitos em soldas via radiografia ou ultra-som

• Detecção de defeitos em dutos e

25

Aprendizado sem professor

Aprendizado supervisionado e não-supervisionado

Critério:

classificação por similaridade

RN

∆

_w

ε

+

-y~

[

x,

y

]

RN

∆

_w

ε

+

-y~

[

x,

y

]

RN

∆

_w

x

_y~

RN

∆

_w

x

_y~

26

Classificação por Similaridade

Classes agrupam elementos `similares` entre si

27

Ex: OCR: Figuras com ruído

Entradas ruidosas

Rede

Counter

propagation

Padroes

28

Detecção de padrões desconhecidos

29

Time to frequency patterns:

30

Ex 2: Sonar Passivo

A Caçada Ao Outubro Vermelho

31

Classificador de Contatos Sonar (IPqM / UFRJ):

Classificação de alvos via análises Lowfar e Demon do ruído irradiado

32

Compressão de informações

Compressão de imagens

1 y 2 y m y 0 u

x

w₁ 2 w m w 0 y 1 y 2 y m y 0 u

x

w₁ 2 w m w 0 y

+

s

p

1

p

2

p

m 1 y 2 y m y 1 y 2 y m y

i

33

Exemplo de Compressao

Imagens original e comprimidas

(1x)

(11x)

34

Problemas de otimização combinatória

35

Caixeiro Viajante:

36

O problema das Quatro cores:

37

38

Resultados:

Percentual de acertos

Apresentação dos Sons

Exemplos School Vega

Tipo de processo % acertos

Som Criptografado

≈

0

≈

0 Simulated Ann. e

Busca exaustiva 73 91

39

Últimos Comentários

Redes Neurais

Modelam sistemas e fenômenos que não somos capazes de modelar Tem capacidade de aprender sózinhas

Resolvem problemas de otimização

40

Quando usar ?

Existe um algoritmo satisfatório ?

SIM - então use o algoritmo

NÃO - então pense em usar redes neurais

Como usar ?

41

Para saber mais:

1 – Ivan Silva, I.; Spatti, D. e Flauzini, R. - "Redes Neurais Artificiais para engenharia e ciências aplicadas", Artliber,2010

2 -Wasserman, P. – “Neural Computing”, Van Nostrand Reinhold, 1989, Cap 1-6. 3 - Sarle, W.S. - ftp://ftp.sas.com/pub/neural/FAQ.html - uma página com

42

INNS

International Neural Networks Society

43

Fim.