Anais do XV ENCITA 2009, ITA, Outubro, 19-22, 2009,

INTERPOLAÇÃO PARABÓLICA EM INTEGRADOR DE EULER COM

MÉTODO DAS DERIVADAS MÉDIAS PERMITINDO PASSO VARIÁVEL

NA SOLUÇÃO DE SISTEMAS DINÂMICOS NÃO-LINEARES

AUTÔNOMOS

Ricardo Itiro Sabota Tominaga

ITA - Instituto Tecnológico de Aeronáutica, H8-C, 325

Praça Mal. Eduardo Gomes, nº50 - Campus do CTA, 12228-900, São José dos Campos - SP Bolsista PIBIC-CNPq

ris.tominaga@gmail.com Paulo Marcelo Tasinaffo

ITA - Instituto Tecnológico de Aeronáutica, Divisão de Ciência da Computação

Praça Mal. Eduardo Gomes, nº50 - Campus do CTA, 12228-900, São José dos Campos - SP tasinafo@ita.br

Neste trabalho é apresentada uma maneira de se obter uma interpolação por parábola de dois pontos originados na solução de um sistema dinâmico autônomo não-linear sem a necessidade de um terceiro ponto. Para isso, é necessária a representação das funções de derivadas médias da solução desse sistema por uma rede neural artificial do tipo feedforward, a qual necessita apenas de um integrador numérico do tipo Euler para fornecer a solução discreta do sistema. A interpolação por parábola possibilitará a variabilidade do tamanho do passo da solução com relevante sucesso. Contudo, a cada interpolação, a solução original precisará de uma parábola distinta. Este objetivo é atingido com o uso de dois importantes teoremas, o teorema do valor médio diferencial e integral. Um problema prático de simplificação é considerado para o teste dessa nova metodologia.

Palavras chave: interpolação parabólica, rede neural, derivada média, passo variável, Euler. 1. Introdução

Redes neurais artificiais têm sido usadas para a identificação de sistemas dinâmicos e teoria de controle para sistemas dinâmicos autônomos não-lineares de plantas do mundo real (e.g., Narendra and Parthasarathy, 1990; Hunt et al, 1992). A metodologia usual na criação dos esquemas de controle neural tem sido baseada num modelo discreto não-linear de entrada/saída NARMA (Nonnão-linear Auto Regressive Moving Average) para a aproximação do sistema dinâmico (e. g., Chen and Billings, 1992). No entanto, há duas dificuldades com essa metodologia. A primeira é o ajuste da ordem do modelo de entrada/saída e a segunda é quando há, inevitavelmente, muitas entradas, resultando em muitas conexões neurais e parâmetros relacionados e consequentemente na complicação do treinamento supervisionado da rede.

Uma alternativa é a utilização simultânea de um integrador numérico de equações diferenciais ordinárias e uma rede feedforward (Wang and Lin, 1998; Rios Neto, 2001). Isso resulta em uma série de vantagens, (i) a rede neural precisará aprender somente a função de derivadas instantâneas ou taxa de variação do estado do sistema, que é apenas uma função estática, (ii) a rede pode prever o comportamento do sistema a qualquer momento (Wang and Lin, 1998) sem precisar fixar um passo para o tempo como o método NARMA, (iii) precisão local pode ser ajustada por métodos existentes de variação automática da ordem ou tamanho de passo do integrador (e.g., Prothero, 1980), e (iv) pode ser feita a estimação do erro de predição global acumulado (e.g., Rios Neto and Rama Rao, 1990). Dessa forma, Wang e Lin introduziram, em 1988, o termo RKNN’s (Runge-Kutta Neural Networks) na literatura referente às redes neurais artificiais para mapeamento de sistemas dinâmicos não-lineares.

A teoria de controle usando integradores numéricos neurais foi apresentada recentemente (Rios Neto, 2001) e a primeira característica importante disso é a dificuldade em se utilizar integradores numéricos de alta ordem porque há vários obstáculos na determinação da função gradiente quando se combina redes feedforward e integradores numéricos usando o conceito de retropropagação (backpropagation). Assim, (Tasinaffo, 2003) desenvolveu o termo derivada média dentro de um integrador do tipo Euler, ou integrador de primeira ordem com passo de tempo fixo, onde a rede neural representa apenas a função de derivadas médias do sistema original, e não mais a função de derivadas instantâneas. A vantagem dessa técnica é a simplificação da retropropagação presente no treino da rede e na teoria de controle preditiva e adaptativa. Entretanto, o método das derivadas médias fornece apenas a solução discreta para o sistema. Então, nesse trabalho, se propõe uma melhora capaz de permitir a variabilidade do passo da solução através da interpolação de pontos vizinhos da solução por uma parábola e sem a necessidade de um ponto intermediário.

2. Metodologia

O treinamento de uma rede neural com as derivadas médias do sistema dinâmico desejado permite a obtenção de uma solução discreta. Seja k

t

tan∆ αi_j a derivada média da j-ésima saída fornecida pela rede com ∆ =t t_k+1−t_k e k i j

y o

k-ésimo estado da saída referida. Tem-se que k 1 i k k i t

j j

y t.tan αi_j y

+

∆

= ∆ + . Assim, sabem-se os seguintes pontos ( ,t_k k yi_j) e 1

1

(t_k+,k+ yi_j). Aproximando-se a curva entre esses pontos por uma parábola, têm-se as seguintes equações (1). 2 1 2 1 1 . . . . k i j k k k k k k i j k k k k k y t t y t t

α

β

γ

α

β

γ

+ + + = + + = + + (1)

No entanto, há três incógnitas. A terceira equação (2) vem da aplicação dos teoremas do valor médio diferencial e integral sobre a curva real entre os pontos extremos. Chega-se à conclusão que existe um *

1 ( , ) k k k t ∈ t t₊ tal que * ( ) tan tan i k i k i t t j k j j d y t dt ∆ α ∆ ψ = =

&& . Como estamos aproximando 2

( )k k_k k k k y t =α t +βt +γ temos que * ( ) 2 tan i k i t j k k j y t = α = ∆ ψ && . k t

tan

∆

ψ

ij

=

2

α

k (2)

Resolvendo-se o sistema nas incógnitas, tem-se (3).

1 1 1 tan 2 1 tan - ( ) tan 2 1 ( tan - 2 tan 2 ) 2 k i t k j k i k i k t j k k t j k i k i k i k k k t j k t j j t t t t t y α ψ β α ψ γ ψ α ∆ ∆ + ∆ + ∆ ∆ = ⋅ = ⋅ + ⋅ = ⋅ ⋅ ⋅ ⋅ ⋅ + ⋅ (3)

O problema agora é a obtenção do valor de

tan

∆tk

ψ

i_j. Aplicando-se a regra da careia sobre tan k i tan k i t _j t _j d dt ∆ α = ∆ ψ obtém-se (4). 1 1 tan tan tan k i k i k i k i t _j t _j k i n t _{j k i k i} n d d y d y dt y dt y dt α α α ∆ ∆ ∆ =∂ ⋅ + + ∂ ⋅ ∂ L ∂ 1 1 tan tan k i k i k i t _j t _j k i k i n k i n d y dt y y d y dt α α ∆ ∆     _{∂ ∂}        =  ⋅  ∂ ∂             L M 1 1 tan

tan tan tan

tan tan k i k i k i k i t _j t _j t _{j k i} k i k i k i n k i n y y y θ α α α _θ θ ∆ ∆ ∆   _{∂ ∂}  _{  ∂}   =  ⋅  = ∂ ∂ ∂         L M o (4) O vetor tan tk ij k i y α ∆ ∂

∂ pode ser obtido por uma simples retropropagação da rede já treinada com as derivadas

médias. Já o vetor tan k

θ

i _{representa as derivadas instantâneas do sistema. Para se evitar o treinamento de outra rede} neural com as derivadas instantâneas é feita a aproximação da derivada instantânea pela média com a condição de se utilizar um passo pequeno. Assim temos (5).

tan tan tan k i t _j k i k i t _{j k i t} d dt y α α ∆ α ∆ ≅∂ _∆ ∂ o (5)

Por fim, os coeficientes podem ser obtidos por (6). 1 1 tan 1 tan 2 tan 1 tan - ( ) tan 2 tan 1 ( tan -2 tan 2 ) 2 k i t _{j k i} k k i t k i t _j k i k i k t j k k k i t k i t _{j k i k i k i} k k k k i t k t j j y t t y t t t y y α α α α β α α α γ α α ∆ ∆ ∆ ∆ + ∆ ∆ + ∆ ∆ ∂ = ⋅ ∂ ∂ = ⋅ + ⋅ ∂ ∂ = ⋅ ⋅ ⋅ ⋅ ⋅ + ⋅ ∂ o o o (6) 3. Testes e Resultados

Esta seção tem por finalidade apresentar os testes e resultados da implementação da interpolação parabólica em um exemplo prático.

3.1. Sistema Dinâmico

O sistema dinâmico escolhido para o teste foi o pêndulo simples acoplado a um carrinho móvel (Fig.1).

Fig. 1 Representação do sistema dinâmico escolhido. As equações que descrevem esse sistema são (7).

1 2 2 2 4 3 3 3 3 3 2 2 1 4 3 3 4 2 2 3 4 3 1 3 4 1 2 3 3 3 3 ;

- cos sin - sin

- cos - - sin tan - cos cos x x bx gk x x k x x x k k x x x bx k x x k g x x k k k x k x =   −  ₌   =   −  ₌    & & & &

(7)

1 2 2 3 2 3 4 2 k M m k I ml k ml k k k = + = + = =

Os valores para as constantes do sistema estão na tabela Tab.1.

Tab. 1 – Constantes utilizadas para o sistema dinâmico.

Massa do carrinho M=0.5

Massa da haste m=0.2

Comprimento da haste l=0.3

Momento de inércia do pêndulo I=0.006

Coeficiente de força viscosa b=2

Foi escolhido esse sistema dinâmico, pois a rede neural artificial que será treinada para aprender a função de derivadas médias do sistema terá intervalos de treinamento para cada variável de estado, e como a simulação será sem controle, é necessário que o sistema tenha seu comportamento contido nos intervalos de treinamento.

3.2. Treinamento

Foram treinadas duas redes neurais artificiais na arquitetura feedforward backpropagation com o método das derivadas médias utilizando-se o algoritmo de treinamento do gradiente. As discretizações do tempo escolhidas foram

0,1 e 0,5

t t

∆ = ∆ = . O número de neurônios na camada interna foi de 31. As funções de ativação da camada interna foram do tipo tansig com lambda igual a 2. As funções de ativação da camada externa foram do tipo puramente linear. A taxa de aprendizado escolhida foi 0,01. Para ∆ =t 0,1 o erro quadrático médio alcançado foi de 8,14.10^-6 e para

0,5

t

∆ = foi de 3,50.10^-5.

3.3. Simulação

O sistema foi simulado com as condições iniciais (8).

0 0 0 0

2

0

0, 5

0

x

x

θ

θ

=

=

=

=

&

&

(8)

O instante inicial foi 0s o final foi 10s. Os resultados foram os seguintes:

Fig. 3 Simulação com passo de 0,5

Pode-se perceber que, tanto para a simulação com passo de 0,1 quanto para a simulação com passo de 0,5 os pontos originados da função de derivadas médias neural integrada por Euler estão bem próximos da solução originada da função de derivadas original integrada por Runge-Kutta. Isso era de se esperar, uma vez que, o erro quadrático médio de treino alcançado para as redes foi baixo e o método das derivadas médias apresenta pouca divergência em relação à solução.

As diferenças aparecem quando se compara a interpolação parabólica para os dois passos. Para o passo de 0,1 a interpolação parabólica acompanhou bem a solução original com certa suavidade, mesmo nas extremidades das parábolas. Já para o passo de 0,5 a interpolação parabólica não acompanhou bem a solução original, mostrando, inclusive, aparentes pontos de quebra nas extremidades das parábolas. Isso pode ser explicado por dois fatores, um deles é o fato de se ter usado uma aproximação da derivada instantânea pela derivada média, o outro é que se trata de uma interpolação parabólica, sendo que, não necessariamente, as curvas que estão sendo aproximadas são parábolas. 4. Conclusão

A interpolação parabólica em integrador de Euler com método das derivadas médias permitiu passo variável da solução do sistema com certas restrições. Quando o passo satisfatório for suficientemente pequeno, poder-se-á realizar a interpolação parabólica com uso de apenas uma rede neural treinada com as derivadas médias e considerando a aproximação feita para a derivada instantânea. Quando o passo satisfatório não for suficientemente pequeno, será necessário o treino de mais uma rede neural com as derivadas instantâneas. Esse caso torna o método não muito vantajoso, pois se perde tempo com mais um treinamento, além de se acumular mais o erro de treinamento dessa rede. 5. Agradecimentos

O aluno gostaria de agradecer ao professor Paulo Marcelo Tasinaffo pelo apoio e atenção dispensados na realização desse projeto, sem os quais seria impossível a realização dele. Um agradecimento especial ao Conselho Nacional de Desenvolvimento Científico e Tecnológico (CNPq) que gerou a oportunidade de desenvolver um projeto de grande interesse para a ciência.

6. Referências

- Chen, S.; Billings, S. A. Neural networks for nonlinear dynamic system modelling and identification. Int. J. Control, v. 56, n. 2, p. 319-346, 1992.

- Hunt, K. J.; Sbarbaro, D.; Zbikowski, R.; Gawthrop, P. J. Neural networks for control systems – A survey. Automatica, v. 28, n. 6, p. 1083-1112, Nov. 1992.

- Narendra, K. S.; Parthasarathy, K. Identification and control of dynamical systems using neural networks. IEEE Transactions on Neural Networks, v. 1, n. 1 , p. 4-27, March 1990.

- Prothero, A., 1980 Estimating the accuracy of numerical solution to ordinary differential equations, In: gladwell, I. And Sayers, D. K., Eds., Computational Techniques for Ordinary Differential Equations, Academic Press, London. - Rios Neto, A.; Rama Rao, K. A stochastic approach to global error estimation in ODE multistep numerical integration. Journal of Computational and Applied Mathematics, v. 30, n. 3, p. 257-281, 1990.

- Rios Neto, A. Dynamic systems numerical integrators in neural control schemes. In: CONGRESSO BRASILEIRO DE REDES NEURAIS, 5., 2001, Rio de Janeiro, RJ, Brasil. Anais ... Rio de Janeiro: Conselho Nacional de Redes Neurais, 2001, p. 85-88. 1 CD-ROM.

- Tasinaffo, P. M. Estruturas de integração neural feedforward testadas em problemas de controle preditivo. 2003. 230 p. INPE-10475-TDI/945. Tese (Doutorado em Ciências Espacial) – Instituto Nacional de Pesquisas Espaciais, São José dos Campos, 2003.

- Wang, Y.-J.; Lin, C.-T. Runge-Kutta neural network for identification of dynamical systems in high accuracy. IEEE Transactions On Neural Networks, v. 9, n. 2, p. 294-307, March 1998.