IDENTIFICAÇÃO DO PROCESSO EXPERIMENTAL BOLA E TUBO USANDO REDE NEURAL E OTIMIZAÇÃO BASEADA EM UMA ABORDAGEM CAÓTICA DE EVOLUÇÃO DIFERENCIAL

IDENTIFICAÇÃODOPROCESSOEXPERIMENTALBOLAETUBOUSANDOREDENEURALE

OTIMIZAÇÃOBASEADAEMUMAABORDAGEMCAÓTICADEEVOLUÇÃODIFERENCIAL

LEANDRO DOS SANTOS COELHO E RODRIGO CLEMENTE THOM DE SOUZA Laboratório de Automação e Sistemas, Grupo Produtrônica Pós-Graduação em Engenhara de Produção e Sistemas, PUCPR / PPGEPS

Imaculada Conceição, 1155, CEP 80215-901 Curitiba, PR

E-mail: leandro.coelho@pucpr.br; usinadesolucoes@gmail.com

Abstract A method of nonlinear identification based on a radial basis function neural network (RBF-NN) and an optimization procedure of centers and spreads of basis functions based on differential evolution (DE) is evaluated in this paper. DE is an evolutionary algorithm which uses a rather greedy approach to problems solving than do classical evolutionary algorithms, such as genetic algorithms, evolutionary programming, and evolution strategies. DE also incorporates an efficient way of self-adapting mutation using small populations. The potentialities of DE are its simple structure, easy use, convergence property, and robustness. An experimental case study using a nonlinear ball-and-tube process is validated by the proposed neuro-evolutionary approach. Numerical results presented here indicate that the RBF-NN combined with a DE approach based on chaotic sequences is effective in building an appropriate model for nonlinear identification.

Keywords Neural network, differential evolution, nonlinear identification, experimental process.

Resumo Um método de identificação não-linear baseado em rede neural função de base radial (RN-RBF) e um procedimento de otimização dos centros e aberturas das funções de base baseado em evolução diferencial (ED) é avaliado neste artigo. A ED é um algoritmo evolutivo que utiliza uma abordagem mais gulosa para resolução de problemas que a realizada pelos algoritmos evolutivos clássicos, tais como algoritmos genéticos, programação evolucionária, e estratégias evolutivas. A ED incorpora também a forma eficiente de auto-adaptação da mutação usando populações pequenas. As potencialidades da ED são sua estrutura simples, facilidade de utilização, propriedade de convergência e robustez. Um estudo de caso experimental usando um processo não-linear bola e tubo é validado pela abordagem neuro-evolutiva proposta. Os resultados numéricos apresentados aqui indicam que a RN-RBF combinada com uma abordagem de ED usando operador de mutação com seqüências caóticas é efetiva na construção de um apropriado modelo para identificação não-linear.

Palavras-chave Rede neural, evolução diferencial, identificação não-linear, processo experimental. 1 Introdução

A teoria e prática de identificação de sistemas lineares estão bem estabelecidas na literatura (Ljung, 1999). Entretanto, a utilização de modelos matemáticos lineares para representar sistemas não-lineares é limitada, pois tais representações não podem reproduzir comportamentos dinâmicos, tais como histerese, bifurcações, incertezas, acoplamentos lineares, que resultam em interações não-lineares. Neste caso, técnicas de previsão mais elaboradas são necessárias para modelar tais comportamentos.

A identificação e/ou previsão de comportamento dinâmico de um sistema não-linear é usualmente uma tarefa difícil. Entretanto, diversas abordagens têm sido propostas na literatura para esta tarefa usando abordagens de inteligência computacional, a citar sistemas nebulosos (Srivastava et al., 2008), algoritmos evolutivos (Chang, 2007) e redes neurais artificiais (Rubio e Yu, 2007).

Em tal contexto, um substancial interesse tem sido focado na utilização de redes neurais (RNs) para identificação de sistemas não-lineares usando a rede neural função de base radial (RN-RBF). As RNs-RBF formam uma classe de redes neurais que possuem certas vantagens em relação a outros tipos de redes neurais, incluindo melhor capacidade de

aproximação, estruturas simples e algoritmos de aprendizado rápido.

Neste artigo é apresentada uma RN-RBF que utiliza o método de otimização denominado evolução diferencial (ED) (Storn e Price, 1995; Storn, 1997) para o ajuste dos centros e aberturas das funções Gaussianas (funções de ativação). Além disso, é apresentada uma abordagem de ED com operador de mutação baseado em seqüências caóticas.

O artigo está organizado da seguinte maneira. Os fundamentos das RNs-RBF são descritos brevemente na seção 2. O procedimento de otimização da RN-RBF usando as abordagens de ED é mencionado na seção 3. A descrição do processo bola e tubo e os resultados obtidos da previsão de curto prazo (um passo à frente) são apresentados e analisados na seção 4. A conclusão e perspectivas de futura pesquisa são mencionadas na seção 5.

2 Rede Neural de Base Radial

Entre as características que melhor explanam o potencial das RNs sobressaem-se a adaptabilidade, paralelismo, multidisciplinaridade e tolerância a falhas, o que proporciona uma ferramenta matemática promissora para aplicações práticas. As RNs proporcionam, usualmente, conhecimento quantitativo não-paramétrico e são adequadas para

previsão de sereis temporais e aprendizado de sistemas complexos, pois são aproximadores universais de funções (Lo, 1998).

Uma função de base radial, φ, em que a saída é simétrica em torno de um centro associado, µ_{c , tal} que

φ

_c

=

φ

(

x

−

µ

_c

)

, onde

⋅

é um vetor norma. Muitas funções são utilizadas como funções de base, na camada intermediária de uma rede neural de base radial, tais como funções de aproximação cúbica, multiquadrática e thin plate spline.

Uma condição suficiente para uma função ser candidata à função de base radial é a de ser radialmente simétrica e a sua primeira derivada deve ser monotônica (Poggio e Girosi, 1990). A função Gaussiana é um tipo de função de base radial muito utilizado. As funções Gaussianas são caracterizadas por um parâmetro de escala (ou comprimento),

σ

, e podem ser representadas pela equação,

( )

φ

(

µ σ

)

φ_c x = x− _c ; . (1)

Um conjunto de funções de base radial pode servir como uma base para a representação de uma vasta classe de funções que são expressas como combinações lineares de funções de base radial escolhidas, tal que:

( )

(

c

)

M j j x x y = ∑ ω φ −µ =1 . (2)

Uma RN-RBF, conforme apresentada na Figura 1, é um agrupamento de equações na forma de uma rede neural feedforward com três camadas: a(s) entrada(s), camada oculta (intermediária) e camada(s) de saída. Cada unidade oculta representa uma função de base radial simples com comprimento e posição do centro associados. As unidades ocultas são algumas vezes denominadas de centróides ou núcleos. Cada unidade de saída executa uma soma ponderada de unidades ocultas, utilizando os valores de

ω

_j para representar os pesos (ou ponderações).

Fig. 1. Uma RN-RBF com uma camada intermediária.

A abordagem de determinar os componentes individuais sendo dada uma superposição de Gaussianas foi explorado nos anos 1960. Subseqüentemente, a utilização de funções de base

radial para interpolação numérica e aproximação de funções foi demonstrada por Powell (1985). O projeto da RN-RBF adotado, neste artigo, é o do treinamento em dois estágios, que são os seguintes: (i) determinar o número de centros e dos valores de µc e σj, e (ii) determinar os pesos das unidades da saída para os centros e comprimentos obtidos no estágio (i).

No primeiro estágio pode-se utilizar um algoritmo de aprendizado supervisionado ou não-supervisionado. Entretanto, neste artigo, adota-se um método de evolução diferencial para otimização dos centros e largura das funções de ativação Gaussianas. No segundo estágio, o ajuste dos pesos das unidades de saída é realizado pela técnica da pseudo-inversa (Golub e Van Loan, 1983).

3 Fundamentos da Evolução Diferencial

A ED é um paradigma da computação evolutiva (ou evolucionária) desenvolvido por Rainer Storn e Kenneth Price [7],[8] para problemas de otimização não-linear contínua. Basicamente, a ED realiza mutações nos vetores pela adição ponderada de diferenças aleatórias entre eles.

3.1 Abordagem clássica da ED

Na ED clássica, cada variável (indivíduo) é representada por um valor real (ponto flutuante). A variante implementada neste trabalho foi a ED/rand/1/bin, que é regida pelas seguintes etapas: Etapa 1: Iniciar os parâmetros de controle da evolução diferencial: O projetista deve escolher os parâmetros de controle da ED, tais como tamanho da população (M), limites (máximos e mínimos) das variáveis de otimização, taxa de mutação (fm(t)), taxa

de cruzamento (CR) e o critério de parada do procedimento de otimização.

Etapa 2: Iniciar o contador de gerações: Atribuir geração inicial, t=1.

Etapa 3: Iniciar a população inicial de indivíduos (soluções): Gerar uma população inicial aleatória, com distribuição uniforme, de soluções factíveis à resolução do problema em questão, onde as regras de “reparo” garantem que os valores atribuídos as variáveis estão intrnas as fronteiras delimitadas pelo projetista.

Etapa 4: Avaliar os indivíduos da população: Avaliar a função objetivo (custo) de cada um dos indivíduos da população.

Etapa 5: Aplicar a operação de mutação (ou operação diferença): A mutação é uma operação que adiciona um vetor diferencial para o vetor dos indivíduos da população, de acordo com a equação: camada de saída x1 x2 xm camada de entrada camada oculta entradas saída obtida . . . . . Σ y bias, w0 w2 wn w1

] ) ( ) ( [ ) ( ) ( ) 1 ( 3 2 1 t f t x t x t x t z _{m i,r i,r} i,r i + = + ⋅ − (3)

onde i=1,2,...,M é o índice do indivíduo da população; j=1,2,...,n é a posição do indivíduo em um espaço n-dimensional; t é a geração (tempo);

[

]

T 2 1(), ( ),..., () ) (t x t x t x t x_i = _{i i in} consiste da posição do i-ésimo indivíduo de uma população de M vetores

n-dimensionais;

[

]

T 2 1(), ( ),..., () ) (t z t z t z t z n i i i i = é

responsável pela posição do i-ésimo indivíduo de um vetor que sofrerá mutação; r1, r2 e r3 são valores

inteiros mutuamente diferentes, selecionados aleatoriamente com distribuição uniforme do conjunto

{

1, 2,L,i−1,i+1,L, N

}

; fm(t) > 0 é um

parâmetro real denominado de taxa de mutação, que controla a amplificação da diferença entre os dois indivíduos de índices r2 e r3 para evitar a estagnação

da busca e é usualmente projetado com valores no intervalo [0,4; 1,0].

Etapa 6: Aplicar a operação de cruzamento: Após a operação de mutação, o cruzamento (ou recombinação) é aplicado a população. O cruzamento é empregado para gerar um novo vetor tentativa ou vetor doador (trial vector) pela substituição de certos parâmetros do vetor destino (target vetor) pelos seus parâmetros correspondentes ao vetor doador, estes gerados aleatoriamente.

Nesta operação, para cada vetor, zi(t+1), um

índice rnbr(i)∈

{

1,2,L,n

}

é escolhido aleatoriamente usando uma função densidade de probabilidade uniforme, e um vetor denominado de

vetor tentativa,

[

]

T 2 1 1 1 1 ) 1 (t u (t ), u (t ),...,u (t ) u_i + = _i + _i + _in + . Neste caso é gerado um novo vetor tal que,

    ≠ > = ≤ + = +1) (_(), 1_se), ₍se ( _)ou)₍ou( ₍₎₎()), ( i rnbr j CR randb(j) t x i rnbr j CR randb(j) t z t u j i j i j i (4) onde randb(j) é a j-ésima avaliação da geração de um número aleatório com distribuição uniforme no intervalo [0, 1]; e CR é a taxa de cruzamento (ou recombinação) no intervalo [0, 1]. Geralmente, o desempenho do algoritmo de ED depende do projeto de três variáveis: o tamanho da população, M, a taxa de mutação, fm(t), e a taxa de cruzamento, CR.

Etapa 7: Aplicar a operação de seleção: A seleção é um procedimento em que os “melhores” descendentes (indivíduos filhos) são produzidos. Para decidir se o vetor ui(t+1) será (ou não) um membro

da população na próxima geração, ele é comparado com o vetor xi(t). Assim considerando que F denota a

função objetivo sob maximização, então:

   _{+ + >} = + outros ), ( )), ( ( F )) 1 ( ( F if ), 1 ( ) 1 ( t x t x t u t u t x i i i i i (5)

Neste caso, o custo de cada vetor tentativa ui(t+1)

é comparado com seu vetor destino xi(t). Se o custo,

F, do vetor destino xi(t) é tem valor maior que o valor

da função objetivo do vetor tentativa, é permitido ao vetor destino continuar na próxima geração. Caso contrário, o vetor destino é substituído, na próxima geração, pelo vetor tentativa.

Etapa 8: Verificar se o critério de parada foi atendido: Atribuir à geração t = t + 1. Retornar para a Etapa 4 até que o critério de parada seja atendido, usualmente o número de gerações, tmax.

3.2 Abordagem de ED com operador caótico

O desempenho da ED clássica é muito sensível à escolha dos parâmetros de controle, principalmente quanto ao projeto do parâmetro fm(t) presente na

equação (3), que controla a amplificação da variação diferencial. O parâmetro fm(t) é, geralmente,

projetado para apresentar um valor constante durante a otimização. Entretanto, até o momento não existe um procedimento “ótimo” proposto na literatura para o projeto do parâmetro fm(t), pois sua escolha é

dependente de tipo de problema de otimização a ser abordado. Em tal contexto, mais detalhes relativos ao projeto do fm(t) são comentados em Ali e Törn (2004)

e Brest et al. (2006)).

Recentemente, a idéia da utilização de seqüências caóticas integradas a métodos de otimização tem sido apresentada na literatura (Caponetto et al., 2003; Tavazoei e Haeri, 2007; Xiang et al., 2007). A aplicação de seqüências caóticas, devido a propriedade da ergodicidade, pode ser uma alternativa interessante para promover diversidade em algoritmos estocásticos baseados em população.

A abordagem proposta aqui para o parâmetro fm(t)

da ED é baseada no mapa de Lozi (Lozi, 1978). O mapa de Lozi é uma simplificação do mapa de Hénon (Hénon, 1976) e admite atratores interessantes.

A diferença entre os mapas de Lozi e Hénon é que o termo

(

y₁(k−1)

)

2 é substituído por y₁(k−1). O mapa de Lozi é dado por

) (k y ) (k y a (k) y₁ =1− ⋅ ₁ −1 + ₂ −1 (6) ) (k y b (k) y₂ = ⋅ ₁ −1 (7) onde k é um número da iteração. Neste trabalho, os valores de y2 são normalizados no intervalo [0,1]

para cada variável de decisão do problema de otimização. Esta transformação é regida peã equação,

σ

δ

−

σ

− =y(k) k z )( (8) onde

y

∈

[

−

0

,

6418

;

0

,

6716

]

e

)

6716

,

0

;

6418

,

0

(

]

,

[

σ

δ

=

−

. Os parâmetros

A abordagem de ED caótica adotada é uma modificação da equação (3), que em vez desta utiliza a equação (9) na Etapa 5 da ED, tal que

] ) ( ) ( [ ) ( ) ( ) 1 (t x,₁ t y2 t x ₂ t x ₃ t zi + = ir + i ⋅ i,r − i,r (9)

onde y2i(t) é uma função normalizada no intervalo

[0,1, 0,9] regida pelos valores obtidos pela equação (7) do mapa de Lozi para cada variável i a ser otimizada.

4 Descrição do Processo Bola e Tubo

O protótipo do processo bola e tubo consiste de um tubo plástico, um motor DC e uma esfera de isopor. O objetivo deste processo é o controle da altura da esfera (bola) de isopor através da aplicação de um fluxo de ar pela base do tubo, sendo que este fluxo de ar é gerado pela aplicação de uma tensão no motor DC (Assunção et al., 2003).

Uma visão geral do projeto do protótipo do processo bola e tubo é apresentada na Figura 2. O projeto é compreendido por três módulos principais: (i) estrutura do processo, (ii) hardware e (iii) software. O módulo de hardware compreende o sensor de distância, atuador do motor, circuito de interface e firmware.

Fig. 2. Protótipo do processo bola e tubo.

Um computador com placa de aquisição de dados para geração do sinal de controle e aquisição do valor da altura da esfera no tubo (pelo uso de um conjunto de sensores baseados em fototransistores) é utilizado. Através da placa de aquisição de dados, uma tensão é convertida em uma tensão de saída a ser adquirida pela placa de aquisição de dados. Na fotografia apresentada na Figura 2 é mostrado um protótipo do processo bola e tubo com um tubo com altura de 55 cm e diâmetro de 4,5 cm. O motor DC (ventilador) escolhido permite variar a tensão de entrada entre 0 e 24 volts, estes convertidos para valores entre 0 e 5 V

(nível TTL) para facilitar a confecção dos circuitos de eletrônica de potência.

A concepção deste protótipo de baixo custo objetiva a validação de métodos de identificação não-linear e a configuração de algoritmos de controle baseado em modelo. Neste artigo é apresentado um dos procedimentos de identificação não-linear utilizados para análise do comportamento dinâmico do processo bola e tubo.

5 Análise de resultados

Os dados de entrada e saída do processo bola e tubo (ver dados apresentados na Figura 3) foram coletados com um período de amostragem Ts= 200 ms. A faixa

de operação utilizada, na coleta de dados do processo bola e tubo, foi escolhida para ser entre 9 cm (0,094 V) e 53 cm (4,707 V) da altura do tubo.

Fig. 3. Dados de entrada e saída do processo bola e tubo. O procedimento de análise da identificação é dividido nas seguintes etapas: (i) obtenção dos dados do processo experimental, (ii) escolha da estrutura da RN-RBF (escolhida estrutura série-paralelo), (iii) determinação da otimização da RN-RBF usando ED, (iv) estimação dos parâmetros do modelo matemático (fase de estimação), e (v) a validação do modelo matemático (fase de validação). A identificação do processo bola e tubo é apropriada se um critério de erro, definido previamente pelo projetista, está em valores admissíveis às necessidades do projeto. O critério escolhido neste estudo foi o coeficiente de correlação múltipla regido pela equação

{

}

{

}

∑ − ∑ ₋ − = = = Na t Na t y t y t y t y R 1 2 1 2 2 ) ( ) ( ˆ ) ( 1 , (10)

onde Na é o número de amostras avaliado, y(t) é saída real do processo, yˆ(t) é a saída estimada pela RN-RBF, y é a média das medidas da saída real do processo. Quando o valor de R é igual a 1,0 indica 2

uma aproximação exata do modelo para os dados medidos do processo. O valor de R entre 0,9 e 1,0 2 é considerado suficiente para aplicações práticas, principalmente em projetos de identificação e sistemas de controle baseados em modelo.

As entradas escolhidas (vetores) para a RN-RBF foram: [u(t-1) y(t-1) y(t-2)], onde u(t) é a tensão em V e y(t) é altura que a esfera de isopor se encontra (a altura em cm é convertida para uma tensão entre 0 e 5 V).

Neste estudo de caso foram utilizadas as primeiras 200 amostras (amostra 1 a 201) para a fase de estimação do modelo de previsão, com otimização usando ED clássica ou ED com operador caótico. As 200 amostras seguintes (amostra 202 a 402) para a fase de validação (teste) do modelo neural. Foram testados diferentes números de funções Gaussianas na camada oculta da RN-RBF e os melhores resultados dos experimentos são resumidos nas tabelas 1 e 2. Nas simulações de otimização através do ED clássica e caótica foram utilizados os seguintes parâmetros:

• tamanho de população, M: 30 indivíduos;

• taxas de mutação e cruzamento, respectivamente, com valores F = 0,4 e CR = 0,8;

• espaço de busca dos parâmetros (centros e larguras das funções de ativação Gaussianas) entre -5 e 5 para os centros das funçoes Gaussianas e entre 0 e 5 para as aberturas das Gaussianas;

• experimentos: 30 (usando diferentes sementes de números aleatórios para gerar a população inicial de vetores solução da ED);

• critério de parada da otimização usando ED: 200 gerações.

Tabela 1. Resultados da previsão usando RN-RBF (fase de estimação)

parâmetros 2

est

R (fase de estimação) OT G Máximo Média Mínimo Desvio

Padrão ED1 2 0,9635 0,9570 0,9118 0,0132 ED2 2 0,9635 0,9635 0,9635 8,55·10-6 ED1 3 0,9640 0,9635 0,9630 0,0002 ED2 3 0,9671 0,9641 0,9636 7,93·10-4 ED1 4 0,9652 0,9637 0,9631 0,0004 ED2 4 0,9680 0,9648 0,9636 1,32·10-3 ED1 5 0,9671 0,9640 0,9633 0,0008 ED2 5 0,9672 0,9649 0,9636 1,31·10-3 Notação: G: Gaussianas na camada oculta da RN-RBF; OT: Método de otimização da RN-RBF: ED1: ED clássica ou ED2: ED com operador caótico.

Tabela 2. Resultados da previsão usando RN-RBF (fase de validação)

parâmetros 2

est

R (fase de estimação) OT G Máximo Média Mínimo Desvio

Padrão ED1 2 0,9794 0,9754 0,9447 0,0074 ED2 2 0,9794 0,9794 0,9792 4,02·10-5 ED1 3 0,9801 0,9794 0,9790 0,0003 ED2 3 0,9827 0,9803 0,9792 7,17·10-4 ED1 4 0,9816 0,9797 0,9790 0,0006 ED2 4 0,9843 0,9812 0,9795 1,27·10-3 ED1 5 0,9824 0,9802 0,9796 0,0007 ED2 5 0,9841 0,9816 0,9798 1,17·10-3 Notação: G: Gaussianas na camada oculta da RN-RBF; OT: Método de otimização da RN-RBF: ED1: ED clássica ou ED2: ED com operador caótico.

Nota-se pelos resultados apresentados nas tabelas 1 e 2, que a ED foi eficiente na otimização da RN-RBF, pois os valores de desvio padrão foram pequenos e a média do valor de R (quando o 2 número de funções Gaussianas na camada oculta da RN-RBF foi maior que a unidade) foi acima de 0,9587.

Observa-se que os resultados quando o número de funções Gaussianas na camada oculta da RN-RBF ficou entre 2 e 5 ficou muito próximo. Entretanto, o melhor resultado obtido foi com 4 Gaussianas. Na figura 4 é apresentados o resultados para 4 funções Gaussianas na camada oculta da RN-RBF.

Deve-se mencionar, no entanto, que a complexidade da otimização através de ED cresce com o aumento do número de funções de ativação utilizadas no modelo de previsão, pois a ED necessita neste caso otimizar mais centros e larguras das funções de ativação Gaussianas.

Fig. 4. Melhor resultado para identificação do processo bola e tubo usando 4 funções Gaussianas na camada oculta da RN-RBF e otimização por ED2 (ED com operador caótico).

6 Conclusão

Neste artigo foi fundamentada e validada uma RN-RBF usando otimização através de ED para o ajuste dos centros e aberturas das funções Gaussianas

(funções de ativação). A RN-RBF foi analisada na identificação não-linear de processo experimental do processo bola e tubo. Os resultados mostraram que a RN-RBF com apenas 2 funções Gaussianas na camada oculta foi eficiente na modelagem do processo experimental cm a obtenção de no mínimo 0,9110 na fase de estimação.

Entretanto, a análise de um melhor compromisso entre precisão, complexidade computacional e ordens dos vetores de entrada deve ser avaliado em futura pesquisa para previsões k-passos à frente (previsões de longo prazo).

Referências Bibliográficas

Ali, M. M. e Törn, A. (2004). Population set based global optimization algorithms: some modifications and numerical studies, Computers and Operations Research, 31(10): 1703-1725. Assunção, R., Neto, F. P. e Coelho, L. S. (2003).

Combinação de evolução diferencial e método simplex aplicados à otimização de um sistema nebuloso na identificação do processo ball-and-plate, Anais do VI Simpósio Brasileiro de Automação Inteligente, Bauru, SP, pp. 573-578. Brest, J., Greiner, S., Boskovic, B., Mernik, M. e

Zumer, V. (2006). Self-adapting control parameters in differential evolution: a comparative study on numerical benchmark problems, IEEE Transactions on Evolutionary Computation, 10(6): 646-657.

Caponetto, R., Fortuna, L., Fazzino, S. e Xibilia, M. G. (2003). Chaotic sequences to improve the performance of evolutionary algorithms, IEEE Transactions on Evolutionary Computation, 7(3): 289-304.

Chang, W. D. (2007). Nonlinear system identification and control using a real-coded genetic algorithm, Applied Mathematical Modelling, 31(3): 541-550.

Golub, G. H. e Van Loan, C. F. (1983). Matrix computations, Baltimore: The John Hopkins University Press.

Hénon, M. A. (1976). A two dimensional mapping with a strange attractor, Communications in Mathematical Physics, 50(1): 69-77.

Ljung, L. (1999). System identification: theory for the user, Prentice Hall, New York, NY, USA, 2nd edition.

Lo, J. T. -H. (1998). Multilayer perceptrons and radial basis functions are universal robust approximators, Proceedings of International Joint Conference on Neural Networks, Anchorage, AK, USA, vol. 2, pp. 1311-1314. Lozi, R. (19780. Un attracteur étrange du type

attracteur de Hénon, J. Phys. Colloque C5 39, Supplément au no. 8, 9-10 (in French).

Poggio, T. e Girosi, F. (1990). Networks for approximation and learning, Proceedings of the IEEE, 78(9): 1481-1497.

Powell, M. J. D. (1985). Radial basis functions for multivariable interpolation: a review, IMA Conference on Algorithms for the Approximation of Functions and Data, Shrivenham, UK, pp. 143-167.

Rubio, J. J. e Yu, W. (2007). Nonlinear system identification with recurrent neural networks and dead-zone Kalman filter algorithm, Neurocomputing, 70(13-15): 2460-2466. Srivastava, S., Singh, M., Madasu, V. K.,

Hanmandlu, M. (2008). Choquet fuzzy integral based modeling of nonlinear system, Applied Soft Computing, 8(2): 839-848.

Storn, R. (1997). Differential evolution  a simple and efficient heuristic for global optimization over continuous spaces, Journal of Global Optimization, 11(4): 341-359.

Storn, R. e Price, K. (1995). Differential evolution: a simple and efficient adaptive scheme for global optimization over continuous spaces, Technical Report TR-95-012, International Computer Science Institute, Berkeley, USA.

Tavazoei, M. S. and Haeri, M. (2007). An optimization algorithm based on chaotic behavior and fractal nature, Journal of Computational and Applied Mathematics, 206(2): 1070-1081.

Xiang, T., Liao, X. e Wong, K. (2007). An improved particle swarm optimization algorithm combined with piecewise linear chaotic map, Applied Mathematics and Computation, 190(2): 1637-1645.