COMPARAÇÃO ENTRE AS REDES NEURAIS ARTIFICIAIS MLP E
RBF PARA MODELAGEM DO RENDIMENTO DA FERMENTAÇÃO
ALCOÓLICA
André Luis Guimarães Lemes [PIBITI/CNPq]1, Evandro Bona [orientador]2, Jade Varaschim Link [Colaborador]2, Herily Pereira Sato [Colaborador]1
1
Coordenação de Engenharia de Alimentos
2
Programa de Pós-Graduação em Tecnologia de Alimentos Câmpus Campo Mourão
Universidade Tecnológica Federal do Paraná - UTFPR ROD BR 369 Km 0,5 - Caixa Postal 271 - CEP: 87031-006
alglemes@hotmail.com, ebona@utfpr.edu.br, jadejvl@hotmail.com, satohp@hotmail.com
Resumo - No Brasil, as condições para o desenvolvimento de biocombustíveis são muito favoráveis, sendo o
etanol produzido a partir da cana-de-açúcar uma alternativa de baixo custo de produção, em relação ao etanol de outros países. Este fato pode, futuramente, levar o Brasil à liderança do mercado internacional de etanol, aumentando muito a sua produção, necessitando assim, certa previsibilidade dessa para se obter um bom controle dos estoques. As redes neurais artificiais têm sido amplamente aplicadas no controle de sistemas não lineares devido a sua capacidade de aproximação universal. O presente trabalho teve como objetivo realizar uma comparação entre as redes neurais artificiais perceptron de múltiplas camadas (MLP) e rede de funções de base radial (RBF) para modelar o rendimento da fermentação alcoólica. Observou-se que a rede neural artificial do tipo MLP foi capaz de modelar satisfatoriamente o rendimento de fermentação alcoólica com um erro quadrado médio (EQM) de 0,2667 e coeficiente de correlação (r) entre os valores previstos e observados de 0,9446 para as amostras de teste. Já a RBF atingiu um EQM = 0,3859 e r = 0,9081. Com a rede MLP, que obteve um melhor desempenho para o problema estudado, fez-se uma análise da importância de cada variável independente no rendimento permitindo, assim, uma análise preliminar que vai orientar estudos futuros.
Palavras-chave: redes neurais artificiais; fermentação alcoólica; função de bases radiais; perceptron de
múltiplas camadas.
Abstract - In Brazil, the conditions for the development of biofuels are very favorable, and the ethanol produced
from sugar cane is a low-cost alternative when compared to ethanol from other countries. This fact may, in future, make the Brazil international leadership in this area, increasing its ethanol production and requiring certain predictability of the production to control the stock. Artificial neural networks have been widely applied in the control of nonlinear systems due to its universal approximation capability. The present work had as its aim to perform a comparison between two types of artificial neural networks. The multilayer perceptron (MLP) and the radial basis function network (RBF) were used to model the performance of the alcoholic fermentation. It was observed that the MLP was able to model the yield of alcoholic fermentation with a mean square error (MSE) 0.2667 and a correlation coefficient (r) between predicted and observed values of 0.9446 to the test samples. The RBF has reached a MSE = 0.3859 and r = 0.9081. With the MLP network, which obtained a better performance for the problem studied, a sensitivity analysis of each independent variable was applied to allow a preliminary notion that will guide in future studies.
INTRODUÇÃO
Há algum tempo os biocombustíveis vem sendo o centro das atenções nacionais e internacionais, devido ao alto preço do petróeo e à preocopação com a emissão de gases de efeito estufa. No Brasil, a produção de etanol à base de cana-de-açúcar foi iniciada em 1975 visando diminuir o consumo de petróleo. O Brasil apresenta condições extremamente favoráveis para a produção de biocombustíveis, o que pode favorecer uma posição futura como líder do etanol no mercado internacional. Em 2006 o Brasil exportou 19% de sua produção de etanol, que correspondeu 70% da demanda mundial, sendo que essa demanda tende a aumentar devido a um maior consumo de combustíveis de fontes renováveis em todo o mundo, como por exemplo, em países da União Européia que já prometem uma maior porcentagem de etanol misturado à gasolina [1]. Outro fator que contribuiu para o aumento da produção e consumo de etanol no Brasil é a tecnologia dos motores flex, que permite o uso de qualquer proporção de etanol/gasolina [2]. Economicamente falando, o etanol produzido à base de cana-de-açúcar no Brasil oferece baixo custo em relação ao etanol produzido em outros países como o produzido à base de milho nos Estados Unidos, devido à condições climáticas, condições gerais de produção e a produtividade da cana-de-açúcar, favorecendo assim a exportação do produto. Em relação ao mercado interno, em 2008 o etanol representou mais da metade de todos os combustíves utilizados [1]. Por causa deste momento de transição entre a era fóssil e a era alternativa, a previsão da produção de álcool favorece o planejamento do volume de estoque, evitando a falta deste produto [3].
Redes Neurais Artificiais (RNA) têm sido amplamente aplicadas na identificação e controle de sistemas não lineares [4]. Uma das principais causas desse sucesso é a sua capacidade de aproximação universal [5]. As RNA são modelos para o processamento de informação compostas por um conjunto de elementos conectados, unidades ou nós de processamento simples, cuja funcionalidade baseia-se no funcionamento de um neurônio do córtex cerebral. A habilidade de processamento da rede está na memória armazenada nas conexões dessas unidades, chamadas de pesos, que são adquiridas por um processo chamado de aprendizagem, a partir de padrões de treinamento [6].
O presente trabalho teve como objetivo comparar dois tipos distintos de redes neurais artificiais, o perceptron de múltiplas camadas (MLP - Multi Layer Perceptron) e a rede de funções de base radial (RBF – Radial Basis Functions), utilizados para modelar o rendimento da fermentação alcoólica.
METODOLOGIA
Banco de dados industrial. Foram utilizados dados fornecidos pela Usina Santa Terezinha
(Iguatemi-PR), onde constam 109 registros contendo dados de safra, tempo de queima, pureza da cana (PCTS), Açúcar Total Recuperável (ATR) da cana, dextrana da cana, ART (açúcares redutores totais), impureza no mosto, ART do mosto, acidez do mosto, nitrogênio amoniacal do mosto, ARRT (teor de açúcares redutores residuais total) do vinho, teor alcoólico do vinho, acidez do vinho, glicerol no vinho, pH do levedo, porcentagem de levedo na cuba, porcentagem de levedo na dorna, bastonetes no vinho, viabilidade, floculação e rendimento de fermentação. A variável safra foi excluída do banco de dados devido à mesma não ser um parâmetro de controle do processo de fermentação, formando assim o Banco de Dados 1. Foi realizada uma análise das correlações estatisticamente significativas entre as variáveis independentes e o rendimento de fermentação. As variáveis que apresentaram um coeficiente de correlação estatisticamente significativo ao nível de 5% foram utilizadas para formar o
Banco de Dados 2. A fim de analisar a influência da safra, as variáveis independentes que
mesma e que não constavam no Banco de Dados 2 foram adicionadas formando o Banco de
Dados 3. Para a construção do Banco de Dados 4, foi utilizado o módulo Feature Selection
do software Statistica. Nessa metodologia as variâncias das variáveis dependentes e independentes são comparadas e seleção dos fatores mais importantes é feita com base um teste estatístico do tipo F. Para avaliar a influência da safra, as variáveis independentes de correlação estisticamente significativa (p ≤ 0,05) em relação à mesma e que não constavam no
Banco de Dados 4 foram adicionadas formando o Banco de Dados 5. As amostras de cada
banco de dados foram separadas em dois grupos obedecendo a seleção aleatória: amostras de treinamento e amostras de teste. Foram separadas para teste 11 amostras, sendo aproximadamente 10% das amostras de cada safra.
Redes neurais artificiais. A fim de modelar a produção de etanol, foram construídos dois
tipos de RNA, o MLP e a RBF.
A arquitetura da MLP é composta por uma camada de entrada com um neurônio para cada variável de entrada, uma ou duas camadas ocultas, neste caso apenas uma, com o número de neurônios ocultos a ser definido, e uma camada de saída. Para cada conexão entre os neurônios existe um peso associado [4], como mostra a Figura 1.
(a)
(b)
Figura 1. Representação de uma rede (a) MLP e (b) RBF [4].
Em cada neurônio de cada camada é realizado um somatório ponderado pelos pesos sinápticos dos sinais provenientes dos neurônios da camada anterior. Esta soma, chamada de campo local induzido, é aplicada a uma função de ativação não linear que irá produzir a saída do neurônio [4]. Nas redes MLP as funções de ativação mais utilizadas são as sigmóides do tipo logística e tangente hiperbólica [7]. O sucesso das redes MLP em aplicações onde é necessário usar o poder computacional para a solução de problemas difíceis vem do seu treinamento supervisionado que utiliza um algoritmo conhecido como retopropagação de erro. Este algoritmo é baseado na regra de aprendizagem por correção de erro [4, 8].
A arquitetura de uma RBF, como mostra a Figura 1, compreende três camadas que exercem papeis diferentes. A primeira camada conecta a rede ao seu ambiente, o seu número de neurônios é igual ao número de variáveis de entrada. A segunda camada, conhecida como camada oculta, aplica uma transformação não linear do espaço de entrada para o espaço oculto. Todos os nós da camada de entrada estão conectados com cada nó da camada oculta [9]. Essas unidades ocultas fornecem um conjunto de funções radiais que constituem uma base arbitrária para os padrões de entrada [4]. A função radial é uma função de valores reais cujo valor depende apenas da distância entre seu vetor de entrada x e um ponto chamado “centro”. A camada de saída é feita de unidades lineares [10]. O método de aprendizagem aplicado foi o processo de aprendizagem híbrido [4, 11] que é constituído de dois diferentes estágios: estágio de aprendizagem auto-organizada, onde o objetivo é estimar localizações adequadas para os centros das funções de base radial na camada oculta; e estágio de
aprendizagem supervisionada, que estima os pesos lineares da camada de saída completando o projeto da rede. Para o processo de aprendizagem auto-organizada, utilizamos um algoritmo de agrupamento que separa o conjunto fornecido de dados em subgrupos, cada um dos quais sendo tão homogêneo quanto possível. O algoritmo utilizado foi o algoritmo de agrupamento
K-means, que coloca os centros das funções de base radial apenas naquelas regiões do espaço
de entrada onde os dados significativos estão presentes [4].
Otimização dos parâmetros das redes. Para que fossem encontrados os parâmetros das
redes que melhor se adéquem aos problemas propostos, foi utilizada a otimização do simplex sequencial [12]. O princípio do simplex é deslocar uma figura regular sobre uma superfície para evitar respostas que não sejam satisfatórias. Em um espaço n-dimensional o simplex é um poliedro com n+1 vértices e com faces planas, onde n é o número de variáveis independentes. Este método tende a levar a figura simplex a um valor ótimo através da reflexão de pontos específicos. Quando próximo do ótimo, o simplex pode sofrer contração com objetivo de determinar uma posição mais precisa [13].
Os parâmetros otimizados na rede MLP foram: normalização dos dados de entrada e dos dados de saída (minimax e auto-escalonamento); função de ativação na camada oculta (logística e tangente hiperbólica); função de ativação na camada de saída (logística, tangente hiperbólica e linear); utilização ou não da transformação de Box-Cox nos dado de entrada [14]; número de neurônios na camada oculta (variando de 5 a 15); e banco de dados da ser utilizado. Os parâmetros otimizados na rede RBF foram: quantidade de bases radiais utilizadas (variando de 5 a 15); normalização dos dados de entrada (minimax, auto-escalonamento ou não normalizar); função de distância para o algoritmo k-means; e banco de dados a ser utilizado. Os parâmetros são escolhidos no final da otimização, quando a variação do erro quadrático médio (EQM) se estabilize ou quando todos os vértices da figura simplex se estabilizarem.
Para a obtenção da rede neural artificial que melhor modele o rendimento da fermentação, foram criadas 1000 redes de cada tipo, MLP e RBF em cada etapa da otimização, sendo que a escolhida é aquela que apresentou um menor valor de erro quadrático médio (EQM) do resultado final em relação às amostras de teste.
Análise de sensibilidade das variáveis. Para se descobrir a importância de cada variável para
o melhor modelo criado, foi realizada uma análise de sensibilidade das variáveis. Para realizar essa análise, calcula-se primeiro o erro do modelo para o conjunto original das amostras (EQM0). Posteriormente substitui-se o valor da variável em questão em todas as
amostras pelo valor médio da mesma, e calcula-se o erro do modelo em relação ao novo conjunto de amostras (EQMi). O mesmo é realizado com todas as outras variáveis. O cálculo da sensibilidade de cada variável é feito de acordo com a Equação 1, sendo que a variável é considerada importante quando seu valor de sensibilidade for maior que 1 [15].
(1)
Implementação computacional. Para este trabalho as RNA e o simplex seqüencial foram
implementados através de uma sequência de rotinas construídas no software MATLAB R2007b (The MathWorks Inc., Estados Unidos). As análises de correlações e as análises de seleção de variáveis realizadas através do software STATISTICA 7 (StatSoft, 2004).
Os bancos de dados que foram utilizados de acordo com as análises estatísticas realizadas estão representados na Tabela 1.
Tabela 1. Bancos de dados utilizados para a seleção das redes neurais.
Banco de Dados 1
Tempo de queima; Pureza da cana; ATR da cana; Dextrana da cana; ART; Impureza no mosto; ART do mosto; Acidez do mosto; Nitrogênio amoniacal do mosto; ARRT do vinho; Teor alcoólico do vinho; Acidez do vinho; Glicerol no vinho; pH do levedo; % de levedo na cuba;% de levedo na dorna; Bastonetes no vinho; Viabilidade; Floculação.
Banco de Dados 2 Pureza da cana; Dextrana da cana; Impureza no mosto; Nitrogênio
amoniacal do mosto; ARRT do vinho; Glicerol no vinho; Viabilidade.
Banco de Dados 3
Pureza da cana; Dextrana da cana; Impureza no mosto; ART do mosto; Nitrogênio amoniacal do mosto; ARRT do vinho; Teor alcoólico do vinho; Glicerol no vinho; % de levedo na dorna; Viabilidade.
Banco de Dados 4
Pureza da cana; Dextrana da cana; ART do mosto; Nitrogênio amoniacal do mosto; ARRT do vinho; Teor alcoólico do vinho; Glicerol no vinho; % de levedo na dorna; Viabilidade.
Banco de Dados 5
Pureza da cana; ATR da cana; Dextrana da cana; Impureza no mosto; ART do mosto; Nitrogênio amoniacal do mosto; ARRT do vinho; Teor alcoólico do vinho; Glicerol no vinho; pH do levedo; % de levedo na dorna; Viabilidade; Floculação.
A otimização realizada com a MLP apontou para um melhor resultado final quando os parâmetros utilizados são: normalização de entrada (minimax), normalização de saída (minimax), função de ativação da camada oculta (tangente hiperbólica), função de ativação da camada de saída (tangente hiperbólica), não utilização da transformação de Box-Cox, 10 neurônios na camada oculta e banco de dados (Banco de Dados 5).
Figura 2. Respostas obtidas por cada tipo de RNA: (a) MLP amostras de treinamento; (b) MLP amostras de teste; (c) RBF amostras de treinamento; e (d) RBF amostras de teste.
A otimização realizada com a RBF apontou para um resultado final mais satisfatório quando os parâmetros utilizados são: 15 bases radiais, normalização dos dados de entrada (minimax); função de distância para o algoritmo k-means (correlação) e banco de dados (Banco de Dados 1).
A escolha do Banco de Dados 5 como parâmetro da MLP mostra que para esse tipo de RNA a análise de correlações estatisticamente significantes mostrou-se eficaz, diminuindo o número de variáveis a ser utilizadas na modelagem, sem afetar o desempenho do modelo. Com os parâmetros estabelecidos, as RNA foram criadas e as respostas das melhores redes de cada tipo estão dispostas nos gráficos da Figura 2.
A partir dos dados encontrados, foi possível calcular os valores de EQM e de coeficiente de correlação de cada conjunto de respostas em relação às suas respectivas respostas previstas. Os valores de EQM e de coeficiente de correlação estão dispostos na Tabela 2.
Tabela 2. Resultados obtidos de EQM e Coeficiente de correlação da melhor rede neural artificial de cada tipo.
Tipo de RNA Grupo de amostra Coef. de
correlação EQM RBF Treinamento 0,5371 1,1441 Teste 0,9081 0,3859 MLP Treinamento 0,9386 0,1928 Teste 0,9446 0,2667
O baixo valor do coeficiente de correlação dos resultados da RBF com as amostras de treinamento evidencia uma grande diferença entre a tendência linear das respostas da RNA com a linha de tendência dos valores reais como pode ser observado no gráfico da Figura 2. Essa diferença de tendências faz com que os resultados da rede fiquem mais distantes do valor real, aumentando assim o valor do erro quadrático médio desses dados. No entanto, a RBF produziu resultados mais satisfatórios em relação às amostras de teste, sendo este um fato incomum, já que os valores reais de rendimento de fermentação que foram utilizados na construção da RNA são das amostras de treinamento.
Nota-se que a MLP produziu resultados mais satisfatórios que a RBF, tanto em relação às amostras de treinamento quanto às amostras de teste. De acordo com este fato, a análise de sensibilidade das variáveis foi realizada a partir da MLP, e os valores de sensibilidade das variáveis estão relatados na Tabela 3.
Tabela 3. Valores de sensibilidade das variáveis do Banco de Dados 5 a partir da MLP.
Variável Sensibilidade Variável Sensibilidade
Nitrogênio amoniacal do mosto 9,2668 Floculação 2,7787
Teor alcoólico do vinho 5,1507 Glicerol no vinho 2,4641
ART do mosto 4,4276 pH do levedo 1,8021
Levedo na dorna 3,7721 Impureza no mosto 1,8020
Dextrana da cana 3,4292 ARRT do vinho 1,5283
ATR da cana 3,3188 Viabilidade 1,4401
De acordo com a análise de sensibilidade, todas as variáveis mostraram-se significativas, já que todas possuem valor de sensibilidade maior que 1. Pode-se verificar também que de acordo com seus valores de sensibilidade, algumas variáveis são muito importantes, e para avaliar cada caso em particular foram criados gráficos variando cada variável em 100 pontos entre seus niveis mínimos e máximos e mantendo as outras constantes em suas respectivas médias. Esses gráficos estão dispostos na Figura 3.
Figura 3. Variação da resposta prevista pela MLP em função da variação de cada variável. As demais variáveis são mantidas no seu valor médio.
De acordo com a Figura 3, o nitrogênio amoniacal do mosto, a variável mais impactante para o modelo segundo a análise de sensibilidade, influencia negativamente no rendimento da fermentação. Isso acontece devido a uma excessiva multiplicação da levedura na presença de elevados teores de nitrogênio amoniacal no mosto. Esse crescimento desvia grande parte do açúcar, não só para a formação da biomassa, mas também para o glicerol acoplado a esse crescimento. Valores de teor alcoólico influenciam negativamente na fermentação acima da concentração de 10%, o que não ocorre nas amostras disponíveis [16].
CONCLUSÕES
A MLP construída foi capaz de modelar satisfatoriamente o rendimento de fermentação alcoólica tanto para as amostras de treinamento quanto para amostras de teste. O resultado satisfatório encontrado utilizando o Banco de Dados 5 mostrou que com um conjunto de apenas 13 variáveis independentes foi possível criar um modelo da fermentação alcóolica eficiente. Os resultados apresentados pela RBF mostraram que o modelo criado não se adéqua bem ao tipo de problema proposto.
AGRADECIMENTOS
Agradecemos ao CNPq pela concessão das bolsas de IC e IT. A CAPES pela concessão da bolsa de mestrado. E, ao IAPAR que forneceu as amostras utilizadas no trabalho.
REFERÊNCIAS
[1] KOHLHEPP, G. Análise da situação da produção de etanol e biodiesel no Brasil. Estudos Avançados, v.24, n.68, p.223-253, 2010.
[2] MANTOVANELI, I. C.; COSTA, A. C.; MACIEL FILHO, R. Hybrid neural network model for alcoholic fermentation processes with multiple stages. In: 2nd MERCOSUR CONGRESS ON CHEMICAL ENGINEERING, 10., Costa Verde – RJ, 2005. Disponível em: <http://www.enpromer2005.eq.ufrj.br/nukleo/pdfs/0118_mantovaneli. pdf>, Acesso em: 02/03/2010.
[3] OLIVEIRA, A. C. S.; SOUZA, A. A.; LACERDA, W. S.; GONÇALVE, L. R. Aplicação de redes neurais artificiais na previsão da produção de álcool. Ciência e Agrotecnologia, v.34, n.2, p.279-284, 2010.
[4] HAYKIN, S. Redes Neurais: Princípio e Práticas. 2 ed. Porto Alegre: Bookman, 900p, 2001.
[5] MELEIRO, L. A. C.; VON ZUBEN, F. J.; MACIEL FILHO, R. Constructive learning neural network applied to identification and control of fuel-ethanol fermentation process. Engineering Aplications of Artificial Intelligence, v.22, p.201-215, 2009.
[6] GURNEY, K.; Uma Introdução à Redes Neurais. London: Routledge, 1997.
[7] BASHEER, I. A.; HAJMEER, M. Artificial neural networks: fundamentals, computing, design, and application. Journal of Microbiological Methods, v.43, p.3-31, 2000.
[8] EYNG, E. Controle Feedforward baseado em redes neurais aplicado a coluna de absorção do processo de produção de etanol. Campinas: UNICAMP, Dissertação (Mestrado), 2006. [9] TUDU, B; JANA, A; METLA, A; GHOSH, D; BHATTACHARYYA, N;
BANDYOPADHYAY, R. Eletronic nose for black tea quality evaluation by an incremental RBF network. Sensors and Actuators B: Chemical, v.138, p.90-95, 2009. [10] MARINI, F. Artificial neural networks in foodstuff analyses: Trends and perspectives -
A review. Analytica Chimica Acta, v.635, p.121-131, 2009.
[11] BISHOP, C. M. Neural Networks for Pattern Recognition. Oxford: Oxford University, 482p, 1995.
[12] GAO, F.; HAN, L. Implementing the Nelder-Mead simplex algorithm with adaptive parameters. Comput. Optim. Appl. 51:259–277, 2012.
[13] BONA, E.; BORSATO, D.; SILVA, R. S. F.; HERRERA, R. P. Aplicativo para otimização empregando o método simplex seqüencial. Acta Scientiarum, p. 1201-1206, 2000.
[14] MONTGOMERY, D.C.; PECK, E.A. Introduction to linear regression analysis. 2.ed. New York: John Wiley & Sons, Inc., 527p, 1992.
[15] HUNTER, A.; KENNEDY, L.; FERGUSON, I. Application of neural networks and sensitivity analysis to improved prediction of trauma survival. Computer Methods and Programs in Biomedicine, p.11-19, 2000.
[16] AMGARTEN, E.L. Estudo da viabilidade de uso de redes neurais artificiais para a predição do rendimento da fermentação alcoólica.Tese (Mestrado em Biotecnologia) – Universidade Positivo, Curitiba – PR. 89p. 2012
