Este capítulo está reservado à aplicação dos modelos de previsão ao data set. Foi criado um workflow no KNIME para criar o modelo de previsão que tem 4 outputs o SH1, SH2, SH3 e SH4. Na Figura 10 está demonstrado o workflow mas apenas está visível os nós de previsão para a variável SH4. Serão apresentados também neste capítulo os resultados da avaliação dos modelos para cada período que queremos prever.
O capítulo está dividido em 4 partes, as três primeiras partes é apresentado cada modelo aplicado e uma última parte com os resultados obtidos e alguns estudos específicos com os modelos de melhor desempenho.
Foi efetuado um ensaio preliminar para verificar se o modelo com toda a informação (de todos os tempos em estudo da API) funcionava melhor do que apenas o do tempo que queremos prever e concluí que o erro desce significativamente com o uso de apenas dos dados dos sensores e a previsão da API para esse determinado tempo.
Para ser possível comparar os resultados dos modelos os dados foram normalizados. Em todos os resultados apresentados foi efetuada a comparação com o uso de dados da API e comparado com a utilização apenas de dados lidos pelos sensores.
38
Multilayer perceptron/ Perceptron Multicamada
Feitos alguns testes e seguindo orientações de alguns dos estudos referenciados anteriormente, foi escolhido, para formar o algoritmo de aprendizagem, apenas uma camada escondida com três neurónios conforme demonstrado na Figura 11.
O resultado obtido no modelo de aprendizagem pode ser estudado pela analise aos coeficientes que compõe o algoritmo, como exemplo na Figura 12 é possível verificar os valores obtidos no modelo para previsão de SH4 com a informação dos sensores e da API para o momento 4.
Figura 11 - Configuração do Nó de aprendizagem MLP no KNIME
39
Regression trees / Árvores de Regressão
Este modelo apresenta uma menor capacidade de prever com exatidão, como mostra a Figura 13 os valores variam em degrau.
Figura 13 - Gráfico KNIME da variável SH4 e da Previsão SH4 do modelo Regression Trees
Para consultar a arvore de regressão criada, no KNIME é possível verificar que a árvore vai crescendo até enquadrar todos os valores, é apresentado na figura 14 apenas o nó central.
40
Polynomial Regression / Regressão Polinomial
Para determinar que grau de polinómio escolher para aprendizagem do modelo, efetuaram-se testes fazendo variar o grau e analisado o erro pelo MSE. Conclui-se que os resultados melhoraram quando utilizado ao polinómio de segundo grau e o erro aumentava significativamente quando passado do terceiro para o quarto grau.
Figura 15 - Configuração do Nó de aprendizagem POLYNOMIAL REGRESSION no KNIME
Como no modelo MLP, na Figura 8 são apresentados os valores que compõe a função polinomial do modelo de previsão para SH4. Modelo aprendido com os dados dos sensores e da API para o momento 4.
41
Resultados
Neste capitulo são apresentados os resultados dos indicadores de avaliação aos modelos aplicados. Os resultados estão agregados por variável prevista juntando os modelos aplicados.
SH1 - primeira previsão horária da humidade do solo
Foram utilizadas as seguintes variáveis para criar o modelo: SoilHum; AirHum; AirTemp; SoilTemp; humidity1; ozone1; precipIntensity1; precipProbability1; pressure1; temperature1; windBearing1; windSpeed1; SH1
Resultados obtidos nas Tabela 9 , 10 e 11.
De referir que o valor apresentado do MSE de 0 na Tabela 10 fazendo o calculo o resultado obtido é 0,0004 mas como o KNIME arredonda a 3 casas apresenta o valor de 0.
Posteriormente foi testado o modelo sem dados da API – com as variáveis: SoilHum; AirHum; AirTemp; SoilTemp; SH1
Resultados obtidos nas Tabela 12 , 13 e 14.
Tal como aconteceu com o valor do MSE para o modelo polinomial com dados da API, efetuado o calculo indica 0.0005 que o KNIME arredondou para 0.001 apresentado.
Tabela 11 - SH1 no MLP Tabela 9 - SH1 no TREES Tabela 10 - SH1 no POLYNO.
Tabela 13 - SH1 sem API no TREES Tabela 12 - SH1 sem API no POLYNO. Tabela 14 - SH1 sem API no MLP
42
SH2 - segunda previsão horária da humidade do solo
Foram utilizadas as seguintes variáveis para criar o modelo: SoilHum; AirHum; AirTemp; SoilTemp; humidity2; ozone2; precipIntensity2; precipProbability2; pressure2; temperature2; windBearing2; windSpeed2; SH2
Resultados obtidos nas Tabela 15 , 16 e 17.
Posteriormente foi testado o modelo sem dados da API – com as variáveis: SoilHum; AirHum; AirTemp; SoilTemp; SH2
Resultados obtidos nas Tabela 18, 19 e 20.
Tabela 17 - SH2 no MLP Tabela 16 - SH2 no POLYN.
Tabela 18 - SH2 sem API no MLP Tabela 20 - SH2 sem API no TREES Tabela 19 - SH2 sem API no POLYN.
43
SH3 - terceira previsão horária da humidade do solo
Foram utilizadas as seguintes variáveis para criar o modelo: SoilHum; AirHum; AirTemp; SoilTemp; humidity3; ozone3; precipIntensity3; precipProbability3; pressure3; temperature3;windBearing3; windSpeed3; SH3
Resultados obtidos nas Tabela 21 , 22 e 23.
Posteriormente foi testado o modelo sem dados da API – com as variáveis: SoilHum; AirHum; AirTemp; SoilTemp; SH3
R Resultados obtidos nas Tabela 24 , 25 e 26.
Tabela 26 - SH3 sem API no MLP Tabela 25 - SH3 sem API no TREES Tabela 24 - SH3 sem API no POLYNO.
Tabela 21 - SH3 no TREES
44
SH4 - quarta previsão horária da humidade do solo
Foram utilizadas as seguintes variáveis para criar o modelo: SoilHum; AirHum; AirTemp; SoilTemp; humidity4; ozone4; precipIntensity4; precipProbability4; pressure4; temperature4; windBearing4; windSpeed4; SH4
Resultados obtidos na Tabela 27, 28 e 29:
Posteriormente foi testado o modelo sem dados da API – com as variáveis: SoilHum; AirHum; AirTemp; SoilTemp; SH4
Resultados obtidos na Tabela 30, 31 e 32:
Tabela 32 - SH4 sem API no MLP Tabela 31 - SH4 sem API no TREES Tabela 30 - SH4 sem API no POLYNO.
45 Resumindo os resultados, e para uma melhor leitura, é apresentado no gráfico 2, 3 e 4 os erros médios quadrados para os diferentes modelos testados.
Gráfico 2 - Comparação de resultados do MLP
De verificar que no início o modelo MPL apresenta o mesmo MSE, sendo que nas horas seguintes, sem dados da API, tem um melhor comportamento, mas no momento 4, com uma diferença no MSE de 0,003 para 0,004, apresenta melhor previsão com dados API.
Gráfico 3 - Comparação de resultados do TREES
O modelo Regression Trees apresenta o mesmo resultado de MSE para com e sem dados da API, ou seja, para este modelo os dados não apresentam melhoria na previsão.
0
0,001
0,002
0,003
0,004
0,005
SH1
SH2
SH3
SH4
MLP
Com API
Sem API
0
0,002
0,004
0,006
0,008
SH1
SH2
SH3
SH4
Regression Trees
Com API
Sem API
46
Gráfico 4 - Comparação de resultados do POLYNOMIAL
O modelo Polynomial apresenta ganhos na avaliação com a utilização dos dados da API. Inicialmente iguala o resultado com e sem dados API, depois termina na quarta previsão com uma diferença de MSE de 0.002 para 0.003.
Os melhores modelos de regressão apresentados foram o MLP e o POLYNOMIAL REGRESSION, tendo o último melhor avaliação.
Outros estudos
Após o estudo dos modelos, foram selecionados para mais testes os dois algoritmos com melhor resultado da MSE, deixando o Regression Trees de fazer sentido para o estudo pelo erro apresentado. E dado que o erro vai aumentando com o afastamento do momento da leitura os próximos estudos serão apenas aplicados sobre a previsão de SH4.
O primeiro estudo subsequente efetuado foi para confirmar a importância para a precisão do modelo do processo de retirar as grandes variações. O modelo foi novamente corrido sem este step e os resultados obtidos estão nas tabelas 33 e 34. Foi possível assim determinar que estas ações aleatórias de aumento da humidade criam muitos erros na aprendizagem e previsão do modelo. O erro medio quadrado quadruplica.
0
0,0005
0,001
0,0015
0,002
0,0025
0,003
0,0035
SH1
SH2
SH3
SH4
Polynomial
Com API
Sem API
47
Tabela 34 - SH4 no MLP sem grandes variações
Conclui-se que é melhor retirar as grandes variações, e também que o modelo MPL consegue melhor desempenho com a aleatoriedade.
O segundo estudo subsequente ao estudo inicial foi analisar a alteração dos dados de treino para os meses de maio, junho e os dados de teste para julho. Com esta alteração queremos estudar a importância de aprender com uma base de treino maior. Foram mantidas as condições apresentadas anteriormente (sem retirar as grandes variações). Os resultados são apresentados nas Tabelas 35 e 36.
Com este resultado concluimos que ambos modelos melhoram o seu desempenho na previsão do SH4, por isso é sempre melhor aumentar os dados de treino com as informações que vão sendo testadas.
De seguida foi efetuada a alteração dos dados de treino para o mês de junho e os dados de teste para julho até dia 24, o objetivo foi verificar se apenas com dados mais próximos da nossa previsão conseguimos ou não melhores previsões. Os resultados obtidos são apresentados na tabela 37 e 38, a avaliação dos dois modelos pioram o desempenho principalmente o polynomial regression, que tinha apresentado uma melhoria com o aumento da base de treino. Os dois modelos e ficam igualados em MSE.
Tabela 33 - SH4 no POLYNOMIAL sem grandes variações
Tabela 35 - SH4 no MLP aumento
48 Após estes testes com a alteração dos dados de treino, retiramos a conclusão que o melhor para o modelo é ter os dados mais recentes e trabalhar com dois ou três meses. O modelo deve trabanhar com “sliding window”, sendo que cada leitura nova deixa cair a mais antiga.
Posteriormente foi testada a relevância das variáveis dos sensores e qual a sua importância no modelo. Tal como nos últimos testes efetuados foram utilizados os modelos MLP e POLYNOMIAL REGRESSION para a previsão da variável SH4, foram retiradas as grandes variações e utilizadas como dados de treino o mês de maio e os meses de junho e julho para dados de teste. Para ambos os modelos foram retiradas as variáveis “Airhum” e “Airtemp” e foram obtidos os resultados da Tabela 39 e 40.
Foi possível concluir que a retirada destas duas variáveis o resultado melhorou para o modelo MPL e teve um pequeno aumento do MSE para a regressão polinomial. Concluímos que é possível simplificar o nó emissor retirado o sensor DHT22, minimizando os gastos e o tempo de leitura.
De seguida foi analisado a importância da outra variável fornecida pelo sensor de temperatura do solo “SoilTemp”. O modelo foi corrido apenas com a variável de sensores “SoilHum” e os dados da API. Foram retiradas as grandes variações e utilizadas como dados de
Tabela 37 - SH4 no MLP
49 treino o mês de maio e os meses de junho e julho para dados de teste. A avaliação visível nas Tabelas 41 e 42 permitiu concluir que os resultados obtidos pioram nos dois modelos, mas para um a perda de ganho é insignificativa e no outro modelo a perda é grande.
Com a retirada desta variável do modelo também pode ser descartado o sensor de temperatura do solo, deixando o nó emissor da rede apenas com o sensor de humidade de solo que indica o valor da variável a prever. Com esta simplificação do nó o modelo que melhor consegue prever a humidade do solo é o MPL.
Foram tentadas outras abordagens que foram descritas na revisão bibliográfica mas não foi obtido nenhum resultado comparável ao que foi obtido. Foi abordado o modelo SVM mas não foi obtido nenhum resultado. Outra abordagem foi a criação de clusters pelo método de k- means, agregando os valores de humidade em “patamares” e utilizar outros modelos de análise de dados para classificar, mas os resultados foram considerados piores que os obtidos pelo modelo com melhor avaliação (com a vantagem de o modelo prever um número e não uma categoria).
Outra tentativa de melhorar o resultado obtido foi fazer uma “construção temporal”, ou seja, utilizar no modelo de regressão as variáveis das previsões anteriores conforme o esquema apresentado na Figura 16. A ideia deste tipo de construção teve como objetivo inicial tirar partido da boa previsão dos valores para a hora seguinte. Em todos os modelos estudados anteriormente, o MSE para a primeira hora é muito baixo quando comparado com as outras horas. A introdução desta medida foi para dar ao modelo mais variáveis com os valores anteriormente.
Tabela 40 - SH4 no MLP sem "Airhum", "Airtemp" e "Soiltemp"
Tabela 39 - SH4 no
POLYNOMIAL sem "Airhum", "Airtemp" e "Soiltemp"
50 O resultado da MSE desta abordagem por modelo está resumido nos gráficos 5, 6 e 7 para as variáveis com dados da API. e nos gráficos 8, 9 e 10 para as variáveis só dos sensores.
Gráfico 5 - Resumo nova abordagem MLP com dados API
Gráfico 6 - Resumo nova abordagem TREES com dados API
Gráfico 7 - Resumo nova abordagem POLYNOMIAL com dados API
0 0,001 0,002 0,003 0,004 0,005 SH1 SH2 SH3 SH4
MLP
ABORDAGEM INICIAL NOVA ABORDAGEM 0 0,002 0,004 0,006 0,008 SH1 SH2 SH3 SH4TREES
ABORDAGEM INICIAL NOVA ABORDAGEM 0 0,001 0,002 0,003 0,004 0,005 SH1 SH2 SH3 SH4POLYNOMIAL
ABORDAGEM INICIAL NOVA ABORDAGEM PREVISÃO DADOS API DADOS SENSORES DADOS API DADOS SENSORES SH1 DADOS API DADOS SENSORES DADOS API DADOS SENSORES SH2 DADOS API DADOS SENSORES DADOS API DADOS SENSORES SH3 DADOS API DADOS SENSORES DADOS API DADOS SENSORES SH4SH1' Variável de previsão de SH1 pelo algoritmo SH2' Variável de previsão de SH2 pelo algoritmo SH3' Variável de previsão de SH3 pelo algoritmo
SH4 DATA SET
SH4
DATA TREINO DATA TESTE
SH1' SH1' SH2' SH3 SH2' SH3' SH1 SH1 SH2 SH2 SH3 SH3 SH1 SH1 SH2 SH1 SH1' SH2
51
Gráfico 8 - Resumo nova abordagem MLP sem dados API
Gráfico 9 - Resumo nova abordagem TREES sem dados API
Gráfico 10 - Resumo nova abordagem POLYNOMIAL sem dados API
Nesta abordagem o melhor resultado foi o modelo polinomial sem dados da API mas com um comportamento pior do que o mesmo modelo sem dados da API da abordagem inicial. Os modelos tiveram um desempenho pior exceto as regression trees, o que faz sentido dado que este modelo vai categorizando e dividindo tendo como base os valores das variáveis.
0 0,001 0,002 0,003 0,004 0,005 0,006 0,007 SH1 SH2 SH3 SH4
MLP
ABORDAGEM INICIAL NOVA ABORDAGEM 0 0,001 0,002 0,003 0,004 0,005 0,006 0,007 SH1 SH2 SH3 SH4TREES
ABORDAGEM INICIAL NOVA ABORDAGEM 0 0,001 0,002 0,003 0,004 0,005 SH1 SH2 SH3 SH4POLYNOMIAL
ABORDAGEM INICIAL NOVA ABORDAGEM52