6. Retornar cada parâmetro estimado ̂𝜌*𝑖 (𝑘|𝑁 ) para o espaço não transformado fazendo ̂
𝜌𝑖(𝑘|𝑁 ) = (̂𝜌*𝑖 − 𝜃𝑖) 𝛽𝑖−1, 𝑖 = 1, 2, ...𝑁 .
7. Plotar a relação não paramétrica entre o SDP 𝜌𝑖{𝒳𝑗(𝑘)} e o estado 𝒳𝑗(𝑘).
8. Se os pontos do gráfico mostram dependências, parametrizar estas relações não para- métricas usando alguns dos métodos apresentados na seção (2.5).
9. Obter uma nova estrutura não linear do modelo baseado no tipo de dependência obtida.
Como ja foi advertido no inicio desta seção, atualmente este algoritmo só funciona quando o modelo tem um único parâmetro que depende de um único estado.
5.3
Exemplo em modelo puramente estocástico
Este exemplo mostra o caso de um modelo puramente estocástico com um único SDP e a estimação é feita usando o método de transformações de dados (DT) proposto em 5.1. Como ja foi advertido, esta proposta de DT tem limitação no caso multiparamétrico; mesmo assim os resultados prévios deste estudo são originais e importantes.
Seja o modelo puramente estocástico
𝑦(𝑘) = cos (2, 8𝑦 (𝑘 − 1)) + 0, 3𝑦 (𝑘 − 2) + 𝑒(𝑘), (5.1)
𝑦(𝑘) = 𝑎1(𝑘) + 𝑎2(𝑘)𝑦(𝑘 − 2) + 𝑒(𝑘)
onde 𝑒(𝑘) é um ruido branco de média zero; o parâmetro 𝑎1(𝑘) = cos (2, 8𝑦 (𝑘 − 1)) é o único SDP do modelo, ele depende do estado 𝒳1(𝑘) = 𝑦(𝑘 − 1) e finalmente o parâmetro
𝑎2(𝑘) = 0, 3 é uma constante.
A estimação SDP é feita usando transformação de dados à média do sinal (DTM) e a zero (DTZ), i.e fazendo 𝜓 = 𝐸 {𝒳𝑗(𝑘)} e 𝜓 = 0 respectivamente, ver 5.1. Na Fig. 24 se mostra o resultado da estimação SDP no espaço transformado (acima) e a dependência obtida entre o parâmetro transformado ̂𝑎1 e o seu respectivo estado dependente 𝑦(𝑘 − 1) (abaixo).
Os resultados obtidos da parametrização usando Support Vector Regression (SVR) são resumido na Tabela 5. A complexidade do modelo foi escolhida como 𝐶 = 400 para o teste de validação cruzada em todos os casos. Para comparar, o SVR padrão também foi aplicado no problema, onde (5.1) foi diretamente aproximado usando (2.24). São mostradas a precisão 𝜀, o número de vetores suporte (NSV) e o erro quadrático médio (MSE) do erro predito e dos parâmetros do modelo. Em todos os exemplos, as funções de Kernel foram do tipo gaussiano.
5.3. Exemplo em modelo puramente estocástico 47 0 100 200 300 400 500 600 700 800 900 1000 −1 −0.5 0 0.5 1
Estimação SFIS − DTM do estado y(k−1)
k â1 *(k) −2 −1.5 −1 −0.5 0 0.5 1 1.5 −2 −1 0 1 2
Estimação SDP − espaço não transformado
y(k−1)
â1
y(k−1)
Figura 24 – Estimação do SDP ̂𝑎*1(𝑘) no espaço transformado usando transformação de dados (acima). Dependência real (abaixo - círculos) e estimada (abaixo - x).
Tabela 5 – Resultados da parametrização SVR na identificação do SDP para o exemplo pu- ramente estocástico usando transformação de dados.
Método 𝜀 NSV MSE (𝑦 − ̂𝑦) MSE (𝑎1− ̂𝑎1) Teste Valor real
SVR Standard 0,1 613 0,1729 - - 0,2 443 0,1778 - - 0,3 386 0,1781 - - 0,4 257 0,1845 - - TDR 0,1 343 0,1560 0,0212 0,1662 0,2 87 0,1914 0,0219 0,2238 0,3 63 0,2253 0,0655 0,2796 0,4 15 0,3341 0,0483 0,3970 DTM 0,1 345 0,2621 0,0336 0,2379 0,2 193 0,3471 0,0369 0,3090 0,3 123 0,3595 0,0655 0,3190 0,4 47 0,3581 0,0515 0,3290 DTM-unbiased 0,1 345 0,0431 - 0,0761 0,2 193 0,0230 - 0,0743 0,3 123 0,0099 - 0,0955 0,4 47 0,0272 - 0,1347 DTZ 0,1 407 0,0344 0,0380 0,0718 0,2 152 0,0281 0,0376 0,0842 0,3 92 0,0201 0,0444 0,1011 0,4 51 0,0297 0,0547 0,1413
5.3. Exemplo em modelo puramente estocástico 48
Figura 25 – Modelamento SVR dos parâmetros que dependem do estado (𝐶 = 400 e 𝜀 = 0, 2). As linhas tracejadas representam a verdadeira dependência entre o parâmetro
𝛼1 e o estado 𝑦(𝑘 − 1); a linha sólida representa a aproximação SVR desta dependência.
Da Tabela 5 pode se apreciar que o melhor modelo obtido neste caso foi o DTZ. Na Fig. 25 pode-se apreciar os resultados da parametrização mediante SVR para cada tipo de transformação de dados: reordenamento temporal (TDR), transformação à média (DTM) e à zero (DTZ).
No caso DTM quando os dados são reordenados é gerado um viés (bias), como se mostra na Fig. 25. Então para melhorar os resultados foi subtraída a diferença entre a média dos dados transformados e a dos dados não transformados. Depois disso os resultados dos métodos DTM-unbiased (não viesado) e DTZ são similares.
49
Conclusão
Algumas contribuições para a estimação de parâmetros dependentes do estado em modelos de regressão não lineares foram apresentadas nesta tese. Inicialmente foi implemen- tado o algoritmo de estimação SDP Off-Line, baseado na proposta de Peter Young. Depois, foi proposto e testado o caso de fator do filtro 𝛼 igual a um valor relativamente baixo e fixo, considerando a possibilidade de regressores e estados diferentes no modelo. Foi mostrado que esta escolha permite que a forma da dependência estimada seja mais flexível, característica importante no caso de aplicações em tempo real. Também permite uma execução muito mais rápida do algoritmo em comparação com o CAPTAIN pois este último otimiza continuamente o fator de esquecimento 𝛼. A consideração proposta para o fator de filtro melhora conside- ravelmente os resultados em regiões onde se tem poucas amostras dos estados. Também se implementou a possibilidade do reordenamento de dados em função do estado, isto permite a aplicação do nosso algoritmo em modelos com regressores unitários como no exemplo 5.2.
Depois do estudo do modo SDP Off-Line, foi implementado o modo On-Line, baseado em uma janela retangular que se move com a chegada de novos dados. Neste caso foram propostas quatro opções de reinicio ou referência inicial de parâmetros para cada janela: parâmetro estimado mediante SFIS, similar à inicialização no caso Off-Line; parâmetros estimados e não parametrizados mediante o algoritmo de estimação Off-Line; parâmetros obtidos mediante o algoritmo de estimação SDP Off-Line e logo ajustados mediante SVR ou SFB; ou finalmente parâmetros estimados e ajustados mediante métodos de parametrização
On-Line. Foram apresentadas as vantagens e desvantagens de cada caso e concluímos que a
escolha de referência depende do tipo de problema.
O algoritmo desenvolvido demostrou ter utilidade prática na área de detecção de falhas paramétricas. Para isto, foi simulado um caso de falha induzida em um parâmetro do modelo de quatro tanques e conseguimos não só detetar que uma falha aconteceu no modelo previamente estimado, mas também foi possível detetar exatamente o parâmetro que falhou. O tempo da detecção da falha foi bom, especialmente para o caso de aplicação em tempo real.
As implementações em Matlab dos algoritmos de estimação SDP Off-Line e On-Line conformam o Toolbox INCA, que demostrou ter um rendimento aceitável e até melhor que o do CAPTAIN, que é limitado ao caso Off-Line. Ele é bem mais flexível a mudanças no modelo e esta apresentado no Apêndice A.
50
Referências Bibliográficas
ÅKESSON, B. M.; TOIVONEN, H. T. State-dependent parameter modelling and identification of stochastic non-linear sampled-data systems. Journal of Process Control, Elsevier BV, v. 16, n. 8, p. 877–886, Sep 2006. ISSN 0959-1524. Citado na página 1. ALEGRIA, E. J. Identification of state-dependent parameter models using data transformation. XXI International Conference on Electronics, Electrical and Computing
INTERCON, p. 111–115, 2014. Citado na página 43.
BAR-SHALOM, Y.; LI, X.-R.; KIRUBARAJAN., T. Estimation with Applications to
Tracking and Navigation. New York (N.Y.), Chichester, Weinheim: John Wiley & Sons, Inc.
cop., 2001. ISBN 0-471-41655-X. Disponível em: <http://opac.inria.fr/record=b1132468>. Citado na página 1.
CORTES, C.; VAPNIK, V. Support vector networks. Machine Learning, v. 20, p. 273–297, 1995. Citado na página 13.
DOLBY, J. L. A quick method for choosing a transformation. Technometrics, v. 5, p. 317–325, 1963. Citado na página 44.
FERNANDEZ, R.; BLESA, J.; PUIG, V.; TORNIL, S. Set-membership identification and fault detection using a Bayesian framework. International Journal of Systems Science, Informa UK Limited, Aug 2014. ISSN 1464-5319. Citado na página 32.
HAYKIN, S. Neural Networks: A Comprehensive Foundation. [S.l.]: Prentice Hall, 1994. Citado na página 16.
HU, J.; KUMAMURA, K.; HIRASAWA, K. A quasi-ARMAX approach to modeling of nonlinear systems. International Journal of Control, v. 74, p. 1754–1766, 2001. Citado na página 1.
HU, J.; KUMAMURA, K.; INOUE, K.; HIRASAWA, K. A hybrid quasi-ARMAX modeling scheme for identification and control of nonlinear systems. Transactions of the
society of instrument and Control Engineers, v. 34, p. 977–985, 1998. Disponível em:
<http://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=572710>. Citado na página 1. JAZWINSKI, A. H. Stochastic Processes and Filtering Theory. [S.l.]: Dover publications, 2007. Citado 2 vezes nas páginas 1 e 8.
JOHANSSON, K. H. The quadruple-tank process: a multivariable laboratory process with an adjustable zero. v. 8, n. 3, p. 456–465, 2000. Disponível em: <http://ieeexplore.ieee.org/ stamp/stamp.jsp?arnumber=845876>. Citado na página 32.
LJUNG, L. System Identification: Theory for the User. [S.l.]: Prentice Hall, 1999. Citado 2 vezes nas páginas 1 e 7.
Referências Bibliográficas 51
NØRGAARD, M.; RAVN, O.; POULSEN, N. K.; HANSEN, L. K. Neural Networks for
Modelling and Control of Dynamic Systems. London: Springer Verlag, 2000. Citado na página 2.
NORTON, J. An Introduction to Identification. [S.l.]: Dover Publications, 2009. Citado 2 vezes nas páginas 1 e 8.
PREVIDI, M. L. F. Identification of a class of non-linear parametrically varying models. INTERNATIONAL JOURNAL OF ADAPTIVE CONTROL AND SIGNAL
PROCESSING, v. 17, p. 33–50, 2003. Citado na página 1.
PRIESTLEY, M. Non-linear and non-stationary time series analysis. Academic Press,
London, 1988. Citado na página 1.
QUEVEDO, J. B. T. Propostas para modelagem computacional de séries temporais e de
sistemas multivariáveis variantes no tempo no espaço de estado. Dissertação (Mestrado) —
Unicamp, 2013. Citado na página 1.
SADESHI W. TYCH, A. C. J.; YOUNG, P. Multi-state dependent parameter model identification and estimation for nonlinear dynamic systems. Electronics Letters, v. 46, n. 18, p. 1265–1266, 2010. Disponível em: <http://ieeexplore.ieee.org/stamp/stamp.jsp? arnumber=5567049>. Citado na página 21.
SCHÖLKOPF, B.; SMOLA, A. J. Learning with Kernels: Support Vector Machines,
Regularization, Optimization, and Beyond. Cambridge, MA, USA: MIT Press, 2001. Citado
na página 16.
SJÖBERG, J.; ZHANG, Q.; LJUNG, L.; BENVENISTE, A.; DELYON, B.; GLORENNEC, B.; HJALMARSSON, H.; JUDITSKY, A. Non-linear black-box modeling in system identification: a unified overview. Automatica, v. 31, p. 1691–1724, 1995. Citado na página 2.
SMOLA, A. J.; SCHÖLKOPF, B. A tutorial on support vector regression. Statistics and
Computing, v. 14, p. 199–222, 2004. Citado 2 vezes nas páginas 2 e 13.
SUYKENS, J. A.; VANDEWALLE, J. P.; de Moor, B. Artificial Neural Networks for
Modelling and Control of Non-Linear Systems. Boston: Kluwer Academic Publishers, 1996.
Citado na página 2.
TAYLOR, C.; PEDREGAL, D.; YOUNG, P.; TYCH, W. Environmental time series analysis and forecasting with the captain toolbox. Environmental Modelling & Software, Elsevier BV, v. 22, n. 6, p. 797–814, Jun 2007. ISSN 1364-8152. Disponível em: <http://dx.doi.org/10.1016/j.envsoft.2006.03.002>. Citado 2 vezes nas páginas 2 e 19. TOIVONEN, H. T.; TÖTTERMAN, S.; ÅKESSON, B. Identification of state-dependent parameter models with support vector regression. International Journal of Control, v. 80, n. 9, p. 1454–1470, Sep 2007. Citado na página 1.
TÖTTERMAN, S.; TOIVONEN, H. T. Support vector method for identification of wiener models. Journal of Process Control, Elsevier BV, v. 19, n. 7, p. 1174–1181, Jul 2009. ISSN 0959-1524. Citado na página 1.
Referências Bibliográficas 52
VAPNIK, V. N. The nature of statistical learning theory. New York: Springer-Verlag, 1995. Citado 2 vezes nas páginas 13 e 14.
YOUNG, P. Applying parameter estimation to dynamic systems. Part I: Theory, Control
Engineering, v. 16, p. 119–124, 1969. Citado na página 1.
YOUNG, P. Stochastic, dynamic modelling and signal processing: time variable and state dependent parameter estimation. In: Nonlinear and Nonstationary Signal Processing:
Cambridge. [S.l.: s.n.], 2000. p. 74–114. Citado 3 vezes nas páginas 1, 2 e 19.
YOUNG, P.; MCKENNA, P.; BRUUN, J. Identification of non-linear stochastic systems by state dependent parameter estimation. International Journal of Control, v. 74, n. 18, p. 1837–1857, 2001. Citado 2 vezes nas páginas 1 e 11.
YOUNG, P. C. Recursive Estimation and Time-Series Analysis. 2. ed. [S.l.]: Springer-Verlag, 2011. ISBN 978-3-642-21980-1. Citado 4 vezes nas páginas 1, 7, 8 e 9.
53
Apêndice A – O Toolbox INCA para Matlab
O Toolbox de Identificação Não-Linear para Controle Automático (INCA) foi desen- volvido em Matlab como parte desta tese e atualmente provê os algoritmos recursivos para estimação paramétrica mostrados neste trabalho e também contém exemplos numéricos que servem como ferramente didática. Estes algoritmos foram desenvolvidos desde o ano 2013 até a atualidade no Laboratório de Controle e Sistemas Inteligentes (LCSI) da Faculdade de En- genharia Elétrica e Computação da Universidade Estadual de Campinas (FEEC-UNICAMP) e foram baseados na minha experiência adquirida no curso de mestrado na Área de Automa- ção desta universidade.
O principal aporte do Toolbox INCA é a implementação dos algoritmos para esti- mação On-Line da dependência estado-parâmetro em modelos ARX-SDP. Neste caso foram consideradas interfaces visuais para monitorar as distintas dependências assim como para detetar o momento em que uma mudança considerável acontece no sistema. O exemplo dos quatro tanques, mostrado na seção 4.2, também é incluído junto com os respectivos dados não apenas para o caso MISO, apresentado nesta tese para fins didáticos, como também para o caso MIMO que considera a dinâmica de todos os tanques.
Um outro objetivo do INCA, é que seja disponibilizado livremente para que sirva como ferramenta didática nas disciplinas que envolvam estimação paramétrica recursiva. Também desejamos que ele seja uma plataforma base que possa se enriquecer com os aportes futuros de pesquisadores. Por enquanto o toolbox só pode ser obtido através do meu e-mail ejara@dsif.fee.unicamp.br. Pretendemos disponibilizá-lo no site da FEEC-UNICAMP.
Rotinas e arquivos disponibilizados
Para o uso deste toolbox, nenhum tipo de instalador adicional é necessário, apenas é preciso que todos os arquivos abaixo estejam na mesma pasta de trabalho do Matlab. O usuário precisa modificar as rotinas ou funções que já estão prontas para o tipo de estimação recursiva que nos propusemos resolver. Mesmo assim os códigos das rotinas ou funções estão disponibilizados para quem quiser modificá-los. Se espera que as contribuições assim feitas também sejam compartilhadas com a comunidade.
As principais rotinas e exemplos demostrativos, nomeadas como Demo, são mostradas a seguir:
54 ∙ estimation_sdp.m ∙ estimation_sdp_online.m ∙ estimation_sfis.m ∙ estimation_tvpgrw.m ∙ estimation_lsr.m ∙ parametrization.m ∙ ordenar.m e reordenar.m ∙ DemoExemplo1.m ∙ DemoExemplo2.m ∙ DemoExemplo2online.m ∙ DemoExemplo3.m ∙ DemoSFIS.m
A explicação detalhada de cada uma das rotinas, i.e. os formatos das entradas e o tipo de saída assim como suas configurações, estão bem documentadas em português no help de cada rotina de cada algoritmo e escrevê-los aqui faria o texto ficar muito longo.
As rotinas ordenar.m e reordenar.m, apesar das suas simplicidades, foram conside- radas funções, pois atualmente estamos trabalhando em ordenamentos especiais que possam melhorar nosso algoritmo particularmente no modo On-Line.
Os modelamentos não lineares ARX-SDP são resolvidos com as rotinas estimation_sdp.m e estimation_sdp_online.m, para os casos Off-Line e On-Line respectivamente, e não in- cluem etapa de parametrização. A função estimation_sdp_online.m pode ser configurada para cada tipo de aplicação; por exemplo para o caso de detecção de falhas paramétricas pode-se monitorar visualmente e em tempo real o comportamento das dependências estima- das.
A função parametrization.m tem implementadas as parametrizações que foram uti- lizadas nesta tese: regressão por vetores suporte e por soma de funções base. Atualmente estamos trabalhando melhorias nessa função, que merece um amplo estudo pois existem muitos tipos de parametrização ou de ajuste dependendo do tipo de aplicação.