ALGORITMOS DE NUVEM DE PART´ ICULAS E A OTIMIZAC ¸ ˜ AO COM MUITOS OBJETIVOS
Disserta¸c˜ ao apresentada como requisito par- cial ` a obten¸c˜ ao do grau de Mestre. Pro- grama de P´ os-Gradua¸c˜ ao em Inform´ atica, Setor de Ciˆ encias Exatas, Universidade Fe- deral do Paran´ a.
Orientadora: Profa. Dra. Aurora Trinidad Ramirez Pozo
CURITIBA
2013
SUM ´ ARIO
LISTA DE FIGURAS iii
LISTA DE TABELAS iv
RESUMO v
ABSTRACT vii
1 INTRODUC ¸ ˜ AO 1
1.1 Introdu¸c˜ ao . . . . 1
1.2 Objetivos . . . . 4
1.3 Contribui¸c˜ oes . . . . 5
1.4 Organiza¸c˜ ao . . . . 6
2 TRABALHOS RELACIONADOS 8 3 OTIMIZAC ¸ ˜ AO POR NUVEM DE PART´ ICULAS 14 3.1 Otimiza¸c˜ ao multiobjetivo . . . . 17
3.2 Otimiza¸c˜ ao por nuvem de part´ıculas multiobjetivo . . . . 19
3.2.1 SMPSO . . . . 21
3.3 Problemas de benchmark . . . . 23
3.4 Medidas de desempenho . . . . 26
4 SMPSO COM CONTROLE AUTOM ´ ATICO DA ´ AREA DE DOMIN ˆ ANCIA 31 4.1 T´ ecnicas de controle da ´ area de dominˆ ancia aplicadas ao MOPSO . . . . . 31
4.2 Experimentos . . . . 35
4.3 An´ alise dos resultados . . . . 41 5 A INFLUˆ ENCIA DE T´ ECNICAS DE CONTROLE DA ´ AREA DE DO-
MIN ˆ ANCIA E M´ ETODOS DE ESCOLHA DE L´ IDERES 43
5.1 M´ etodos de escolha do l´ıder . . . . 43
5.1.1 Distˆ ancia de agrupamento . . . . 44
5.1.2 WSum (soma ponderada) . . . . 45
5.1.3 NWSum . . . . 46
5.1.4 Sigma . . . . 46
5.1.5 Oposto . . . . 47
5.1.6 Aleat´ orio . . . . 49
5.2 Experimentos . . . . 49
5.3 An´ alise dos resultados . . . . 53
6 SMPSO BASEADO EM PONTOS DE REFERˆ ENCIA 55 6.1 Nondominated Sorting Genetic Algorithm II . . . . 56
6.2 M-NSGA-II . . . . 57
6.3 RB-SMPSO . . . . 58
6.4 Pontos de referˆ encia . . . . 61
6.5 Experimentos . . . . 62
6.6 An´ alise dos resultados . . . . 67
7 CONCLUS ˜ AO 69
BIBLIOGRAFIA 77
LISTA DE FIGURAS
3.1 Exemplo de fronteira de Pareto . . . . 18
3.2 Fronteira real tridimensional para o problema DTLZ2 . . . . 24
3.3 Fronteira real tridimensional para o problema DTLZ4 . . . . 25
3.4 Fronteira real tridimensional para o problema DTLZ6 . . . . 26
3.5 Exemplos de fronteiras aproximadas. . . . 28
4.1 Representa¸c˜ ao do m´ etodo CDAS . . . . 32
4.2 Representa¸c˜ ao do m´ etodo S-CDAS . . . . 34
4.3 Valores de GD ao otimizar o problema DTLZ2 . . . . 36
4.4 Valores de GD ao otimizar o problema DTLZ6 . . . . 37
4.5 Valores de IGD ao otimizar o problema DTLZ2 . . . . 38
4.6 Valores de IGD ao otimizar o problema DTLZ6 . . . . 39
4.7 Valores de Spacing ao otimizar o problema DTLZ2 . . . . 40
4.8 Valores de Spacing ao otimizar o problema DTLZ6 . . . . 40
5.1 Ilustra¸c˜ ao do M´ etodo WSum . . . . 45
5.2 Ilustra¸c˜ ao do M´ etodo NWSum . . . . 46
5.3 Ilustra¸c˜ ao do M´ etodo Sigma [29] . . . . 47
5.4 Ilustra¸c˜ ao do M´ etodo Oposto . . . . 48
5.5 Valores de GD ao otimizar o problema DTLZ2 . . . . 50
5.6 Valores de IGD ao otimizar o problema DTLZ2 . . . . 51
5.7 Valores de Spacing ao otimizar o problema DTLZ2 . . . . 52
6.1 Valores de GD ao otimizar o problema DTLZ2. . . . . 64
6.2 Valores de IGD ao otimizar o problema DTLZ2. . . . 65
6.3 Valores de GD ao otimizar o problema DTLZ4. . . . . 66
6.4 Valores de IGD ao otimizar o problema DTLZ4. . . . 67
LISTA DE TABELAS
3.1 Valores de GD obtidos em [38] . . . . 28 4.1 Melhor configura¸c˜ ao de controle da ´ area de dominˆ ancia de acordo com o
GD para os problemas DTLZ2 e DTLZ4 de acordo com o teste de Friedman. 37 4.2 Melhor configura¸c˜ ao de controle da ´ area de dominˆ ancia de acordo com o
IGD para os problemas DTLZ2 e DTLZ4 de acordo com o teste de Friedman. 39 4.3 Melhor configura¸c˜ ao de controle da ´ area de dominˆ ancia de acordo com o
Spacing para os problemas DTLZ2 e DTLZ4 de acordo com o teste de Friedman. . . . 41 5.1 M´ etodos de escolha de l´ıder e controle da ´ area de dominˆ ancia com o melhor
GD de acordo com o teste de Friedman. . . . . 50 5.2 M´ etodos de escolha de l´ıder e controle da ´ area de dominˆ ancia com o melhor
IGD de acordo com o teste de Friedman. . . . 51 5.3 M´ etodos de escolha de l´ıder e controle da ´ area de dominˆ ancia com o melhor
Spacing de acordo com o teste de Friedman. . . . 52 6.1 Quantidade de pontos de referˆ encia de acordo com o n´ umero de objetivos. 63 6.2 Melhores algoritmos ao otimizar o problema DTLZ2 de acordo com o teste
de Friedman. . . . . 65 6.3 Melhores algoritmos ao otimizar o problema DTLZ4 de acordo com o teste
de Friedman. . . . . 66
RESUMO
Problemas de otimiza¸c˜ ao multiobjetivo (MOPs) s˜ ao problemas que possuem mais de uma fun¸c˜ ao objetivo a ser minimizada ou maximizada. Entre as abordagens mais utilizadas atualmente para resolvˆ e-los destaca-se o uso de metaheur´ısticas populacionais. Esta popu- laridade se deve principalmente ` a natureza destas de lidar simultaneamente com diversas solu¸c˜ oes (popula¸c˜ ao) em uma ´ unica execu¸c˜ ao.
Um algoritmo muito utilizado para lidar com MOPs ´ e chamado otimiza¸c˜ ao por nuvem de part´ıculas multiobjetivo (MOPSO), esta ´ e uma abordagem derivada da otimiza¸c˜ ao por nuvem de part´ıculas (PSO), que ´ e uma metaheur´ıstica inspirada no comportamento de conjuntos de aves.
Devido ao bom desempenho apresentado pelos MOPSOs ao resolver MOPs, esta abor- dagem vem sendo estendida para a resolu¸c˜ ao de problemas de otimiza¸c˜ ao com muitos objetivos (MaOPs). Estes problemas s˜ ao caracterizados por apresentarem mais de trˆ es fun¸c˜ oes objetivo e uma alta complexidade causada principalmente porque a propor¸c˜ ao de solu¸c˜ oes n˜ ao dominadas em uma popula¸c˜ ao aumenta rapidamente com o n´ umero de objetivos, o que diminui a press˜ ao de sele¸c˜ ao em dire¸c˜ ao ` a fronteira de Pareto. Al´ em disso, o n´ umero de pontos necess´ arios para representar a fronteira aumenta exponencial- mente de acordo com o n´ umero de objetivos dificultando a obten¸c˜ ao de solu¸c˜ oes diversas o suficiente para cobri-la totalmente.
Este trabalho apresenta algumas t´ ecnicas aplicadas para melhorar o desempenho do MOPSO ao resolver MaOPs e torn´ a-lo menos sens´ıvel ao aumento no n´ umero de objetivos.
Primeiramente estudaram-se duas t´ ecnicas de controle da ´ area de dominˆ ancia das solu¸c˜ oes para aumentar a press˜ ao de sele¸c˜ ao, normalmente reduzida pelo aumento no n´ umero de objetivos.
Outra t´ ecnica estudada foi a altera¸c˜ ao do m´ etodo de sele¸c˜ ao de l´ıderes do MOPSO com a realiza¸c˜ ao de um estudo emp´ırico usando seis m´ etodos e os melhores foram destacados.
Foi estudada tamb´ em a influˆ encia sofrida por esses m´ etodos devido ` a altera¸c˜ ao na t´ ecnica
de controle da ´ area de dominˆ ancia, e as melhores combina¸c˜ oes foram identificadas atrav´ es de estudos emp´ıricos.
Por ´ ultimo um novo MOPSO ´ e proposto usando o conceito de pontos de referˆ encia distribuindo melhor as solu¸c˜ oes obtidas e com isso melhorando a convergˆ encia ` a fronteira real. Estudos emp´ıricos tamb´ em foram realizados para comparar a nova abordagem ` a abordagem cl´ assica.
A partir dos trabalhos realizados aqui trˆ es artigos foram publicados, sendo o primeiro um estudo sobre os m´ etodos de sele¸c˜ ao de l´ıderes, o segundo propondo um novo MOPSO que usa uma t´ ecnica de controle da ´ area de dominˆ ancia, e o terceiro que avalia a influˆ encia das t´ ecnicas de controle da ´ area de dominˆ ancia no desempenho dos m´ etodos de sele¸c˜ ao de l´ıder e identifica as melhores combina¸c˜ oes entre t´ ecnica de controle da ´ area de dominˆ ancia e m´ etodo de sele¸c˜ ao de l´ıder.
Em geral todos os estudos realizados apresentaram melhorias de desempenho em
rela¸c˜ ao ao algoritmo original utilizado, especialmente no contexto de muitos objetivos.
ABSTRACT
Multiobjective optimization problems (MOPs) are problems that have more than one objective function to be minimized or maximized. Among the approaches currently used to solve them we highlight the use of populational metaheuristics. This popularity is mainly due to its nature of dealing simultaneously with many solutions (population) in a single run.
An algorithm frequently used to deal with MOPs is called multiobjective particle swarm optimization (MOPSO), this approach is derived from the particle swarm optimi- zation (PSO), which is a metaheuristic inspired by the behavior of bird flocks.
Due to the good performance presented by MOPSOs to solve MOPs, this approach has been extended for solving many objective optimization problems (MaOPs). These problems are characterized by presenting more than three objective functions and a high complexity caused mainly because the proportion of non-dominated solutions in a popula- tion increases rapidly with the number of objectives, which reduces the selection pressure toward the Pareto frontier, moreover, the number of points to represent the frontier in- creases exponentially with the number of objectives becoming harder to obtain solutions diverse enough to cover it entirely.
This work presents some techniques applied to improve the performance of MOPSO to solve MaOPs and make it less sensitive to the increase in the number of objectives.
Firstly were studied the use of two techniques to control the dominance area of solutions to increase the selection pressure, typically reduced by the increase in the number of objectives.
The impact of the leader selection method was also studied. Six methods were inves- tigated experimentally and the best were highlighted. It was also studied the influence suffered by these methods due to the change in the control of the domination area of solutions, and the best combinations were identified through empirical studies.
Finally a new MOPSO is proposed using the concept of reference points to better
spread the solutions and thereby improve the convergence to the true frontier. Empirical studies were also conducted to compare the new approach with the classical one.
From the work done here three articles were published, the first being a study on methods of leader selection, the second proposes a new MOPSO that uses a method to control the dominance area of solutions, and the third that assesses the influence of techniques to control the dominance area of solutions in the performance of leader selection methods and identifies the best combination between the technique to control the dominance area of solutions and the leader selection method.
In general all studies showed performance improvements compared to the original
algorithm used, especially in the context of many objectives.
CAP´ ITULO 1 INTRODUC ¸ ˜ AO 1.1 Introdu¸ c˜ ao
V´ arios problemas reais envolvem a otimiza¸c˜ ao simultˆ anea de dois ou mais objetivos, que est˜ ao usualmente em conflito [42, 6]. Estes problemas s˜ ao chamados de problemas de oti- miza¸c˜ ao multiobjetivo (Multiobjective Optimization Problems (MOPs)). Na otimiza¸c˜ ao mono-objetivo, a solu¸c˜ ao ´ otima de um dado conjunto ´ e claramente determinada, entre- tanto na otimiza¸c˜ ao multiobjetivo com a ausˆ encia de informa¸c˜ oes de preferˆ encia n˜ ao h´ a uma maneira ´ unica ou direta de determinar se uma solu¸c˜ ao ´ e melhor que outra. Comu- mente se adota o conceito de dominˆ ancia de Pareto, usando esta rela¸c˜ ao normalmente n˜ ao ´ e poss´ıvel encontrar uma ´ unica solu¸c˜ ao ´ otima, mas um conjunto destas, que represen- tam diferentes rela¸c˜ oes entre os objetivos. Este conjunto ´ e chamado de conjunto ´ otimo de Pareto, e sua imagem no espa¸co de objetivos ´ e chamada de fronteira de Pareto [27].
Normalmente ao otimizar um MOP, entre as diversas solu¸c˜ oes encontradas preferem-se as que apresentem um bom compromisso entre os objetivos [9].
Apesar de terem sido desenvolvidas diversas t´ ecnicas na Pesquisa Operacional e outras disciplinas, a complexidade de se otimizar MOPs ainda desafia os pesquisadores. Entre as abordagens mais utilizadas atualmente, destacam-se os algoritmos evolucion´ arios mul- tiobjetivo (Multiobjective Evolutionary Algorithms (MOEAs)).
Esta popularidade se deve principalmente ` a natureza dos MOEAs de lidar simultane- amente com diversas solu¸c˜ oes poss´ıveis (popula¸c˜ ao), o que permite a gera¸c˜ ao de v´ arias solu¸c˜ oes potenciais em uma ´ unica execu¸c˜ ao. Al´ em disso, os MOEAs s˜ ao menos suscet´ıveis
`
a forma ou continuidade da fronteira de Pareto [9].
Uma metaheur´ıstica promissora para a otimiza¸c˜ ao de MOPs ´ e a otimiza¸c˜ ao por nuvem de part´ıculas multiobjetivo (Multi-Objective Particle Swarm Optimization (MOPSO)) [10].
Esta abordagem partilha muitas caracter´ısticas com os MOEAs, entre elas o conceito de
popula¸c˜ ao. O MOPSO ´ e derivado da otimiza¸c˜ ao por nuvem de part´ıculas (Particle Swarm Optimization (PSO)) [25], que consiste em uma metaheur´ıstica populacional inspirada no comportamento de conjuntos de aves, criada para otimizar fun¸c˜ oes n˜ ao lineares cont´ınuas.
Cada poss´ıvel solu¸c˜ ao, chamada part´ıcula, usa regras locais simples para guiar suas a¸c˜ oes, e atrav´ es de intera¸c˜ oes com o grupo, toda a popula¸c˜ ao, chamada de nuvem ou enxame (swarm) atinge seus objetivos. O conjunto de poss´ıveis solu¸c˜ oes se move atrav´ es espa¸co de busca em um procedimento cooperativo.
Estes movimentos s˜ ao executados por um operador que controla a velocidade das part´ıculas para uma determinada dire¸c˜ ao. Este operador ´ e guiado por trˆ es componen- tes, um local, um social e o inercial. O componente local de uma part´ıcula cont´ em a melhor solu¸c˜ ao encontrada pela pr´ opria part´ıcula durante toda a busca, o componente social representa a melhor solu¸c˜ ao encontrada por seus vizinhos, ou por todo o enxame, dependendo da topologia de vizinhan¸ca empregada, e o inercial define a influˆ encia da velocidade anterior da part´ıcula sobre a velocidade atual.
Para expandir o PSO de modo que seja poss´ıvel a otimiza¸c˜ ao de MOPs, com isso criando o MOPSO, normalmente duas altera¸c˜ oes s˜ ao efetuadas: a incorpora¸c˜ ao de um mecanismo de sele¸c˜ ao baseado na otimalidade de Pareto, e a ado¸c˜ ao de um mecanismo de preserva¸c˜ ao de diversidade que evita a convergˆ encia para uma ´ unica solu¸c˜ ao. O prop´ osito
´ e descobrir solu¸c˜ oes que n˜ ao s˜ ao dominadas por nenhuma outra no espa¸co de objetivos.
Em muitos problemas, a busca pelo conjunto Pareto ´ otimo ´ e NP-dif´ıcil [9], ent˜ ao estes algoritmos focam em encontrar um conjunto de aproxima¸c˜ ao (P F
known), o mais pr´ oximo poss´ıvel da fronteira de Pareto real (P F
true).
MOPSOs tˆ em apresentado bons resultados ao resolver MOPs [12, 30], este bom de- sempenho vem incentivando diversos pesquisadores a aprimorar esta abordagem para lidar com problemas de otimiza¸c˜ ao com muitos objetivos (Many-Objective Optimization Problems (MaOPs)) [23], que consistem em problemas de otimiza¸c˜ ao com mais de trˆ es objetivos.
A otimiza¸c˜ ao de MaOPs ´ e uma tarefa importante porque algumas aplica¸c˜ oes do mundo
real necessitam considerar e otimizar v´ arias fun¸c˜ oes objetivo [41, 22, 20], entretanto,
devido ` a falta de algoritmos adequados, estes problemas normalmente s˜ ao reduzidos para dois ou trˆ es objetivos e resolvidos [14].
No artigo [22], ´ e explorado o problema de projetos de formas de onda para um radar Doppler pulsado (Pulsed Doppler Radar ) t´ıpico em muitos sistemas de radar de aeronaves de combate. Este sistema deve medir a distˆ ancia e a velocidade dos alvos, infelizmente, com as grandes distˆ ancias e velocidades envolvidas, n˜ ao ´ e poss´ıvel medir simultaneamente a distˆ ancia e a velocidade dos alvos corretamente usando um formato de onda simples.
Por isso v´ arios formatos de onda simples s˜ ao transmitidos, cada um subitamente diferente do ´ ultimo, ent˜ ao os dados s˜ ao combinados para aumentar a precis˜ ao. O problema ´ e como escolher o conjunto de formatos de onda simples.
Este problema envolve a otimiza¸c˜ ao de nove objetivos, sendo eles:
1. Faixa de distˆ ancia m´ edia do alvo antes que o conjunto de ondas n˜ ao seja mais decodific´ avel (em metros),
2. Faixa de velocidade m´ edia do alvo antes que o conjunto de ondas n˜ ao seja mais decodific´ avel (em ms-1),
3. Faixa de distˆ ancia m´ edia do alvo antes que o conjunto de ondas tenha regi˜ oes cegas (em metros),
4. Faixa de velocidade m´ edia do alvo antes que o conjunto de ondas tenha regi˜ oes cegas (em ms-1),
5. Faixa de distˆ ancia m´ınima do alvo antes que o conjunto de ondas n˜ ao seja mais decodific´ avel (em metros),
6. Faixa de velocidade m´ınima do alvo antes que o conjunto de ondas n˜ ao seja mais decodific´ avel (em ms-1),
7. Faixa de distˆ ancia m´ınima do alvo antes que o conjunto de ondas tenha regi˜ oes cegas
(em metros),
8. Faixa de velocidade m´ınima do alvo antes que o conjunto de ondas tenha regi˜ oes cegas (em ms-1),
9. Tempo necess´ ario para transmitir todo o formato de onda (em milissegundos).
Neste problema os primeiros oito objetivos devem ser maximizados, enquanto o nono deve ser minimizado.
Na resolu¸c˜ ao de problemas com muitos objetivos como este, os algoritmos de oti- miza¸c˜ ao baseados em dominˆ ancia de Pareto n˜ ao apresentam bom desempenho, pois ge- ralmente deterioram sua capacidade de busca de acordo com o aumento no n´ umero de objetivos. Isto ocorre principalmente porque a propor¸c˜ ao de solu¸c˜ oes n˜ ao dominadas em uma popula¸c˜ ao aumenta rapidamente com o n´ umero de objetivos, o que diminui a press˜ ao de sele¸c˜ ao em dire¸c˜ ao ` a fronteira de Pareto. Al´ em disso, o n´ umero de pontos para re- presentar a fronteira aumenta exponencialmente de acordo com o n´ umero de objetivos, dificultando a obten¸c˜ ao de solu¸c˜ oes diversas o suficiente para cobrir toda a fronteira. Ape- sar de ser poss´ıvel utilizar uma grande popula¸c˜ ao com o poder computacional dispon´ıvel atualmente, certamente ´ e dif´ıcil para um tomador de decis˜ oes considerar um n´ umero muito grande de solu¸c˜ oes [23, 14]. O objetivo da otimiza¸c˜ ao com muitos objetivos ´ e encontrar t´ ecnicas para superar estas limita¸c˜ oes.
Este trabalho apresenta algumas t´ ecnicas empregadas atualmente para melhorar o desempenho do MOPSO para muitos objetivos, al´ em de discutir os principais conceitos relacionados ao tema. Seu objetivo ´ e aplicar t´ ecnicas voltadas a muitos objetivos que apresentaram bons resultados na literatura, al´ em de desenvolver ou aprimorar t´ ecnicas j´ a existentes para melhorar o desempenho do MOPSO e torn´ a-lo menos sens´ıvel ao aumento no n´ umero de objetivos.
1.2 Objetivos
Neste trabalho optou-se por estudar a ´ area de otimiza¸c˜ ao multiobjetivo atrav´ es da me-
taheur´ıstica nuvem de part´ıculas multiobjetivo, especialmente por sua velocidade de con-
vergˆ encia e capacidade de gerar diversas solu¸c˜ oes ao mesmo tempo, constituindo, a cada
itera¸c˜ ao uma fronteira aproximada vi´ avel. Portanto, o objetivo geral deste trabalho ´ e aplicar t´ ecnicas a esta metaheur´ıstica para melhorar seu desempenho ao otimizar muitos objetivos. Para atingir este fim, alguns objetivos espec´ıficos podem ser destacados:
• Ganhar conhecimento em otimiza¸c˜ ao de muitos objetivos, especialmente usando MOPSOs.
• Comparar e avaliar t´ ecnicas exclusivas do MOPSO para o aumento do seu desem- penho.
• Aplicar, aperfei¸coar ou desenvolver t´ ecnicas para melhorar o desempenho dos MOPSOs para a otimiza¸c˜ ao com muitos objetivos.
Para ganhar conhecimento na ´ area, uma s´ erie de estudos sobre a bibliografia relacio- nada ` a otimiza¸c˜ ao multiobjetivo foi efetuada, e posteriormente estudos emp´ıricos foram conduzidos para comprovar os resultados te´ oricos. A compara¸c˜ ao e avalia¸c˜ ao de t´ ecnicas para o aumento do desempenho dos MOPSOs foi feita usando diversos m´ etodos de escolha de l´ıder para encontrar os m´ etodos que obtˆ em os melhores desempenhos. Por fim, t´ ecnicas que obtiveram bons resultados na literatura para outros tipos de algoritmos bio-inspirados foram adaptadas e aplicadas ao MOPSO, como os m´ etodos de controle da ´ area de do- minˆ ancia CDAS [35] e S-CDAS [36], e uma abordagem usando pontos de referˆ encia [14].
Todos os estudos emp´ıricos realizados utilizaram m´ etricas de desempenho e fun¸c˜ oes de benchmark conhecidas no contexto de otimiza¸c˜ ao com muitos objetivos.
1.3 Contribui¸ c˜ oes
Neste trabalho foram realizados estudos em conjunto com o aluno de doutorado Andr´ e Britto de Carvalho, tamb´ em orientando da Profa. Dra. Aurora Trinidad Ramirez Pozo.
Estes trabalhos deram origem a trˆ es artigos: No primeiro [7] foi desenvolvido um estudo
emp´ırico para determinar quais m´ etodos de l´ıder apresentam o melhor desempenho para
muitos objetivos entre diversos m´ etodos de escolha de l´ıder propostos na literatura e um
proposto neste trabalho. No segundo artigo [8] foi desenvolvido um novo MOPSO base- ado em um estudo anterior [12] que usava a t´ ecnica CDAS [35] de controle da ´ area de dominˆ ancia aplicada ao MOPSO. No novo trabalho, foi criado um MOPSO que utiliza um aprimoramento da t´ ecnica CDAS chamado S-CDAS [36], al´ em de terem sido reali- zados estudos emp´ıricos para comparar ambos. O terceiro artigo [24] avalia a influˆ encia das t´ ecnicas de controle da ´ area de dominˆ ancia estudadas, no desempenho dos m´ etodos de sele¸c˜ ao de l´ıder, al´ em de determinar quais as melhores combina¸c˜ oes de t´ ecnicas de controle da ´ area de dominˆ ancia e m´ etodos de escolha de l´ıder. Nesta disserta¸c˜ ao tamb´ em
´ e apresentado um estudo n˜ ao publicado no qual um novo MOPSO que utiliza pontos de referˆ encia como crit´ erio adicional para o arquivamento ´ e proposto e seu desempenho ´ e comparado atrav´ es de estudos emp´ıricos com outro MOPSO.
Portanto, as contribui¸c˜ oes derivadas deste trabalho de pesquisa podem ser sumarizadas assim:
• A determina¸c˜ ao, via an´ alise emp´ırica dos melhores m´ etodos de escolha de l´ıderes no MOPSO, na qual foram comparados os m´ etodos Distˆ ancia de agrupamento [13], Soma ponderada [4], NWSum [31], Sigma [29], Aleat´ orio [10] e o novo m´ etodo Oposto.
• A determina¸c˜ ao, via an´ alise emp´ırica da melhor t´ ecnica de controle da ´ area de dominˆ ancia em situa¸c˜ oes de muitos e poucos objetivos no MOPSO, na qual foram comparadas as t´ ecnicas CDAS [35] e S-CDAS [36].
• Um MOPSO baseado em pontos de referˆ encia para a otimiza¸c˜ ao com muitos obje- tivos [14].
1.4 Organiza¸ c˜ ao
O restante deste trabalho est´ a organizado da seguinte forma: No Cap´ıtulo 2, s˜ ao apresen-
tados alguns trabalhos relacionados, incluindo trabalhos sobre a otimiza¸c˜ ao com muitos
objetivos e sobre MOPSOs para otimiza¸c˜ ao multiobjetivo e com muitos objetivos. Os
principais conceitos relacionados ` a metaheur´ıstica nuvem de part´ıculas mono e multiobje-
tivo, al´ em dos problemas de teste e indicadores de desempenho utilizados neste trabalho
s˜ ao apresentados no Cap´ıtulo 3. Um estudo sobre as t´ ecnicas de controle da ´ area de
dominˆ ancia CDAS e S-CDAS ´ e apresentado no Cap´ıtulo 4. O Cap´ıtulo 5, apresenta uma
revis˜ ao contendo diferentes m´ etodos de escolha de l´ıder populares na literatura, al´ em de
um novo m´ etodo proposto, bem como uma an´ alise emp´ırica comparando-os. Um novo
MOPSO voltado para muitos objetivos e baseado no conceito de pontos de referˆ encia ´ e
apresentado no Cap´ıtulo 6, e finalmente as conclus˜ oes deste trabalho s˜ ao apresentadas no
Cap´ıtulo 7.
CAP´ ITULO 2
TRABALHOS RELACIONADOS
A resolu¸c˜ ao de MaOPs apresenta alguns problemas espec´ıficos a serem resolvidos, neste cap´ıtulo s˜ ao apresentados alguns trabalhos abordando estes problemas e algumas solu¸c˜ oes vi´ aveis. Nos trabalhos de Jaimes e Coello [27] e Ishibuchi et al. [23] os principais problemas s˜ ao descritos. Entre eles est˜ ao a deteriora¸c˜ ao da capacidade de busca devido ao r´ apido aumento da propor¸c˜ ao de solu¸c˜ oes n˜ ao dominadas na popula¸c˜ ao de acordo com o n´ umero de objetivos, o aumento exponencial no n´ umero de solu¸c˜ oes requeridas para aproximar toda a fronteira de Pareto, al´ em da dificuldade de visualiza¸c˜ ao das solu¸c˜ oes obtidas.
As solu¸c˜ oes mais comuns destes problemas tamb´ em s˜ ao indicadas, sendo elas: a redu¸c˜ ao do n´ umero de objetivos do problema, que identifica os objetivos menos conflitan- tes e os remove. A ado¸c˜ ao de rela¸c˜ oes de preferˆ encia para induzir um melhor ordenamento do espa¸co de objetivos. Al´ em do uso de modifica¸c˜ ao da rela¸c˜ ao de dominˆ ancia, reduzindo o n´ umero de solu¸c˜ oes n˜ ao dominadas.
No artigo de Ishibuchi et al. [23], al´ em de uma discuss˜ ao sobre os problemas rela- cionados aos MaOPs, s˜ ao realizados experimentos utilizando o algoritmo NSGA-II na otimiza¸c˜ ao de problemas entre dois e oito objetivos para demonstrar seu efeito na pr´ atica, al´ em disso, as principais t´ ecnicas para melhorar a escalabilidade dos MOEAs s˜ ao explica- das.
No trabalho de L´ opez e Coello [27], al´ em da discuss˜ ao sobre os problemas de escalabi-
lidade, duas contribui¸c˜ oes s˜ ao apresentadas: primeiramente s˜ ao propostos dois m´ etodos
para a incorpora¸c˜ ao de um algoritmo de redu¸c˜ ao do n´ umero de objetivos em um otimi-
zador, esta incorpora¸c˜ ao serve para reduzir os objetivos durante o processo de busca. O
algoritmo incorporado encontra um subconjunto dos objetivos que produz o m´ınimo de
erro poss´ıvel. Um dos m´ etodos de incorpora¸c˜ ao reduz o n´ umero de objetivos sucessiva-
mente durante a maior parte da busca, e somente ao se aproximar do fim da busca todos
os objetivos s˜ ao reintegrados. O outro m´ etodo alterna durante a busca o processo de redu¸c˜ ao com o de integra¸c˜ ao dos objetivos. A segunda contribui¸c˜ ao ´ e um estudo compa- rativo preliminar de rela¸c˜ oes de preferˆ encia propostas para lidar com muitos objetivos, os m´ etodos comparados foram o average ranking (AR), maximum ranking (MR), favour rela- tion, preference order relation (POR) e Controlling Dominance Area of Solutions (CDAS).
Ambas as contribui¸c˜ oes amenizaram os problemas causados pelo aumento no n´ umero de objetivos.
Em geral os algoritmos de otimiza¸c˜ ao multiobjetivo encontrados na literatura obtˆ em bons resultados ao resolver MOPs, entretanto apresentam resultados ruins quando utiliza- dos no contexto de muitos objetivos. Existem poucos trabalhos na literatura que exploram a otimiza¸c˜ ao de muitos objetivos. L´ opez e Coello utilizaram em [28] diferentes rela¸c˜ oes de preferˆ encia para aumentar a convergˆ encia na busca, entretanto estas preferˆ encias di- minuem a extens˜ ao de cobertura da fronteira obtida pelas solu¸c˜ oes, resultando em uma rela¸c˜ ao inversa entre convergˆ encia e por¸c˜ ao da fronteira coberta.
Sato et al. [35] observou que para problemas com muitos objetivos utilizar apenas a rela¸c˜ ao de dominˆ ancia para ranquear solu¸c˜ oes n˜ ao ´ e mais efetivo, portanto este trabalho prop˜ oe um m´ etodo chamado controle da ´ area de dominˆ ancia das solu¸c˜ oes (Controlling Dominance Area of Solutions (CDAS)). Este m´ etodo utiliza uma vari´ avel S, que contrai ou expande a ´ area de dominˆ ancia das solu¸c˜ oes aumentando a convergˆ encia ou a diversidade da busca de acordo com o valor desta vari´ avel.
Uma continua¸c˜ ao deste trabalho ´ e apresentada por Sato et al. em [36], no qual ´ e apresentado um m´ etodo chamado auto controle da ´ area de dominˆ ancia das solu¸c˜ oes (Self- Controlling Dominance Area of Solutions (S-CDAS)). Nesta abordagem, o algoritmo con- trola automaticamente o grau de expans˜ ao ou contra¸c˜ ao da ´ area de dominˆ ancia para cada solu¸c˜ ao sem a necessidade de parˆ ametros adicionais. Estes dois trabalhos inspiraram as contribui¸c˜ oes desenvolvidas no Cap´ıtulo 4, e parte das contribui¸c˜ oes desenvolvidas no Cap´ıtulo 5.
Um novo NSGA-II aprimorado para trabalhar com muitos objetivos, chamado de
M-NSGA-II ´ e apresentado por Deb e Jain em [14]. Neste novo algoritmo pontos de
referˆ encia bem distribu´ıdos s˜ ao gerados em um hiperplano, e os membros da popula¸c˜ ao s˜ ao associados a estes pontos, com isto, solu¸c˜ oes s˜ ao encontradas pr´ oximas de cada ponto de referˆ encia, obtendo uma maior cobertura da fronteira real, com pontos bem espa¸cados sobre esta fronteira. O novo algoritmo foi testado em dois problemas reais, um deles relacionado ` a resistˆ encia ao choque no projeto de ve´ıculos, com trˆ es objetivos, e um segundo relacionado ao projeto de cabines para ve´ıculos, com nove objetivos. O Cap´ıtulo 6 detalha o novo algoritmo e apresenta uma adapta¸c˜ ao destas ideias para o MOPSO.
Adra e Fleming [2] discutem algumas caracter´ısticas da otimiza¸c˜ ao com muitos obje- tivos. Al´ em disso, prop˜ oem dois mecanismos de gerenciamento de diversidade para me- lhorar o desempenho na otimiza¸c˜ ao de MaOPs usando o algoritmo NSGA-II. O primeiro mecanismo ativa ou desativa a promo¸c˜ ao de diversidade de acordo com a distribui¸c˜ ao das solu¸c˜ oes em uma popula¸c˜ ao. Esta promo¸c˜ ao de diversidade consiste em dois opera- dores gen´ eticos: sele¸c˜ ao para varia¸c˜ ao e sele¸c˜ ao para sobrevivˆ encia. O outro mecanismo proposto adapta o intervalo de muta¸c˜ ao para cada vari´ avel de decis˜ ao de acordo com condi¸c˜ oes locais de distribui¸c˜ ao ou agrupamento. Estas t´ ecnicas tˆ em o objetivo de balan- cear o conflito entre convergˆ encia e a diversidade da busca. Nos experimentos realizados, a primeira t´ ecnica apresentou bons resultados, enquanto a segunda n˜ ao apresentou melhora de desempenho no algoritmo.
Um estudo envolvendo seis MOPSOs ´ e apresentado por Durillo et al. em [19] no qual an´ alises emp´ıricas s˜ ao realizadas para compar´ a-los e identificar qual deles apresenta o melhor desempenho usando trˆ es fam´ılias de problemas de teste. Ao observar os resulta- dos dos experimentos verificou-se que as part´ıculas apresentavam movimentos err´ aticos devido ao excesso de velocidade levando ao desenvolvimento do algoritmo SMPSO, que se destacou por obter resultados promissores em problemas nos quais outros MOPSOs apre- sentaram desempenhos inadequados. Em [30], Nebro et al. compara o SMPSO com cinco algoritmos multiobjetivo importantes, e este apresenta o melhor desempenho entre eles em problemas bi-objetivo. Devido ao seu bom desempenho [18, 17] o SMPSO ´ e utilizado como algoritmo base nos experimentos realizados neste trabalho.
A abordagem MOPSO exige algumas caracter´ısticas espec´ıficas para lidar adequa-
damente com problemas multiobjetivo especialmente devido ` a ausˆ encia de uma forma direta de ranquear as solu¸c˜ oes. Uma dessas caracter´ısticas ´ e a sele¸c˜ ao do l´ıder, que n˜ ao
´ e uma tarefa trivial e pode ser feita utilizando diversos m´ etodos diferentes. Alguns des- ses m´ etodos s˜ ao revistos por Padhye et al. em [31]. Neste trabalho as caracter´ısticas de convergˆ encia, diversidade e tempos computacionais dos mesmos s˜ ao consideradas. A com- para¸c˜ ao tamb´ em inclui dois m´ etodos propostos por eles, chamados NWSum, que ´ e uma varia¸c˜ ao do WSum proposto por Branke e Mostaghim em [4], e o Indicator Based, que usa a m´ etrica hipervolume [46] proposta por Zitzler e Thiele como um indicador para a sele¸c˜ ao de l´ıder. Os m´ etodos propostos apresentaram bons resultados, indicando que a escolha pode modificar o desempenho de um MOPSO. Este trabalho motivou o desenvolvimento dos estudos apresentados no Cap´ıtulo 5.
Zhang et al. prop˜ oem em [44] um MOPSO chamado mPSO-DHA, que utiliza um novo sistema de arquivamento baseado em hipercubos que consiste em uma modifica¸c˜ ao do sistema de arquivamento em hipercubos proposto por Coello e Lechuga em [10], neste novo sistema os limites do espa¸co de objetivos s˜ ao modificados dinamicamente durante o processo de otimiza¸c˜ ao. Um processo de muta¸c˜ ao tamb´ em ´ e empregado para ajudar as part´ıculas a fugir de ´ otimos locais, al´ em de outros mecanismos. O mPSO-DHA superou outros MOPSOs nos experimentos realizados, apresentando bons resultados.
Na literatura existem alguns trabalhos que lidam com MOPSO para MaOPs. Entre eles destaca-se o trabalho desenvolvido por Carvalho e Pozo em [12], que explora a in- fluˆ encia de diferentes rela¸c˜ oes de dominˆ ancia entre as solu¸c˜ oes do reposit´ orio usando dois algoritmos MOPSO. Com isto o algoritmo CDAS-SMPSO ´ e proposto neste trabalho como forma de obter um melhor desempenho ao otimizar MaOPs. Outra contribui¸c˜ ao deste tra- balho ´ e a identifica¸c˜ ao dos melhores valores do parˆ ametro S os problemas DTLZ2, DTLZ4 e DTLZ7.
Outro trabalho importante explorando MOPSOs para muitos objetivos ´ e apresentado
por Carvalho e Pozo em [5], nele, sete m´ etodos de arquivamento encontrados na literatura
s˜ ao revisados, al´ em disso, quatro novos m´ etodos s˜ ao propostos e um m´ etodo aleat´ orio
tamb´ em ´ e usado. Estudos emp´ıricos s˜ ao realizados, e as caracter´ısticas de cada m´ etodo
s˜ ao analisadas. Nos resultados obtidos, os m´ etodos de arquivamento que n˜ ao limitam o tamanho do reposit´ orio obtˆ em melhores resultados. Entretanto, dado o alto custo computacional de se manter um arquivo com muitas solu¸c˜ oes, o m´ etodo de arquivamento com limite de solu¸c˜ oes que apresentou a maior convergˆ encia foi o Ideal, proposto neste trabalho, entretanto ele limita a busca somente ` a regi˜ ao pr´ oxima ao joelho da fronteira.
Hughes [22] apresenta um problema real envolvendo a otimiza¸c˜ ao de muitos objetivos que pode ser usado como problema de teste para avaliar otimizadores. Neste trabalho, ele explora o problema de desenvolver projetos de formas de onda (waveforms) para um radar Doppler pulsado (Pulsed Doppler Radar ) t´ıpico em muitos sistemas de radar de aeronaves de combate. Este sistema deve medir a distˆ ancia e a velocidade dos alvos, infelizmente, com as grandes distˆ ancias (aproximadamente 185 Km) e velocidades (eventualmente mach 5) envolvidas, n˜ ao ´ e poss´ıvel medir simultaneamente a distˆ ancia e a velocidade dos alvos corretamente usando um formato de onda simples.
Para permitir medir a distˆ ancia e a velocidade simultaneamente de forma correta, v´ arios formatos de onda simples s˜ ao transmitidos, cada um subitamente diferente do
´
ultimo, ent˜ ao os dados s˜ ao combinados para aumentar a precis˜ ao. O problema ´ e como escolher o conjunto de formatos de onda simples.
Este problema envolve a otimiza¸c˜ ao de nove objetivos, sendo eles:
1. Faixa de distˆ ancia m´ edia do alvo antes que o conjunto de ondas n˜ ao seja mais decodific´ avel (em metros),
2. Faixa de velocidade m´ edia do alvo antes que o conjunto de ondas n˜ ao seja mais decodific´ avel (em ms-1),
3. Faixa de distˆ ancia m´ edia do alvo antes que o conjunto de ondas tenha regi˜ oes cegas (em metros),
4. Faixa de velocidade m´ edia do alvo antes que o conjunto de ondas tenha regi˜ oes cegas (em ms-1),
5. Faixa de distˆ ancia m´ınima do alvo antes que o conjunto de ondas n˜ ao seja mais
decodific´ avel (em metros),
6. Faixa de velocidade m´ınima do alvo antes que o conjunto de ondas n˜ ao seja mais decodific´ avel (em ms-1),
7. Faixa de distˆ ancia m´ınima do alvo antes que o conjunto de ondas tenha regi˜ oes cegas (em metros),
8. Faixa de velocidade m´ınima do alvo antes que o conjunto de ondas tenha regi˜ oes cegas (em ms-1),
9. Tempo necess´ ario para transmitir todo o formato de onda (em milissegundos).
Neste problema os primeiros oito objetivos devem ser maximizados, enquanto o nono deve ser minimizado.
Para otimizar estes objetivos foram utilizados trˆ es algoritmos: NSGA-II [13], MSOPS [21]
al´ em de um terceiro algoritmo derivado do MSOPS chamado de CAAOS. Nos experimen- tos conduzidos os trˆ es obtiveram desempenho similar apesar dos testes e algoritmos com- pletamente independentes, e foi hipoteticamente assumido que os conjuntos de solu¸c˜ oes n˜ ao dominadas obtidos est˜ ao localizados bem pr´ oximos ` a fronteira de Pareto ´ otima.
A partir dos trabalhos analisados, verificou-se que existem poucos estudos envolvendo
MOPSOs para a otimiza¸c˜ ao de problemas com muitos objetivos, e que esta metaheur´ıstica
tem apresentado bons resultados nos trabalhos estudados, portanto o objetivo desta dis-
serta¸c˜ ao ´ e comparar as principais t´ ecnicas dispon´ıveis na literatura para lidar com MaOPs
e aplicar as que obtiverem melhores resultados no MOPSO para criar um novo algoritmo
menos sens´ıvel ao aumento no n´ umero de objetivos.
CAP´ ITULO 3
OTIMIZAC ¸ ˜ AO POR NUVEM DE PART´ ICULAS
Otimiza¸c˜ ao por nuvem de part´ıculas, do inglˆ es Particle Swarm Optimization (PSO), pro- posta em [25] ´ e uma metaheur´ıstica simples inspirada no comportamento social de grupos de p´ assaros procurando alimento, projetada para a otimiza¸c˜ ao de fun¸c˜ oes n˜ ao lineares.
O PSO utiliza um conjunto de solu¸c˜ oes poss´ıveis que se movem atrav´ es do espa¸co de busca at´ e que uma solu¸c˜ ao ´ otima ou um crit´ erio de parada seja atingido. Neste caso, cada solu¸c˜ ao ~ x ´ e representada por uma part´ıcula. E uma nuvem ou enxame (swarm) representa um conjunto de part´ıculas (popula¸c˜ ao). A responsabilidade por mover o enxame para a regi˜ ao ´ otima fica a cargo das equa¸c˜ oes de posi¸c˜ ao e velocidade, que s˜ ao compostas de trˆ es elementos: a in´ ercia de velocidade, o componente cognitivo ( pbest), e o componente social ~ ( gbest) [25]. ~
O componente cognitivo ou ´ otimo pessoal ( pbest) representa a melhor solu¸c˜ ~ ao encon- trada pela pr´ opria part´ıcula. J´ a o l´ıder social, tamb´ em chamado de ´ otimo global ( gbest), ~ representa a melhor solu¸c˜ ao encontrada por todo o enxame ou um subconjunto deste, con- forme a topologia de vizinhan¸ca empregada. Estes componentes s˜ ao escolhidos de acordo com uma medida de desempenho, similar ao fitness usado em outras abordagens [9].
A posi¸c˜ ao de cada part´ıcula ´ e alterada de acordo com sua pr´ opria experiˆ encia e a de seus vizinhos. ~ x(t) denota a posi¸c˜ ao de uma part´ıcula ~ p no momento t. A posi¸c˜ ao de
~
p ´ e atualizada adicionando-se a velocidade ~ v(t) ` a sua posi¸c˜ ao atual, como mostrado na Equa¸c˜ ao 3.1 [34].
~
x = ~ x + ~ v (3.1)
O vetor de velocidade reflete as informa¸c˜ oes trocadas cooperativamente, e em geral ´ e
definido como na Equa¸c˜ ao 3.2.
~ v(t) = ω~ v (t − 1) + C
1r
1(~ x
pbest− ~ x(t)) + C
2r
2(~ x
gbest− ~ x(t)) (3.2)
Na qual r
1, r
2∈ [0, 1] s˜ ao valores aleat´ orios e ω representa o peso de in´ ercia empregado para controlar o impacto da velocidade anterior na atual. Os fatores de aprendizado C
1e C
2definem a atra¸c˜ ao da part´ıcula ao seu pr´ oprio sucesso, e a atra¸c˜ ao da part´ıcula em dire¸c˜ ao ao sucesso dos seus vizinhos, respectivamente [34].
As part´ıculas s˜ ao influenciadas pelo sucesso de outras part´ıculas conectadas a ela. ´ E a topologia de vizinhan¸ca que define a estrutura social do enxame, ou seja, a forma como as part´ıculas se conectam entre si. As principais estruturas de vizinhan¸ca usadas no PSO s˜ ao [34]:
• Grafo vazio: Nesta topologia as part´ıculas est˜ ao isoladas e comparam sua posi¸c˜ ao atual somente com suas pr´ oprias melhores posi¸c˜ oes j´ a encontradas.
• Melhor local: Nesta topologia cada part´ıcula ´ e afetada pelo melhor desempenho de seus vizinhos imediatos, al´ em de seu pr´ oprio melhor desempenho.
• Grafo totalmente conectado: Esta topologia ´ e o contr´ ario da grafo vazio, nela todos os membros do enxame est˜ ao conectados. Cada part´ıcula usa sua melhor posi¸c˜ ao j´ a encontrada al´ em da posi¸c˜ ao da melhor part´ıcula do enxame. O algoritmo SMPSO utiliza esta topologia por padr˜ ao em sua implementa¸c˜ ao.
• Estrela: Uma part´ıcula ´ e conectada a todas as outras, e elas s˜ ao conectadas somente
a uma (chamada part´ıcula focal). Nesta topologia as part´ıculas s˜ ao isoladas umas
das outras, e toda a informa¸c˜ ao tem de passar atrav´ es da part´ıcula focal, esta com-
para os desempenhos de todo o enxame e ajusta sua trajet´ oria em dire¸c˜ ao ` a melhor
part´ıcula. Este desempenho ´ e comunicado ao restante do enxame eventualmente.
• Arvore: ´ Nesta topologia todas as part´ıculas s˜ ao arranjadas em uma ´ arvore, e cada n´ o cont´ em uma part´ıcula. Uma part´ıcula ´ e influenciada pela sua pr´ opria melhor posi¸c˜ ao j´ a encontrada, al´ em da melhor posi¸c˜ ao da part´ıcula diretamente sobre si na
´
arvore (n´ o pai). Se uma part´ıcula em um n´ o filho encontrar uma posi¸c˜ ao melhor que todas as j´ a encontradas por seu n´ o pai, estas part´ıculas trocam de posi¸c˜ ao. Assim esta topologia oferece uma vizinhan¸ca dinˆ amica.
O Algoritmo 1 mostra como um PSO b´ asico funciona. Primeiramente o enxame ´ e inicializado, tanto as posi¸c˜ oes quanto as velocidades. O pbest ~ de cada part´ıcula ´ e inici- alizado, e o gbest ~ ´ e determinado. Ent˜ ao por um dado n´ umero de itera¸c˜ oes (gmax) cada part´ıcula se movimenta no espa¸co de busca atualizando sua posi¸c˜ ao e velocidade atrav´ es das Equa¸c˜ oes 3.1 e 3.2, al´ em de avaliar a solu¸c˜ ao atual e atualizar o pbest. Ao final ~ da itera¸c˜ ao o gbest ~ ´ e atualizado, e ao final da execu¸c˜ ao o melhor gbest ~ j´ a encontrado ´ e retornado.
Algoritmo 1: Pseudoc´ odigo do PSO in´ıcio
Inicialize nuvem Determine o gbest ~ g = 0
enquanto g < gmax fa¸ ca para Cada part´ıcula fa¸ ca
Atualize posi¸c˜ ao e velocidade Avalie
Atualize o pbest ~ fim para
Atualize o gbest ~ g ++
fim enqto retorne gbest ~ fim
A simplicidade e velocidade de convergˆ encia do PSO o fazem um candidato altamente
vi´ avel a ser usado n˜ ao s´ o para problemas com uma ´ unica fun¸c˜ ao objetivo, mas tamb´ em
para a otimiza¸c˜ ao de problemas multiobjetivo [9].
3.1 Otimiza¸ c˜ ao multiobjetivo
Um problema multiobjetivo (Multi-Objective Problem (MOP)) envolve a satisfa¸c˜ ao si- multˆ anea de duas ou mais fun¸c˜ oes objetivo, normalmente em conflito. Um problema de minimiza¸c˜ ao multiobjetivo pode ser expresso como em (3.3).
M inimizar ~ f (~ x) = (f
1(~ x), f
2(~ x)..., f
m(~ x)) (3.3) sujeito a ~ x ∈ Ω, no qual: ~ x = (x
1, ..., x
k) ´ e um vetor de solu¸c˜ oes poss´ıveis, Ω ´ e a regi˜ ao de solu¸c˜ oes poss´ıveis delimitada pelas restri¸c˜ oes do problema, e m ´ e o n´ umero de objetivos. Neste caso, o prop´ osito ´ e otimizar m fun¸c˜ oes objetivo simultaneamente, com a finalidade de encontrar solu¸c˜ oes que apresentem um bom compromisso entre os objetivos.
Para isto ´ e usado o conceito de otimalidade de Pareto [32], que ´ e apresentado a seguir conforme [9]:
A dominˆ ancia de Pareto define que um vetor ~ u = (u
1, ..., u
k), com ~ u = f ~ (~ x) e ~ x ∈ Ω domina outro vetor ~ v = (v
1, ..., v
k), com ~ v = f(~ ~ y) e ~ y ∈ Ω denotada por ~ u ≺ ~ v, se e somente se ~ u for parcialmente menor que ~ v, por exemplo, ∀i ∈ {1, ..., k}, u
i≤ v
i∧ ∃i ∈ {1, ..., k} : u
i< v
i. Ou seja, ~ u domina ~ v se houver pelo menos um elemento em ~ u menor que o mesmo elemento em ~ v e todos os elementos de ~ v forem menores ou iguais os elementos de ~ u.
Um vetor de objetivos ~ u pode ser dito n˜ ao dominado com respeito ao seu espa¸co de objetivos O, se n˜ ao existir nenhum vetor de objetivos ~ v que o domine em O.
Uma solu¸c˜ ao ~ x ∈ Ω pode ser considerada Pareto ´ otima com respeito a Ω se n˜ ao houver nenhum ~ y ∈ Ω, tal que ~ v = f(~ ~ y) domine ~ u = f ~ (~ x).
O conjunto ´ otimo de Pareto P
∗´ e definido por: P
∗= {~ x ∈ Ω|~ x ´ e Pareto ´ otima }. A fronteira de Pareto ´ e definida por: F P = {~ u = f ~ (~ x)|~ x ∈ P
∗}.
A Figura 3.1 apresenta um exemplo de fronteira de Pareto para um problema de
minimiza¸c˜ ao com dois objetivos. Nesta figura, os pontos pretos representam as solu¸c˜ oes
n˜ ao dominadas que comp˜ oem a fronteira de Pareto e os pontos cinza representam solu¸c˜ oes
dominadas. As linhas tracejadas representam o limite que define se uma solu¸c˜ ao domina
Figura 3.1: Exemplo de fronteira de Pareto
a outra. As solu¸c˜ oes que est˜ ao dentro da ´ area definida pelas linhas possuem piores valores nos objetivos, ou seja, s˜ ao dominadas.
Apesar da maioria dos estudos em MOPs serem focados em problemas com dois ou trˆ es objetivos, problemas de otimiza¸c˜ ao pr´ aticos envolvem um grande n´ umero des- tes crit´ erios [41, 20]. Portanto, esfor¸cos de pesquisa foram orientados para investigar a escalabilidade destes algoritmos com respeito ao n´ umero de objetivos [23, 12]. MOPs com mais de trˆ es objetivos s˜ ao chamados de problemas de otimiza¸c˜ ao com muitos objetivos (Many-Objective Optimization Problems (MaOPs)), e a ´ area que estuda solu¸c˜ oes para os problemas causados pelo aumento no n´ umero de objetivos ´ e chamada de otimiza¸c˜ ao com muitos objetivos (Many-Objective Optimization).
Diversos estudos provaram que MOEAs apresentam baixo desempenho em MaOPs [23, 12, 27]. Os principais problemas encontrados, conforme [23] s˜ ao:
1. Deteriora¸c˜ ao da habilidade de busca em algoritmos baseados em dominˆ ancia de Pareto. Quando o n´ umero de objetivos aumenta, muitas solu¸c˜ oes tornam-se n˜ ao dominadas, o que enfraquece severamente a press˜ ao de sele¸c˜ ao em dire¸c˜ ao ` a fronteira de Pareto, prejudicando muito a capacidade de convergˆ encia desses algoritmos.
2. Aumento exponencial no n´ umero de solu¸c˜ oes requeridas para aproximar a fronteira
de Pareto inteira. O objetivo dos MOEAs ´ e encontrar um conjunto de solu¸c˜ oes n˜ ao dominadas que melhor se aproxime da fronteira de Pareto. Uma vez que esta fron- teira ´ e uma hiper-superf´ıcie no espa¸co de objetivos, o n´ umero de solu¸c˜ oes requeridas para esta aproxima¸c˜ ao aumenta exponencialmente com o n´ umero de objetivos.
3. Dificuldade de visualiza¸c˜ ao das solu¸c˜ oes. Normalmente se assume que a escolha de uma solu¸c˜ ao final de um conjunto de solu¸c˜ oes n˜ ao dominadas obtido ´ e feita por um tomador de decis˜ oes baseada em sua preferˆ encia. Com o aumento do n´ umero de objetivos, a visualiza¸c˜ ao das solu¸c˜ oes obtidas torna-se muito dif´ıcil. O que significa que a escolha de uma solu¸c˜ ao final ´ e dificultada.
Para evitar estes problemas, atualmente a comunidade de pesquisa os tem abordado usando principalmente trˆ es estrat´ egias: adapta¸c˜ ao de rela¸c˜ oes de preferˆ encia [35, 36] para controlar a rela¸c˜ ao de dominˆ ancia e induzir um ranqueamento apropriado das solu¸c˜ oes, redu¸c˜ ao de dimensionalidade [26], cuja ideia geral ´ e identificar o maior n´ umero de objetivos n˜ ao conflitantes e descart´ a-los, e as estrat´ egias de decomposi¸c˜ ao [45], que usam m´ etodos de decomposi¸c˜ ao estudados pela comunidade de programa¸c˜ ao matem´ atica em algoritmos evolutivos para otimiza¸c˜ ao multiobjetivo.
3.2 Otimiza¸ c˜ ao por nuvem de part´ıculas multiobjetivo
A extens˜ ao do PSO para problemas multiobjetivo ´ e chamada de (Multi-Objective Particle Swarm Optimization (MOPSO)), nela algumas caracter´ısticas s˜ ao modificadas em rela¸c˜ ao ao PSO original.
As duas principais abordagens introduzidas no MOPSO s˜ ao o conceito de otimalidade
de Pareto, que determina a rela¸c˜ ao de dominˆ ancia entre as solu¸c˜ oes, e a introdu¸c˜ ao de
um arquivo externo ou reposit´ orio que armazena as melhores solu¸c˜ oes n˜ ao dominadas
encontradas durante a busca. Neste arquivo entram somente solu¸c˜ oes n˜ ao dominadas
com respeito ao conte´ udo deste. Caso uma solu¸c˜ ao nova domine solu¸c˜ oes j´ a presentes no
arquivo, as solu¸c˜ oes antigas que forem dominadas s˜ ao exclu´ıdas. Este arquivo ´ e usado
tanto como fonte para a sele¸c˜ ao de l´ıderes, quanto para ter seu conte´ udo reportado ao
final da execu¸c˜ ao do algoritmo [34].
Esta abordagem apresenta o problema de aumentar o tamanho do arquivo muito rapidamente, especialmente porque este necessita ser atualizado a cada itera¸c˜ ao. A com- plexidade de se atualizar este arquivo ´ e de O(mN
2), com N sendo o tamanho do enxame e m ´ e o n´ umero de objetivos. Por isso o arquivo necessita ser podado, o que faz necess´ aria uma estrat´ egia para decidir quais solu¸c˜ oes n˜ ao dominadas devem ser descartadas quando o arquivo estiver cheio [34].
Algoritmo 2: Pseudoc´ odigo do MOPSO in´ıcio
Inicialize nuvem
Inicialize os l´ıderes em um arquivo externo Avalia¸c˜ ao dos l´ıderes
g = 0
enquanto g < gmax fa¸ ca para Cada part´ıcula fa¸ ca
Selecione o l´ıder
Atualize posi¸c˜ ao e velocidade Muta¸c˜ ao
Avalie
Atualize o pbest ~ fim para
Atualize os l´ıderes no arquivo externo Avalia¸c˜ ao dos l´ıderes
g ++
fim enqto
retorne as solu¸c˜ oes no arquivo externo fim
O Algoritmo 2 mostra o funcionamento geral do MOPSO. Primeiramente o enxame
´ e inicializado, ent˜ ao um conjunto de l´ıderes tamb´ em ´ e inicializado com as part´ıculas n˜ ao
dominadas do enxame. Em seguida um crit´ erio de avalia¸c˜ ao dos l´ıderes ´ e calculado para
a sele¸c˜ ao destes pelas part´ıculas na pr´ oxima etapa, exemplos de crit´ erios de avalia¸c˜ ao
s˜ ao a distˆ ancia de agrupamento ou o vetor Sigma, detalhados no Cap´ıtulo 5. A cada
itera¸c˜ ao do algoritmo todas as part´ıculas tˆ em um l´ıder selecionado e a posi¸c˜ ao e velocidade
atualizadas. Caso a melhor posi¸c˜ ao da part´ıcula e a atual n˜ ao se dominem entre si
(incompar´ aveis), a nova solu¸c˜ ao substitui a antiga. Alguns MOPSOs aplicam algum tipo
de operador de muta¸c˜ ao ou turbulˆ encia ap´ os a atualiza¸c˜ ao da posi¸c˜ ao. Cada part´ıcula ´ e
avaliada e seus correspondentes pbest ~ s˜ ao atualizados. Depois desta atualiza¸c˜ ao, o arquivo externo tamb´ em ´ e atualizado, e finalmente a medida de avalia¸c˜ ao dos l´ıderes ´ e calculada novamente. Este processo ´ e repetido por um n´ umero predefinido de itera¸c˜ oes (gmax), e ao final as solu¸c˜ oes contidas no arquivo externo s˜ ao retornadas como a fronteira aproximada.
3.2.1 SMPSO
O SMPSO (Speed-constrained Multi-objective Particle Swarm Optimization) foi apresen- tado em [30], e consiste em um MOPSO que usa um mecanismo para limitar a veloci- dade das part´ıculas. Em certas condi¸c˜ oes especiais a velocidade das part´ıculas em um MOPSO pode se tornar muito alta, gerando movimentos err´ aticos em dire¸c˜ ao aos limites das posi¸c˜ oes das part´ıculas, este comportamento pode ser prevenido usando um meca- nismo de limita¸c˜ ao de velocidade.
Para controlar a velocidade das part´ıculas, ao inv´ es de se utilizar parˆ ametros m´ aximos e m´ınimos para limitar a quantidade de altera¸c˜ ao da velocidade, ´ e adotado um coeficiente de constri¸c˜ ao calculado conforme a Equa¸c˜ ao 3.4 [30].
χ = 2
2 − ϕ − p
ϕ
2− 4ϕ (3.4)
Na qual
1:
ϕ =
C
1+ C
2se C
1+ C
2> 4
1 se C
1+ C
2≤ 4 (3.5)
Portanto a nova velocidade ´ e definida conforme a Equa¸c˜ ao 3.6
~ v = χ~ v (3.6)
1Esta ´e a f´ormula do c´alculo de ϕ apresentada em [30], entretanto durante a implementa¸c˜ao, caso ϕ= 1 ent˜ao√
12−4×1 =√
−3, neste caso esta raiz negativa ´e substitu´ıda por 0.
Al´ em disso, ´ e criado um mecanismo no qual a velocidade acumulada por cada vari´ avel j em cada part´ıcula ´ e podada por meio da Equa¸c˜ ao 3.7.
v
i,j(t) =
delta
jse v
i,j(t) > delta
j−delta
jse v
i,j(t) ≤ −delta
jv
i,j(t) nos outros casos
(3.7)
Na qual:
delta
j= (limite superior
j− limite inf erior
j)
2 (3.8)
Resumindo o procedimento, a velocidade das part´ıculas ´ e calculada de acordo com a Equa¸c˜ ao 3.2, esta velocidade ´ e ent˜ ao multiplicada pelo fator de constri¸c˜ ao (Equa¸c˜ ao 3.4), e o valor resultante ´ e restrito usando a Equa¸c˜ ao 3.7, resultando na velocidade final a ser usada no c´ alculo de posi¸c˜ ao da part´ıcula [30].
Tanto o mecanismo de poda do arquivo externo quanto o de sele¸c˜ ao de l´ıderes originais do SMPSO utilizam a distˆ ancia de agrupamento. No mecanismo de poda, a solu¸c˜ ao com a menor distˆ ancia de agrupamento ´ e removida do arquivo, pois representa um candidato a l´ıder presente em uma regi˜ ao muito populosa. No m´ etodo de sele¸c˜ ao de l´ıderes, dois l´ıderes s˜ ao selecionados aleatoriamente e o que tiver maior distˆ ancia de agrupamento ´ e escolhido, pois representa uma solu¸c˜ ao em uma regi˜ ao menos populosa do reposit´ orio.
Os parˆ ametros b´ asicos utilizados neste trabalho est˜ ao dispon´ıveis em [30]. Com o
coeficiente de in´ ercia ω variando aleatoriamente entre [0, 0.8] e as constantes C
1e C
2variando no intervalo [1.5, 2.5]. Uma muta¸c˜ ao polinomial ´ e aplicada com probabilidade
p
mut= 1/m, com m representando o n´ umero de vari´ aveis de decis˜ ao do problema. Cada
vari´ avel da velocidade ´ e limitada no intervalo [-5, +5]. Entretanto neste trabalho o n´ umero de itera¸c˜ oes, popula¸c˜ ao e tamanho do reposit´ orio foram alterados conforme o conjunto de experimentos efetuado, portanto estes parˆ ametros est˜ ao dispon´ıveis em cada se¸c˜ ao de experimentos.
3.3 Problemas de benchmark
Em otimiza¸c˜ ao multiobjetivo existem alguns problemas de teste bastante empregados na literatura, entre eles destaca-se a fam´ılia de problemas ZDT [47]. Embora sejam muito usados para testar otimizadores, os problemas desta fam´ılia n˜ ao s˜ ao escal´ aveis quanto ao n´ umero de objetivos, o que impossibilita sua utiliza¸c˜ ao com mais de dois objetivos.
Os problemas utilizados neste trabalho s˜ ao parte da conhecida fam´ılia DTLZ de MOPs [15]. A fam´ılia DTLZ ´ e composta por uma s´ erie de problemas de referˆ encia comu- mente usados na avalia¸c˜ ao de otimizadores multiobjetivo, especialmente no contexto de muitos objetivos. Em todos os problemas da classe DTLZ deve-se minimizar as fun¸c˜ oes objetivo. Neste trabalho trˆ es problemas da fam´ılia DTLZ s˜ ao usados: DTLZ2, DTLZ4 e DTLZ6.
O DTLZ2 pode ser usado para investigar a habilidade de um algoritmo de manter seu desempenho ` a medida que o n´ umero de objetivos aumenta. Este problema apresenta uma fronteira de Pareto ´ otima na forma esf´ erica, e pode ser descrito conforme a Equa¸c˜ ao 3.9.
M inimize f
1(~ x) = (1 + g(x
m))cos(x
1π/2) ... cos(x
m−2π/2)cos(x
m−1π/2), M inimize f
2(~ x) = (1 + g(x
m))cos(x
1π/2) ... cos(x
m−2π/2)sen(x
m−1π/2), M inimize f
3(~ x) = (1 + g(x
m))cos(x
1π/2) ... sen(x
m−1π/2),
.. . .. .
M inimize f
m(~ x) = (1 + g (x
m))sen(x
1π/2), com g(x
m) = P
xi∈Xm
(x
i− 0, 5)
20 ≤ x
i≤ 1, para i = 1, 2, ..., n,
(3.9)
Na Equa¸c˜ ao 3.9, m representa o n´ umero de objetivos, as solu¸c˜ oes Pareto ´ otimas cor- respondem a x
i=0,5 para todos os x
i∈ x
me todos os valores de fun¸c˜ ao objetivo devem satisfazer P
mi=1
(f
i)
2= 1. O n´ umero total de vari´ aveis de decis˜ ao ´ e n = m + k − 1, ´ e reco- mendado usar k = |x
m| = 10. Uma representa¸c˜ ao gr´ afica da fronteira real tridimensional para o problema DTLZ2 ´ e apresentada na Figura 3.2.
0 0.2 0.4 0.6 0.8 1 0
0.2 0.4
0.6 0.8
1 0
0.2 0.4 0.6 0.8 1
DTLZ2
(a) Vis˜ao frontal
0 0.2
0.4 0.6
0.8 1 0
0.2 0.4
0.6 0.8
1 0
0.2 0.4 0.6 0.8 1
DTLZ2
(b) Vis˜ao lateral
Figura 3.2: Fronteira real tridimensional para o problema DTLZ2
Conforme [15], o problema DTLZ4 ´ e uma modifica¸c˜ ao do DTLZ2 que foca em investi- gar a habilidade de um algoritmo de manter uma boa distribui¸c˜ ao de solu¸c˜ oes. Nele uma meta-vari´ avel diferente ´ e usada ~ x → ~ x
α, esta modifica¸c˜ ao permite que um denso conjunto de solu¸c˜ oes exista pr´ oximo ao plano F
m− f
1.
M inimize f
1(~ x) = (1 + g(x
m))cos(x
α1π/2) ... cos(x
αm−2π/2)cos(x
αm−1π/2), M inimize f
2(~ x) = (1 + g(x
m))cos(x
α1π/2) ... cos(x
αm−2π/2)sen(x
αm−1π/2), M inimize f
3(~ x) = (1 + g(x
m))cos(x
α1π/2) ... sen(x
αm−1π/2),
.. . .. .
M inimize f
m(~ x) = (1 + g(x
m))sen(x
α1π/2), com g(x
m) = P
xi∈Xm
(x
i− 0, 5)
2. 0 ≤ x
i≤ 1, para i = 1, 2, ..., n,
(3.10)
Na Equa¸c˜ ao 3.10, o parˆ ametro α tem um valor sugerido de 100. m representa o n´ umero de objetivos e todas as vari´ aveis x
1a x
m−1variam entre 0 e 1. O parˆ ametro k = 10 tamb´ em
´ e sugerido e o n´ umero de vari´ aveis de decis˜ ao ´ e n = m + k − 1. Uma representa¸c˜ ao gr´ afica da fronteira real tridimensional para o problema DTLZ4 ´ e apresentada na Figura 3.3.
0 0.2 0.4 0.6 0.8 1 0
0.2 0.4
0.6 0.8
1 0
0.2 0.4 0.6 0.8 1
DTLZ4
(a) Vis˜ao frontal
0 0.2
0.4 0.6
0.8 1 0
0.2 0.4
0.6 0.8
1 0
0.2 0.4 0.6 0.8 1
DTLZ4
(b) Vis˜ao lateral
Figura 3.3: Fronteira real tridimensional para o problema DTLZ4
O problema DTLZ6 tamb´ em ´ e derivado do problema DTLZ2, entretanto, sua dificul- dade est´ a na modifica¸c˜ ao da fun¸c˜ ao g com P
ki=1
z
i0.1.
M inimize f
1(~ x) = (1 + g(x
m))cos(θ
1π/2) ... cos(θ
m−2π/2)cos(θ
m−1π/2), M inimize f
2(~ x) = (1 + g(x
m))cos(θ
1π/2) ... cos(θ
m−2π/2)sen(θ
m−1π/2), M inimize f
3(~ x) = (1 + g(x
m))cos(θ
1π/2) ... sen(θ
m−1π/2),
.. . .. .
M inimize f
m(~ x) = (1 + g(x
m))sen(θ
1π/2), Com θ
i=
4(1+g(xπm))
(1 + 2g(x
m)x
i) para i = 2, 3, ..., (m − 1), g(x
m) = P
xi∈Xm
x
0,1i, 0 ≤ x
i≤ 1, para i = 1, 2, ..., n,
(3.11)
Na Equa¸c˜ ao 3.11, a fronteira ´ otima corresponde a x
i= 0 para todo x
i∈ x
m. O
tamanho do vetor x
m´ e 10 e o n´ umero total de vari´ aveis ´ e n = m + k − 1. Este ´ e um problema que apresenta uma dificuldade para convergir, esta falta de convergˆ encia faz com que os algoritmos encontrem uma superf´ıcie dominada como fronteira aproximada, enquanto a fronteira real ´ e uma curva em qualquer n´ umero de objetivos [9]. Uma repre- senta¸c˜ ao gr´ afica da fronteira real tridimensional para o problema DTLZ6 ´ e apresentada na Figura 3.4.
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0
0.1 0.2 0.3
0.4 0.5 0.6
0.7 0.8 0
0.2 0.4 0.6 0.8 1
DTLZ6
(a) Vis˜ao frontal
0 0.1
0.2 0.3 0.4
0.5 0.6
0.7 0.8 0 0.1
0.2 0.3
0.4 0.5
0.6 0.7
0.8 0
0.2 0.4 0.6 0.8 1
DTLZ6
(b) Vis˜ao lateral
