RESOLUC ¸ ˜ OES DO PROBLEMA DO CAIXEIRO VIAJANTE APLICANDO ALGORITMOS DE APROXIMAC ¸ ˜ AO, RANDOMIZAC ¸ ˜ AO E HEUR´ ISTICAS DA INTELIGˆ ENCIA

(1)

UNIVERSIDADE PRESBITERIANA MACKENZIE PROGRAMA DE P ´ OS-GRADUAC ¸ ˜ AO EM

ENGENHARIA EL´ ETRICA

Fabio Razzo Galuppo

fabiogaluppo@acm.org

http://member.acm.org/∼fabiogaluppo

RESOLUC ¸ ˜ OES DO PROBLEMA DO CAIXEIRO VIAJANTE APLICANDO ALGORITMOS DE APROXIMAC ¸ ˜ AO, RANDOMIZAC ¸ ˜ AO E HEUR´ ISTICAS DA INTELIGˆ ENCIA

ARTIFICIAL COM COMPUTAC ˜ AO PARALELA

Disserta¸cão apresentada ao Programa de Pós-Gradua¸cão em Engenharia Elétrica da Universidade Presbiteriana Mackenzie, para a obten¸cão do t´ıtulo de Mestre em Engenharia Elétrica.

Orientador: Prof. Dr. Nizam Omar

S˜ao Paulo 2013

(2)

AGRADECIMENTOS

Desejo agradecer minha fam´ılia pelo apoio dado até o momento: Anna Maria Razzo Galuppo (mãe), Fernando Razzo Galuppo (irmão) e Janete Teodoro Leite (esposa). Em especial, a Francisco Galuppo (pai, in memoriam), por ter me incentivado e inspirado no belo caminho da Computa¸cão e da Matemática.

A Universidade Presbiteriana Mackenzie, por ter concedido uma bolsa CAPES-PROSUP, o que permitiu a conclusão do curso, a pesquisa e a elabora¸cão dessa disserta¸cão.

Aos professores do Programa de Pós-Gradua¸cão Stricto Sensu da Engenharia Elétrica.

Em especial, ao meu orientador Prof. Dr. Nizam Omar, pelo excelente direcionamento, orienta¸c˜ao e intera¸c˜ao no programa.

Aos meus amigos, Luis Fábio Mandina Pereira - simplesmente por ser um segundo irmão e amigo de longa data, e Rogério Wagner - por ser outro grande amigo e ter me incentivado a procurar um programa de Mestrado em Ciência da Computa¸cão. Gostaria de estender estes agradecimentos aos meus amigos e colegas do Mestrado da UPM, dos grupos de usuários (em especial, do C/C++ Brasil) e da BM&F Bovespa, seria uma lista extensa se eu colocasse o nome de todos eles, porém o mais importante é que eles sabe quem são.

A todos os Cientistas da Computa¸cão e Engenheiros de Software que se dedicam e contribuem com a expansão dessas áreas. Aos grandes personagens da Computa¸cão e da Matemática. Em especial, aBjarne Stroustrup, pela linguagem de programa¸cão C++. A Alexander Stepanov, pela Standard Template Library (STL) do C++. ADon Syme, pela linguagem de programa¸cão F#. AMartin Odersky, pela linguagem de programa¸cão Scala.

ADonald Knuth, pela obra The Art of Computer Programming. ARobert Sedgewick por disseminar a disciplina de Algoritmos de uma maneira acess´ıvel. AJohn McCarthy,Alan Turing e Alonzo Church pelas contribui¸cões e obras ligadas a Inteligência Artificial e a Programa¸cão Funcional.

Ao Coursera, Udacity, Museu da Matemática e toda institui¸cão e profissionais que trabalham em prol da dissemina¸cão do ensino, principalmente da Computa¸cão e da Ma- temática.

(3)

(4)

“The more you know, the more you learn; the more you learn, the more you can do; the more you can do, the more the opportunity...”

Dr. Richard W. Hamming

(5)

RESUMO

Esta obra tem como essência a aplica¸cão das técnicas denominadas coletivamente de metaheur´ıstica paralela no contexto do Problema do Caixeiro Viajante (PCV), um dos problemas de otimiza¸cão combinatória mais importantes. A abordagem desta obra contém uma proposta composicional que permite a cria¸cão depipelines para endere¸car o problema.

Estas técnicas extra´ıdas da Computa¸cão Paralela associadas aos algoritmos de busca da Inteligência Artificial possibilitam grandes oportunidades para a explora¸cão do espa¸co de estados do problema em questão. Usando as combina¸cões propostas, boas solu¸cões ou, até mesmo ótimas solu¸cões, emergirão dentro de um tempo de processamento sa- tisfatório, possibilitando suas aplica¸cões na resolu¸cão de problemas reais semelhantes. É fundamental revisitar as solu¸cões existentes e fornecer para a indústria as melhores op¸cões para resolu¸cão do PCV utilizando as capacidades computacionais contemporâneas e as variedades de equipamentos dispon´ıveis. Nesta obra, estão inclu´ıdos a implementa¸cão, a análise e a medi¸cão de algoritmos aplicados ao contexto referenciado.

Palavras-chave: computa¸cão paralela, computa¸cão concorrente, algoritmos, desempenho e otimiza¸cão de algoritmos, metaheur´ıstica, metaheur´ıstica paralela, inteligência artificial, problema do caixeiro viajante e otimiza¸cão combinatória.

(6)

ABSTRACT

This work has as its essence the application of techniques collectively called parallel metaheuristic in the context of a Travelling Salesman Problem (TSP), one of the most important problems in combinatorial optimization. The approach of this work contains a compositional proposal that allows the creation of pipelines to address the problem.

These techniques extracted from the Parallel Computing associated with the search algorithms of Artificial Intelligence allow great opportunities for exploring the state space of the problem in question. Using the proposed combinations, good solutions or even opti- mal solutions will emerge within a satisfactory processing time, allowing its application in real-world problems. It is essential to revisit the existing solutions and provide the best alternatives for the industry to solve the TSP using contemporary computing capabilities and varieties of available equipments. In this work, are included the implementation, analysis and measurement algorithms applied to the referenced context.

Palavras-chave: parallel computing, concurrent computing, algorithms, performance and algorithms optimization, metaheuristic, parallel metaheuristic, artificial intelligence, travelling salesman problem, and combinatory optimization.

(7)

Sum´ ario

1 INTRODUC¸ ˜AO 1

1.1 O Problema do Caixeiro Viajante . . . 1

1.2 Motiva¸c˜ao para a Pesquisa . . . 2

1.3 Estado da Arte na Solu¸c˜ao do Problema . . . 2

1.4 Proposta de Pesquisa . . . 3

1.5 Objetivos da Pesquisa . . . 3

1.6 Metodologia . . . 4

1.7 Pr´oximos Cap´ıtulos . . . 6

2 O PROBLEMA DO CAIXEIRO VIAJANTE 7 3 RESOLUÇ ÃO DE SISTEMAS COMPLEXOS 16 3.1 Resolu¸cão Metaheur´ıstica por Simulated Annealing (SA) . . . 19

3.2 Resolu¸c˜ao Metaheur´ıstica por Algoritmo Gen´etico (GA) . . . 22

3.3 Resolu¸cão Metaheur´ıstica por Otimiza¸cão por Colônia de Formigas (ACO) 25 3.4 Resolu¸cão Heur´ıstica por Busca Local 2-OPT . . . 28

4 DESEMPENHO E ALGORITMOS PARALELOS 29 4.1 Fork/Join para distribuir, explorar e selecionar . . . 32

5 MODELO COMPOSICIONAL PARA RESOLUÇ ÃO DO PCV 35 6 SOLUÇ ÕES PROPOSTAS 43 6.1 Resolu¸cão Metaheur´ıstica por Simulated Annealing (SA) e 2-OPT com Computa¸cão Paralela . . . 43

6.2 Resolu¸cão Metaheur´ıstica por Algoritmo Genético (GA) e 2-OPT com Computa¸cão Paralela . . . 46

6.3 Resolu¸cão Metaheur´ıstica por Otimiza¸cão por Colônia de Formigas (ACO) e 2-OPT com Computa¸cão Paralela . . . 48

6.4 Considera¸c˜oes sobre o Modelo Composicional . . . 49

7 RESULTADOS OBTIDOS 51 7.1 Resultados obtidos com o Pipeline 1 (SA) . . . 51

7.2 Comportamento monotonicamente decrescente . . . 57

7.3 Resultados obtidos em uma distribui¸c˜ao aleat´oria com 250 cidades . . . 59

(8)

7.4 Resultados obtidos com o Pipeline 2 (GA) . . . 62 7.5 Resultados obtidos com o Pipeline 3 (ACO) . . . 65 8 CONCLUS ˜AO E TRABALHOS FUTUROS 69

REFERˆENCIAS BIBLIOGR ´AFICAS 76

ANEXOS 77

(9)

1 INTRODUC ¸ ˜ AO

As técnicas de Computa¸cão Paralela associadas aos algoritmos de busca da Inteligência Artificial que exploram um espa¸co de estados através da aplica¸cão de metaheur´ıstica permitem a gera¸cão de uma maior quantidade de solu¸cões candidatas na resolu¸cão de problemas com dimensões consideradas intratáveis. Problemas da classe NP, como o Problema do Caixeiro Viajante, possui esta caracter´ıstica. Usando estas combina¸cões, de uma maneira composicional, uma boa solu¸cão ou, em alguns casos, uma ótima solu¸cão emergirá dentro de um tempo de processamento satisfatório para aplica¸cões na solu¸cão de problemas reais e complexos.

1.1 O Problema do Caixeiro Viajante

O Problema do Caixeiro Viajante (PCV) é um dos mais clássicos e desafiadores problemas computacionais de roteamento envolvendo um grafo com pesos. Ele conta com um grande número de aplica¸cões práticas em diversos segmentos da indústria, tais como, log´ıstica, genética, manufatura, telecomunica¸cão e neurociência. Ele tem inspirado pesquisas e estudos por matemáticos, cientistas da computa¸cão, engenheiros, qu´ımicos, f´ısicos, psicólogos, educadores, pesquisadores não profissionais, entre outros (APPLE- GATE, 2007).

O PCV consiste na determina¸cão do menor ciclo ou circuito para um conjunto de cidades a serem visitadas obrigatoriamente. Isto significa, que a partir de uma determinada cidade inicial (ou vértice do grafo), todas as cidades (os outros vértices deste grafo) serão visitadas uma única vez, exceto a cidade de origem, por sua vez, também é a cidade de destino, denotando assim, um ciclo. O custo de viagem entre um par de cidades é o peso associado as arestas que conectam o grafo. Neste caso, o objetivo é encontrar o caminho menos custoso para visitar todas as cidades, ao final, retornando a sua origem. O PCV busca pelo circuito hamiltoniano com o peso (custo ou comprimento) total m´ınimo (COOK, 2011).

Apesar da compreensão do PCV ser simples, ele é um dos problemas mais complexos (GAREY, 1979a) e intesivamente investigados em Matemática Computacional. Sua simplicidade e intratabilidade tornam o PCV um modelo ideal para o desenvolvimento

(10)

de idéias e técnicas para a investiga¸cão de problemas computacionais em geral (APPLE- GATE, 2007).

1.2 Motiva¸ c˜ ao para a Pesquisa

A aplica¸cão dos algoritmos da Inteligência Artificial (IA) para resolu¸cão de problemas complexos podem e devem ser expandidos através das capacidades da Computa¸cão Paralela e os recursos computacionais existentes. Existe um grande número de problemas complexos que não possuem uma solu¸cão exata ou ótima devido as suas dimensões e requisitos. Esta classe de problemas intratáveis, denominados polinômiais não-determin´ısco (NP), são modelos computacionais interessantes a serem investigados. Dentre eles, o Pro- blema do Caixeiro Viajante (PCV), ao qual é um problema de roteamento onde existem, e provavelmente sempre existirão, instâncias em aberto. Ele oferece uma ótima funda¸cão para explora¸cão e aplica¸cão dos algoritmos de IA em paralelo.

1.3 Estado da Arte na Solu¸ c˜ ao do Problema

O Problema de Caixeiro Viajante (PCV), por se tratar de uma referência amplamente investigada da classe dos problemas decid´ıveis e intratáveis, conta com diversas solu¸cões envolvendo a união entre heur´ısticas e paralelismo. As pesquisas mais recentes envolvendo os tipos de proposta alinhadas com esta obra, abordam a solu¸cão do PCV diretamente ou indiretamente. Elas consistem em: acelera¸cão através de busca local utilizando GPUs (ROCKI, 2012), aplica¸cão de Simulated Annealing (SA) em paralelo utilizando busca independente ou colaborativa (CZECH, 2010), acelera¸cão em paralelismo de dados para casos de Otimiza¸cão por Colônia de Formigas (ACO) (CECILIA, 2013) e paralelismo com Algoritmos Genético (AG) (GOMEZ, 2009). No entanto, estas abordagens buscam uma boa solu¸cão dentro de um tempo de processamento satisfatório e exploram paralelismo para atingir maiores desempenhos e/ou um número maior de solu¸cões candidatas.

Uma outra abordagem, que não é o foco principal desta obra, é a busca das solu¸cões

´

otimas do PCV (TSP@GATECH, 2007). No entanto, estas solu¸c˜oes podem demorar anos para serem encontradas.

(11)

1.4 Proposta de Pesquisa

A proposta de pesquisa desta obra está alinhada com os objetivos descritos na próxima se¸cão. Ela inclui a implementa¸cão, a análise e a medi¸cão dos algoritmos relacionados a seguir: Simulated Annealing (SA), Algoritmos Genético (AG), Otimiza¸cão por Colônia de Formigas (ACO) e Otimiza¸cão por Busca Local (OBL).

Os algoritmos selecionados serão implementados juntamente com técnicas de computa¸cão paralela. Isto significa que eles serão implementados suportando paralelismo através do uso de CPUs, porém com possibilidades de serem estendidos futuramente para GPUs ou outros processadores computacionais. Esta decisão dependerá das caracter´ısticas do algoritmo selecionado. Eles serão aplicados na resolu¸cão do Problema do Caixeiro Viajante (PCV) e verificados de acordo com as estratégias já conhecidas, como por exemplo, testados com os dados públicos da TSPLIB (REINELT, 1991a).

Além disso, um dos destaques é a apresenta¸cão de um modelo composicional para a resolu¸cão do PCV juntamente com um framework para seu desenvolvimento, inspirado em diversas técnicas, dentre elas, o modelo estrutural do algoritmo genético.

1.5 Objetivos da Pesquisa

Os objetivos desta obra são estabelecer conexões entre as técnicas de busca da Inte- ligência Artificial que utilizam metaheur´ıstica e a aplica¸cão dos recursos e das abstra¸cões oferecidas através da Computa¸cão Paralela. Bem como, analisar e medir o comportamento destes algoritmos isolados ou na forma de composi¸cão utilizando diversas configura¸cões de processamento. O objetivo central é implementar os algoritmos selecionados e aplicá-los ao Problema do Caixeiro Viajante de acordo com os detalhes apresentados nesta obra.

(12)

1.6 Metodologia

Para explorar o PCV através da perspectiva dos algoritmos abordados em IA juntamente com as capacidades da computa¸cão paralela, foi selecionado um conjunto de métodos metaheur´ısticos e outras heur´ısticas de otimiza¸cão, conforme descrito nos cap´ıtulos anteriores. Elas serviram para análise e base comparativa. O problema intratável em questão, o PCV, possui um grande potencial exploratório através de técnicas de paralelismo computacional. Os desafios ou estruturas computacioniais presentes nesta sele¸cão de algoritmos, ou seja, os requisitos de aplica¸cão neles contidos, envolvem: grades não estruturadas, álgebra linear, cálculos estat´ısticos, aleatoriedade e travesia de grafos (ASA- NOVIC, 2009).

As principais fontes determinantes na escolha dos algoritmos e aquisi¸cão de conhecimento foram os artigos e os livros relacionados nesta obra. Após a investiga¸cão e sele¸cão dos algoritmos, eles foram implementados usando uma linguagem de programa¸cão mul- tiparadigma e com suporte a paralelismo. Pelo desempenho, portabilidade, controle e familiaridade do autor, C++ (C++, 2011) é a linguagem de programa¸cão escolhida para a implementa¸cão dos algoritmos paralelos que foram analisados. Por ser uma linguagem que permite constru¸cões sucintas e também de familiaridade do autor, F# (FSHARP, 2013) foi aplicada na apresenta¸cão de algum conceito ou racioc´ınio que não precisará ser medido ou avaliado em detalhes, para outros casos foram adotados pseudocódigos.

As análises e representa¸cões dos dados produzidos foram feitos através das ferramentas Wolfram Mathematica e/ou Microsoft Excel. Dentre os recursos de computa¸cão paralela não distribu´ıda, foram utilizados uma combina¸cão de threads na CPU e as extensões de processamento vetorial existentes nos processadores modernos. Logo, o principal objetivo foi extrair o máximo e medir o comportamento dos recursos computacionais presentes nestes equipamentos multicores (ASANOVIC, 2009) para entender o comportamento relacionado a explora¸cão do espa¸co de estados do problema em questão.

Na coleta de dados foram utilizados marcadores e pontos bem definidos que permiti- ram a verifica¸cão de desempenho de um determinado algoritmo em rela¸cão ao tempo de processamento e/ou a qualidade do resultado(s) gerado(s). Alguns dos algoritmos selecionados foram executados e medidos em um trabalho conjunto através de algum modelo de composi¸cão, como por exemplo, em uma cadeia de execu¸cão (pipeline). Em alguns casos,

(13)

somente um pseudoc´odigo possuem as informa¸c˜oes relativas ao contexto do problema ou a um eventual esclarecimento.

Os dados que foram utilizados para os testes com o PCV simétrico e euclidiano bidimensional foram obtidos: a) aleatoriamente através de geradores de números randômicos ou b) de fontes já existentes, tais como, TSPLIB (REINELT, 1991a) ou TSP Test Data (TSP@GATECH, 2009).

Para execu¸cão dos testes e suas respectivas análises foram utilizados os recursos computacionais de acordo com as especifica¸cões indicadas na figura 1. Todos os equipamentos são de propriedade do autor:

Figura 1: Configura¸c˜ao dos computadores para medi¸c˜oes e coleta de dados

Foram reportados os principais procedimentos dos testes. Isso foi obtido através dos indicadores, tais como: gráficos contextuais, tabelas e grafos denotando os ciclos encon- trados. Todos os códigos fontes produzidos e utilizados estão relacionados e encontram-se na se¸cão de anexos deste trabalho.

(14)

1.7 Pr´ oximos Cap´ıtulos

A seguir ´e apresentada a organiza¸c˜ao desta obra.

O cap´ıtulo 2 descreve o Problema do Caixeiro Viajante (PCV): suas representa¸cões, seus desafios e como as heur´ısticas da Inteligência Artificial (IA) podem ajudar no es- tabelecimento de uma solu¸cão satisfatória. Neste cap´ıtulo, ainda são apresentados a complexidade e a explosão combinatória gerado por uma abordagem sequencial e de for¸ca bruta para encontrar uma ótima solu¸cão do PCV simétrico.

O cap´ıtulo 3 discorre sobre algoritmos e suas propriedades. Neste cap´ıtulo, também é descrito sobre complexidade computacional e as classes polinômias (P) e polinômias não- determin´ısticas (NP). É apresentado uma alternativa de resolu¸cão para o PCV através da aplica¸cão de heur´ısticas da IA.

O cap´ıtulo 4 estabelece a no¸cão sobre desempenho computacional, a utiliza¸cão de algoritmos paralelos para obten¸cão de desempenho e os novos tipos de hardwares com capacidades de computa¸cão paralela. Além disso, este cap´ıtulo cita como problemas intratáveis, como no caso do PCV, podem se beneficiar de uma classe de heur´ıstica, ao qual coletivamente é chamada de metaheur´ıstica paralela.

O cap´ıtulo 5 apresenta a constru¸c˜ao mon´adica para abordar o PCV. Neste cap´ıtulo,

´e introduzido o modelo composicional juntamente com suas propriedades.

O cap´ıtulo 6 é o concentrador das solu¸cões propostas desta obra e complementa o cap´ıtulo 5, onde são apresentadas as solu¸cões propostas da disserta¸cão: a resolu¸cão do PCV porSimulated Annealing (SA) com Computa¸cão Paralela, a resolu¸cão do PCV por Algoritmo Genético (GA) com Computa¸cão Paralela e a resolu¸cão do PCV por Otimiza¸cão por Colônia de Formigas (ACO) com Computa¸cão Paralela. Para todas estas solu¸cões são aplicadas um heur´ıstica de ajuste baseada em Otimiza¸cão por Busca Local (OBL).

O cap´ıtulo 7 apresenta os resultados obtidos, a compara¸c˜ao com outros resultados publicados e a conclus˜ao do modelo proposto.

(15)

2 O PROBLEMA DO CAIXEIRO VIAJANTE

O Problema do Caixeiro Viajante (PCV) é um dos mais clássicos e desafiadores problemas computacionais de roteamento envolvendo um grafo com pesos, contando com um grande número de aplica¸cões práticas - onde se incluem instâncias do problema que envolvem grafos direcionados ou digrafos, como, por exemplo, a representa¸cão de ruas com mão única (problema na forma assimétrica) e mão dupla (problema na forma simétrica).

O PCV consiste na determina¸cão do menor ciclo ou circuito para um conjunto de cidades a serem visitadas obrigatoriamente. Isto significa, que a partir de uma determinada cidade inicial (ou vértice do grafo), todas as cidades (os outros vértices deste grafo) serão visitadas uma única vez, exceto a cidade de origem, por sua vez, também é a cidade de destino, denotando assim, um ciclo. O PCV busca pelo circuito hamiltoniano com o peso (custo ou comprimento) total m´ınimo.

Figura 2: Homenagem do XKCD ao quase centen´ario Problema do Caixeiro Viajante.

(http://xkcd.com/399/)

O diagrama a seguir, indicado na figura 3, exibe um grafo não-direcionado completo com cinco vértices e seus respectivos pesos. Tal disposi¸cão representa uma configura¸cão do PCV:

(16)

Figura 3: Grafo n˜ao-direcionado com cinco v´ertices e seus respectivos pesos.

A origem do PCV remete a um jogo inventado em 1857 por Sir William Rowan Hamiltom, criador da matem´atica dosquaternions, o Jogo Icosiano (APPLEGATE, 2007).

Este jogo tinha como objetivo encontrar um ciclo através de 20 vértices distribuidos em quatro pentágonos concêntricos, onde cada vértice continha três adjacentes (algumas destas conexões ligando um pentágono mais externo a outro mais interno). No plano tridimensional, a figura geométrica do jogo Icosiano é um dodecaedro. Em outro momento, o tipo de solu¸cão oferecida pelo desafio do jogo fora denominada de ciclo hamiltoniano, em homenagem ao seu criador. No entanto, somente no ano de 1930, o problema se caracterizou como PCV por Merrill Flood da Universidade de Princeton e da RAND Corporation. E seu desafio continua até os dias atuais. Sendo assim, o modelo abstrato do PCV é de um problema de otimiza¸cão combinatória relacionado a determina¸cão de um ciclo hamiltoniano em um grafo qualquer (direcionado ou não), cujo objetivo é encontrar um ciclo de peso (custo ou comprimento) m´ınimo, ou seja, um problema de minimiza¸cão (APPLEGATE, 2007).

E poss´ıvel representar uma das solu¸c˜´ oes ou um dos ciclos de uma instância do problema PCV, utilizando subgrafos, matrizes de adjacência, listas de adjacência ou até mesmo caminhos de uma estrutura de dados do tipo árvore, onde o nó final contém intr´ınsecamente uma referência ao nó inicial. Uma vez que resultados variados são derivados da confi-

(17)

gura¸cão de um PCV, este resultado, ou seja, o ciclo estabelecido como solu¸cão, também pode ser denominado como uma instância da solu¸cão do PCV proposto.

A formula¸cão do PCV como um problema de programa¸cão binária foi apresentada em 1954 por George Bernard Dantzig, Delbert Ray Fulkerson e Selmer Martin Johnson (DANTZIG, 1954). Na figura 4, é apresentado a modelagem matemática com as variáveis de decisão e as restri¸cões do problema:

Figura 4: Modelo do PCV através de Programa¸cão Binária. (Adapta¸cão do modelo proposto por Belfiore e Fávero (BELFIORE, 2013))

(18)

As restri¸cões do problema indicadas na figura 4 em (1) e (2) determinam que cada nó seja visitado uma única vez e a restri¸cão (3) impede que ocorra a forma¸cão de sub-rotas.

Abaixo há duas representa¸cões alternativas de uma instância da solu¸cão do PCV referente a figura 3. A esquerda, encontra-se um subgrafo.` A direita uma matriz de` adjacências equivalente ao subgrafo anterior, ao qual os elementos formadores do ciclo estão em destaque em suas respectivas células, elas podem ser interpretadas pela horizontal ou pela vertical.

Figura 5: Subgrafo e matriz de adjacˆencias equivalente.

Portanto, a nota¸cão sequencial do ciclo, equivalente a representa¸cão acima é: A - p1 - B - p2 - C- p3 - D - p4 - E - p0 - A.

Um algoritmo de resolu¸cão, escrito na linguagem de programa¸cão F# (FSHARP, 2013), do PCV utilizando uma abordagem por for¸ca bruta, ou seja, todas as poss´ıveis combina¸cões de caminhos, é apresentado a seguir:

(19)

Figura 6: Resolu¸c˜ao do PCV atrav´es de for¸ca bruta.

O exemplo em questão, através da fun¸cãographToTree, transforma um grafo em uma

´

arvore. E a fun¸cão bruteForceApproach, executa a combina¸cão e a ordena¸cão crescente pela distância total desta combina¸cão.

Assumindo que os valores das conex˜oes correspondem a tabela indicada na figura 7:

(20)

Figura 7: Valores de referˆencia para exemplo do PCV atrav´es de for¸ca bruta.

O resultado desta combina¸c˜ao est´a indicado a seguir:

Figura 8: Resultado para exemplo do PCV sim´etrico atrav´es de for¸ca bruta.

No entanto, a pergunta a ser respondida ´e: Quantos ciclos precisariam ser verificados para resolver este problema para N cidades (ou v´ertices)?

O PCV é um problema de otimiza¸cão combinatória, onde a explosão em seu caso simétrico é equivalente a Γ(N)

2 permuta¸c˜oes. Este resultado ´e extraido do fato de um ciclo em uma determinada ordem e sua reversa possu´ırem o mesmo valor total (destacados na

(21)

figura 8). Isto é, através da teoria da complexidade computacional, significa que ele é um problema decid´ıvel e classificado como polinomial não-determin´ıstico (NP) da classe NP- Completo ou NP-Dif´ıcil, de acordo com as métricas utilizadas (GAREY, 1979b). Neste caso, dependendo do poder computacional, é poss´ıvel resolver por for¸ca bruta instâncias do problema com máximo entre 20 a 30 cidades.

Figura 9: M´etricas para resolu¸c˜ao PCV com for¸ca bruta.

Outro fator a ser considerado é a representa¸cão do problema. Certamente, matrizes de adjacência ou todas as combina¸cões do grafo se forem mantidos em memória, podem encontrar como barreira a capacidade de armazenamento destas informa¸cões, no caso do número de cidades a serem visitadas for muito grande. Neste caso, e em situa¸cões contendo um grande número de combina¸cões, elas deveriam ser particionadas e distribu´ıdas. Porém, dado sua ordem NP-Completo, encontrar uma solu¸cão ótima pode ser imposs´ıvel com o poder computacional atual. De fato, existem abordagens por programa¸cão linear, entre outras técnicas, que permitem encontrar uma das solu¸cões ótima (caso exista mais de uma possibilidade), porém em alguns casos para alcan¸car esta este resultado, requer anos de processamento (TSP@GATECH, 2007), que pode ser (ou é) inviável na aplica¸cão para solucionar problemas reais - onde muitas vezes estes caminhos são dinâmicos. Por exemplo, a rota feita pelo entregador de jornal pode ficar estática por um bom tempo, até

(22)

que um novo assinante apare¸ca, se este for auxiliado por um algortimo para determinar suas visitas, este algoritmo deve ser eficiente e adaptativo, ou seja, fornecer um boa rota dentro de um per´ıodo aceit´avel de tempo.

Existem declaradas solu¸cões reais, utilizando uma abordagem algoritmica clássica da Arvore Geradora M´ınima (AGM), que pode encontrar uma solu¸c˜´ ao quase ótima, se tiver tempo suficiente para processamento. Por exemplo, uma semana para resolver um problema estático (MENDES, 2012). Para os outros casos, principalmente onde existe a restri¸cão de tempo, para obter uma boa solu¸cão, a heur´ıstica é aplicada. Atualmente, o maior PCV com cidades já resolvidos contém uma solu¸cão ótima é inferior a 25 mil vértices.

(MENDES, 2012)(TSP@GATECH, 2005). E o m´aximo reportado sobre uma solu¸c˜ao

´

otima em uma aplica¸c˜ao VLSI encontra-se em torno de 86 mil v´ertices (TSP@GATECH, 2007).

Através do uso de heur´ısticas, não há garantias, mas uma solu¸cão tende a convergir para um bom resultado com complexidade de tempo polinomial (P). No caso do PCV, uma heur´ıstica aceitável é do vizinho mais próximo. Ela é uma técnica de algoritmo guloso, onde a partir de uma determinada cidade, a próxima será a cidade não visitada com menor distância entre elas. Este tipo de abordagem possui complexidade algoritimica de O(N²).

E uma solu¸c˜´ ao eficiente, embora, assim como oHill Climbling (RUSSELL, 2009), ela pode ficar presa no m´ınimo local e seu sucesso depende muito da forma do espa¸co de estados associado. Para superar este aspecto do algoritmo, pode ser utilizada uma heur´ıstica de troca de vizinhos, onde usualmente é aplicado algum comportamento aleatório para determinar quais os vizinhos serão trocados. Neste caso, é imprático manter todos as instâncias previamente encontradas, o que corre no risco destas instâncias serem visitadas novamente, portanto o espa¸co de busca voltará a ser Γ(N). Isto também é válido para os casos assimétricos do PCV.

Sobretudo, tentativas no desenvolvimento de heur´ısticas genéricas, ou seja, que sirvam para endere¸car uma variedade de problemas, não tiveram muito sucesso até o desenvolvimento de solu¸cões baseadas em Inteligência Artificial (IA), coletivamente denominadas solu¸cões metaheur´ısticas (VOSS, 2006). Estas solu¸cões são geralmente utilizadas na resolu¸cão de problemas aos quais não existe conhecimento de um algoritmo eficiente para resolver o problema, sendo uma boa solu¸cão considerada aceitável. As solu¸cões de IA

(23)

com metaheur´ısticas são basicamente técnicas inteligentes de busca, onde algumas delas são baseadas em sistemas adaptativos naturais. Para alguns problemas de otimiza¸cão combinatória, como no caso do PCV, é poss´ıvel resolvê-los de uma maneira menos que perfeita, porém com um considerável valor prático ou aplicado. Sendo, os tipos de algoritmos implementados para este propósito chamados de algoritmos de aproxima¸cão - comuns em solu¸cões IA que utilizam metaheur´ıstica. Eles estão baseados no fato de que em muitos casos uma solu¸cão pouco menos que ótima, dentro de uma escala de tempo satisfatória, é melhor que nenhuma solu¸cão (HAREL, 2012b).

Em resumo, o PCV é um problema de roteamento intratável da ordem polinomial não determin´ıstica (NP). Conforme descrito nas páginas 211 e 212 do COMPUTERS AND INTRACTABILITY de Garey e Johnson (GAREY, 1979a), ele é um problema NP- Completo, porém pode ser classificado como NP-Dif´ıcil se for considerado a investiga¸cão da versão geométrica com métrica Euclidiana. Uma instância do problema com 48 cidades (ou vértices) em sua configura¸cão simétrica terá uma combina¸cão de 2,58623×10⁵⁹ possibilidades ou 47 fatorial (47!). Em sua configura¸cão assimétrica esta mesma instância terá uma combina¸cão de 1,24139×10⁶⁰ possibilidades ou 48 fatorial (48!). A figura 10 ilustra uma descri¸cão sucinta do problema:

Figura 10: Resumo do PCV.

(24)

3 RESOLUC ¸ ˜ AO DE SISTEMAS COMPLEXOS

Algoritmo é uma prescri¸cão, onde um conjunto de instru¸cões finitas e bem definidas, que tem por objetivo a resolu¸cão de um problema. Computacionalmente, um algoritmo possui propriedades intr´ınsicas relacionadas com complexidade de desempenho e espa¸co consumido em memória. Estas propriedades são classificadas de acordo com uma ordem de crescimento para determinar o comportamento assintótico do algoritmo. Para entender a eficiência e o comportamento dos algoritmos são necessários saber sua complexidade e seu modelo computacional.

A classifica¸cão do algoritmo é dado numa linguagem matemática, organizada em ordem crescente (Figura 11), por: constante (k), logar´ıtmica (log N), linear (N), linear- logar´ıtmica (N log N), quadrática (N²), cúbica (N³) e exponencial (2^N).

Figura 11: Classifica¸c˜ao da ordem de crescimento em escala logar´ıtmica proposta por Sedgewick (SEDGEWICK, 2009).

(25)

A seguir são apresentadas algumas tarefas que representam opera¸cões de ordem crescente descritas anteriormente (Figura 11). Elas estão em formas de fun¸cões acumuladoras, codificadas na linguagem de programa¸cão F# (FSHARP, 2013).

Abaixo as fun¸cões acumuladoras: constante (constant), logar´ıtmico (logarithmic), linear (linear), linear-logar´ıtmico (linear-logarithmic), quadrático (quadratic), cúbico (cu- bic) e exponential (exponencial). A fun¸cão exponencial utiliza internamente a gera¸cão do coeficiente binomial para produzir uma sequência iterativa equivalente ao triângulo de Pascal. Estas fun¸cões representam esfor¸cos que são tratáveis ou intratáveis na medida em que a quantidade de elementos computáveis aumenta através de um comportamento assintótico.

Figura 12: Fun¸c˜oes acumuladoras e suas ordens de crescimento.

(26)

Obtendo a classifica¸cão com rela¸cão a sua ordem de crescimento, é poss´ıvel estimar qual o comportamento e o tempo de processamento de um determinado algoritmo se o número de elementos computáveis crescer. Ou seja, o objetivo é saber as caracteristicas do algoritmo com base numa determinada medida de eficiência (na maioria dos casos, o tempo de processamento - velocidade) e em quanto tempo um resultado (correto) será produzido. No entanto, há alguns problemas que não possuem uma solu¸cão eficiente conhecida, tais problemas são denominados NP-completo (CORMEN, 2009). Com isto, uma hierarquia de complexidade emerge.

A escala de complexidade computacional considera como problemas polinômias (P) aqueles que possuem um algoritmo eficiente com ordem inferior nos limites da ordem exponencial e, em alguns casos, de potências com expoentes elevados. No caso onde existe um algoritmo eficiente para o problema, ele é considerado tratável. E, no geral, os problemas intratáveis não possuem um algoritmo eficiente. Mesmo alguns dos problemas tratáveis podem degradar dependendo da quantidade de elementos a ser processado, ou seja, o poder computacional contemporâneo pode ser um outro limite que impe¸ca a resolu¸cão do problema.

O PCV é um problema intratável e classificado como polinomial não-determin´ıstico (NP). Existem solu¸cões ótimas para o PCV com cidades, porém o maior deles já resolvido contém uma solu¸cão abaixo de 30 mil cidades (MENDES, 2012)(TSP@GATECH, 2005), levando anos de processamento para encontrar este resultado (TSP@GATECH, 2004).

Uma alternativa de resolu¸cão para o PCV é através da aplica¸cão de heur´ısticas, onde uma solu¸cão pode convergir para um bom resultado, ou seja, encontrar uma solu¸cão sub-

´

otima - isto não é garantido, mas por outro lado pode ser o melhor resultado em rela¸cão as restri¸cões de tempo estabelecidas. Este é o trade-off que deve ser considerado na ado¸cão de tais técnicas. No caso do PCV, a abordagem é utilizar as técnicas de busca com heur´ıstica para guiar e limitar o processo de busca em um espa¸co de estados com uma dimensão intratável.

(27)

3.1 Resolu¸ c˜ ao Metaheur´ıstica por Simulated Annealing (SA)

Uma das técnicas de IA baseada na combina¸cão de f´ısica estat´ıstica, no método de Monte Carlo e em um modelo estocástico do algoritmo Hill Climbing (HC) é aSimulated Annealing (SA). Onde, no artigo original, o problema referencial para a demostra¸cão do algoritmo é o PCV com 400 cidades (KIRKPATRICK, 1983)(KIRKPATRICK, 1988).

O SA é um modelo que simula o processo f´ısico de agrega¸cão de part´ıculas em um sistema submetido em uma temperatura alt´ıssima, onde no decorrer do tempo a temperatura vai caindo lentamente até o seu resfriamento dado um determinado critério - esta caracter´ıstica do sistema é denominada decooling schedule. Neste processo, ocorre o realinhamento das moléculas e o ajuste do sistema. Na metalurgia, no processo deanne- aling, os metais são submetidos a fornos para serem temperados, portanto, as moléculas do metal são recombinadas para obterem maior resistência.

O SA é uma busca probabil´ıstica, ao contrário do HC não estocástico, ele aplica mo- vimentos não intuitos e dinamismo em sua parametriza¸cão como, por exemplo, aceitar solu¸cões inferiores à solu¸cão atual para não ficar preso, dependendo do tipo de problema, no m´ınimo ou máximo local. Este comportamento é comum ocorrer no in´ıcio da solu¸cão onde a temperatura é elevada. No entanto, durante o resfriamento, o sistema vai se estabi- lizando, consequentemente havendo uma maior resistência em aceitar solu¸cões inferiores.

A troca de energia do sistema neste caso é análoga a troca de vizinhos no PCV. O SA é baseado no algoritmo de Metropolis-Hastings (ROBERT, 2009), a aceita¸cão ou rejei¸cão de uma nova solu¸cão, inferior a anterior, é baseada na aplica¸cão da fun¸cão de Boltzmann.

Este comportamento ocorre durante os passos da itera¸cão mantidas no processo de cooling schedule, exceto quando um novo resultado com valor melhor não for encontrado através da avalia¸cão da fun¸cão objetivo. No caso do PCV, uma fun¸cão objetivo que avalia se o novo ciclo é maior ou igual a solu¸cão atual ou a diferen¸ca de energia entre o novo resultado e o resultado atual não for menor do que zero. Basicamente a fun¸cão objetivo e a fun¸cão de Boltzmann determinam os critérios de aceite do resultado obtido.

O SA possui um comportamento exploratório, isto significa que ele pretende encontrar ou visitar solu¸cões em regiões não exploradas no espa¸co de estados. Sendo uma solu¸cão estocástica, baseada no conceito de algoritmos de aproxima¸cão, ela depende dos aspectos aleatórios inerentes a caracter´ıstica da opera¸cão. No caso, a implementa¸cão computacio-

(28)

nal, depende primariamente da qualidade do gerador de números randômicos, ao qual tem uma influência positiva ou negativa sobre os resultados da solu¸cão (KLIMASAUSKAS, 2002). Benoˆıt Mandelbrot, criador da matemática dos fractais, associa a qualidade de aleatoriedade com um coeficiente, denominado de coeficiente de Hurst (H). O H indica um ´ındice de dependência relativo a uma série de valores no decorrer do tempo (série tem- poral). Se o H estiver entre maior que 0.5 e 1, significa que existe um alta probalidade de um número alto (ou baixo) ser seguido por outro número de mesma caracter´ıstica (comportamento persistente). Se o valor estiver entre 0 e menor que 0.5 significa que existe um alta probabilidade de um alterna¸cão entre os número da série, se o número atual é um valor alto, o próximo será baixo, ou vice e versa (comportamento anti-persistente).

No entanto, se H for igual a 0.5, o comportamento da sequência é incerta, portanto im- previs´ıvel (MANDELBROT, 2004) - o que é muito bom para a caracter´ıstica exploratória da solu¸cão com SA.

O Problema do Caixeiro Viajante é amplamente estudado pela Pesquisa Operacional e pela Ciência da Computa¸cão. Provavelmente, o SA não é a abordagem mais eficiente se comparado com outras heur´ısticas. Para ele ser competitivo será necessário ajustes finos em sua parametriza¸cão (SKISCIM, 1983). Mesmo com um esfor¸co computacional um pouco maior se comparado com outras heur´ısticas, o SA é um bom algoritmo para poder escapar dos m´ınimos locais. Por outro lado, existem diversas abordagens aplicando paralelismo denominadas coletivamente deParallel Simulated Annealing (PSA) aos quais permitem um balanceamento entre ostrade-offs (AYDIN, 2005). Um tipo de abordagem paralela do SA é descrita mais adiante nesta obra.

(29)

A fun¸cão SIMULATED-ANNEALING apresenta em pseudocódigo o método do SA descrito anteriormente:

Figura 13: Fun¸c˜ao SIMULATED-ANNEALING.

(30)

3.2 Resolu¸ c˜ ao Metaheur´ıstica por Algoritmo Gen´ etico (GA)

Algoritmo genético (GA) pertence a uma classe de algoritmos evolutivos da Inte- ligência Artificial (IA). A técnica do GA foi adaptada com o objetivo de encontrar solu¸cões aproximadas para os problemas de otimiza¸cão e busca tais como o PCV. Assim como o SA, esta é outra técnica inspirada na natureza, neste caso, ela é baseada em alguns or- ganismos biológicos que sofrem sua evolu¸cão através do processo da sele¸cão natural e da sobrevivência do ”mais forte”ou mais apto (fittest) (HOLLAND, 1992b), segundo os princ´ıpios estabelecidos pelo darwinismo (HOLLAND, 1992a). De forma abstrata, o GA utiliza do processo referenciado os conceitos de: reprodu¸cão, hereditariedade, varia¸cão, recombina¸cão e sele¸cão natural (MITCHELL, 2003). Portanto, deste modelo biológico o algoritmo aplica as idéias de popula¸cão de cromossomos, sele¸cão natural para cruzamento, gera¸cão de descendentes através de crossover e muta¸cão para obter diversidade.

Usualmente, a representa¸cão da solu¸cão do problema em GA é feita por uma string binária, ou seja, ela é uma sequência de zeros e uns, ao qual essa string é denominada cromossomo, sendo um agrupamento de genes (contendo os 0s e os 1s). No entanto, no caso do PCV, isso não é uma boa representa¸cão ou, pelo menos, uma representa¸cão expressiva que forne¸ca alguma vantagem para endere¸car as caracter´ısticas estruturais do PCV. Segundo Zbigniew Michalewicz, optar por umastring binária é uma péssima escolha para representar solu¸cões do PCV (MICHALEWICZ, 2010).

Para o PCV, a representa¸cão selecionada é a do caminho (path representation), onde cada vértice do grafo, exceto o primeiro e o último do ciclo, estão conectados aos vizinhos da esquerda e da direita - facilitando a aplica¸cão da opera¸cão de crossover. Esta representa¸cão de caminho é organizado numa estrutura de dados do tipo vetor (ouarray), onde o vizinhos da esquerda e da direita do elemento encontrado na posi¸cão N, estarão nas posi¸cões N-1 e N+1 respectivamente.

A avalia¸cão de um resultado superior é feita por uma fun¸cão de aptidão (ou defitness) ou fun¸cão de recompensa. No caso do PCV, a fun¸cão objetivo do problema é baseada no tipo de problema a ser investigado, por exemplo, em sua versão simétrica e bidimensional, o valor a ser medido pode ser a distância euclidiana. Esta fun¸cão de fitness poderá indicar mais do que se o problema foi resolvido ou não, ela servirá também para avaliar qual a proximidade de uma solu¸cão ideal, orientando no processo de sele¸cão e gera¸cão de

(31)

popula¸c˜oes com solu¸c˜oes candidatas ao PCV.

No algoritmo de GA é encontrado, de uma forma adaptada ao problema, três opera- dores genéticos populares: a sele¸cão, a recombina¸cão (ou crossover) e a muta¸cão.

A opera¸cão de sele¸cão é responsável pela escolha dos indiv´ıduos (ou das solu¸cões candidatas do PCV) que formarão a próxima popula¸cão.

A opera¸cão de recombina¸cão é responsável pela produ¸cão de descendentes a partir do compartilhamento de material genético (no caso do PCV, organiza¸cão entre os vizinhos).

Um dos processos válidos é a sele¸cão de dois indiv´ıduos da popula¸cão com as melhores fun¸cões de fitness, denominados de pais, e estes são manipulados para gerar filhos com uma fun¸cão de fitness superior, sendo no PCV, uma solu¸cão de circuito m´ınimo). No PCV, esta manipula¸cão envolve a troca aleatória de cidades (ou vértices) entre duas das solu¸cões candidatas do PCV, porém é necessário manter a consistência e a estrutura do ciclo.

A opera¸cão de muta¸cão é responsável pela inversão ou troca de duas cidades (ou vértices) da solu¸cão candidata do PCV. Normalmente, esta opera¸cão ocorre com probabilidade aleatória após uma opera¸cão de recombina¸cão.

Os procedimentos adotados no GA desta obra envolve:

1. No in´ıcio, a cria¸cão de um conjunto aleatório de circuitos do PCV que formam as solu¸cões candidatas da primeira gera¸cão. A abordagem para a popula¸cão inicial é gulosa, ou seja, da preferência para as cidades (ou vértices) mais próximas uma das outras;

2. A sele¸cão das duas melhores solu¸cões candidatas (com menor ciclo) na popula¸cão.

Elas serão os pais, onde serão recombinado para gerar duas novas solu¸cões candidatas ou dois novos filhos. Esses filhos poderão, na maioria das vezes, serem melhores que os pais;

3. Baseado numa condi¸cão aleatória os filhos gerados anteriormente sofrerão muta¸cão.

Isto é para impedir que possam ocorrer semelhantes solu¸cões candidatas entre a popula¸cão;

4. Os novos filhos substituirão na popula¸cão existente as solu¸cões candidatas com re-

(32)

sultados inferiores (com maior ciclo).

Durante o processamento do GA, o tamanho da popula¸cão ou a quantidade de solu¸cões candidatas do PCV mantém-se inalterada. Além disso, este processo é iterativo. Os parâmetros do tamanho da popula¸cão e da quantidade de intera¸cões são definidos de acordo com um balanceamento do tamanho do problema a ser solucionado e o tempo de execu¸cão (aproximadamente) desejado. A fun¸cão GENETIC-ALGORITHM apresenta em pseudocódigo o método do GA descrito anteriormente:

Figura 14: Fun¸c˜ao GENETIC-ALGORITHM.

(33)

3.3 Resolu¸ c˜ ao Metaheur´ıstica por Otimiza¸ c˜ ao por Colˆ onia de Formigas (ACO)

Otimiza¸cão por colônia de formigas (ACO), bem como o SA e GA descritos anteriormente, é outro método de otimiza¸cão inspirado na natureza, neste caso, ele foi baseado na observa¸cão do comportamento de formigas reais atuando em colônias (CECILIA, 2013).

Mesmo não sendo as criaturas mais inteligentes deste planeta, todavia sendo um inseto social, as formigas apresentam uma notável inteligência coletiva enquanto colônia. A inteligência exposta pelas colônias de formigas é um exemplo de comportamento emergente (LUCCI, 2012). Comportamento emergente significa que um grupo de agentes ou entidades simples, no caso as formigas, conseguem atuar em um ambiente, formando comportamentos complexos em seu coletivo. O comportamento das formigas é gover- nado pela sobrevivência da colônia ao invés da sobrevivência dos ind´ıviduos, sendo esta caracter´ıstica uma das pe¸cas centrais do algoritmo desta se¸cão.

O algoritmo do ACO pode ser aplicado como heur´ıstica por uma grande quantidade de problemas (DORIGO, 2006)(BLUM, 2005), principalmente aqueles do tipo que possuem uma estrutura naturalmente modelada como um grafo. A primeira aplica¸c˜ao do ACO foi com o PCV, em sua forma original denominada de Ant System (AS) (DORIGO, 1996).

No ACO, em essência, as formigas artificiais ou simuladas geram solu¸cões para instâncias do PCV em forma de tours ou ciclos. Essas formigas são simplesmente agentes que possuem a capacidade de construir tours de forma paralela e probabil´ıstica. Elas são orientadas nesse processo por uma trilha virtual de feromônio (pheromone trail) e outras informa¸cões pertinentes a heur´ıstica. Este rastro de feromônio é um elemento fundamental no algoritmo, ele é o facilitador ou estimulador da coordena¸cão indireta entre os agentes e o ambiente, onde este processo é denominado estigmergia (stigmergy) (DORIGO, 1997)(DORIGO, 2004).

O processo de estigmergia atua da seguinte forma em um grafo do PCV: um conjunto de formigas virtuais são distribu´ıdas em torno deste grafo. As formigas selecionam, de forma probabil´ıstica, seus caminhos baseados na intensidade de feromônio onde as arestas ou conexões do grafo não estejam ocupadas ou foram visitadas previamente. Quanto maior o n´ıvel de feromônio em uma conexão, maior a probabilidade dela ser escolhida.

(34)

Quando as formigas completam um ciclo, a fun¸cão de fitness é avaliada e o n´ıvel de feromônio do grafo é atualizado. Ao passar do tempo, as melhores arestas do grafo, que determinarão um ciclo m´ınimo possuirão um n´ıvel de feromônio maior, portanto existerá a convergência, ou seja o maior número de formigas percorrendo o mesmo circuito.

Existem duas a¸cões atuando sob o n´ıvel de feromônio depositado no grafo são elas:

a intesifica¸cão e a evapora¸cão. As a¸cões de intensifica¸cão e evapora¸cão são regidas pelas seguintes equa¸cões:

Figura 15: Equa¸cões da distribui¸cão, intensifica¸cão e evapora¸cão do feromônio.

(35)

Outra equa¸cão que faz parte do ACO é a de probabilidade para a sele¸cão de caminho, onde o objetivo é definir qual será a próxima cidade (ou vértice) visitada. Ela é obtida através da rela¸cão a seguir:

Figura 16: Equa¸c˜ao de probabilidade para sele¸c˜ao do caminho.

A fun¸cão ANT-COLONY-OPTIMIZATION apresenta em pseudocódigo o método do ACO descrito anteriormente:

Figura 17: Fun¸c˜ao ANT-COLONY-OPTIMIZATION.

(36)

3.4 Resolu¸ c˜ ao Heur´ıstica por Busca Local 2-OPT

A heur´ıstica de busca local 2-Opt para resolu¸cão do PCV (CROES, 1958) serve para ajustar um circuito de uma instância do problema. Esta heur´ıstica busca o melhor resultado local, eliminando os cruzamentos entre as arestas. Percorrendo todos os pares das arestas não adjacentes e alterando suas conexões é poss´ıvel alcan¸car o m´ınimo local do circuito, conforme descrito nos passos do algoritmo em pseudocódigo a seguir:

Figura 18: Fun¸c˜oes 2-OPT-SWAP e 2-OPT-ALL. Elas comp˜oem a heur´ıstica 2-Opt.

(37)

4 DESEMPENHO E ALGORITMOS PARALELOS

A preocupa¸cão, ou o questionamento sobre o desempenho computacional em rela¸cão ao tempo, ocorre desde o século XIX, quando foi concebida a Máquina Análitica de Charles Babbage:

“As soon as an Analytic Engine exists, it will necessarily guide the future course of the science. Whenever any result is sought by its aid, the question will arise - By what course of calculation can these results be arrived at by the machine in the shortest time? (BABBAGE, 1864)”

Todo trabalho de análise matemática de algoritmos é fundamentado e baseado nas opera¸cões sequenciais, onde as instru¸cões não podem ocorrer no mesmo tempo. Este modelo é conhecido como arquitetura de von Neumann ou arquitetura de Princeton (NEU- MANN, 1993).

A Arquitetura de von Neumann ainda é a arquitetura dominante na constru¸cão de computadores convencionais. Na constru¸cão de um algoritmo, existem duas propriedades fundamentais a serem consideradas e medidas: tempo de processamento e espa¸co dos dados. Uma vez determinado o espa¸co consumido por um algoritmo sequencial, isto torna- se uma caracter´ıstica imutável, sua varia¸cão de tempo de processamento será proporcional a sua complexidade e a velocidade do processador. No entanto, existe a possibilidade da constru¸cão de algoritmos usando técnicas de computa¸cão paralela para aumentar o desempenho em rela¸cão ao tempo de processamento e, consequentemente em muitos casos, consumindo mais espa¸co de dados (embora em um intervalo menor de tempo).

Atualmente, para executar mais computa¸cões por segundo, os processadores estão sendo desenvolvidos com mais de um núcleo de processamento, denominados de processadores multicore, em outras palavras eles são um tipo de computador paralelo. Portanto, para obter o melhor desempenho destes computadores, será necessário explorar algoritmos usando técnicas de computa¸cão paralela, ou simplesmente paralelismo (CORMEN, 2009).

Segundo David Harel, no livro Algorithmics, paralelismo tem se tornado cada vez mais crucial, em grande parte por causa da tendência da constru¸cão destes novos hardwares (processadores com capacidade de computa¸cão paralela). Onde computadores com quatro

(38)

núcleos são comuns hoje em dia. Para tomar vantagem destes tipos de processadores, novos algoritmos e técnicas de programa¸cão são necessárias. Uma das técnicas populares

´e amap-reduce, inspirada pela programa¸c˜ao funcional (HAREL, 2012a). Onde o objetivo

é dividir, conquistar e muitas vezes consolidar, isto é também conhecido como fork-join ou divide-conquer. Por exemplo, o MERGE-SORT (CORMEN, 2009), é estruturado adequadamente para a aplica¸cão desta técnica:

Figura 19: Pseudoc´odigo do MERGE-SORT, algoritmo criado por von Neumann, e adap- tado de Cormen (CORMEN, 2009).

A técnica de map-reduce, determina que a computa¸cão de um grande agrupamento de dados seja dividida em partes, onde estas partes são executadas separadamente e os resultados são combinados com a utiliza¸cão de uma fun¸cão de acumula¸cão (HAREL, 2012a). No caso do MERGE-SORT, a fun¸cão recursivamente efetua a quebra do conjunto de dados em partes que são executadas independentes, e a fun¸cão MERGE tem por objetivo consolidar o processamento das etapas previamente divididas. Este algoritmo na versão sequencial implica, no pior caso, em uma complexidade de tempo igual a O(N LOG N), e sua versão paralela a O(N) (HAREL, 2012a). Em contrapartida, versão paralela do MERGE-SORT, exige um consumor maior de memória.

Problemas intratáveis, como no caso do PCV, podem se beneficiar de uma classe de heur´ıstica, ao qual coletivamente é chamada de metaheur´ıstica paralela. Ela inclui os tradicionais algoritmos de metaheur´ıstica, como por exemplo,Simulated Annealing (SA), Algoritmo Genético (GA), Otimiza¸cão por Colônia de Formigas (ACO), entre outros.

(39)

Portanto, seu objetivo é a composi¸cão destes algoritmos com técnicas de computa¸cão paralela para reduzir o tempo de processamento e utilizar os diversos tipos de processadores (CPUs e/ou GPUs) no máximo de suas capacidades.

Ao explorar o espa¸co de estados através buscas com SA, existem duas poss´ıveis abordagens de busca com metaheur´ıstica paralela: independente, onde cada entidade paralela executa sua computa¸cão e procedimentos, ao final a melhor solu¸cão é selecionada; ou cooperativa, onde etapas do algoritmo são separadas em fases e atuam em cadeia, as entidades paralelas deste modelo trocam informa¸cões durante o processamento para selecionar a melhor solu¸cão encontrada (CZECH, 2010). As buscas, independente e cooperativa, são modelos aplicativos dos padrões de programa¸cão paralela Divide and Conquer e Pipeline respectivamente. Estes padrões são descritos no cap´ıtulo 4 do Patterns for Parallel Pro- gramming (MATTSON, 2004) ou em catálogos de padrões como o mantido pelo grupo do Parallel Computing Laboratory da UC Berkeley (PARLAB@BERKELEY, 2010).

Uma varia¸cão do padrão Divide and Conquer é o Fork/Join, ele consiste no processo de espalhar (dividir) uma tarefa em diversos segmentos paralelos para resolu¸cão do problema (conquistar). Ao final, estas entidades paralelas já completadas são sincroni- zadas. Com o MERGE-SORT, a última etapa é a execu¸cão do último MERGE e por consequência a ordena¸cão completa do vetor. Já no SA em paralelo com busca independente, a última etapa é sele¸cão da melhor solu¸cão encontrada no momento. Portanto, ambos compartilham o mesmo tipo de abstra¸cão paralela para alcan¸car um desempenho superior.

No caso do SA em paralelo fica evidente que o número de solu¸cões candidatas au- mentarão proporcionalmente ao número de entidades paralelas disponibilizadas para a resolu¸cão do problema, permitindo tais solu¸cões rodarem desde smartphones até super- computadores. Então, também é necessário identificar qual a rela¸cão entre a quantidade de entidades paralelas e a qualidade do resultado. Intuitivamente, é poss´ıvel interpretar quanto maior for o paralelismo dispon´ıvel, melhor será a qualidade do resultado. Ou seja, um comportamento, em teoria, monotonicamente decrescente, já que o PCV é um problema de minimiza¸cão. No entanto, para esta conclusão é necessária a verifica¸cão e os testes em detalhes dos algoritmos propostos nesta obra em quantidades diversas de aloca¸cões de processamento e tamanho do problema.

(40)

Outro modelo que está presente nos computadores atuais e deve ser considerado, é o processamento vetorial. Este tipo de processamento está presente nos processadores convencionais e processadores paralelos massivos, tais como, aceleradoras gráficas discretas ou Graphical Processing Units (GPUs). A computa¸cão processada por este tipo de dis- positivo é classificada através da taxonomia de Flynn como Single Instruction, Multiple Data (SIMD) ouMultiple Instruction, Multiple Data (MIMD) (AKHTER, 2006).

A busca, a utiliza¸cão e a cria¸cão do paralelismo é um dos maiores assuntos de pesquisa desde do in´ıcio da década de 80. Onde a for¸ca motivadora para estas questões de paralelismo, em hardware e software, é a necessidade insaciável por maior desempenho, especialmente por uma alta velocidade computacional (TOSIC, 2004).

O objetivo desta obra é abordar o PCV por meio da composi¸cão dos algoritmos de busca da Inteligência Artificial, da aplica¸cão de paralelismo e da utiliza¸cão de recursos computacionais de alto-desempenho. Mapeando quais são as vantagens, ganhos e desafios com rela¸cão a constru¸cão de algoritmos sequenciais. As abordagens aqui apresentadas per- mitirão serem adaptadas ou servirem de base para resolu¸cão de outros tipos de problemas intratáveis.

4.1 Fork/Join para distribuir, explorar e selecionar

Em geral, a aplica¸cão do padrãoFork/Jointem como caracter´ıstica a cria¸cão dinâmica de tarefas (fork) com a finalidade de resolver um problema e mais adiante a jun¸cão destas tarefas (join) para dar continuidade na execu¸cão. Ele é muito comum de ser encontrado em conjunto com outro padrão denominado Loop Parallelism (MATTSON, 2004). Padrões como OpenMP ou ISO C++ 11 oferecem APIs ao qual a finalidade é a espalhar tarefas computacionais para escalar o processamento. No OpenMP, em C++, isto é feito através de diretivas (#pragma omp parallel for) que delega ao compilador o trabalho da gera¸cão do paralelismo e sincroniza¸cão do ponto de jun¸cão.

(41)

Figura 20: Exemplo de paralelismo em C++ com a API do OpenMP 3.0 retirado do padr˜ao (OPENMP, 2008).

Usualmente, o Fork/Join é aplicado em situa¸cões de decomposi¸cão de tarefas ou de dados (MATTSON, 2004), por exemplo, ao dividir tarefas para atuar em parti¸cões dos dados e ao final consolidar. Em alguns casos particionando o espa¸co de estados a ser explorado. De forma abstrata este padrão oferece o seguinte comportamento:

Figura 21: Modelo abstrato do Fork/Join.

(42)

No ISO C++ 11 (ISOCPP, 2011), a linguagem de programa¸cão adotada na implementa¸cão desta obra, é permitido um ajuste mais customizável e moderno na expressão do paralelismo e da sincroniza¸cão, isto é feito com uma combina¸cão entre std::vector, std::async estd::future, como ilustrado no fragmento a seguir:

Figura 22: Fragmento em C++ 11 ilustrativo a aplica¸c˜ao de std::vector, std::async e std::future do functor ForkJoin da implementa¸c˜ao proposta (detalhes no anexo).

A aplica¸cão do padrão Fork/Join nesta obra objetiva a cria¸cão de diversas tarefas explorando (preferencialmente) o maior número de estados distintos do espa¸co de estados de uma instância do PCV. Este trabalho ocorre em conjunto com os algoritmos de inteligência artificial selecionados e as estratégias descritas no decorrer desta obra.

(43)

5 MODELO COMPOSICIONAL PARA RESOLUC ¸ ˜ AO DO PCV

Como descrito nos cap´ıtulos 3 e 4 sobre as técnicas selecionadas nesta obra relativas a resolu¸cão de sistemas complexos e aos padrões de computa¸cão paralela. Aqui será apresentado o modelo proposto de resolu¸cão do PCV através de composi¸cão. A figura 23 denota de forma geral a idéia composicional proposta para abordagem do problema:

Figura 23: Composi¸cão entre algoritmos da Inteligência Artificial e Computa¸cão Paralela.

A composi¸cão aplicada aqui possui um relacionamento indireto com o conceito ma- temático de composi¸cão de fun¸cões. A inspira¸cão à aplica¸cão de um modelo composicional vem das Monads, baseadas em conceitos da Teoria das Categorias e introduzidas na década de 90 na linguagem de programa¸cão funcional Haskell (WADLER, 1992)(WA- DLER, 1995).

Umamonadé uma forma de estrutura computacional em termos de valores e sequências de computa¸cão usando estes valores. Ela permite a defini¸cão de building blocks que são sequências de computa¸cão, além disso ela determina como combinar computa¸cões e formar uma nova, esse encadeamento é a composi¸cão, onde a sa´ıda de uma computa¸cão é a entrada de uma outra. Este processo, teoricamente, ocorre de forma indefinida, ou seja, cabe ao implementador saber quando é o suficiente utilizar o valor retornado como resultado, encerrando a sequência computacional. Com uma monad é permitido criar um pipeline de execu¸cão. No caso do PCV, a solu¸cão proposta envolve uma monad que permitirá a utiliza¸cão de building blocks contextuais, aos quais sabem atuar sobre as instâncias do PCV, onde habilitará a constru¸cão de um ou mais pipelines para resolver o problema.

De acordo com as defini¸cões pertinentes da Teoria das Categorias, a proposta inclui uma cole¸cão de objetos do tipo PCV e uma cole¸cão de morfismos para satisfazer o modelo composicional. O modelo de morfismo proposto é uma fun¸cão, no caso um estrutura computacional pré-definida, a qual sabe manipular, transformar ou atuar em um dom´ınio

(44)

(PCV) e produzir um contradom´ınio (PCV). Em uma categoria esse tipo de morfismo re- cebe o nome de endomorfismo. Esse endomorfismo poderá ser concretizado, por exemplo, através da aplica¸cão de uma fun¸cão representando um algoritmo de SA. Ela receberá uma instância do PCV com uma determinada configura¸cão e produzirá um objeto destino, de preferência, igual ou melhor ao objeto de origem.

A seguir a nota¸c˜ao usada para os objetos e o(s) morfismo(s). Neste caso, uma opera¸c˜ao contendo objeto de origem, morfismo e objeto de destino:

Figura 24: Morfismo com objetos mon´adicos [M(TSP)].

A sequência a seguir é a nota¸cão de uma composi¸cão de objetos onde o objetivo é estabelecer umpipeline para solu¸cão de uma instância do PCV. A opera¸cão de composi¸cão satisfaz à propriedade associativa:

Figura 25: Composi¸c˜ao com objetos mon´adicos [M(TSP)].

O tipo paramétrico Monad em Haskell possui uma interface contendo três membros são eles: um construtor de tipo, uma opera¸cão para binding e uma fun¸cão de unidade. O construtor de tipo serve para obter ou instanciar o tipo monádico. A fun¸cão de unidade mapeia um valor simples para um valor do tipo monádico correspondente, no caso do PCV, o que é deseja é um tipo PCV monádico, portanto uma estrutura de dados do tipo PCV sofre uma aplica¸cão de uma fun¸cão de unidade para ser transformado em um tipo PCV

(45)

monádico. A opera¸cão debindingé responsável por mapear um valor monádico em outro, onde poderá possuir o mesmo tipo do objeto de origem. Na figura 26 é apresentada a classe Monad do Haskell e seus membros (HUGHES, 1998). É poss´ıvel interpretá-la como uma abstra¸cão que encapsula um tipo e sua computa¸cão:

Figura 26: Monad, um tipo de dados abstrato de a¸c˜oes.

Na figura 26, o membro return é a fun¸cão de unidade e o operador>>= representa a opera¸cão de binding. O construtor de tipo é a própria Monad instanciada, por exemplo, M TSP.

Para um tipo ser qualificado como monad torna-se essencial que três axiomas sejam satisfeitos: o axioma da associatividade, o axioma da identidade à esquerda ou aplica¸cão da fun¸cão de unidade à esquerda e o axioma da identidade à direita ou aplica¸cão da fun¸cão de unidade à direita. Estes axiomas são conhecidos como as leis da monad (WADLER, 1995) e estão formalizados na nota¸cão do cálculo lambda (λ calculus) como segue:

Figura 27: As leis da Monad (Adapta¸c˜ao da formaliza¸c˜ao de Wadler (WADLER, 1995)).

Na linguagem Haskell existem diversos tipos de monads (HASKELL.ORG, 2011),

(46)

como por exemplo IO Monad que sabe lidar com computa¸cões que envolvem opera¸cões E/S ouError Monad que sabe lidar com computa¸cões que envolvem opera¸cões as quais podem falhar ou disparar uma exce¸cão. O conceito demonad em linguagens de programa¸cão

n˜ao ´e mais exclusivo da linguagem Haskell (MICROSOFT, 2013a)(MICROSOFT, 2013b)(SCALA- LANG.ORG, 2013), estando presente cada vez mais em outras linguagens ou capacitadas

de ser reproduzidas, desde que existam constru¸cões fundamentais dispon´ıveis, como por exemplo, high-order functions. Para esta obra foi concebido a TSP Monad, um tipo que sabe lidar com o PCV de forma composicional. Seus principais membros, implementados na linguagem de programa¸cão C++, são apresentados a seguir:

Figura 28: TSP Monad.

(47)

A TSP Monad proposta na figura 28 fornece um construtor de tipo, uma fun¸cão de unidade a partir da fun¸cão ret e uma opera¸cão de binding a partir da fun¸cão bnd.

Para evitar uma sintaxe convoluta, o método map foi adicionado - esta abordagem é semelhante a constru¸cão da fun¸cão flatMap da linguagem Scala (SCALA-LANG.ORG, 2013). Para fazer parte da categoria das monads é fundamental esse tipo obedecer as três leis referenciadas na figura 27. As provas relativas as leis citadas são apresentadas a seguir. Elas são apresentadas em duas versões, uma utilizando um nota¸cão funcional e outra uma nota¸cão orientada a objetos:

Figura 29: TSP Monad e a primeira lei.

Figura 30: TSP Monad e a segunda lei.

(48)

Figura 31: TSP Monad e a terceira lei.

Portanto, conforme demonstrado, a TSP Monad (figura 28) é uma autênticamonad! Amonad proposta (figura 28) permitirá constru¸cões depipelines computacionais para resolu¸cão do PCV conforme vislumbrado na figura 23, ao qual poderão encadear uma sequência de opera¸cões. Um comportamento similar ao padrão de projeto denominado Cadeia de Responsabilidade (Chain-of-Responsibility pattern) (GAMMA, 1995)(RAJAN, 2010). No entanto, o padrão descrito através da orienta¸cão a objetos é verboso se for comparado com o modelo monádico sugerido.

O método map ou a fun¸cão bnd da TSP Monad são os pontos de entrada para os morfismos, ou seja, são membros que recebem fun¸cões transformadoras - elas manipulam uma instância da estrutura TSP e geram um tipo monádico TSP. Por exemplo, a constru¸cão de um pipeline simples contendo o encadeamento do Simulated Annealing (SA) e

(49)

do2-OPT ´e descrito na figura 32 abaixo:

Figura 32: Pipeline com Simulated Annealing seguido por 2-OPT.

Se aplicado a uma instância do PCV, o pipeline indicado na figura 32, após processamento, produzirá um resultado semelhante como segue:

Figura 33: Resultado da execu¸c˜ao do Pipeline descrito na figura 32.

(50)

Os functors, ou as fun¸cões transformadoras, tais como para aplica¸cão do Simulated Annealing (functor SA) ou do 2-OPT (functor 2OPT), também foram implementadas para outros algoritmos e estruturas, como por exemplo, Otimiza¸cão por Colônia de Formi- gas, Algoritmo Genético, Fork/Join (fragmento apresentado na figura 22), entre outros.

Estes elementos permitirão a constru¸cão dos pipelines ou modelos composicionais para explorar o PCV juntamente com Computa¸cão Paralela e Inteligência Artificial. O modelo destas fun¸cões transformadoras seguem uma determinada assinatura correspondente ao fragmento central da opera¸cão de binding, permitindo que outras fun¸cões sejam criadas para agregar e participar de novas composi¸cões ou de alguma já existente. Abaixo dois exemplos completos de functors simples descritos em C++:

Figura 34: Os functors para Identidade e2-OPT.

Todos os componentes descritos no cap´ıtulo formam o modelo composicional proposto.

Eles atuarão de forma direta na defini¸cão das solu¸cões propostas e na produ¸cão dos resultados obtidos nesta obra.

(51)

6 SOLUC ¸ ˜ OES PROPOSTAS

A seguir, são apresentadas as propostas para resolu¸cão do PCV envolvendo algoritmos metaheur´ısticos e paralelismo. No cap´ıtulo anterior, foi descrito a proposta da TSP Monad (figura 28) para constru¸cão de solu¸cões composicionais, onde ela é um elemento fundamental e complementar às solu¸cões propostas neste cap´ıtulo. As resolu¸cões apresentadas aqui contemplam a aplica¸cão depipelines com o PCV, de acordo com o modelo descrito anteriormente.

6.1 Resolu¸ c˜ ao Metaheur´ıstica por Simulated Annealing (SA) e 2-OPT com Computa¸ c˜ ao Paralela

A resolu¸cão h´ıbrida desta se¸cão possui uma composi¸cão monádica similar a indicada na figura 25. Uma composi¸cão de SA e 2-OPT iniciada por uma heur´ıstica construtiva, no caso, do algoritmo do vizinho mais próximo, juntamente com computa¸cão paralela. Essa composi¸cão produzirá uma notável forma de resolu¸cão h´ıbrida para explorar o PCV. Mo- delos h´ıbridos similares são adotados em problemas complexos a um certo tempo (AYDIN, 2005), mostrando ser um caminho promissor para explora¸cão do problema.

O algoritmo do SA é bem estabelecido. Pode ser aplicado em situa¸cões reais e conta com pesquisas em diversos segmentos que exploram suas caracter´ısticas (CHIBANTE, 2010). Ao final do processamento, apresenta uma boa solu¸cão dentro das restri¸cões estabelecidas em sua parametriza¸cão e, principalmente, tem como destaque o fato de escapar de m´ınimos (ou máximos) locais. No entanto, dado o contexto computacional atual, por exemplo, as esta¸cões de trabalho, os servidores e até mesmo os smartphones existentes, eles contam com processadores contendo dois ou mais núcleos de processamento. Porque não utilizar este poder de processamento, uma vez que o SA e o 2-Opt são algoritmos que demandam processamento intensivo (CPU bound)? Portanto, a idéia principal é utilizar tal capacidade computacional para gerar um número maior de solu¸cões candidatas.

A abordagem adotada para compor a solu¸cão h´ıbrida consiste em: iniciar o ajuste da entrada do problema com a heur´ıstica construtiva do vizinho mais próximo, executar fun¸cão de SA e em seguida aplicar a fun¸cão de 2-OPT para ajustes entre as conexões.

As duas últimas etapas da resolu¸cão proposta devem obedecer uma rela¸cão composicional