Aprendizado não supervisionado baseado em grafos

Talvez a área de pesquisa mais ativa no que diz respeito ao uso de algoritmos baseados em grafos em aprendizado de máquina seja no aprendizado não supervisionado, principal- mente o agrupamento de dados (Schaeffer, 2007). No agrupamento de dados o objetivo é agrupar os dados, de modo que, elementos de um mesmo grupo tenham mais carac- terísticas em comum entre si do que elementos de grupos distintos (Jain et al., 1999).

Como mencionado por Jain e Dubes (1998) o processo de agrupamento de dados pode ser visto como um problema de aprendizado não supervisionado. Situações como estas são frequentes nas mais diversas áreas de pesquisa, tais como bioinformática (Jiang et al., 2004), agrupamento de documentos da Web (Boley et al., 1999), caracterização de gru- pos de clientes baseada em padrões de compra (Jank e Shmueli, 2005), identificação de material cerebral em imagens de MRI (Taxt e Lundervold, 1994), entre outros.

A maioria dos algoritmos de agrupamento de dados baseia-se em modelos estáticos que, embora eficientes em alguns casos, oferecem resultados pouco satisfatórios quando o conjunto de dados apresenta grupos de dados com formas, densidades e tamanhos variados. Isso se deve ao fato de que, esse tipo de algoritmo não se baseia na natureza individual de cada agrupamento enquanto a divisão acontece, uma vez que uma característica dominante diferente pode ser evidenciada para cada grupo. Por exemplo, técnicas de agrupamento baseadas em partição, tais como K-means (MacQueen, 1967) e Clarans (Ng e Han, 2002), tentam particionar o conjunto de dados em K agrupamentos, de forma a otimizar um critério previamente estabelecido. Nesses algoritmos é assumido que os agrupamentos tenham a forma de hiperelipses com tamanhos similares. De forma que fica impossível evidenciar grupos de dados que variam em tamanho, como mostrado na Figura 2.2(a); ou que variam em formato, como mostrado na Figura 2.2(b).

Figura 2.2: Agrupamentos de dados com formatos diferentes. (a) Hiperelipses (b) Irreg- ulares (Karypis et al., 1999).

Algoritmos baseados em grafos unem duas características desejadas: detecção de agru- pamentos com formas variadas e possibilidade de representação hierárquica. Devido à representação em grafos, esses algoritmos buscam a estruturação topológica entre os da- dos de entrada e, consequentemente, são capazes de identificar formas de agrupamentos variados. Algoritmos que utilizam grafos para o agrupamento de dados transformam o problema de agrupamento em um problema de particionamento do grafo, o qual consiste em dividir o grafo em subgrafos disjuntos de modo a minimizar alguma função de custo associado ao corte das arestas (Li e Tian, 2007). De maneira geral, o processo de agru- pamento utilizado por esses algoritmos acontece em duas etapas: modelagem dos dados em um grafo esparso, no qual os vértices representam os dados e as arestas representam a similaridade; e particionamento do grafo para a formação dos agrupamentos. O processo é ilustrado na Figura 2.3.

Encontrar a solução ótima para o problema de particionamento do grafo em sub- grafos de tamanhos similares minizando o corte de aresta, no entanto, é um problema

Dados iniciais Construir grafo esparso Grafo do tipo KNN Particionar grafo Agrupamentos

Figura 2.3: Etapas utilizadas por algoritmos baseados em grafos no agrupamento de dados.

NP-completo devido sua natureza combinatória (Schaeffer, 2007). De modo que, para re- alizar o particionamento de grafos grandes, alguns métodos heurísticos foram propostos, tais como os algoritmos Chamaleon (Karypis et al., 1999) e CURE (Guha et al., 1998). Mesmo considerando o uso de heurísticas no particionamento do grafo, o desempenho deste tipo de método fica comprometido quando o conjunto de dados é muito grande. Recentemente, as redes complexas despontaram como um poderoso método de represen- tação que tem se mostrado adequado para representar grandes quantidades de dados e suas diversas relações (Albert e Barabási, 2002), (Newman, 2003). O termo redes com- plexas refere-se às redes que possuem topologia não trivial, dado que essas redes podem ser compostas por grande quantidade de vértices (milhões ou até bilhões). Muitas redes existentes na natureza, bem como na sociedade, podem ser caracterizadas como redes complexas; alguns exemplos são: a Internet, a World Wide Web, a rede neural biológ- ica, redes sociais entre indivíduos e entre companhias e organizações, cadeias alimentares, redes do metabolismo e de distribuição como a corrente sanguínea, as rotas de entrega postal e a distribuição de energia elétrica, entre outras (Strogatz, 2001).

Uma característica notável em diversas redes complexas, encontradas na natureza ou construídas pelo homem, é a presença de estruturas locais conhecidas como comunidades. Uma comunidade é definida como um grupo de vértices densamente conectados, enquanto as conexões entre diferentes comunidades são esparsas (Newman e Girvan, 2004). Essas comunidades representam padrões de interação entre vértices da rede; sua identificação é crucial na análise e no entendimento dos mecanismos de crescimento e formação da rede, bem como nos processos que ocorrem na rede (Clauset, 2005). De maneira geral, a estrutura em comunidades revela similaridade, segundo algum critério, por meio de conexões entre os vértices pertencentes a um mesmo grupo, por exemplo, em redes sociais a presença de comunidades pode revelar grupos de indivíduos com mesmos interesses, relações de amizade, relações profissionais, etc. A identificação de comunidades em redes complexas é, portanto, um modelo de agrupamento de dados dispostos em forma de rede. Segundo Reichardt e Bornholdt (2006), a abordagem na qual a informação é codificada em vértices e a proximidade/afinidade é definida por meio das arestas, aplica-se diretamente às redes complexas. Considerando este cenário pode-se dizer que as redes complexas são apropriadas para a análise de dados em geral, especialmente para grandes bases de dados.

Diversos algoritmos foram desenvolvidos para identificar comunidades em redes complexas (Danon et al., 2005), alguns dos principais serão apresentados a seguir.

Dentre os principais estão, o método proposto por Newman e Girvan (2004), que se baseia no conceito de betweenness de aresta. Esta quantidade, também definida para vértices, corresponde ao número de caminhos mais curtos entre qualquer par de vértice que passam pela aresta eij. A cada passo, a aresta de maior betweenness é removida,

dividindo a rede em comunidades. O princípio em que este método baseia-se é simples, como o número de arestas conectando duas comunidades é pequeno, todos os caminhos que ligam vértices em comunidades diferentes devem passar por essas arestas. Assim sua participação na composição dos caminhos que ligam as duas comunidades é alta e o encer- ramento iterativo destas conexões favorece uma forma de identificar as comunidades. Um outro método de identificação de comunidades, desenvolvido por Zhou (2003a), baseia-se no conceito de movimento Browniano. Neste método, uma partícula Browniana começa sua trajetória em um vértice da rede, escolhendo o próximo vértice de maneira aleatória. As informações obtidas pela partícula são utilizadas para medir a distância entre os vér- tices, definindo as comunidades que compõem a rede e a estrutura de cada uma. O método foi estendido posteriormente em (Zhou, 2003b) com a definição de um índice de dissimilaridade entre vértices vizinhos, considerando a matriz de distâncias. O índice de dissimilaridade indica até que ponto dois vértices vizinhos devem pertencer à mesma comunidade, e pode ser usado na decomposição hierárquica da rede em comunidades. O método desenvolvido por Newman (2004) sugere um algoritmo que otimize o valor da modularidade, medida usada para qualificar determinada partição da rede em comu- nidades. Trata-se de um algoritmo de agrupamento hierárquico, onde inicialmente cada vértice da rede é considerado uma comunidade, e repetidamente, as comunidades são agrupadas em pares, maximizando o índice de modularidade. É importante ressaltar que apenas comunidades que possuem arestas ligando seus vértices podem ser possivelmente unidas pelo algoritmo, o que limita a um máximo de |E| pares de comunidades, onde |E| é o número de arestas da rede.

O método proposto por Boccaletti et al. (2007) utiliza sincronização para encontrar comunidades na rede. O método consiste em associar um oscilador a cada vértice da rede. Em seguida, valores iniciais para os parâmetros são dados de maneira que toda a rede fique sincronizada, então, como no processo de resfriamento simulado (simulated anneal-

ing), enquanto os parâmetros são afrouxados a sincronização total se desfaz em grupos

sincronizados, revelando as comunidades. O método é baseado em um fenômeno de sin- cronização de comunidades utilizando osciladores de fase não idênticos (Boccaletti et al., 2002), cada um associado a um vértice da rede e interagindo através das arestas da rede. Grupos de osciladores sincronizados representam um regime intermediário entre trava- mento de fase global e completa abstenção de sincronização, implicando em uma divisão da rede em grupos de vértices que oscilam na mesma frequência média. A ideia principal consiste em iniciar a rede com todos os elementos acoplados, e por meio de mudanças

dinâmicas nos pesos das interações entre vértices, obter agrupamento hierárquico e pro- gressivo que detecta totalmente os módulos (comunidades) presentes na rede. Zhao et al. (2008) utilizaram uma rede de osciladores acoplados para segmentação de imagem. O método desenvolvido utiliza qualquer topologia de rede, não necessariamente um reticu- lado.

Os métodos previamente mencionados dependem somente da estrutura da rede para encontrar comunidades, pois nenhuma outra informação é disponível. Uma abordagem complementar desenvolvida por Reichardt e Bornholdt (2004), combina a ideia de utilizar uma modificação do modelo Hamiltoniano de Ising no particionamento de grafos, proposto por Fu e Anderson (1986), e o recente método de agrupamento de dados baseado no modelo de Potts para dados multivariados, proposto por Blatt et al. (1996). Basicamente Reichardt e Bornholdt (2004) estenderam o modelo de Blatt et al. (1996) para detecção de comunidades em redes complexas. O método é baseado na analogia a um modelo da mecânica estatística, o modelo ferromagnético de Potts. A ideia principal é mapear as comunidades de uma rede em mínimos locais dos domínios magnéticos, modelando um conjunto de elementos dotados de spins e dispostos em um reticulado.