Análise de Algoritmos

(1)

Análise de Algoritmos

Parte destes slides são adaptações de slides

do Prof. Paulo Feofiloff e do Prof. José Coelho de Pina.

Algoritmos – p. 1/33

(2)

Complexidade computacional

Classifica os problemas em relação à dificuldade de resolvê-los algoritmicamente.

CLR 36 ou CLRS 34

(3)

Palavras

Para resolver um problema usando um computador é necessário descrever os dados do problema através de uma sequência de símbolos retirados de algum alfabeto.

(4)

Palavras

Este alfabeto pode ser, por exemplo,

o conjunto de símbolos ASCII ou o conjunto {0, 1}.

(5)

Palavras

Este alfabeto pode ser, por exemplo,

o conjunto de símbolos ASCII ou o conjunto {0, 1}. Qualquer sequência de elementos de um alfabeto é chamada de uma palavra.

(6)

Exemplo 1

Grafo

G

a b

c d

e f

g

h

i

j

Palavra:

({a, b, c, d, e, f, g, h, i, j}, {{bd}, {eg}, {ac}, {hi}, {ab}, {ef}, {bc}}) Tamanho da palavra: 59

(7)

Exemplo 2

Função

G

a b

c d

e f

g

h

i 3/2 j

0 0 2

7

1 −3

Palavra:

(({bd}, 2), ({eg}, 1), ({ac}, 0), ({hi}, −3), ({ab}, 3/2), ({ef}, 7), ({bc, 0)}}) Tamanho da palavra: 67

(8)

Tamanho de uma palavra

Para os nossos propósitos,

não há mal em subestimar o tamanho de um objeto.

(9)

Tamanho de uma palavra

Não é necessário contar rigorosamente os caracteres

‘^{’, ‘^}’, ‘⁽’, ‘⁾’ e ‘^,’ dos exemplos anteriores.

(10)

Tamanho de uma palavra

Tamanho de um inteiro p é essencialmente lg |p|.

Tamanho do racional p/q é, essencialmente, lg |p| + lg |q|.

(11)

Tamanho de uma palavra

Tamanho de um inteiro p é essencialmente lg |p|.

Tamanho do racional p/q é, essencialmente, lg |p| + lg |q|. Tamanho de um vetor A[1 . . n] é a soma dos tamanhos de seus componentes

hAi = hA[1]i + hA[2]i + · · · + hA[n]i.

(12)

Problemas e instâncias

Cada conjunto específico de dados de um problema define uma instância.

Tamanho de uma instância é o tamanho de uma palavra que representa a instância.

(13)

Problemas e instâncias

Problema que pede uma resposta do tipo SIM ou NÃO é chamado de problema de decisão.

Problema que procura um elemento em um conjunto é um problema de busca.

(14)

Problemas e instâncias

Problema que pede uma resposta do tipo SIM ou NÃO é chamado de problema de decisão.

Problema que procura um elemento em um conjunto é um problema de busca.

Problema que procura um elemento de um conjunto de soluções viáveis que seja melhor possível em relação a algum critério é um problema de otimização.

(15)

Máximo divisor comum

Problema: Dados dois números inteiros não-negativos a e b, determinar mdc(a, b).

Exemplo:

máximo divisor comum de 30 e 24 é 6

máximo divisor comum de 514229 e 317811 é 1 máximo divisor comum de 3267 e 2893 é 11

(16)

Máximo divisor comum

Problema: Dados dois números inteiros não-negativos a e b, determinar mdc(a, b).

Exemplo:

Problema de busca Instância: _a e _b

Tamanho da instância: _hai ₊ _hbi, lg a + lg b.

Consumo de tempo do algoritmo Café-Com-Leite é O(b). Consumo de tempo do algoritmo EUCLIDES é O(lg b).

(17)

Máximo divisor comum (decisão)

Problema: Dados números inteiros não-negativos a, b e k, mdc(a, b) = k?

Exemplo:

(18)

Máximo divisor comum (decisão)

Problema: Dados números inteiros não-negativos a, b e k, mdc(a, b) = k?

Exemplo:

Problema de decisão: resposta SIM ou NÃO

Instância: _a, _b, _k

Tamanho da instância: _hai ₊ _hbi ₊ _hki, essencialmente lg a + lg b + lg k

(19)

Subsequência comum máxima

Problema: Encontrar uma ssco máxima de X[1 . . m] e Y [1 . . n].

Exemplos: X = A B C B D A B Y = B D C A B A

ssco máxima = B C A B

(20)

Subsequência comum máxima

Problema: Encontrar uma ssco máxima de X[1 . . m] e Y [1 . . n].

Exemplos: X = A B C B D A B Y = B D C A B A

ssco máxima = B C A B Problema de otimização

Instância: X[1 . . m] e Y [1 . . n]

Tamanho da instância: hXi + hY i, essencialmente n + m

Consumo de tempo REC-LCS-LENGTH é Ω(2^min^{m,n}). Consumo de tempo LCS-LENGTH é Θ(mn).

(21)

Subsequência comum máxima (decisão)

Problema: X[1 . . m] e Y [1 . . n] possuem uma ssco ≥ k? Exemplo: X = A B C B D A B

Y = B D C A B A

(22)

Subsequência comum máxima (decisão)

Problema: X[1 . . m] e Y [1 . . n] possuem uma ssco ≥ k? Exemplo: X = A B C B D A B

Y = B D C A B A

Problema de decisão: resposta SIM ou NÃO

Instância: X[1 . . m], Y [1 . . n], k

Tamanho da instância: hXi + hY i + hki, essencialmente n + m + lg k

(23)

Problema booleano da mochila

Problema (Knapsack Problem): Dados n, w[1 . . n] v[1 . . n]

e W , encontrar uma mochila boolena ótima.

Exemplo: W = 50, n = 4

1 2 3 4

w 40 30 20 10

v 840 600 400 100

x 0 1 1 0 valor = 1000

(24)

Problema booleano da mochila

e W , encontrar uma mochila boolena ótima.

1 2 3 4

w 40 30 20 10

v 840 600 400 100

x 0 1 1 0 valor = 1000 Problema de otimização

Instância: n, w[1 . . n] v[1 . . n] e W

Tamanho da instância: _hni ₊ _hwi ₊ _hvi ₊ _hW_i, essencialmente lg n + nlg W + n lg V + lg W

Consumo de tempo MOCHILA-BOOLEANA é Θ(nW).

(25)

Problema booleano da mochila (decisão)

e W e k, existe uma mochila boolena de valor ≥ k. Exemplo: _W _{= 50}, _n _{= 4}, _k _{= 1010}

1 2 3 4

w 40 30 20 10

v 840 600 400 100

x 0 1 1 0 valor ₌ ₁₀₀₀

(26)

Problema booleano da mochila (decisão)

e W e k, existe uma mochila boolena de valor ≥ k. Exemplo: _W _{= 50}, _n _{= 4}, _k _{= 1010}

1 2 3 4

w 40 30 20 10

v 840 600 400 100

x 0 1 1 0 valor ₌ ₁₀₀₀ Problema de decisão: resposta SIM ou NÃO

Instância: n, w[1 . . n] v[1 . . n], W e k

Tamanho da instância: hni + hwi + hvi + hWi + lg k, essencialmente lg n + nlg W + n lg V + lg W + lg k.

(27)

Problema fracionário da mochila

Problema: Dados n, w[1 . . n] v[ . . n] e W, encontrar uma mochila ótima.

1 2 3 4

w 40 30 20 10

v 840 600 400 100

x 1 1/3 0 0 valor = 1040

(28)

Problema fracionário da mochila

Problema: Dados n, w[1 . . n] v[ . . n] e W, encontrar uma mochila ótima.

1 2 3 4

w 40 30 20 10

v 840 600 400 100

x 1 1/3 0 0 valor = 1040 Problema de otimização

Instância: n, w[1 . . n] v[1 . . n] e W

Tamanho da instância: hni + hwi + hvi + hWi, essencialmente lg n + nlg W + n lg V + lg W

Consumo de tempo MOCHILA-FRACIONÁRIA é Θ(n lg n).

(29)

Problema fracionário da mochila (decisão)

Problema: Dados n, w[1 . . n] v[ . . n], W e k, existe uma mochila de valor ≥ k?

Exemplo: W = 50, n = 4, k = 1010

1 2 3 4

w 40 30 20 10

v 840 600 400 100

x 1 1/3 0 0 valor = 1040

(30)

Problema fracionário da mochila (decisão)

Problema: Dados n, w[1 . . n] v[ . . n], W e k, existe uma mochila de valor ≥ k?

Exemplo: W = 50, n = 4, k = 1010

1 2 3 4

w 40 30 20 10

v 840 600 400 100

x 1 1/3 0 0 valor = 1040 Problema de decisão: resposta SIM ou NÃO

Instância: n, w[1 . . n] v[1 . . n], W e k

Tamanho da instância: hni + hwi + hvi + hWi + hki, essencialmente _lg _n ₊ _n_lg _W ₊ _n _lg _V _{+ lg} _W _{+ lg} _k

(31)

Modelo de computação

É uma descrição abstrata e conceitual de um computador que será usado para executar um algoritmo.

(32)

Modelo de computação

Um modelo de computação especifica as operações

elementares que um algoritmo pode executar e o critério empregado para medir a quantidade de tempo que cada operação consome.

(33)

Modelo de computação

Operações elementares típicas são operações aritméticas entre números e comparações.

(34)

Modelo de computação

Operações elementares típicas são operações aritméticas entre números e comparações.

No critério uniforme supõe-se que cada operação

elementar consome uma quantidade de tempo constante.

(35)

Problemas polinomiais

Análise de um algoritmo em determinado modelo de

computação estima seu consumo de tempo e quantidade de espaço como função do tamanho da instância do

problema.

(36)

Problemas polinomiais

problema.

Exemplo: o consumo de tempo do algoritmo

EUCLIDES (a, b) é expresso como uma função de hai + hbi.

(37)

Problemas polinomiais

problema.

Exemplo: o consumo de tempo do algoritmo

EUCLIDES (a, b) é expresso como uma função de hai + hbi.

Um problema é solúvel em tempo polinomial se existe um algoritmo que consome tempo O(hIi^c) para resolver o

problema, onde c é uma constante e I é uma instância do problema.

(38)

Exemplos

Máximo divisor comum

Tamanho da intância: lg a + lg b Consumo de tempo:

Café-Com-Leite é O(b) (não-polinomial) EUCLIDES é O(lg b) (polinomial)

(39)

Exemplos

Máximo divisor comum

Tamanho da intância: lg a + lg b Consumo de tempo:

Café-Com-Leite é O(b) (não-polinomial) EUCLIDES é O(lg b) (polinomial)

Subsequência comum máxima Tamanho da instância: n + m Consumo de tempo:

REC-LCS-LENGTH é Ω(2^min^{m,n}) (exponencial) LCS-LENGTH é _Θ(mn) (polinomial)

(40)

Mais exemplos

Problema booleano da mochila

Tamanho da instância: _lg _n ₊ _n _lg _W ₊ _n _lg _V _{+ lg} _W Consumo de tempo:

MOCHILA-BOOLEANA é Θ(nW) (não-polinomial).

(41)

Mais exemplos

Problema fracionário da mochila

Tamanho da instância: lg n + n lg W + n lg V + lg W Consumo de tempo:

MOCHILA-FRACIONÁRIA é Θ(n lg n) (polinomial).

(42)

Mais exemplos

Problema fracionário da mochila

Tamanho da instância: lg n + n lg W + n lg V + lg W Consumo de tempo:

MOCHILA-FRACIONÁRIA é Θ(n lg n) (polinomial).

Ordenação de inteiros _A[1 _{. .} _n]

Tamanho da instância: _n _lg _M, onde

M := max{|A[1]|, |A[2]|, . . . , |A[n]|} + 1 Consumo de tempo:

MERGESORT é Θ(n lg n) (polinomial).

(43)

Classe P

Por algoritmo eficiente entende-se um algoritmo polinomial.

(44)

Classe P

A classe de todos os problemas de decisão que podem ser resolvidos por algoritmos polinomiais é denotada por P

(classe de complexidade).

(45)

Classe P

Exemplo: As versões de decisão dos problemas:

máximo divisor comum, subsequência comum máxima e mochila fracionária

estão em P.

(46)

Classe P

Exemplo: As versões de decisão dos problemas:

máximo divisor comum, subsequência comum máxima e mochila fracionária

estão em P.

Para muitos problemas, não se conhece algoritmo essencialmente melhor que “testar todas as

possibilidades”. Em geral, isso não está em P.

(47)

Emparelhamentos

Problema: Dado um grafo bipartido, encontrar um emparelhamento perfeito.

X

Y G

(48)

Emparelhamentos

X

Y G

(49)

Emparelhamentos

X

Y G

NÃO existe! Certificado?

(50)

Emparelhamentos

Problema: Dado um grafo bipartido, encontrar um emparelhamento bipartido.

X

Y G

NÃO existe! Certificado: S ⊆ X tal que |S| > |vizinhos(S)|.

(51)

Grafos hamiltonianos

Problema: Dado um grafo, encontrar um ciclo hamiltoniano.

G

(52)

Grafos hamiltonianos

G

(53)

Grafos hamiltonianos

G

NÃO existe! Certificado? Hmmm . . .

(54)

Verificador polinomial para ^SIM

Um verificador polinomial para a resposta SIM a um

problema Π é um algoritmo polinomial ALG que recebe uma instância _I de _Π e um objeto _C,

tal que hCi é O(hIi^c) para alguma constante c

(55)

Verificador polinomial para ^SIM

tal que hCi é O(hIi^c) para alguma constante c e devolve

SIM para algum C se a resposta a Π(I) é SIM;

NÃO para todo C se a resposta a Π(I) é NÃO.

(56)

Verificador polinomial para ^SIM

SIM para algum C se a resposta a Π(I) é SIM;

NÃO para todo C se a resposta a Π(I) é NÃO.

No caso de resposta SIM, o objeto C é dito um certificado polinomial ou certificado curto da resposta SIM a Π(I).

(57)

Exemplos

Se G é hamiltoniano, então um ciclo hamiltoniano de G é um certificado polinomial:

dados um grafo G e C, pode-se verificar em tempo _O(hGi) se _C é um ciclo hamiltoniano.

(58)

Exemplos

se _X_[1 _{. .} _m] e _Y _[1 _{. .} _n] possuem uma ssco _≥ _k, então uma subsequência comum _Z_[1 _{. .} _k] é um certificado polinomial:

dados X[1 . . m], Y [1 . . n] e Z[1 . . k], pode-se

verificar em tempo O(m + n) se Z é ssco de X e Y .

(59)

Exemplos

se _X_[1 _{. .} _m] e _Y _[1 _{. .} _n] possuem uma ssco _≥ _k, então uma subsequência comum _Z_[1 _{. .} _k] é um certificado polinomial:

dados X[1 . . m], Y [1 . . n] e Z[1 . . k], pode-se

verificar em tempo O(m + n) se Z é ssco de X e Y .

se n é um número composto, então um divisor próprio d > 1 de n é um certificado polinomial.

(60)

Verificado polinomial para ^NÃO

Um verificador polinomial para a resposta NÃO de um problema Π é um algoritmo polinomial ALG que recebe

uma instância _I de _Π e um objeto _C,

SIM para algum C se a resposta a Π(I) é NÃO;

NÃO para todo C se a resposta a Π(I) é SIM.

No caso de resposta SIM, o objeto C é dito um certificado polinomial ou certificado curto da resposta NÃO a Π(I).

(61)

Classe NP

Formada pelos problemas de decisão que possuem um verificador polinomial para a resposta SIM.

(62)

Classe NP

Em outras palavras, a classe NP é formada pelos problemas de decisão Π para os quais existe um

problema Π^′ em P e uma função polinomial p(n) tais que, para cada instância I do problema Π, existe um objeto C com hCi ≤ p(hIi) tal que

a resposta a Π(I) é SIM se e somente se a resposta a Π^′(I, C) é SIM.

(63)

Classe NP

Em outras palavras, a classe NP é formada pelos problemas de decisão Π para os quais existe um

problema Π^′ em P e uma função polinomial p(n) tais que, para cada instância I do problema Π, existe um objeto C com hCi ≤ p(hIi) tal que

a resposta a Π(I) é SIM se e somente se a resposta a Π^′(I, C) é SIM.

O objeto C é dito um certificado polinomial ou certificado curto da resposta SIM a Π(I).

(64)

Exemplos

Problemas de decisão com certificado polinomial para SIM: existe subsequência crescente ≥ k?

existe subcoleção disjunta ≥ k de intervalos?

existe mochila booleana de valor ≥ k? existe mochila de valor ≥ k?

existe subsequência comum ≥ k?

grafo tem ciclo de comprimento ≥ k? grafo tem ciclo hamiltoniano?

grafo tem emparelhamento (casamento) perfeito?

Todos esses problemas estão em NP.

(65)

P ⊆ NP

Prova:

se _Π é um problema em P, então pode-se tomar a sequência de instruções realizadas por um algoritmo

polinomial para resolver Π(I) como certificado polinomial da resposta SIM a Π(I).

(66)

P ⊆ NP

Prova:

se _Π é um problema em P, então pode-se tomar a sequência de instruções realizadas por um algoritmo

polinomial para resolver Π(I) como certificado polinomial da resposta SIM a Π(I).

Outra prova:

Pode-se construir um verificador polinomial para a resposta

SIM a Π utilizando-se um algoritmo polinomial para Π como subrotina e ignorando-se o certificado C.

(67)

P 6 = NP ?

É crença de muitos que a classe NP é maior que a classe P, ainda que isso

não tenha sido provado até agora.

(68)

P 6 = NP ?

Este é o intrigante problema matemático conhecido pelo rótulo “P 6= NP?”

(69)

P 6 = NP ?

Este é o intrigante problema matemático conhecido pelo rótulo “P 6= NP?”

Não confunda NP com “não-polinomial”.

(70)

Classe co-NP

A classe co-NP é definida trocando-se SIM por NÃO na definição de NP.

(71)

Classe co-NP

Um problema de decisão Π está em co-NP se admite um certificado polinomial para a resposta NÃO.

(72)

Classe co-NP

Os problemas em NP ∩ co-NP admitem certificados polinomiais para as respostas SIM e NÃO.

(73)

Classe co-NP

Os problemas em NP ∩ co-NP admitem certificados polinomiais para as respostas SIM e NÃO.

Em particular, P ⊆ NP ∩ co-NP.

(74)

P, NP e co-NP

NP P co-NP

NP ∩ co-NP

(75)

P, NP e co-NP

NP P co-NP

NP ∩ co-NP

P ₆₌ NP?

NP ∩ co-NP 6= P?

NP 6= co-NP?

Análise de Algoritmos