para resolver um problema.

Crescimento de Função

George Darmiton da Cunha Cavalcanti CIn – UFPE

Introdução

Muitas são as classes de problemas da matemática discreta:

Dada uma seqüência de inteiros, encontrar o maior;

Dado um conjunto, encontrar todos os seus subconjuntos;

Dada uma rede, encontrar o menor caminho entre dois nós.

O primeiro passo para solucionar esses problemas é construir um modelo matemático do problema

Algoritmo

É um conjunto finito e preciso de instruções

para resolver um problema.

Exemplo de um algoritmo

Encontrar o maior valor em uma lista de inteiros.

Passos:

1) O primeiro valor será o máximo temporário

2) Compare o próximo item na lista com o máximo

temporário. Torná-lo o máximo temporário caso ele seja maior que o máximo temporário;

3) Repetir os passos 1-2 enquanto houver itens na lista;

4) O máximo temporário é o maior valor da lista.

Pseudocódigo do exemplo

procedure max(a

, a

,...,a

:integers) max = a

for i=2 to n

if max < a

then max = a

{max is the largest element}

Finding the maximum element in a finite sequence

Algoritmo para busca seqüencial

procedure linearSearch(x:integer, a₁, a₂,...,a_n:integers) i = 1

while (i ≤ n and x ≠ a_i) i = i + 1

if i ≤ n then location = i else location = 0

{location is the subscript of term that equals x, or is 0 if x is not found}

The linear search algorithm

Algoritmo para busca binária

procedure binarySearch(x: integer, a₁, a₂,...,a_n: increasing integers) i = 1

j = n

while i < j begin

m = [(i+j)/2]

if x > a_m then i = m + 1 else j = m

end

if x == ai then location = i else location = 0

{location is the subscript of term that equals x, or is 0 if x is not found}

The binary search algorithm

Ordenação (Bubble Sort)

3 2 4 1 5 Primeiro passo

2 3 4 1 5

2 3 4 1 5

2 3 1 4 5 Segundo passo

2 3 1 4 5

2 3 1 4 5

2 1 3 4 5

Ordenação (Bubble Sort)

Terceiro passo 2 1 3 4 5

1 2 3 4 5

Quarto passo 1 2 3 4 5

Bubble Sort Algorithm

procedure bubblersort(a

,...,a

) for i=1 to n-1

for j=1 to n-i

if a

> a

then interchange a

and a

Ordenação (Insertion Sort)

Java Applet Insertion Sort

Ordenação (Insertion Sort)

Ordenação (Insertion Sort)

Ordenação (Insertion Sort)

Insertion Sort Algorithm

procedure insertionsort(a1,...,an) for j=2 to n

begin i=1

while a_j > a_i i = i+1 m = a_j

for k=0 to j – i – 1 a_j-k = a_j-k-1 a_i = m

end

Greedy algorithms

Greedy algorithms são usados para resolver problemas de otimização:

Encontrar a menor rota entre duas cidades;

Distribuir carga entre computadores em uma rede;

Agendamento;

Bin-packing.

Greedy algorithms (exemplo)

Exemplo:

Para se ter $6.39, é possível escolher:

$6, ou seja, 6 × $1, para se ter $6 25¢, para $6.25

10¢, para $6.35

quatro 1¢, para $6.39

Greedy algorithms (exemplo)

Problema: “trocar dinheiro”

Moedas estão disponíveis nos seguintes valores:

dollars (100 centavos) quarters (25 centavos) dimes (10 centavos) nickels (5 centavos) pennies (1 centavo)

Problema

Trocar um valor utilizando o menor número de moedas possível.

Greedy algorithm

“trocar dinheiro”

procedure change(c₁,c₂,...,c_r: values of coins, n: a positive integer)

for i=1 to r

while n ≥ c_i begin

add a coin with the value c_i to the change n = n – c_i

end

c₁ > c₂ > ... >c_r

Crescimento de funções

Vários algoritmos podem ser utilizados para resolver um dado problema

Fatores que devem ser levados em consideração

Tempo de Execução

Espaço de armazenamento

Problemas da área de Análise de Algoritmos

Análise de uma algoritmo em particular Análise de uma classe de algoritmos

Custo de um Algoritmo

Existem várias maneiras para se medir o custo Uma delas é medir o tempo de computação de algoritmos em uma máquina real.

Esse tipo de medida é inadequado pois:

Os resultados dependem do compilador Os resultados dependem do hardware

Quando grandes quantidades de memória são utilizadas, as medidas de tempo podem depender desse aspecto

Custo de um Algoritmo

Uma forma mais adequada de se medir o custo de um algoritmo é através de um modelo matemático O conjunto de operações a ser executada deve ser especificado, bem como o custo de cada operação Usualmente, ignora-se o custo de algumas

operações. Exemplo

Em algoritmos de ordenação, considera-se o número de comparações e ignora-se atribuições e manipulação de índices

Notação Big-O

É uma notação bastante usada para estimar o

número de operações que um algoritmo executa na medida em que a entrada cresce

Com essa notação é possível verificar a utilidade prática de um algoritmo na solução de um problema É possível, também, comparar dois algoritmos e indicar qual dos dois é mais eficiente

Notação Big-O

Estimar custo de algoritmo em relação ao tempo e ao espaço.

Definição:

Sejam f e g funções do conjunto dos inteiros (ou conjunto dos números reais) no conjunto dos números reais. Diz-se que f(x) é O(g(x)) se existem constantes C e n₀ de forma que:

quando x > n₀. Diz-se que f(x) é “O grande de g(x)".

Notação Big-O

A notação “big-Oh” (“O grande”) é utilizada para expressar formalmente um limite superior para a função.

Quanto se diz que f(x) é O(x²), se quer dizer que f nunca cresce mais do que cx² a partir de um

determinado valor x e para uma constante c.

Usa-se a notação f(x) = O(g(x)) quando f(x) é “O grande de g(x)”. Isso significa que f(x) é limitada superiormente por g(x).

Aqui há um abuso de notação, pois na realidade f(x)

∈ O(g(x)), pois O(g(x)) é o conjunto das funções que g limita superiormente.

Notação Big-O

Em termos de algoritmos, quando se diz que dentre as soluções algorítmicas para um

determinado problema, a melhor é O(x

) em função da entrada.

Isso significa que se alguém achar um outro

algoritmo cuja função para estimar o tempo é

O(log n) significa que a cota superior (“upper

bound”) para aquele problema diminuiu.

Exemplo

É possível observar que

x<x² e 1<x² quando x>1 Assim

0 ≤ x²+2x+1 ≤ x²+2x²+x² = 4x², quando x>1 Conseqüentemente, quando C = 4 e n₀ = 1

tem-se que f(x) é O(x²)

Exemplo (continuação)

Uma outra alternativa é estimar os valores de f(x) quando x > 2

2x ≤ x² e 1 ≤ x² Conseqüentemente

0 ≤ x²+2x+1 ≤ x²+x²+x² = 3x² Assim, quando C = 3 e n₀ = 2

tem-se que f(x) é O(x²)

Exemplo (continuação)

x²+2x+1 é O(x2)

Notação Big-O

|f(x)| ≤ C|g(x)|, se x>n

E se |h(x)| > |g(x)| para todo x>n

, então

|f(x)| ≤ C|h(x)|, se x>n

Assim, f(x) é O(g(x))

Notação Big-O

Notação Big-O

Combinação de Funções

|f

(x)| ≤ C

|g

(x)|, quando x>k

|f

(x)| ≤ C

|g

(x)|, quando x>k

Assim,

|(f

+ f

)(x)| = |f

(x)+ f

(x)|

≤ |f

(x)|+ |f

(x)|

Dado que

|a+b| ≤ |a|+|b|

Combinação de Funções

Quando x é maior que k₁ e k₂ tem-se:

|f₁(x)|+ |f₂(x)| ≤ C₁|g₁(x)|+ C₂|g₂(x)|

≤ C₁|g(x)|+ C₂|g(x)|

= (C₁+ C₂)|g(x)|

= C|g(x)|

Dado que C=C₁+C₂ e g(x) = max(|g₁(x)|,|g₂(x)|)

Se f₁(x) e f₂(x) são O(g(x)), então (f₁+f₂)(x) é O(g(x)).

Combinação de Funções

Quando x é maior que k₁e k₂ tem-se:

|f₁f₂(x)| = |f₁(x)| |f₂(x)|

≤ C₁|g₁(x)| C₂|g₂(x)|

≤ C₁C₂|(g₁g₂)(x)|

≤ C|(g₁g₂)(x)| ,

Dado que C=C₁C₂ e f₁(x)f₂(x) é O(g₁g₂)

Se f₁(x) é O(g₁(x)) e f₂(x) é O(g₂(x)), então (f₁f₂)(x) é O(g₁(x)g₂(x)).

Notação Big-Omega

A notação Big-O provê um limite superior para uma função f(x).

Um limite inferior, para valores grandes de x,

é calculado usando a notação Big-Omega.

Notação Big-Omega

Definição:

Sejam f e g funções do conjunto dos inteiros (ou conjunto dos números reais) no conjunto dos números reais.

Diz-se que f(x) é Ω(g(x)) se existem constantes C e n₀ de forma que:

quando x > n₀. Diz-se que f(x) é “Omega grande de g(x)".

Existe uma forte conexão entre as notações big-O e big-ΩΩΩΩ f(x) é ΩΩΩΩ(g(x)) se e somente se g(x) for O(f(x))

Função de Complexidade (ƒ)

Exemplo

Encontrar o maior elemento em um vetor de inteiros A[1..n], n ≥ 1

ƒ(n): é o número de comparações entre elementos de A Logo, ƒ(n) = n-1

Esse algoritmo é ótimo

Função de Complexidade (ƒ)

O exemplo mostrado no slide anterior mostra que o algoritmo é função linear do tamanho da entrada

Porém, existem algoritmos que dependem da organização dos dados de entrada. Exemplo: algoritmos de ordenação

Para esses casos três cenários podem ser destacados

Exemplo – Pesquisa Seqüencial

Problema:

Cada registro possui uma chave única.

Dada uma chave qualquer, o programa encontra o registro que contém essa chave

Solução

O algoritmo mais simples faz uma pesquisa seqüencial ƒ(n): número de registros consultados no arquivo

Casos a considerar

Melhor caso: ƒ(n) = 1 Pior caso: ƒ(n) = n

Caso Médio: ƒ(n) = (n+1)/2

Exemplo

Encontrar o maior e o menor elemento em um vetor de inteiros A[1...n]

Seja ƒ(n) o número comparações entre elementos de A ƒ(n) = 2(n−1), para n >0

Para o melhor caso, pior caso e caso médio

Exemplo

Como melhorar a implementação do slide anterior?

Terminologia usada para a complexidade de algoritmos

Complexidade Fatorial O(n!)

Complexidade Exponencial O(bⁿ), b > 1

Complexidade Polinomial O(n^p)

Complexidade n log n O(n log n)

Complexidade Linear O(n)

Complexidade Logarítmica O(log n)

Complexidade Constante O(1)

Terminologia Complexidade