Tópicos de Análise de Algoritmos

Tópicos de Análise de Algoritmos

Análise amortizada

Notas de aula de um curso do Robert Tarjan.

“Amortized Analysis Explained”

por Rebecca Fiebrink, Princeton University

Splay trees

ABB: árvore binária de busca

Operação S^PLAY(x,S), onde S é uma splay tree:

quando x é acessado, move-sex para a raiz por rotações.

As rotações são feitas numa ordem específica, de duas em duas.

Splay trees

ABB: árvore binária de busca

Operação S^PLAY(x,S), onde S é uma splay tree:

quando x é acessado, move-sex para a raiz por rotações.

As rotações são feitas numa ordem específica, de duas em duas.

1 2

A

A

B

B C

C D

D

x

x

y y

z

z

Acima, o rr splay step.

Splay trees

ABB: árvore binária de busca

Operação S^PLAY(x,S), onde S é uma splay tree:

quando x é acessado, move-sex para a raiz por rotações.

As rotações são feitas numa ordem específica, de duas em duas.

2

1

B

B

C

C

A

A D

D

x

x

y y z

z

Acima, o lr splay step.

Splay trees

ABB: árvore binária de busca

Operação S^PLAY(x,S), onde S é uma splay tree:

quando x é acessado, move-sex para a raiz por rotações.

As rotações são feitas numa ordem específica, de duas em duas.

Eventualmente no final uma rotação simples é necessária.

1

A

A B B C

C

x

x y

y

Acima, o r splay step.

Splay trees

ABB: árvore binária de busca

Operação S^PLAY(x,S), onde S é uma splay tree:

quando x é acessado, move-sex para a raiz por rotações.

As rotações são feitas numa ordem específica, de duas em duas.

Eventualmente no final uma rotação simples é necessária.

1

A

A B B C

C

x

x y

y

Acima, o r splay step.

Além destes, o l splay, orl splay e oll splay step.

Splay trees

ABB: árvore binária de busca

Operação S^PLAY(x,S), onde S é uma splay tree:

quando x é acessado, move-sex para a raiz por rotações.

As rotações são feitas numa ordem específica, de duas em duas.

Eventualmente no final uma rotação simples é necessária.

1

A

A B B C

C

x

x y

y

Acima, o r splay step.

Além destes, o l splay, orl splay e oll splay step.

Splay steps são realizados até que x seja raiz.

Splay trees

ABB: árvore binária de busca

Operação S^PLAY(x,S), onde S é uma splay tree:

quando x é acessado, move-sex para a raiz por rotações.

Splay trees

ABB: árvore binária de busca

Operação S^PLAY(x,S), onde S é uma splay tree:

quando x é acessado, move-sex para a raiz por rotações.

Custo de pior caso doS^PLAY: Θ(n),

onde n é o número de elementos na splay tree.

Splay trees

ABB: árvore binária de busca

Operação S^PLAY(x,S), onde S é uma splay tree:

quando x é acessado, move-sex para a raiz por rotações.

Custo de pior caso doS^PLAY: Θ(n),

onde n é o número de elementos na splay tree.

Queremos mostrar que uma splay tree tem

comportamento mais parecido com o de uma ABBB.

Splay trees

ABB: árvore binária de busca

Operação S^PLAY(x,S), onde S é uma splay tree:

quando x é acessado, move-sex para a raiz por rotações.

Custo de pior caso doS^PLAY: Θ(n),

onde n é o número de elementos na splay tree.

Queremos mostrar que uma splay tree tem

comportamento mais parecido com o de uma ABBB.

(ABBB: ABB balanceada)

Splay trees: pior caso

S^PLAY(1,S)

2 3

4 5

6 7

8 9

10

1

Splay trees: pior caso

S^PLAY(1,S) primeiro splay step

4 5

6 7

8 9

10

2 3 1

Splay trees: pior caso

S^PLAY(1,S) segundo splay step

6 7

8 9

10

2 3 4

5 1

Splay trees: pior caso

S^PLAY(1,S) terceiro splay step

8 9

10

7 6

2 3 4

5 1

Splay trees: pior caso

S^PLAY(1,S)

quarto splay step ¹⁰

8 9 7 6

2 3 4

5 1

Splay trees: pior caso

S^PLAY(1,S) quinto splay step

8 9 7 6

2 3 4

5 10 1

Splay trees: pior caso

S^PLAY(1,S) quinto splay step

8 9 7 6

2 3 4

5 10 1

Total de rotações: 9

Em geral, esse caso é Θ(n), onden é o número de nós.

Depois disso, o maior custo de um S^PLAY nesta árvore é 6.

Splay trees: mais um exemplo

S^PLAY(2,S)

8 9 7 6

2 3 4

5 10 1

Splay trees: mais um exemplo

S^PLAY(2,S) primeiro splay step

8 9 10

2 4

5 6

7 3

1

Splay trees: mais um exemplo

S^PLAY(2,S) segundo splay step

2 8

10 9 4

5 6

7 3

1

Splay trees: mais um exemplo

S^PLAY(2,S) terceiro splay step

8 2

4

5 6

7 3

10 9 1

Splay trees: mais um exemplo

S^PLAY(2,S) terceiro splay step

8 2

4

5 6

7 3

10 9 1

Total de rotações: 5

Árvore bem mais balanceada após estes dois S^PLAYs.

Splay trees: mais um exemplo

S^PLAY(2,S) terceiro splay step

8 2

4

5 6

7 3

10 9 1

Total de rotações: 5

Árvore bem mais balanceada após estes dois S^PLAYs.

Custo: número de rotações.

Jorge Stolfi

Splay trees: análise

S: splay tree

Custo: número de rotações.

Mostraremos que o custo amortizado por S^PLAY éO(lgn).

Splay trees: análise

S: splay tree

Custo: número de rotações.

Mostraremos que o custo amortizado por S^PLAY éO(lgn).

x participa de todos os splay steps de S^PLAY(x,S).

Splay trees: análise

S: splay tree

Custo: número de rotações.

Mostraremos que o custo amortizado por S^PLAY éO(lgn).

x participa de todos os splay steps de S^PLAY(x,S).

Análise amortizada dos splay steps.

Splay trees: análise

S: splay tree

Custo: número de rotações.

Mostraremos que o custo amortizado por S^PLAY éO(lgn).

x participa de todos os splay steps de S^PLAY(x,S).

Análise amortizada dos splay steps.

Si(x): subárvore deS enraizada em x no instante i

s_i(x) =|S_i(x)| ^✄número de nós na subárvore

Splay trees: análise

S: splay tree

Custo: número de rotações.

Mostraremos que o custo amortizado por S^PLAY éO(lgn).

x participa de todos os splay steps de S^PLAY(x,S).

Análise amortizada dos splay steps.

Si(x): subárvore deS enraizada em x no instante i

s_i(x) =|S_i(x)| ^✄número de nós na subárvore Tome ri(x) = lgsi(x).

r_i(x) indica o potencial localno nó x.

Splay trees: análise

S: splay tree

Custo: número de rotações.

Mostraremos que o custo amortizado por S^PLAY éO(lgn).

x participa de todos os splay steps de S^PLAY(x,S).

Análise amortizada dos splay steps.

Si(x): subárvore deS enraizada em x no instante i

s_i(x) =|S_i(x)| ^✄número de nós na subárvore

Tome ri(x) = lgsi(x).

r_i(x) indica o potencial localno nó x.

Seja Φ_i =P

xr_i(x).

Análise amortizada dos splay steps

Caso do rr splay step.

1

2

A

A

B

B C

C D

D

x

x

y y

z

z

Custo real: 2

Análise amortizada dos splay steps

Caso do rr splay step.

1

2

A

A

B

B C

C D

D

x

x

y y

z

z

Custo real: 2

Alteração no potencial:

Φi −Φi−1 =P

wr_i(w)−P

wr_i−1(w) =P

w(ri(w)−r_i−1(w))

Análise amortizada dos splay steps

Caso do rr splay step.

1

2

A

A

B

B C

C D

D

x

x

y y

z

z

Custo real: 2

Alteração no potencial:

Φi −Φi−1 =P

wr_i(w)−P

wr_i−1(w) =P

w(ri(w)−r_i−1(w)) Φi −Φi−1 = (ri(x)−r_i−1(x)) + (ri(y)−r_i−1(y)) + (ri(z)−r_i−1(z))

Análise amortizada dos splay steps

Caso do rr splay step.

1

2

A

A

B

B C

C D

D

x

x

y y

z

z

Custo real: 2

Alteração no potencial:

Φi −Φi−1 =P

wr_i(w)−P

wr_i−1(w) =P

w(ri(w)−r_i−1(w)) Φi −Φi−1 = (ri(x)−r_i−1(x)) + (ri(y)−r_i−1(y)) + (ri(z)−r_i−1(z)) Φi −Φi−1 = (ri(y) +ri(z))−(r_i−1(x) +r_i−1(y)) ^✄ri(x) =ri−1(z)

Análise amortizada dos splay steps

Caso do rr splay step.

1

2

A

A

B

B C

C D

D

x

x

y y

z

z

Custo real: 2

Alteração no potencial:

Φi −Φi−1 =P

wr_i(w)−P

wr_i−1(w) =P

w(ri(w)−r_i−1(w)) Φi −Φi−1 = (ri(x)−r_i−1(x)) + (ri(y)−r_i−1(y)) + (ri(z)−r_i−1(z)) Φi −Φi−1 = (ri(y) +ri(z))−(r_i−1(x) +r_i−1(y)) ^✄ri(x) =ri−1(z)

Φ_i −Φ_i−1 ≤r_i(y) +r_i(z)−2r_i−1(x) ^✄ri−1(x)≤ri−1(y)

Análise amortizada dos splay steps

Caso do rr splay step.

1 2

A

A

B

B C

C D

D

x

x

y y

z

z

Custo real: 2

Alteração no potencial: Φi−Φ_i−1≤r_i(y) +r_i(z)−2r_i−1(x)

Análise amortizada dos splay steps

Caso do rr splay step.

1 2

A

A

B

B C

C D

D

x

x

y y

z

z

Custo real: 2

Alteração no potencial: Φi−Φ_i−1≤r_i(y) +r_i(z)−2r_i−1(x) Custo amortizado: cˆ_i ≤2+r_i(y) +r_i(z)−2ri−1(x)

Análise amortizada dos splay steps

Caso do rr splay step.

1 2

A

A

B

B C

C D

D

x

x

y y

z

z

Custo real: 2

Alteração no potencial: Φi−Φ_i−1≤r_i(y) +r_i(z)−2r_i−1(x) Custo amortizado: cˆ_i ≤2+r_i(y) +r_i(z)−2ri−1(x)

Queremos uma delimitação que dependa apenas de x.

Caso do rr splay step

1 2

A

A

B

B C

C D

D

x

x

y y

z

z

Temos que ^loga+log₂ ^b ≤log(^a+b₂ ). Logo

Caso do rr splay step

1 2

A

A

B

B C

C D

D

x

x

y y

z

z

Temos que ^loga+log₂ ^b ≤log(^a+b₂ ). Logo

ri−1(x) +ri(z) = lgs_i−1(x) + lgsi(z)

≤ 2lg s_i−1(x) +s_i(z) 2

< 2lg si(x) 2

= 2lgs_i(x)−2.

Caso do rr splay step

1 2

A

A

B

B C

C D

D

x

x

y y

z

z

Temos que ^loga+log₂ ^b ≤log(^a+b₂ ). Logo

r_i−1(x) +r_i(z) < 2 lgs_i(x)−2 = 2r_i(x)−2.

Caso do rr splay step

1 2

A

A

B

B C

C D

D

x

x

y y

z

z

Temos que ^loga+log₂ ^b ≤log(^a+b₂ ). Logo

r_i−1(x) +r_i(z) < 2 lgs_i(x)−2 = 2r_i(x)−2.

Então ˆ

c_i ≤ 2+r_i(y) +r_i(z)−2ri−1(x)

< 2+ri(x) + (2ri(x)−r_i−1(x)−2)−2r_i−1(x)

= 3(ri(x)−r_i−1(x)).

Análise amortizada dos splay steps

Analogamente podemos mostrar que ˆ

c_i <3(ri(x)−r_i−1(x)) para rl splay steps,lr splay steps, ell splay steps.

Análise amortizada dos splay steps

Analogamente podemos mostrar que ˆ

c_i <3(ri(x)−r_i−1(x)) para rl splay steps,lr splay steps, ell splay steps.

Para l splay steps er splay steps, vale que ˆ

ci ≤3(ri(x)−r_i−1(x)) +1.

Análise amortizada dos splay steps

Analogamente podemos mostrar que ˆ

c_i <3(ri(x)−r_i−1(x)) para rl splay steps,lr splay steps, ell splay steps.

Para l splay steps er splay steps, vale que ˆ

ci ≤3(ri(x)−r_i−1(x)) +1.

Se m é o número de splay steps e n o número de nós,

m

X

i=1

ˆ

c_i ≤ 3

m

X

i=1

(r_i(x)−r_i−1(x)) +1

= 3(rm(x)−r₀(x)) +1

≤ 3 lgn+1.

Análise amortizada dos splay steps

Lembre-se que Φ_i =P

xr_i(x).

Ou seja, Φ_i ≥0 para todo i.

Análise amortizada dos splay steps

Lembre-se que Φ_i =P

xr_i(x).

Ou seja, Φ_i ≥0 para todo i.

Então vale que o custo do S^PLAY(x,S) é

m

X

i=1

c_i =

m

X

i=1

ˆ

c_i −Φ_m+Φ₀≤ 3 lgn+1−Φ_m+Φ₀.

Análise amortizada dos splay steps

Lembre-se que Φ_i =P

xr_i(x).

Ou seja, Φ_i ≥0 para todo i.

Então vale que o custo do S^PLAY(x,S) é

m

X

i=1

c_i =

m

X

i=1

ˆ

c_i −Φ_m+Φ₀≤ 3 lgn+1−Φ_m+Φ₀.

É possível mostrar algo semelhante para inserções em splay trees.

Análise amortizada dos splay steps

Lembre-se que Φ_i =P

xr_i(x).

Ou seja, Φ_i ≥0 para todo i.

Então vale que o custo do S^PLAY(x,S) é

m

X

i=1

c_i =

m

X

i=1

ˆ

c_i −Φ_m+Φ₀≤ 3 lgn+1−Φ_m+Φ₀.

É possível mostrar algo semelhante para inserções em splay trees.

E disso é possível concluir que o custo amortizado por operação em uma splay tree éO(lgn).

Inserções em splay trees

A inserção em splay trees é igual à inserção em ABB, seguida de uma chamada a S^PLAY no elemento inserido.

Seja y₁ o pai dex após a inserção, e

y_i o pai de y_i−1 parai =1, . . . ,k, onde y_k é a raiz da árvore.

Inserções em splay trees

A inserção em splay trees é igual à inserção em ABB, seguida de uma chamada a S^PLAY no elemento inserido.

Seja y₁ o pai dex após a inserção, e

y_i o pai de y_i−1 parai =1, . . . ,k, onde y_k é a raiz da árvore.

Considere avariação do potencial causado pela inserção.

r: potencial local antes da inserção r^′: potencial local depois da inserção

Inserções em splay trees

A inserção em splay trees é igual à inserção em ABB, seguida de uma chamada a S^PLAY no elemento inserido.

Seja y₁ o pai dex após a inserção, e

y_i o pai de y_i−1 parai =1, . . . ,k, onde y_k é a raiz da árvore.

Considere avariação do potencial causado pela inserção.

r: potencial local antes da inserção r^′: potencial local depois da inserção

∆Φ =

k

X

j=1

(r^′(yj)−r(yj))

=

k

X

j=1

(lg(s(yj)+1)−lg(s(yj)))

Inserções em splay trees

A inserção em splay trees é igual à inserção em ABB, seguida de uma chamada a S^PLAY no elemento inserido.

Seja y₁ o pai dex após a inserção, e

y_i o pai de y_i−1 parai =1, . . . ,k, onde y_k é a raiz da árvore.

Considere avariação do potencial causado pela inserção.

r: potencial local antes da inserção r^′: potencial local depois da inserção

∆Φ =

k

X

j=1

(r^′(yj)−r(yj)) =

k

X

j=1

(lg(s(yj)+1)−lg(s(yj)))

=

k

X

j=1

lgs(yj)+1 s(y_j)

Inserções em splay trees

A inserção em splay trees é igual à inserção em ABB, seguida de uma chamada a S^PLAY no elemento inserido.

Seja y₁ o pai dex após a inserção, e

y_i o pai de y_i−1 parai =1, . . . ,k, onde y_k é a raiz da árvore.

Considere avariação do potencial causado pela inserção.

r: potencial local antes da inserção r^′: potencial local depois da inserção

∆Φ =

k

X

j=1

(r^′(yj)−r(yj)) =

k

X

j=1

(lg(s(yj)+1)−lg(s(yj)))

=

k

X

j=1

lgs(yj)+1 s(y_j) = lg

k

Y

j=1

s(yj)+1 s(y_j)

Inserções em splay trees

Seja y₁ o pai dex após a inserção, ey_i o pai de y_i−1 para i =1, . . . ,k, ondey_k é a raiz da árvore.

Considere avariação do potencial causado pela inserção.

r: potencial local antes da inserção r^′: potencial local depois da inserção

∆Φ =

k

X

j=1

(r^′(yj)−r(yj)) =

k

X

j=1

(lg(s(yj)+1)−lg(s(yj)))

=

k

X

j=1

lgs(yj)+1 s(yj) = lg

k

Y

j=1

s(yj)+1 s(yj)

Inserções em splay trees

Seja y₁ o pai dex após a inserção, ey_i o pai de y_i−1 para i =1, . . . ,k, ondey_k é a raiz da árvore.

Considere avariação do potencial causado pela inserção.

r: potencial local antes da inserção r^′: potencial local depois da inserção

∆Φ =

k

X

j=1

(r^′(yj)−r(yj)) =

k

X

j=1

(lg(s(yj)+1)−lg(s(yj)))

=

k

X

j=1

lgs(yj)+1 s(yj) = lg

k

Y

j=1

s(yj)+1 s(yj)

≤ lg s(y₂)

s(y₁) ·s(y₃)

s(y₂)· · · s(y_k)

s(y_k−1)· s(y_k)+1 s(y_k)

(poiss(yj)+1≤s(y_j+1))

Inserções em splay trees

Seja y₁ o pai dex após a inserção, ey_i o pai de y_i−1 para i =1, . . . ,k, ondey_k é a raiz da árvore.

Considere avariação do potencial causado pela inserção.

r: potencial local antes da inserção r^′: potencial local depois da inserção

∆Φ =

k

X

j=1

lgs(y_j)+1 s(yj) = lg

k

Y

j=1

s(y_j)+1 s(yj)

≤ lg s(y₂)

s(y₁) ·s(y₃)

s(y₂)· · · s(yk)

s(y_k−1)· s(yk)+1 s(y_k)

(poiss(yj)+1≤s(yj+1))

= lg s(y_k)+1 s(y₁)

Inserções em splay trees

Seja y₁ o pai dex após a inserção, ey_i o pai de y_i−1 para i =1, . . . ,k, ondey_k é a raiz da árvore.

Considere avariação do potencial causado pela inserção.

r: potencial local antes da inserção r^′: potencial local depois da inserção

∆Φ =

k

X

j=1

lgs(y_j)+1 s(yj) = lg

k

Y

j=1

s(y_j)+1 s(yj)

= lg s(y₂)

s(y₁) ·s(y₃)

s(y₂)· · · s(yk)

s(y_k−1)· s(yk)+1 s(y_k)

(poiss(yj)+1≤s(yj+1))

= lg s(y_k)+1 s(y1)

≤ lg(n+1).

Inserções em splay trees

Seja y₁ o pai dex após a inserção, ey_i o pai de y_i−1 para i =1, . . . ,k, ondey_k é a raiz da árvore.

Considere avariação do potencial causado pela inserção.

r: potencial local antes da inserção r^′: potencial local depois da inserção

∆Φ =

k

X

j=1

lgs(y_j)+1 s(yj) = lg

k

Y

j=1

s(y_j)+1 s(yj)

= lg s(y₂)

s(y₁) ·s(y₃)

s(y₂)· · · s(yk)

s(y_k−1)· s(yk)+1 s(y_k)

(poiss(yj)+1≤s(yj+1))

= lg s(y_k)+1 s(y1)

≤ lg(n+1).

Então cˆ≤0+ lgn+1= lgn+1. (inserção não faz rotações)

Concluindo a análise

Lembre-se que Φi ≥0 para todo i e agoraΦ0=0.

(Começamos da árvore vazia.)

Concluindo a análise

Lembre-se que Φi ≥0 para todo i e agoraΦ0=0.

(Começamos da árvore vazia.)

Então o custo total de moperações é

m

X

i=1

c_i =

m

X

i=1

ˆ

c_i −Φ_m+Φ₀

≤

m

X

i=1

(3 lgni +1)−Φm+Φ₀

≤ 3m lgm+m+0

≤ 4m lgm.

Concluindo a análise

Lembre-se que Φi ≥0 para todo i e agoraΦ0=0.

(Começamos da árvore vazia.)

Então o custo total de moperações é

m

X

i=1

c_i =

m

X

i=1

ˆ

c_i −Φ_m+Φ₀

≤

m

X

i=1

(3 lgni +1)−Φm+Φ₀

≤ 3m lgm+m+0

≤ 4m lgm.

Portanto o custo amortizado por operação éO(lgm).