Publicações do PESC Resolução de Programas Pseudo-Booleanos Não-Lineares Via Decomposição Lagrangeana

RESOLUÇÃO DE PRWRA#AS PSEUDO-BOOLEANOS

NÃO-LI

NEARES VI

A

DECOMPOSI

ÇÃO LAGRANGEANA

Ismael Regis de F a r i a s J d n i o r

T e s e s u b m e t i d a ao c o r p o d o c e n t e d a Coordenação

3

d s s Programas de Pós-Graduação e m Engenhar i a d a Uni v e r si d a d e F e d e r a l do R i o d e J a n e i r o como p a r t e d o s r e q u i s i t o s n e c e s s á r i o s p a r a a o b t e n ç ã o do g r a u d e M e s t r e e m C i O n c i a s e m E n g e n h a r i a d e Sistemas e Computação. Aprovada por

/

P r o f

.

Nelson W c u l a n F i 1 h o , D. Sc.

,

D. Habi 1. C Pr esi d e n t e 3

\Pr of

.

Ruy Eduardo Campel 1 o, D. Sc.

R i o d e j a n e i r o , R J

-

B r a s i l A g o s t o d e 1990

d e FAF3 AS, I W L REGI S ~ l h ! ~ OR R e s o l u ç ã o d e Programas Pseudo-bool e a n o s v i a decusposi @o l a g r a n g e a n a . I: R i o d e J a n e i r o1 1990. VIII, 94 p. 29.7 c m CCOPPENFRJ. M . S c . , E n g e n h a r i a d e Sistemas e Computaqão, 19903. Tese

-

U n i v e r s i d a d e F e d e r a l d o R i o d e J a n e i r o , COPPE . 1. Programação M a t e m á t i c a ; Programação não-1 i n e a r ; Programação Q u a d r á t i ca ;

Pr

ogr amaç%a I n t e i r a ; Pr ogr ama@o B o o l e a n a ; Programação Pseudo-Bool e a n a ; R e l a x a ç ã o Lagr a n g e a n a ; P r o b l ema d a Mochi 1 a Q u a d r á t i ca. I . COPPENFRJ. 11. T i t u l o C S é r i e 3

iii

A -1 omYo de L i m a Macedo, m e u av6.

AGRADECIMENTOS

PLC P r o f e s s o r Nelson Maculan F i l h o , p e l a p r o p o s i ç ã o d o tema e o r i e n t a ç ã o d e s t e t r a b a l h o .

A o s p r o f e s s o r e s S é r g i o G r a n v i l l e e Ruy Campel 1 o p e l a p a r t c i p a ç ã o n a b a n c a exami n a d o r a d e s t a tese.

A t o d o s os c01 e g a s

,

p r o f e s s o r e s e f u n c i o n á r i o s d a Coppe, q u e c o m s e u a p o i o m u i t o c o n t r i b u i r a m p a r a este t r a b a l h o .

Aos meus amigos, d e n t r e eles J a n e t Soares Moraes, Giovani d o s S a n t o s Lopes, Mbnica P a t r i c i a d a C o s t a Viana e Edson P i n h o d a S i l v a , e d e modo m u i t o e s p e c i a l I v a n Jor& d o Couto E s t e v e s e Samuel d a Mata.

A meus p a i s , minha irmã e t o d o s os meus par e n t e s .

Sou a c i m a d e t u d o g r a t o a D e u s , a quem d e v o t u d o q u e t e n h o e t u d o q u e s o u .

Resumo da Tese apresentada h COPPENFRJ como parte dos r e @ s i t o s necessários para obtenção do grau de Mestre e m CiSncias CM. Sc. 3 .

PSSOLUÇÃO DE PROGRAMAS PSEUDO-BOOLEANOS '(I A DECOMPOSI ÇÃO LAGRANGEANA

Ismael Regis de Farias Júnior Agosto de 1990

O r i entador : Nelson Eíacul an Fi 1 ho

Programa: Engénhar i a de Si stemas e Computação

estudado o uso da e s t r a t é g i a de Decomposição Lagrangeana na obtenção de l i m i t e s para o ótimo de pr obl emas de pr ogr amação pseudo-bool eana com r e s t r i ções l i n e a r e s . Esta tgcnica 4 aplicada ao problema da Mochila Quadr á t i ca

,

par a o qual for m u l amos u m a1 gor i tmo enumer a t i vo e obtemos resultados computacionais.

A b s t r a c t of T h e s i s p r e s e n t e d to C O P P E A F R J as p a r t i a 1 f u l f i l m e n t of Lhe r e q u i r e m e n t s f o r t h e d e g r e e o f Master of

e i e n c e CM. Sc. 3 .

RESOLUTION OF PSEUDO-BOQLEAN PROGRAMS VI A LAGRANGEAN DECOMPOSI T I ON

I s m a e l Regi s d e F a r i a s J ú n i or Augurt

,

1990

T h e s i s Super v i sor : N e l s o n Macul a n Fi 1 h o

Depar tmenC : S y s t e m Engi n e e r i ng and Computi ng

.

e s t u d y t h e s t r a t e g y o f Lagrangean Decomposition f o r Lhe o b t a i n e n c e of bounds r e l a t e d t o Lhe o p t i mun of Nonl i n e a r Pseudo-Bool e a n Pr o g r ams w i t h 1 i n e a r c o n s t r a i n t s . T h i s t e c n i q u e i s a p p l i e d t o Lhe Q u a d r a t i c Knapsack Problem, t o which w e p r o p o s e a n e n u m e r a t i v e a1 gor i thm a n d o b t a i n c o m p u t a t i o n a l r e s u l ts.

vii

f m I C E

Capítulo I1

.

Progrsmaç%o Pseudo-Booleana

. . .

03

. . .

1 1 . 1 . dlgebra de Boole 03

I I . 2

-

M6todos de Programação Pseudo-Bool eana não 1 i near . - 1 O

. . .

I I

.

2.1

-

Redução a outros problemas - 1 0 1 1 . 2 . 2

-

W&todo= Alg&bricos

. . .

1 7

. . .

1 1 . 2 . 3

-

M6todos Enumerati vos 1 9

1 1 . 2 . 4

-

Mktodos de Corte

. . .

23 1 1 . 3

-

Aplicações

. . .

24

Capítulo I11

.

Dualidade Lagrangeana e seu uso e m Programação Discreta

. . .

26

. . .

111.1

.

Definições e resultados preliminares 26 111.2 . Propriedades ds Função Dual

. . .

30

. . .

I I I . 3

-

MBtodos de Subgradi e n t e

.

- 4 2

. . .

111.3.1

-

O Algoritmo da s é r i e divergente 44

. . .

111.3.2

-

O M&todo do Passo Constante 47

. . .

1 1 1 . 3 . 3

-

O Método de Relaxação - 5 1

Capítulo I V

.

Utilização d e Decomposição Lagrangeana na obtençso d e

~ i m i t h k

para o átimo de Programas Pseudci-Booleanos não-lineares com vínculos lineares

. . .

- 5 5

IV.l . Introdução

. . .

55

. . .

IV.2 . Resultados Te6ricos 60

viii

v.1

. I n t r u d u ç a " ~

. . .

85 1

.

2

-

O b t e n ~ S o d e 1 i rni tes v i a Decomposição Lagrangeana

. . .

-68

. . .

\1

.

3

-

I mplementação Computacional - 7 3 a

V . 4

-

Resultados Computacionais

. . .

7 3

V . 5

-

Conclusão

. . .

77

CAPf TULO I

I

~ E O E U ~ Ã Q

Foi

no

fim

d o s

anos

30, quando

C1

a u d e Shannon a p l i c o u a á l g e b r a d e Boole a o e s t u d o d e c i r c u i t o s d e chaveamento com relés

,

q u e a t e o r i a d a s á l g e b r a s b o o l e a n a s e n c o n t r o u s u a p r i m e i r a a p l icação p r á t i c a . Sendo c i r c u i t o s d e chaveamento, d e um modo g e r a l , compostos por d i s p o s i t i v o s d e d o i s e s t a d o s eles n a t u r a l m e n t e d e v e r i a m ser t r a t a d o s por um f e r r a m e n t a l matedti c o que m a n i p u l a s s e v a r i á v e i s b i v a l e n t e s . Tal f e r r a m e n t a l e n c o n t r a d o f o i a á l g e b r a d e d o i s e l e m e n t o s d e Boole.

É d e f a t o uma i d g i a n a t u r a l u s a r v a r i á v e i s b i v a l e n t e s . p a r a e s t u d a r s i s t e m a s n o s q u a i s a1 gumas componentes possuam a p e n a s d o i s e s t a d o s possf v e i s. Exemplos d e t a i s s i s t e m a s abundam no mundo real e f o i George B. D a n t z i g q u e e m 1957 p e l a p r i m e i r a vez chamou a a t e n ç â o para a i mpor t â n c i a, v a r i e d a d e e p r of undi d a d e d o s p r o b l e m a s d e P2squi sa @=r aci o n a l c n i c l vendo estes si s t e m a s

.

Desde e n t ã o um enorme n6mero d e t r a b a l h o s t E m s i d o p u b l i c a d o s a r e s p e i t o d e r t e a s s u n t o , t r a t a n d o d e s d e s e u s a s p e c t o s matedticas m a i s a b s t r a t o s a t 4 s u a s a p l i c a ç õ e s . Em p a r ti c u l ar

,

mui t a

n _{. .}

p e z q u i s a p a s s o u a ser' d e d i c a d a à o b t e n ç ã o d e t & c n i c a s q u e p e r m i iam r e s o l v e r estes problemas d e maneira econQmi ca.

Seguindo esta l i n h a , n e s t e t r a b a l h o estudamos o u s o d a e s t r a t é g i a d e Decomposição Lagrangeana na r e s o l u ç ã o d 2 P r o g r a m s Pseudo-Booleanos n S o - l i n e a r e s com restrições l i n e a r e s , e o a p l i c a m o s a o problema d a mochila q u a d r á t i c a .

A o r g a n i z a ç ã o d e s t e t r a b a l h o 6 a s e g u i n t e . N o c = p i t u l c

II

f

ei

t a u m revisão d a s i d é i a s mais i m p o r t a n t e s a r e s p e i t o d o s p r o b l e m a s d e o t i mi z a ç ã o Pseudo-Bool e a n a

-

22s-l i n e a r

,

e s ã u a r ; r c s e n t a d a s a1 A - - u m = a p l i c a ç õ e s . N o c a p i t u l o 111 é f e i t a uma d i g r e s s ã o a r e s p e i t o d o u s o d e R e l a x a ç ã o Lagr a n g e a n a e m o t i mi z a ç ã o nãc-di f er e n c i *~el

.

Ma c a p i t u l o

I V

é e s t u d a d a a e s t r a t é g i a d e Decomposição Lagrangeana p a r a a r e s o l u ç ã o d e programas Pseudo-Eool e a n o s não-1 i n e a r es c o m r estrções l i n e a r e s

.

N o c a p i t u l o V é t r a t a d o o problema d a m o c h i l a q u a d r á t i c a . Apresentamos um a1 g o r i t m o enumer a t i v o q u e u t i l i z a a t g c n i c a d e s c r i t a no c a p i t u l o I V p a r a a o b t e n ç ã o d e 1 i m i tes

,

e a p r e s e n t a m o s r e s u l t a d o s computaci o n a i S . N o f i na1

d o c a p l t u 1 ti f o r mul a m o s c o n c l u s õ e s e s u g e s t õ e s p a r a p r o s s e g u i m e n t o d e s t e t r a b a l h o .

N e s t e c a p i t u 1 o d e f i n i mos Programa Pseudo-Bool e a n o e obtemos a1 guns r e s u l t a d o s bAsi c o s q u e

ser%o

z t i l i z u d o s n o d e c o r r e r d e s t e t r s b a l h o . I s t o & f e i t o n a p r i m e i r a seçâlo. N a segunda seção fazemos uma b r e v e r e v i s ã o d e a l g u n s métodos e x i s t e n t e s n a l i t e r a t u r a , e n a tercei r a s e ç ã o a p r e s e n t a m o s a1 gumas a p l i caç8eã.

1 1 - 1 2 klgebra d e B o o l e

N e s t a s e ç ã o i n t r o d u z i m o s o s c o n c e i t o s d e dl g e b r a Bool e a n a , f unção Bqol e a n a e f u n ç ã o Pseudo-Bool e a n a . Apresentamos a1 guns t e o r e m a s r e f e r e n t e s à r e p r e s e n t a ç ã o d e f u n ç õ e s Bool e a n a s e Pseudo-Bool e a n a s

,

e d e f i n i mos programa Pseudo-Bool eano.

DgfiniçZo 11.1 Definimos uma Algebra d e Boole como um c o n j u n t o

E

com p e l o menos d o i s e l e m e n t o s d i s t i n t o s CY e CY

O i '

que admi t e t r 4 s o p e r a ç õ e s . chamadas negação, d i s j unção e

c o n j u n q ã o , d e n o t a d a s por

i,

a U b e a n b r e s p e c t i v a m e n t e , t a l q u e V a, b , c E

E

temos

a n C b U c l = Ca n . b l u C b n c l

EXEWLC) 11.

I

O conjunto 5 = C0.13 com a s operações

-

a = l - a CII. 1 3

a U b = a + b - a - b CII. 23

u n b = a . b C I I . 3 3

a . b E 5. e com o = 0,

4

= 1 B uma i l g e b r a de Boole.

O

Q ~ ~ E R Y A Ç Ã O 11. 1 Daqui par a di a n t e r e s t r i g i r -nos -emos à Algebra booleana de d o i s elementos definida no exemplo

a n t e r i o r

.

w

DIFIPIIÇÃO 11.2 Sejam [B" o produto c a r t e s i a n o de [B por si

m e z m n vezes. Chamamos de funçso booleana a toda aplicação

Em u u t r a s pulavras, uma f u n ~ ã o bool eana é uma função com valores e argumentos e m 5. E s t e conceito é

- ,

i1 ustrado no exemplo á s e g u i r .

N o t e que a função d e f i n i d a no exemplo acima pods ta~b6rn s e r e x p r e s s a pcr uma combinação d e n e g a ç õ e s , d i s j unç8es e con j unç8es d e s e u s argumentos. De f a t o ,

..

E s t e r , e s u l t a d o n ã o é v á l i d o a p e n a s p a r a =l~umac; f u n q õ e s mas trata-me d e um r e s u l t a d o g e r a l , conforme ~

demonstrar emos a s e g u i r . Antes por&m enunciaremos a

def i r . i ~ Y s u b s i x c , a p r e s e n t a d a e m HAMMER e RUDEANU C1968, p. 83

,

d e uma e x p r e s s ã o bool e a n a . DEFINI ÇÃO I I . 3 13 O e 1 s ã o e x p r e s s õ e s b o o l e a n a s ; 23 A s v a r i A v e i X i ,

.

-

.

, x n ,

xi

E 5 V i E I , . . 3 são expr c s s õ e s bool e a n a s ; 33 Se E. e E- s ã o e x p r e s s õ e s b o o l e a n a s , e n t ã o

E

_EI

_u

_Ez * L. 1' e Ein EZ tamb6m o s ã o . I

k s i m, por exemplo, q u a i s q u e r combi n a ç õ e s d e negações, d i s junçSjes e c o n j u n ç õ e s d o s argumentos d e uma f unçzo s ã o tamb6m e x p r e s s õ e s bool e a n a s .

C?E_W!iq_

11.2 Adotaremos daqui p a r a d i a n t e a n o t a ç ã o

-

p = v

- 9 x i = x C I I . 53

p a r a a o p e r a ç ã o d e negação, a p r e s e n t a d a e m HAMMER e RUDEANU C1Q68, p. 73.

TEOREMA 11.1 Toda f u n ç ã o b o o l e a n a pode ser e s c r i t a como

.. ,

uma e x p r e s s ã o bool e a n a .

DEMONSTRAÇÃO :Oja A = € C a i , . . . 3 E [B" / fCai

. . . . ,

a,) = * an 13. S e j a m a i n d a X i ' .

- -

' X n o s argumentos d e f:5" -4 [B e CU conmideremom o c o n j u n t o d e e x p r e s s õ e s r = Cxt n

. . .

fi x / fn,

'

_{E 2 . Comc2} --i'' '

-

* " n a

C I I . 6 3

1

O , caso c o n t r b r i o

vem que a s expressões em r são todas i g u a i s a O para qualquer ponto Cx ,,

. . .

,xn) que não pertença a A. Por o u t r o lado, para todo ponto C X ~ , .

. .

,xn3 pertencente a A e x i s t e uma exr;rcssYo em r c u j ~ valor 4 1

-

Uma

vez que 1 U O = 1 e O U

.

. . U O = O , f s e r ã igual B expressão formada p e l a disjunção de todos os elementos de c. Denotando t a l di s j unçSc por

U

C xCU

n

. . .

t-3 xaZ) podemos escrever

Ui.. . a n

CII. 7 3

o que demonstra o teorema acima. rn

!mSEEYAcm I I. 2 Podemos associar a uma mesma função

di versas expressões d i f e r e n t e s

.

Por exemplo, além da expressão CII. 43 podemos associar à função definida no exemplo C I I . 2 2 a expressão

n

c x

u

y ' u z

u

W3

OBSERVAÇÃO 11.3 Com a s operações de negação, n n n n CII. 8 3 disjunção e

E s t e n d e r e q o s a g o r a o c o n c e i t o d e f u n ç ã o b c c l g a n a p a r a f u n ç ã e s c o m argumentos e m

iB

e v a i ores no c o r p o d o s r e a i s . V i s t o q u e t o d a f u n ç ã o b o o l e a n a pode ser enquzdrzda n e s t a classe, n 6 s a s chamaremos d e Funções pseudo-Bool e a n a s .

E 11.4 Phamamos d e Função Pseudo-Booleana a t o d a a p i i cat;ão f : 5"

+

[R.

c c m e no casa d e f u n ç õ e s b o o l e a n a s , tamb&m as f u n ç õ e s pseudo-bool e a n a s podem ser e x p r e s s a s C d e manei r a uni vaca3 c o m o p o l i nomi o d e s e u s argumentos. E s t e i mpor t a n t e r e s u l t a d o é e s t a b e l e c i d o n o teorema a s e g u i r , d e v i d o a Toma Gaspar

.

TEOREMA 11.2 CT. GASPAR.3 Toda f u n ç ã o pseudo-bool e a n a f: 5"

-

ü? pode ser escrita d e m a n e i r a u n i v o c a Capós as devi d a s si mpl i f i c a ç õ e s 3 c o m o

P

. A

De p o s s e d o s c o n c e i t o s acima podemos a g o r a

def i n i r Programa Pseudo-Bool eano.

DEFINIÇÃo 11.5 Chamamos d e Programa Pseudo-Bool e a n o C PPBD 2 todo problema

Hesta s e ç ã o fazemos uma b r e v e r e v i s ã o d a s p r i n c i p a i s t é c n i c a s e x i s t e n t e s na l i t e r a t u r a p a r a r e s o l u ç ã o d e programas pseudo-bool e a n o s não-1 i n e a r e s .

Segundo HANSEN C19793 e

HANSEN,

JAUMARD e M^?u!X C!.9SS>

estss

t & c n i c s s pcdcni ser c o l s c s d a s e m q u a t r o grupos :

i ReduçZío a o u t r o s problemas

C

i i 3 M6todos sl g é b r i c o s

C i i i 3 M&todos enumerati vos v Métodos d e c o r t e .

No p r i m e i r o c a s o t e n t a - s e r e f o r m u l a r o problema, tornando-o e m o u t r o m a i s s i m p l e s , ou p a r a o qual

já

_{exi r t m}

m6todos de r e s o l u ~ ã o conheci d o s e e f i c i e n t e s . Mos demais c a s o s , t e n t a - s e o b t e r as s o l u ç õ e s a p a r t i r d a

f a r mul a ç ã o o r i g i na1 do pr o b l e m a .

I I. 2.1 3 REDUÇÃO A OUTROS PROBLEMAS

N e m sempre é c o n v e n i e n t e r e s o l v e r um programa pseudo-booleano na forma e m que e l e se a p r e s e n t a . Por i s s o h v e z e s , a n t e s d e r e s o l v e r um c e r t o CPPB3 d i n t e r e s s a n t e m o d i f i c á - l o e m o u t r a forma e r e s o l v e r o novo problema

a n t e r i or

,

t o d o programa pseudo-bool e a n o não-1 i n e a r pode ser e s c r i t o como um programa p o l i n o m i a l n a s m e s m a s v a r i á v e i s b i v a l e n t e s e com o mesmo número d e restrições.

C1o?23 e H W R e RmNBERG C19723 observaram que t o d o CPPB3 é e q u i v a l e n t e a um problema d a

P

mochi 1 a pol i nomi a1 n a s m e s m a s v a r i á v e i x b i v a l e n t e s . D e f a t o , s e j a 5 uma f u n ç ã o booleana dada por

O, se x é um ponto v i á v e l

5c2 =

1 , c a s o c o n t r á r i o

C I I . 1 0 3 .

Conforme v i s t o na o b s e r v a ç ã o C I I . 33 d a s e ç ã o a n t e r i o r , pode ser e s c r i t a como um polinomio e m s e u s argumentos, e o CPPB3 e m q u e s t ã o poderá ser e s c r i t o como

P

minimizar fCx3

C

6 b v i o e n t r e t a n t o , q u e o t r a b a l h o n e c e s s á r i o p a r a Se o b t e r

@ poderá não ser compenxador.

Também t o d o programa pseudo-bool @ano pol i nomi a1 com coef i c i é n t e s r a c i o n a i s pode ser e s c r i t o como

um

?r ogr arnu. pseudo-bool eano pol i nomi a1 s e m v i ncul o s . HAMMER ROSENBERG e RUDEBNU C1I63b3 e HANSEN C 19793 mostraram q u e t o d o v i n c u l o d e i g u a l d a d e hiCd = O. i = i,.. .

_f

pode ser

rerrio~idc: 3 rncda 1 agrangeana. De f a t o , r e l a x a n d o o problema em t a i x v i ncul o s e a d i c i o n a n d o à f unção-ob jeti vo o termo d e

p e n a l i d a d e

..

r P m

r

d x C0,ck3

-

I m f n C0,ck3 + 1 3 I' ~ h . ~ x 3 3 ' k - i k = i i = i L c b t t m o s um pr o b l e m e q u i v a i e n t e ao p r i m e i r o. P a r a os

v í n c u l o s e m q u e h i C & 2 O x E

IB"

ri30 há n e c e s s i d a d e d e

se

elevar

k . C 9 =C qgzdrzdo. L

Psr o u t r o l a d o , v i n c u l o s d e d e s i g u a l d a d e envolvendo p o l i nBmi o s c o m c o e f i c i e n t e s i n t e i r o s podem também ser t r a n s f o r m a d o s e m v i n c u l o s d e i g u a l d a d e às c u s t a s da

i n t r o d u ç ã o d e novas v a r i á v e i s . P a r a i s s o , seja o v i n c u l o

Tomando

C I I . 1 1 3 pode ser e s c r i t o como

pseudo-bool cano p o l i nomi a1 c o m c o e f i c i e n t e s raci o n ã i S . O

<.

nova problema e n t r e t a r i t o pode t e r um número m u i t o maior de

t e r m o s e v a r i á v e i s q u e o p r i m e i r o .

ROSENBERG C19753 mostrou q u e t o d o programa

necessárias a r e g r a s e g u i n t e . Em cada t e r m o c o m um p r o d u t o d e m a i s d e d u a s v a r i á v e i s. e s c o l h e r d u a s v a r i á v e i s xi e x j e

s u b s t i t u i r s e u p r o d u t o p e l a v a r i á v e l x _n+L+: Conde 1 Q o

nbmero d e v e z e s q u e esta r e g r a f o i a n t e r i o r m e n t e a p l i c a d a > , i n t r o d u z i n d o e m s e g u i d a o t e r m o c o r r e t i vo

onde

f

é o v a l o r d a f unç;são-objetivo e m um p o n t o v i & q u a l q u e r , o q u a l g a r a n t e q u e não h a v e r á s o l u ç S o 6tima novo problema com x Z x . x

.

n+L+ I j

A i é m d i sso, t o d a f u n ç ã o pseudo-bool e a n a q u a d r g t i c a pode ser f e i t a convexa. HAMMER e RUBIN C19703 observaram q u e

Tomando a g r a n d e o s u f i c i e n t e p a r a q u e os a u t o v a l o r e s d a matriz CCc. .3

+

a i 1 s e j a m p o s i t i v o s obtemos uma f u n ç ã o

L J

convexa.

RQYENBERG C19723 mostrou q u e t o d a f u n ç ã o mul ti 1 i n e a r d e f i n i d a no h i p e r -cubo u n i t á r i o p o s s u i um p o n t o d e minimo e m p e l o men& um d e s e u s v é r t i c e s .

Acsi m s e n d o , t o d o pr ogr a m pseudo-boa1 e a n o não-1 i n e a r pode e e x p r e s s o como um programa quadr á t i c o cmVeXo def i n i d o no h i per -cubo uni t á r i o. E s t a si mpl i f i cação pode e n t r e t a n t o ser p r o i b i ti vamente cara.

A 1 n r ~ n c

pse~do-booieanoS numa f oqma d i f e r e n t e de CPPB~ P

.

FLORIAN e g s I LLA!!D

C 1971

3

.

MI CUELON e

MACULM

C 1988)

,

SM p~ C i 9753 estudaram Programas Pseudo-Bool eanos H i per b6l i =os, ou sej a

problemas na f arma

Pzra uma r e v i s ã o d e s t e s problemas v SOUZA C19893 e r e f e r s n c i a s a l i c i t a d a s .

Em c e r t o s casos par ti cul a r es podemos r e s o l v e r

u m CPPB3 a t r a v é s d e algoritmos para o u t r o s problemas. PICARD e

RATLIFF

C19753 mostraram que toda função pseudo-bool eana quadr á t i ca de n-2 var i Avei s na f o r ma

n - i n - i n - i

pode s e r minimizada por u m algoritmo de f l u x o em redes aplicado a uma rede com n v é r t i c e s .

Dentre todos os métodos de redução a o u t r o s problemas os mais difundidos s ã o aqueles chamados de 1 i neari zação. E s t e s métodos foram introduzi dos por FQRTET

c

1959, 19603

,

DAMTZI G C 19583

,

WATTERS C 1 9673

,

ZANGWI

LL

C 19653.

F Q ~ ~ T ~ 1 ~ 5 9 , 19603 sugere t r o c a r cada Produto de v a r i a v e i a Tk Cou Tii3 _{por uma nova}

v , r i á v e l x _{n i k}

,

e a d i c i o n g r o s v í n c u l o s

CII. 1 5 3

CII. 1 6 3 .

O p r i m e i r o v i n c u l o i m p l i c a q u e x,+~ = 1 quando Tk = 1 e o segundo f a z c o m q u e x = O quando

Tk

= 0. O número d e

n+k

novas v a r i Aveis e novos v í n c u l o s e n t r e t a n t o pode ser m u i t o g r a n d e , m e s m a p a r a p r obl emas pequenos. GLOVER e WOOLSEY C19733 propuseram as r e g r a s s e g u i n t e s c o m o i n t u i t o d e

d i m i n u i r o nbmero d e vi n c u l o s .

S e j a m N = U N k . Q c N , e T = C j e N - Q / k

-

N,

-

Cj> LI

Nk

para algum k3. a R o c o n j u n t o dos r u b c o n j u n t o s d e T c o m

I T ~

-

I e l e m e n t o s t a l q u e V

W

E R 3

N k

C i 3 a

S

=

C N ,

Nk = Q

u

C j 3 . j E T). S u b s t i t u a V N k E S os v i n c u l a s C11.153 por

mantendo os v i n c u l os C I I . 163 i na1 ter a d o r

.

C i i i . 3 Seja S c o m o e m C i 3 . Troque os v i n c u l o s C 1 1 - 1 6 2 V Nk e S por C I I . 1 9 2 c 1 1 . 2 0 3 , mantendo o s v i n c u l os C I I . 1 63 i na1 t e r a d o s

.

Civ3 = j a S como e m C i i 3 . Troque os v i n c u l o s d e

C I I . 1B) Y

M k

E S por

C I I . 2 1 2

Ch pr i mer os a1 gor i tmos a1 gBbr i cos par a

mi ni m i zação de uma função pseudo-bool eana parecem t e r si do os de

FGRTET

C 1959, 19603 e

CAMI

ON C 19603. Dentre todos, o pais difundido & o "Algoritmo Básico" de HBMMER, ROSENBERG E

RUDEANU C 19633

.

O Algoritmo Básico procura obter uma solução ó t i

m

para um programa pseudo-bool ezno sem r e s t r i ç õ e s como segue. Conforme vi mos no teor ema C I I . 2 3 podemos escrever f C x 3 como

*

*

t

D a i

,

teremos uma solução ótima C x i

,

. . .

x 3 com x = 1 s e

n i

t t

x

,

. .

.

,

x

3

<

Q. kf i n i mos ent%o uma função YtC x2,

. . . ,

xn3

f 2 n dada por

(

4Cx2.. . . , X 3, s e A i C x z , .

. .

, X 3

<

0.

t

n n

ycxI..

. .

,X 3 = n 0 , caso contrário C11.243.

Expr errando i2 e m f ar& pol i norni a1

,

def i rii mos

i

e " _a e A r 1 7 ; _{o prubl e m or i gi r?al de n var i &reis par a outro de}

vezes obtemos uma f ~ n ç ã o ~ f _n Cx _n 3 . Obtendo um p o n t o d e minimo *:

_,

podemos a p a r t i r d a i o b t e r uma s o l u ç ã o átima a t r a v é s d a

n fdrmuls r e c u r s i v a ry r 1, se i Y C x i + í . . . . , ~ ' " 3

<

O , i _- n *i

-

_{O ,} caro c o n t r á r i o C I I . 263. X y v e r s ã o c r i g i r i d d o a l g o r i t m o b á s i c o as f u n ç 8 e s 'ELi s ã o o b t i d a s da s e g u i n t e maneira. Pr i m e i r o 1 i near i z a - s e A. C xi+%,

. .

.

,

x 3 t r o c a n d o termos d e p r o d u t o s d e v a r i á v e i s por

L n

no.== i a r i f i e i = -r

J~

Em s e g u i d a computa-se a f u n ç ã o c a r a c t e r í s t i c a

B i

CHAMMER E RUDEANU C 1 9 6 8 , p. 8333 d a d e s i g u a l dade AiC y%,

. - .

,yP3

<

0 Cpor d e f i n i ç ã o !Si é uma função booleana i g u a l a 1 e m t o d o p o n t o Cy

i).

. -

p Y P 3

e m q u e AiC yí,

. .

.

,

y 3

<

O e 0 . c a s o c o n t r á r i o 3 . E1 i mi nam-se e n t ã o

P

as v a r i á v e i s y; e s i m p l i f i c a - s e B a t r a v é s d e o p e r a ç õ e s

b i .

booleanas. iIIi e n t ã o será dada por

GRAMA, HANSEN e JAUMARD C19893 a p r e s e n t a r a m um modo a1 t e r n a t i v o p a r a a o b t e n ç ã o d a s f u n ç õ e s 'Vi

.

Tanbém INAGAKI e FmrUGJRA

C

l98?>

,

e R m N B E R C - C 19733 a p r e s e n t a r a m var i a n t e s @ e x t e n ç õ e s do a l g o r i t m o b á s i c o p a r a problemas c o m v i n c u l o s C o u t r a s r e f e r s n c i a s p&dem ser e n c o n t r a d a s e m HANSEN, JAUMARD e MATHON C 19893 3 .

iJm d o s pr i m e i r o s a1 gor i tmos enumer a t i v o s a a p a r e c e r na l i t e r a t u r a f o i o a l g o r i t m o l e x i c o g r d f i c o d e LAWER e BELL C 1 9 6 6 2 . E s t e a1 g a r i t m o r e s o l v e p r o b l emas n a forma

I

minimizar fCx3

% € R

('. PPB2

LB

_n

= c x E

&"'

g i & C a

-

gizCx3

>

O

,

i = l ,

. . .

,nO

onde f , gii,.

. .

p gmn s ã o f u n ç õ e s monotonamente não-decrescentes C uma f u n ç ã o é monotona n ã o - d e c r e s c e n t e

2

se x' I x

s

hcxi3 2 h ~ x 3 2 . Note que t o d o programa pseudo-bool eano pode ser expr erro na f o r m a C PPB3

De

f a t o , se g.Cx3 L O é um v i n c u l o , b a s t a e s c r e v e r g . como um

L

polin6mio d e s e u s argumentos, a g r u p a r o s termos com c o e f i c i e n t e s poaitivom e m gii e o s termos com c o e f i c i e n t e s n e g u t i w s em

-

'i2 m a n t o a f , podemos t r o c a r a

f u n ç ã o - o b j e t i v o por o u t r a i g u a l a uma nova v a r i b v e l xo. e i n c l u i r a o problema a r e s t r i ç ã o xo 2

fc*.

P a r a uma

NO f i m d o s a n o s 60 e d u r a n t e 0s a n o s 70

d i v e r s o s a1 gor i

tmos

d e

"ar

unck-&-Ecund" par a pr a g r ama= Preudo-bool e a n o r não-1 i near es foram p r o p o s t o s : BERMAN

C 1 9693

,

GI NSBURGH e

VAN

PEETERSEN C 19693

,

HAMMER C 1971

,

1973, 19742

,

H h ! R e RLBI N C 19693

,

HAMMER e PELED C 19722

,

H m S N C 1969, IgBQb, 1970, 1972, 19743

,

H 1 LLI ER C 19693

,

L A ~ ~ - ! H U N N C 19?0>

,

WALUCKI EWCZ, SLOMI N S K I E FANER C 1 9733

,

\d~ Z?J=I C 19753

,

ZAK ' C 19783

,

SCHOH e LYSKA C 19782

,

BRESNEV ~19793. Como d e costume estes a l g o r i t m o s fazem r a m i f i c a ç õ e s

C

R r s n c h i ng?

?=rã

guebr ar c pr c b l e m e m subpr obl emas menores

,

e testes p a r a podar CFathom3 a á r v o r e d e enumeraç%o e m nds a p a r t i r d o s q u a i s o problema é i n v i á v e l ou não pode f o r n e c e r

u m

s o l u ç ã o z e l k o r que a melhor a t é e n t ã o e n c o n t r a d a . hlguns a l g o r i t m o s usam também o u t r o s testes p a r a mostrar q u e algumas v a r i á v e i s

t e m

n e c e s s a r i a m e n t e v a l o r z e r o ou um e m t o d a s as s o l u ç õ e s 6 t i m a s ou e m t o d a s as soluçBes v i á v e i s .

D i v e r s a s r e g r a s d e r a m i f i c a ç ã o t ê m s i d o p r o p o s t a s . Comumente a1 guma v a r i Ave1 1 i v r e Q e s c o l h i da e

s e u v a l o r é f i x a d o e m z e r o ou um d e a c o r d o com algum c r i t é r i o segundo o q u a l se e s p e r e r e d u z i r a enumeração.

O p o n t o m a i s d e l i c a d o n e s t e s a l g o r i tmos C c o m o

e m g e r a l e m a l g o r i t m o s de Branch-U-Bound3 B a o b t e n ç ã o d e limites p a r a o v a l o r ótimo d a f u n q ã o - o b j e t i v o . E s t e s v a l o r e s precisam ser práximos do v a l o r dtimo o s u f i e n t e p a r a que posrum e l i m i n a r c rmior número p o s s i v e l d e s o l u ç õ e s v i g v e i r , mas a o mesmo tempo o método d e o b t e n ç ã o d e s t e s

. d

p r e c i s a ser s u f i c i e n t e m e n t e b a r a t o p a r a não t o r n a r o alclori tmo p r o i b i ti vamente c a r o . L i m i t e s podem ser o r ç a d o s por penal i d a d e s C uma penal i dade s u p e r i o r P: C i n f e r i o r pc 3 é u m i n c r e m e n t o a o v a l o r do l i m i t e quando uma

CII. 283

é

um

limite inferior para fCx3. Além disso, as penalidades

-

_-

_E

-

<,=i,.. . , p / j a mínC0,ck3 CII. 2Q3

onde Nr = €j>, C k , k S 2 4 tal que N k = C13 e Nk,= Cl,j3 e

c c

<

0, podem ser associadas com f .

k k'

Dizemos que uma penalidade 4 adi tiva quando a

s u m das pefialidades u b t i d a s da fixaç%o dos valores; de

diversas variáveis pode ser adicionada ao 1 i mi te cor r ente,

fornecendo

um

novo 1 i mi te i nf er i or

.

As penalidades do

ezrnpl

c

abaixo, devi do

a

H M S E N ,

JAUMARD

e MATHOM C 19893

,

S%D udi ti .as, efir;u=nto as penal idades do exemplo anter i or

,*:

=

-

~ A x c o , ~ r 3

com

Nr

= C j

>,

podem ser associ a d a t a

c.

C I I . 323,

H

m t r a

m n e i r u

de o b t e r m o s limites & a t r a v & s d o c o n c e i t o d e p l a n o s i nf e r i ores.

II.

o

Dada uma pseudo-boa1 e a n a

d e f i n i m o s um p l a n o i n f e r i o r d e f c o m o uma f u n ç ã o 1 i n e a r

n

1Cx3 = l o + 1

,

t a l que 1Cx3 I fCX) V x E

Bn.

H

j = i j j

P

EXEMPLO

11.5 Dada uma f u n ç % o fCx3 = k z i ~ k T k

,

a f u n ç ã o P

1Cx3 = _{k = i}

k

m í n ~ 0 , c , 3 'i x é um p l a n o i n f e r i o r p a r a f . H jm j

LU e WLLIAMS C19783, c o m o e x t e n s z o d o C o n c e i t o d e D u a l i d a d e d e T e t o d e HAMMER, HANSEN e SiMEONE

C19843, o b t i v e r u m t a m S 6 m um o u t r o p r o c e d i m e n t o p a r a o b t e n ç % o

d è l i m i t e s i n f e r i o r e s p a r a problemas d e minimização.

N z c u p i t u l o

IY

e s t u d a r e m o s um o u t r o pr o c e d i mento d e s e n v o l v i do por MI CHELON e MACULAN C 19882 como

e x t e n s ã o d e GUIGNARD

e

K I M C19873 p a r a o b t e n ç ã o d e i i m i tes P a r a programas pseudo-bool e a n o s

,

e no c a p i t u l o V a p r e s e n t a r e m o s um a l gari tmo enumer a t i vo p a r a a r e s o l U Ç ~ O d o

problema d a mochi 1 a q u a d r á t i c a , u t i 1 i zando os 1 i m i tes d e s t a manei r a

&ti

dcs

*TODOS DE CORTE

Os m4todos d e p l a n o s d e corte t i v e r a m o r i g e m na 1 i n e a r i z a ç s o d e programas pseudo-bool e a n o s a t r a v & s de r e d u ç z o d e s t e s a p r o b l emas d e c o b e r t u r a gener a1 i z a d a p r o p o s t a por -GRANOT e HAMMER C 1971 3.

SRANOT

e

HAMMER C 1971 3

,

BALAS

e JEROSLOW

C 19783

, BALAS

e MAZZOLA C 1984, 1 i84b3 mostraram q u e o s

v i ncul os d e um programa pseudo-bool e a n o são e q u i v a l e n t e s a um c o n j u n t o d e d e s i q u a l d a d e s d e c o b e r t u r a g e n e r a1 i z a d a . L i n e a r i zando a f unção-ob j &i vo C v e r p a r á g r a f o I I - 2 . 1 3

,

r e d u z i mos o CPPB3 a um problema d e c o b e r t u r a g e n e r a l i z a d a . O ndmero d e v í n c u l o s o b t i d o s , n â e n t a n t o , pode ser absrdamente g r a n d e , t o r n a n d o i m p r a t i c á v e l a s o l u ç ã o d o novo pr o b l e m a C ver GRANOT, GRANOT e KALLBERG C 19793 3.

GRANOT, GRAMOT e KALLBERG C19793, GRAMOT e GRANOT C lQ8O3, GRANOT, GRANOT e VAESSEN C 19823 propuseram e n t z o um a l g o r i t m o q u e v a i i n t r o d u z i n d o , à medida q u e se t o r n a necersAr i o, as d e r i g u a l d a d e s d e ccber t u r a g e n e r u l i z a d ~ . VK esquewa b e m mi s e f i c i e n t e f o i p r o p o s t o Por BALAS e MAZZOLA C 1 i84, 1984b3.

e x a u ~ t i va d e a p l i cações.

.

Dentre ei a s mencionamos CRAVEN

c

1988)

,

S C H B BLEC 1 981 3

,

HAMSEN C 1 9791

.

HANSEN

,

JAUMARD e MATH0b.i

c

1 9893

-

Neste C Z ~ ~ L U ~ O e s t u d a r e m o s o u s o d e D u a l i d a d e Lagrangeana e m p r o g r a m a ~ % o matemática. dando e s p e c i a l ê n f a s e a o s r e s u l t a d o s m a i s i m p o r t a n t e s p a r a a r e s o l u ç ã o d e d u a i s d e

programas d i scr etos

.

I I I . i 2

DEFI

NI

CYES

E

RESULTADOS PRELIMINARES

S e j a m f : IR"

-

IR e g: IR"

-

IRm f u n q õ e s c o n t i n u a s e

X

um s u b c o n j u n t o compacto do

IRn.

Seja a i n d a o pr o b l e m

0 qual ser$ r e f e r i d o c o m o problema p r i m a l , e p a r a o q u a l sabemos, p e l = teorema d e Weierstrass {Lima, 1981, p. 443

D E F ~ I Ç Ã o 111.1 k f i n i m o s a Função d e Lagrange

~ ~ m p o n e n t e z u. L d e u chamamos M u l t i p l i c a d o r e s d e Lagrange

das componentes g. L d e g.

DEFINIÇÃO 111.2 Definimos a f u ç ã o dual w: IRm -,R de CPP3

cama

wCu3 = mínimo C LCx,u33

X E X

*

T E O R E M A I I I . 1 wCu3 I f V u € I R m .

B

DEMONSTRAÇÃQ Como x É. um ponto v i á v e l de CPP3 vem, p e l a observação CIII. 1 3 ,

*

t

wcu3 = mínimo C L C X , U I > I LCX ,u3 = f c x 3 = f*. X E X

DEFINIÇÃO 111.3 Dizemos que um problema

4

uma Relaxação d e CPP3 se Ci c Ci e m í n i m o < f 5 r x f n d n i m o <f C X H ~x E

R.

r x e r

fornece OS valores de w em U E

IR^

B bem m a i s simples que a

resol U Ç ~ Q do pr obl pr i mal . Conforme vi mos, e s t e s vai o r e s fornecem u m limite i n f e r i o r para o valor 6timo do problema p r i mul, pdendo ser ussdor e m a1 gum algor i tmo para r e s o i uqão de

C P E .

E s t e s l i m i t e s s e r ã o t a n t o melhores quanto maior for a valor de WC ~ 2 , podendo seu valor mAxi mo e m a i gumas circunstSncias s e r a t & mesmo igual o valor ótimo do problema primal.

E

I

.

4 Dizemos que o problema

6 um pr cbl e m & ~ a l de C PP3 .

m Infelizmente no caso geral o valor ótimo w

d

de CPD3 não é igual a f

.

O que podemos afirmar seguramente

6 que vale o teorema abaixo.

4t m

TEOREMA I1

I.

2 C DUALIDADE FRACA3 w 5 f

-

H

Este teorema é conseqüência 6bvia do teorema anterior.

^s resultados e conceitos acima podem s e r

FIGURA 111.1

C

prohlrrnu. p r i ~ z l c o n s i s t e e m p o n t o no e i x o d a s o r d e n a d a s q u e minimize fCx3. f*. Tomemos a g o r a um mul ti p l i c a d o r e n c o n t r a r um E s t e p o n t o é d e Lagrange u E R - P a r a o b t e r wCu3 t e m o s q u e minimizar fCx3

+

u gCx3 e m t o d o x E

X.

Fazendo p = gCx3 e q = fCx3, x E X , i s t o e q u i v a l e a minimizar q + up e m Y . Por o u t r o l a d o , q + up = O 6 a e q u a ~ Y o d e uma r e t a d e i n c l i n a ç ã o

-

u p a s s a n d o p o r

Cf!,Y>.

k z i m

s e n d o , papa minimizar q

+

up temos q u e t r u n s p c r t a r esta r e t a p a r a l e l a m e n t e a e l a t%o p a r a b a i x o q u a n t o p o s s f v e l . Quando t a l a c o n t e c e r , a o r d e n a d a d o p o n t o d e i n t e r s e ç Y o c o m o e i x o d o s p ' s será i g u a l a wCu3. O

*

problema d u a l c o n s i s t e e m e n c o n t r a r a i n c l i n a ç ã o u q u e maxi m i z e essa o r d e n a d a .

1 1 2 PROPRIEDADES DA FUNÇÃO DUAL

N e s t e p a r á g r a f o e s t u d a r e m o s a1 gumas p r u p r i c d a d e s d a f u n ç ã o d u a l

, e m

e s p e c i a1 a q u e l a s m a i s b t e i s na c o n s t r u ç % o d e a l g o r i t m o s p a r a s u a maximização.

T E O R E M A I I I . 3 A f u n ç ã o d u a l & c B n c a v a e f i n i t a .

EEWONSTRAÇÃO Sendo f e g c o n t i n u a s no

IRn,

e X um c o n j u n t o l i m i t a d o , vem q u e w é f i n i t a .

TambBm, V h E C0,11, ui, u2 E o b t e m o s

d h u '

+

C 1

-

h3u23 = mínimo x E X CfCx3

+

CXU'

+

C 1

-

h3u23 gCx33

>

F.

mínimo C fCx3

+

u'

-

g C a 3

+

C 1

-

h3 m$&mo C fCx3

X f X

N e m sempre a f u n g ã c Yual 6 Y i f e r e n c i Y v e l .

Consideremos o exemplo na f i g u r a d a pági n a s e g u i n t e

1 2 3

onde X = C x , x , x > e m = i.

Xeste exemplo a f u n ç ã o d u a l & l i n e a r por p a r t e s e não-di f e r e n c i Ave1 n o s p o n t o s d e i n t e r s e ç ã o d a s

retas r _{i *} r ₂ e r _3'

FIGURA 111.2

TEOREMA

111.4 S e j a m ; E G?=e d e f i n a m o s XCu3 = € x E R" /

wCu3 = f C d

+

u

-

gCx33. u E _{Suponhamos q u e}

X C Ü ~

reja i g u a l ao c o n j u n t o u n i t á r i o

€h.

E n t ã o w é d i f e r e n c i a v e l e m

e4

Ü c o m g r a d i e n t e vwc Ü 3 = gC x3 .

r c m r a

.

a r e s o l u q ã o do problema d u a l . E n t r e t a n t o , s e n d o w

cSncn-.rz pade-se c o n t a r n a r o problema g e n e r a l i zando o c s n c e i t o d e g r a d i e n t e . U & m d i s s o , pode-se a i n d a d e f i n i r e m cada p o n t o u E IRx a d e r i v a d a d i r e c i o n a l d e w.

DEFINIÇÃO 111.5 Dizemos que

c

E IRm & um s u b g r a d i e n t e d e w

e m u E IRm se

DEFINIÇÃO 111.6 S e j a m u , d E [R" c o m

Ibll

z O. Definimos a

d e r i v a d a d i r e c i o n a l de w a o 1 ongo d e d c o m o

dezde que g l i m i t e acima e x i s t a .

TEOEXA 111.5 O l i m i t e acima e x i s t e V u , d e IRn,

((dll

# O.

DEMONSTRAÇÃO B a s t a mostrar que o 1 i m i t e

existe.

Ee f u t a , s c j a r n k

>

)t

>

O. Vemque

c p o r t a n t o

-

wCu

+

Xid3 _{A i}

-

wCu3 é uma f u n ~ ã o n ã o - d e c r e s c e n t e d e h%

>

C.

A s s i m , o l i n i t e crn q r r e s t ã o e x i s t e c é igrral a i n f

{-

wCu

+

Xd3 _h

-

wCu3 m h>0 A r e r o l u ~ ã o d o p r o b l e m r e l a x a d o CPR3 f o r n e c e a u t o m a t i c a m e n t e um s u b g r a d i e n t e e m u E [ R ~ , conforme m o s t r a d o a s e g u i r TEOPJMA 111.6 Dado u E Rm, gCx3 é um s u b g r a d i e n t e p a r a w e m u V

x

E XCu3. DEMOMSTRAÇÃO S e j a m x E X C U ~ e v E IRm. V e m O teorema acima g a r a n t e q u e w p o s s u i um s u b g r a d i e n t e e m t o d o p o n t o e m q u e é d e f i n i d a . Também d e l e e d o t e o r e m a C I I I . 4 3 deprendemos f a c i l m e n t e q u e e m p o n t o s d e não-di f er e n c i a b i 1 i d a d e e x i s t e m m a i s d o q u e um s u b g r a d i e n t e . De f a t o , TEOEEMA 111.7 w é d i f e r e n c i á v e l e m um p o n t o u e R" se e romente se houver um ú n i c o s u b g r a d i e n t e d e w e m u.

E E M C X S E ! ? ~ O Seja x' E XCu3. Se houver um ú n i c o s u b g r a d i e n t e d e w e m u , ent2ío n e c e s s a r i a m e n t e XCu3 =Cx3 e d e a c o r d o com o teorema C I1 I . 43 w é d i f e r e n c i á v e l e m u com g r a d i e n t e W.vCu3 = gCx3.

S u p u n h a ~ u s a g o r a que w seja d i f e r e n c i á v e l e m u. D a d e f i n i ç ã o d e s u b g r a d i e n t e d e uma f u n ç ã o c o n c a v a , e d o g r a d i e n t e , obtemos

onde h E U ? , d e I R m e a: R m -

[R

é uma f u n q ã o t a l que

l i m cxCu;Xd3 = O V u E IRm, e é um s u b g r a d i e n t e d e w e m u.

X+O

S u b t r a i n d o a i g u a l d a d e d a d e s i g u a l d a d e vem

D i ~ r i d i n d o a d e s i g u a l d a d e acima por A

>

O e f a z e n d o X

+

O

obtemos

Tomando a g o r a d =

c

-

VwCu3, vem

e a s s i m , e m pontoc; d e d i f e r e n c i a b i l i d a d e , w p o s s u i um ifnico s u b y r s d i e n t e , a s a b e r TwC u3. H

Dado que

em

pontos: d e

não

d i

f

@r

e n c i a b i 1 i dade da f unçgo d u a l h& mais d e um s u b g r a d í c n t e , i n t r o d u z i r e m o s a

defi n i ç ã a abaixa.

D E F I N I m 111.7 Dado u

e

R ~ , definimos o s u b d i f e r e n c i a l BwCu3

corno

cr

conjunto

d e todos as s u b g r a d i e n t e r d e w

e m

u.

Dada

um

ponto u ,

ji

conhecemos. p e l o teorema C I I I . 8 3 ,

uma

p a r t e do r u b d i f e r e n c i a l d e w

em

u. Dér fato.

seja YCu2 = i y

es

IRm

i' y = gCx3, p a r a algum x E XCu3). Vem que

A demonstraç%o e5 & v i a , a p a r t i r d o teorema CIII.Q3.

Na r e s o l u ç S o d e um problema d e maximizaç%o d e

uma

funçoto, & sempre i m p o r t a n t e d e alguma maneira t e n t a r

caracterizar

pontos d e máximo

e

d i r g õ e s d e subida.

N o caso

e m

que. esta funçgo

+

cáncava, d i f e r e n c i Aves1

e

d e f i n i

da

e m

t o d o R ~ ,

o

máximo

local c o i n c i d e

com

o

máximo

g l o b a l

e acontece em

um

ponto u* dado por

VwCZ2

-

O CBAZARAA e METTY C 1 0 7 9 . pp.94 r -3. Alóm d i s s o ,

e m

um ponto u que nXo seja _{' *} 6 t i m o , s u a d i r e ç ã o d e maior crescimenLo é M u 3 CLANG C 1 9 g 8 , p. 7533.

Em pontos d e não-di f er e n c i abi 1 i dade esta c a r a c t e r i zaç%o & f e i t a a t r a v é s d e uma g e n e r a l i z a ç ã o dos r e s u l t a d o s acima.

*

O E h C u 3 .

*

I?EZ1C!!ST?dC~Q u é uma s o l u ç ã o ó t i m a p a r a o problema d u a l

A d i r e ç ã o d e maior c r e s c i m e n t o l o c a l d e uma f u n ç ã c C dada pela d i r c ~ Z ~ que maxi~iiza s u a d e r i v a d a d i r e c i o n a l . Conf orme já comentado acima, esta d i r e ç ã o n o c a s o d e func;õec: d i f e r e c i á v e i s é d a d a p e l o g r a d i e n t e . Vamos a g o r a e s t e n d e r este r e s u l t a d o p a r a o caso d a f u n ç ã o d u a l . Veremos q u e e m p o n t o s d e d i f e r e n c i a b i l i d a d e e l a se r e d u z a o r e s u l t a d o d e s c r i t o aci m a p a r a f u n ç õ e s d i f er e n c i á v e i S . A n t e s

por &m v e r emos d o i s r e s u l t a d o s i n t e r medi ár i o s .

LERA

III.1

S e j a m u , d E

IRm.

E n t ã o 3 y E YCu3 t a l q u e

w ' C u ; d 3 2 d

-

y .

+

DEMONSTRAÇÃO _{Seja a s u c e s s ã o < t k > ,} t k -f O

,

e tomemos o s

p c n t c s r!

+

+ d. C o m

X

& compacto, e x i s t e xk E X C U + t k d 3 e -k a l & m d i s s o a s u c e s s ã o C x ? a d m i t e uma s u b s u c e s s ã o

_Cxk)

k E X c o n v e r g e n t e p a r a um p o n t o

G

E X . Por o u t r o l a d o , Passundo ao l i d t e na s u b s u c c s s ã o k E K , fCX,

+

u gcx:, 1

f ~ k

+ u gcG3, V x E X.

Por o u t r o Fado,

wCu + t k d 3

-

wCu3 = tfCxk3

+

u gCxk3

-

wCu31

+

t k d gCxk3

>

t k d gCxk3

ou.

P a s s a n d o ao limite ao l o n g o d a s u b s u c e s s ã o k E K ,

wpCu;d3 2 d

g ~ h ,

o q u e p r o v a a a s s e r t i v a acima.

TEOREMA 111.10 w'Cu;d3 = mínimo Cd y > .

y~av(u)

DEMONSTRAÇÃO P a r a t o d o y E

a d

u3

.

par a t o d o t

>

0 , e p a r a t o d o d E wCu

+

t d 2

-

wCu3, wCu

+

t d 3 5 wCu3 + t y d

+

_t - y d + wCu + t d 3

-

wCu3 l i m + t I y d

+

w'Cu;d3 <, y d V y E. h C u 3 =9 t+O ' w'Cu;d3 5 mínimo < y d3 y=8v:u: Pelo lema C I I I . 1 3 .

w'Cu;d3 = minimo € y d3.

ye?V?u,

Y s t a m s s a g c r a e m c o n d i @ e s d e e n c o n t r a r a

d i r e ç ã o d e maior c r e s c i m e n t o local d e u.

TEOREMA 111.11 máximo Cw'Cu;d33 = minimo

Ib1I

I bI E1

y ~ d v ( u > minimo €máximo€y d33 Y E ~ V ( U )

I

bl E1

P e l a d e s i g u a l d a d e d e Cauchy-Schwarz

CLIMA

C1981, p. 433, e p o r t a n t o A s s i m s e n d o , a d i r e ~ ã o d e maior c r e s c i m e n t o local d e w a p a r t i r de um p o n t o u q u e n ã o s e j a um p o n t o de d x i m o é a d i r e ç ã o d o s u b g r a d i e n t e d e menor norma. Em p u ~ t c s d e d i f c r e n c i a h i l i d z d e o d i f er e n c i a1

4

i g u a l a 5Vw3, e p o r t a n t o a d i r e ç ã o d e m a i o r c r e s c i m e n t o Q a d o g r a d i e n t e n o

p o n t o .

A d e t e r m i n a q ã o d o s u b d i f e r e n c i a l d e w e m c a d a p o n t a &, d e s t a forma. de suma i m p o r t â n c i a p a r a a r e s o l u ç ã o d o problema d u a l . & a p e n a s conhecendo h C u 3 e m c a d a p o n t o u

E !Rrn q u e podemos d i z e r se um c e r t o p o n t o é uma s o l u q ã o ótima C O E &C u3 3

.

e se n ã o q u a l a d i r e ç ã o d e maior cresci mento C d i reção d o s u b g r a d i e n t e d e menor norma e m &C u3 3 .

TEOREPIAIII.12 h C u 3 = CONVÇYCU~?, V u elRrn.

DEMQNSTRAÇÃO Seja

9

um p o n t o d e &Cu3 que n ã o p e r t e n ç a a CONV ÇYCu33. Como Y C u3 é f e c h a d o e CONVCYCu33 é c o n v e x a , vem C BAZARAA e SHETIY C 1979, p. 453 3 q u e 3 d E IRrn, d # O , e 3 a E E', t a i s q u e

P o r t a n t o , p e l o l e m a CIII. 1 3 ,

wPCu;d3 2 a

c p e l o t e o r e m C I I I . 1 0 3 ,

o q u e B a b s u r d o . A s s i m , e

Por o u t r c l a d o , pelo teorema C I I I . 8 3 , e uma vez q u e &C u3 4 convexo e f e c h a d o C LASDON C 1970, p. 51 03 3

,

CONV€YCu3> c &Cu3. Por t a n t o ,

N u 3 = CQHV€YCu33

N o t e que nem sempre um s u b g r a d i e n t e d e w e m um p o n t o u B uma d i r e ç ã o d e s u b i d a . Q exemplo n a f i g u r a

O

a b a i x o , o n d e estão d e s e n h a d a s as c u r v a s d e n i v e l d e uma f u n ç ã o d u a l w Cagora f i z e m o s m = 23 i l u s t r a i s t o

No exemplo*acima

r3,

o e u b g r a d i e n t e d e norma minima d e BwCuo3 = CONVCC*, 3 é r e a l m e n t e a d i r e ç ã o d e maior c r e s c i m e n t o . E n t r e t a n t o nem

c ,

,

nem

c

s ã o d i r e ç õ e s

2

d e s u b i d a . O m e l h o r q u e se pode d i z e r d e

t i

e é q u e

O

formam um â n g u l o menor q u e 90O com o segmento que une u a i u

,

e q u e p o r t a n t o s ã o d i r e ç a e s d e d e s c i d a p a r a a d i s t â n c i a a o ó t i m o . I s t o , n a v e r d a d e , d t u d o q u e se pode d i z e r d e ?# m a n e i r a g e n é r i c a d o s u b g r a d i e n t e e m um p o n t o u Z u

.

t

TEOREMA 111.13 Seja dCu3 =

Ibi

-

u I I , u e

Rm.

Qualquer s u b g r a d i e n t e

<

E dwC u3 4 uma d i r e ç ã o d e d e s c i d a p a r a d.

DEMONSTRAÇÃO Sendo

c

o s u b g r a d i e n t e d e uma f u n q ã o c o n c a v a ,

?# ?#

*

i

wcu 3 I wcu3

+

c

Cu -u3 =B

r

Cu

-

u 3 I wCu3

-

wcu 3 I O 9

i

c c u - u 3 5 0

i

Mas, como VdCu3 = u

-

u

,

vem q u e

e p o r t u n t o & uma d i r e ~ ã o d e d e s c i d a p a r a d . Pudemcs d e f i n i r o c o s s e n o d o â n g u l o e n t r e t u

-

u e o " p i o r " s u b g r a d i e n t e

C

e m u como C GOFFI N C 1 9 7 7 3 3 . No p i o r c a s a t e r e m o s

Chamamos 1 d e número c o n d i c i o n a n t e , e conforme veremos n a

r

s e q ã o ele

4

i m p o r t a n t e n a d e t e r m i n a ç ã o d a conver g s n c i a d e a1 g o r i tmos

.

T e n t a r c a r a c t e r i z a r o s u b d i f e r e n c i a l e m cada

g u n t c ,

u

f i m

d e er?ccr?trar o s u b g r a d i e n t e d e menor norma, p a r a e n t ã o s a b e r se este é um p o n t o d e mínimo ou e n t ã o d e s c o b r i r a d i r e ~ ã o d e c r e s c i m e n t o m á x i m o d a f u n ç ã o d u a l e r t Y i n t e i r a m e n t e f o r a d e n o s s o a l c a n c e .

I2

computacional mente m u i t o caro. E n t r e t a n t o , ao r e s o l v e r o

pr o b l em r o1 a x a d o C PR3 o b t e m o s , conforme m o s t r a d o no teor ema

C I I I 6

,

a u t o m a t i camente um s u b g r a d i e n t e . Caminhando n a

direção deste s u b g r a d i e n t e , caso não e s t e j a m o s e m um p o n t o

*

d e máximo, estaremos n o s aproximando d e u

.

E s t e p r ~ ~ ~ d i m m t c , q u e g e n e r sl i za a q u e l e a d o t a d o e m a1 g o r i t m o s d e g r a d i e n t e , & a e s s ê n c i a d o s chamados métodos d e s u b g r a d i e n t e , os q u a i s e s t u d a r e m o s n a seção s e g u i n t e . A o

c o n t r á r i o d e t o d o s u b d i f e r e n c i a l , a o b t e n ç ã o d e um s u b g r adi e n t e a t r a v é s d a r esol ugão do problema r e1 a x a d o é b a s t a n t e b a r a t a , O q u e t o r n a estes métodos

computaci o n a l mente f a c t i v e i r .

11.33 MÉTODOS DE SUBGRADI ENTE

Os; métodos d e s u b g r a d i e n t e podem ser

ALGORITMO 111.1 I n í c i o k

t

o

o O O i n i c i a l i z a r p e u

,

e o b t e r g E M U O ~

se

E n t ã o Terminou c f a l s o Senão Ter m i nou c v e r d a d e i r o

Fi

m - s e Corpo Enquanto t e r m i n o u Faça k c k + l E f e t u a r teste d e p a r a d a Devolver o r e s u l t a d o d o teste d e p a r a d a n a v a r i Ave1 t e r m i nau F i m-Enquanto Fi m pk & um p a s s o d e d e s l o c a m e n t o na d i r e ~ ã o d o s u b g r a d i e n t e . Como normal mente o p r o c e d i mento acima n ã o c o n s e g u i r á

It

d e t e r m i n a r se O E â w C u 3

,

p a r a a1 gum k

,

este n ã o p o d e r á ser o ú n i c o c r i t 6 r i . o d e p a r a d a , e por i s s o o u t r o s testes d e v e r ã o compor o " T e s t e d e p a r a d a " , como por exemplo o número d e iterações, o tamanho d o p a s s o , c a s o este s e j a n ã o - c r e s c e n t e a c a d a i t e r a ç S o , e a d i f e r e n ç a e n t r e o melhor v a l o r wcuk3 o b t i d o e um l i m i t e

W

s u p e r i o r p r e v i a m e n t e c o n h e c i d o .

w

Dentro d e s t e esquema g e r a l descreveremos

t r

es

a1

ter

n a t i vas

cor

r e s p n d e n t e r

a t r d s

maneiras d i f e r e n t e s d e f i x a r m o s o p a s s o

$:

C i 3

S r i e

d i v e r g e n t e CPOLYAK C I Q f S 2 2

C

P a s s o c o n s t a n t e CMINOUX C%-2

C

ii i 3 Relaxação CHELD,

WOLFE

e

CROWDER

C187433

O método

da

_{d r i e}

d i v e r g e n t e f o i o p r i m e i r o a l g o r i t m de s u b g r a d i e n t e a ser proposto, mas s e u i n t e r e s s e

& p r i n c i p a l m e n t e h i r t b r i c o . O d t o d o do passo' c o n s t a n t e

porrui i n t e r e s s e s o b r e t u d o

t d r i c o .

Sua c o n v e r g i h c i a 4 muito l e n t a . O &todo d e r e l a x a ç ã o (o um método remi-emplrica. N%o é p o s s i v e l estabelecer uma prova g e r a l de convergência p a r a ele. E n t r e t a n t o é

o mais

bem

sucedido, ~1 u m r d a q u m l ~ q u m t r d m t a r c l m o a na irnpiomon+açSo d o a l g o r i tmo p r o p o s t o no c a p i t u l o V p a r a a r e s o l u ç % o d o problema d a machi 1 a quadr á t i ca.

111.3.13

O ALGORITMO DA S R I E DIVERGENTE

E s t e método fundamenta-se no s e g u i n t e t e o r em.

TECREl(b.II1.14CPOLYAKClQ6Q33

Se pk 2 O f o r t a l que