T´ecnicas computacionais em probabilidade e estat´ıstica II

T´ ecnicas computacionais em probabilidade e estat´ıstica II

M´arcia D’Elia Branco

Universidade de S˜ao Paulo Instituto de Matem´atica e Estat´ıstica

http:www.ime.usp.br/ mbranco

AULA 3: M´etodos de simula¸c˜ao estoc´asticos 1.

Introdu¸c˜ ao

Vamos admitir que temos um bom gerador de n´umeros aleat´orios no intervalo (0,1).

Denotamos poru a quantidade obtida pelo gerador e assumimos ser uma observa¸c˜ao de uma v.a. U_(0,1).

Simular valores dos principais modelos probabil´ısticos discretos a partir de u´e relativamente simples.

Ver exemplos de simula¸c˜ao de: Bernoulli, binomial, binomial negativa e Poisson.

Vamos trabalhar a seguir com t´ecnicas de simula¸c˜ao de vari´aveis ou vetores aleat´orios cont´ınuos.

1. M´ etodos de transforma¸c˜ ao de vari´ aveis.

1.1. Unidimensionais

Proposi¸c˜ao: Seja U uma v.a. Uniforme em (0,1). Para qualquer fun¸c˜ao de distribui¸c˜ao de probabilidade cont´ınuaF a vari´avel aleat´oria definida por

X=F⁻¹(U) tem distribui¸c˜ao F.

Exemplo 1: X ´e Weibull com parˆametros λ >0 eα >0.

F(x) = 1−e^−λxα ent˜aox= [−_λ¹ln(1−u)]^1/α = [−¹_λlnu^∗]^1/α Quandoα = 1temos a distribui¸c˜ao exponencial.

[Mostre que se U ∼U_(0,1) ent˜aoU^∗ = 1−U ∼U_(0,1).]

Exemplo 2: X tem distribui¸c˜ao Gama com parˆametrosn >0e β >0, sua f.d.p. ´e

f(x|n, β) = βⁿ

Γ(n)xⁿ⁻¹e^−βx , x >0.

N˜ao existe forma anal´ıtica para a distribui¸c˜aoF(x). Paraninteiro podemos mostrar que seYi ∼Exp(β) , i= 1, . . . , n indep., ent˜ao

X =

n

X

i=1

Yi ∼ Gama(n, β).

Logo, para simular de uma Gama com parˆametro inteiro basta simularnexponencias e somar.

A distribui¸c˜aoχ²_a (qui-quadrado) ´e uma caso particular da Gama comn=a/2 eβ = 1/2. Tamb´em pode ser obtida pela soma de exponenciais quandon´e par.

Exemplo 3: X tem distribui¸c˜ao Beta com parˆametrosα >0e β >0, sua f.d.p. ´e

f(x|α, β) = Γ(α+β)

Γ(α)Γ(β)x^α−1(1−x)^β−1 , 0< x <1.

Se α e β s˜ao inteiros pode se usando o seguinte resultado. Se U1, . . . , Un s˜ao i.i.d. U_(0,1) ent˜ao U_(i)∼Beta(i, n−i+ 1), em que U_(i) representa ai-´esima estat´ıstica de ordem. Isto ´e, U₍₁₎ ≤U₍₂₎ ≤ · · · ≤U_(n).

Um algoritmo alternativo, sem restri¸c˜ao para os parˆametros, considera

Y = U₁^1/α U₁^1/α+U₂^1/β

E poss´ıvel mostrar que´ Y condicional aU₁^1/α+U₂^1/β ≤1 tem distribui¸c˜ao Beta(α, β).

1. M´ etodos de transforma¸c˜ ao de vari´ aveis

1.2. Bidimensionais

Note que no exemplo 3 ´e necess´ario a simula¸c˜ao de duas v.a.

uniformesU₁ eU₂ para simula¸c˜ao de um valor da v.a. X.

Uma situa¸c˜ao similar ocorre na gera¸c˜ao de uma v.a. Normal, quando utilizado o algor´ıtmo de Box-Muller.

Em ambos os casos ´e necess´ario recorrer a t´ecnicas de transforma¸c˜ao bivariadas.

Lembrando o m´etodo Jacobiano. Se(X1, X2) tem densidade conjunta f_X e g(X₁, X₂) = (Y₁, Y₂) ´e uma transforma¸c˜ao bijetora com fun¸c˜ao inversa g⁻¹(Y₁, Y₂) = (X₁, X₂) ent˜ao

f_Y(y₁, y₂) =f_X(g⁻¹(y₂, y₂))J em que J ´e o jacobiano da transforma¸c˜ao.

Exemplo 4: Z tem distribui¸c˜ao normal padr˜ao, sua f.d.p ´e f(z) = 1

√2πe^z2/2 , −∞< x <∞. Box e Muller mostraram que deU₁ eU₂ s˜ao uniformes independentes ent˜ao

Z₁=p

−2logU₁Cos(2πU₂) eZ₂ =p

−2logU₁Sen(2πU₂) s˜ao independentes com distribui¸c˜ao normal padr˜ao.

Al´em disso, sabemos queX=µ+σZ tem distribui¸c˜ao N(µ, σ²), comσ >0.

Exemplo 5: M´etodo de Raz˜ao de Uniformes

Sejamu₁ e u₂ quantidades geradas uniformemente na regi˜ao C_f{(u₁, u₂) : 0≤u₁≤p

f^∗(u₂/u₁)}, ent˜aox=u₂/u₁ tem distribui¸c˜ao com densidade

f(x) = f^∗(x) R f^∗(t)dt

Por exemplo, considere a distribui¸c˜ao de Cauchy com f(x) = 1

π 1 1 +x²

Neste caso,C_f{(u₁, u₂) :u²₁+u²₂ ≤1 e u₁ >0}. Simular uniformemente num semi-c´ırculo de raio um.

Exemplo 6: Distribui¸c˜ao logar´ıtmica

f(x) =−logx 0< x <1.

N˜ao existe solu¸c˜ao anal´ıtica para a fun¸c˜ao acumuladaF(x).

´E poss´ıvel mostrar que seU₁ e U₂ s˜ao uniformes independentes ent˜aoX=U₁U₂ tem distribui¸c˜ao logar´ıtmica.

Os exemplos a seguir utilizam o m´etodo da composi¸c˜ao ou m´etodo baseado em misturas.

Este m´etodo baseia-se nas conhecida rela¸c˜ao:

f(x1) = Z

f(x1, x2)dx2 = Z

f(x1 |x2)f(x2)dx2.

Exemplo 7: Simulando da Gama com n <1.

SeY tem distribui¸c˜aoBeta(n,1−n) e Z distribui¸c˜ao Exp(1), independentes, ent˜aoX=Y Z ∼Gama(n,1).

Note que

f(x|n) = Γ(1) Γ(n)Γ(1−n)

Z∞

x

x w

n−1 1− x

w ₋n 1

we^−wdw

Ent˜ao

f(x|n) = 1

Γ(n)xⁿ⁻¹e^−x.

Exemplo 8: Distribui¸c˜aot-Student.

SejaX|Y =y∼N(0, ν/y) e Y ∼χ²_ν. A densidade marginal de X´e obtida por

f(x|ν) = Z∞

0

f(x|y)f(y)dy

Resultando em

f(x|ν) = Γ[(ν+ 1)/2]

Γ(ν/2)√ πν

1 +x²

ν

−(ν+1)/2

Conhecida como densidadet-Student padr˜ao. ´E poss´ıvel adicionar parˆametros de posi¸c˜aoµe escala σ fazendo W =µ+σX. Simulando um valory da χ²_ν e depois um valorx daN(0, ν/y) obtemos um valor da densidadet-Student padr˜ao.

Exemplo 9: X tem distribui¸c˜ao normal-assim´etrica padr˜ao se sua f.d.p ´e dada por

f(x|λ) = 2φ(x)Φ(λx) em queφ(x) = √¹

2πe^−x2/2,Φ´e a fun¸c˜ao de distribui¸c˜ao da normal padr˜ao eλ´e um parˆametro que controla a assimetria da

distribui¸c˜ao. Quandoλ= 0obtemos o caso sim´etrico normal.

λ >0(λ <0)assimetria positiva (assimetria negativa).

Se Y e W tem distribui¸c˜ao normal padr˜ao ent˜aoY |λY > W tem distribui¸c˜aoN A(λ).

Algoritmo de simula¸c˜ao:

X =

Y seλY > W

−Y seλY ≤W

Exerc´ıcios

1. Mostre que seX ∼U_(0,1) ent˜aoU^∗ = 1−U ∼U_(0,1).

2. Mostre que seU₁ e U₂ s˜ao U_(0,1) independentes eY ´e definida como no exemplo 3, ent˜aoY |U₁^1/α+U₂^1/β ≤1 tem distribui¸c˜ao Beta(α, β).

3. O algoritmo de coordenadas Polar ´e uma alternativa ao algortimo de Box-Muller para simular da Normal padr˜ao. Este algoritmo segue os seguintes passos:

(i)gerar v₁ e v₂ indep. Uniformes em[−1,1]e faz r² =v₁²+v₂². (ii) ser²≥1, volta a(i). Caso contr´ario, faz

x₁ =v₁[−2log(r²)/r²]^1/2 e x₂ =v₂[−2log(r²)/r²]^1/2. Mostre quex₁ e x₂ s˜aoN(0,1)independentes. Escreva um programa noRpara o algoritmo Polar. Com este algoritmo, obtenha uma amostra de tamanho 1000 e desenhe o histograma desses valores num gr´afico junto com a fun¸c˜ao densidade da N(0,1).

Exerc´ıcios

4. Verifique que a fun¸c˜ao densidade dat-Student, conforme descrita no exemplo 2, pode ser obtida como uma mistura no parˆametro de escala da densidade normal usando como medida de mistura a densidade qui-quadrado.

5. Considere(X, Y)com distribui¸c˜ao bivariada normal de m´edias zero, variˆancias um e correla¸c˜aoδ,−1< δ <1. Mostre que X|Y >0 tem distribui¸c˜ao normal assim´etrica padr˜ao, conforme descrita no exemplo 9.

6. Para cada uma das fun¸c˜oes densidadesf(x)descritas a seguir, fa¸ca gr´aficos noRcomparando a forma das densidades variando os parˆametros. Sef(x) tem apenas um parˆametro considere 3 ou 4 valores desse parˆametro e desenhe as densidades num ´unico gr´afico.

Sef(x) tem dois parˆametros, fixe um deles e fa¸ca o gr´afico como anteriormente para o outro parˆametro e depois inverta.

Considere as seguintes densidades: Gama, Beta,t-Student e normal assim´etrica.