Processos Estocásticos

Processos Estocásticos

Luiz Affonso Guedes

Sumário

• Probabilidade

• Variáveis Aleatórias

• Funções de Uma Variável Aleatória

• Funções de Várias Variáveis Aleatórias

• Momentos e Estatística Condicional

• Teorema do Limite Central

• Processos Estocásticos

• Análise Espectral

• Filtragem e Predição Estocástica

• Processos Markovianos

Probabilidade

• Definições de probabilidade

• Freqüência relativa

• Axiomas da probabilidade

• Métodos de Contagem

• Probabilidade Condicional

• Teorema de bayes

Introdução

• Fenômenos Determinísticos

– Conhecidos com certeza

– Não sujeitos às leis do acaso

• Ex.: o ano atual, idade de uma pessoa jovem

• Fenômenos Probabilísticos

– Não conhecidos com certeza – Sujeitos às leis do acaso

• Ex.: face de um dado, se vai chover amanhã, se o Remo vai ser campeão

Introdução

• Experimentos que ao serem repetidos nas mesmas condições não produzem o mesmo resultado são denominados de experimentos aleatórios.

• Mas por quê isto ocorre?

Experimento Entradas/causas

observadas Saídas/efeitos

observados Entradas/causas

observadas

Espaço Amostral

• Definiremos Espaço Amostral (S) associado a um experimento o conjunto de seus

resultados possíveis.

– Conjunto de todos os resultados possíveis de ocorrer.

– Pode ser discreto (finito ou infinito) ou contínuo.

Exemplos de Espaço Amostral

• Exemplo1: Experimento de lançamento de um dado.

– O espaço amostral do experimento é o conjunto S = {1,2,3,4,5,6}.

• Exemplo2: Experimento de lançamento de dois dados simultaneamente.

– O espaço amostral do experimento é o conjunto S(primeira face, segunda face) = {????}

Exemplos de Espaço Amostral

• Exemplo3: Experimento de obtenção do tempo de vida de uma lâmpada.

– O espaço amostral do experimento é o conjunto S = {x:

x real, x>0}.

• Processo estocástico é uma seqüência de

experimentos, no qual cada um tem um número finito de resultados, com uma dada atribuição de probabilidade

Exemplos de Processos Estocásticos

• Processo estocástico do exemplo1.

• Processo estocástico do exemplo3.

• Como um fabricante deve calcular o tempo de garantia de um produto seu. Uma TV, por exemplo?

Eventos

• São qualquer subconjunto de um Espaço Amostral.

• Os eventos podem ser simples ou compostos

• S Æ evento certo

• Ø Æ evento vazio (impossível)

Exemplos de Eventos

• Exemplo1:

– Dar um número par

– Dar um número maior que 4 – Dar um número entre 1 e 6

• Exemplo2:

– A soma dos resultados seja igual a 4 – Que a soma dos resultados seja par

Operações entre Eventos

• União: A U B Æ Se ocorrer pelo menos um dos eventos

• Interseção: A ∩ B Æ Se ocorrer ambos os eventos

• Complementar: A^c Æ É o evento que ocorre quando A não ocorrer.

A B

Exemplos de Operações com Eventos

• Uma urna contém bolas de um a quinze.

Uma bola é retirada da urna e seu número anotado. Sejam A e B os seguintes eventos:

A: o número da bola retirada é par, B: o número da bola retirada é múltiplo de 3.

Determine:

– S,A, B, AUB, A ∩ B e A^c

Operações entre Eventos

• Implicação: A ⊂ B, A implica em B.

• Igualdade: A ⊂ B e A ⊃ B Æ A = B.

• Mutuamente exclusivo: A ∩ B = Ø

– Se a união de n eventos mutuamente exclusivos é o próprio S, dizemos que tais eventos são

mutuamente exclusivos e exaustivos, ou formam uma partição em S.

– Exemplos em diagrama de Venn

Propriedades das Operações entre Eventos

1. (AUB) ∩ C = (A∩ C) U (B∩ C) 2. (A ∩ B) U C = (A U C) ∩ (B U C) 3. (A U B)^c = A^c ∩ B^c

4. (A ∩ B)^c = A^c U B^c

A B

C

A B

C

Probabilidade

• Vem da idéia de mensurar eventos aleatórios.

• Procedimento de cálculo de propriedades de eventos aleatórios

• Número que reflita as chances de ocorrência de um evento aleatório.

Probabilidade: definição clássica

• Dado um espaço amostral S com N eventos igualmente possíveis. Se A é um evento em S composto de m eventos simples, a

probabilidade de ocorrência de um evento A num experimento é calculada por:

– P(A) = m / N

– É a razão entre os eventos desejáveis dentre o universo dos possíveis.

Probabilidade: definição clássica

• Conseqüências:

1. P(A) = ≥ 0, para todo A ⊂ S;

2. Se A e B são eventos mutuamente exclusivos, então:

- P(AUB) = P(A) + P(B)

3. P(S) = 1

4. P(AUB) = P(A) + P(B) – P(A∩B)

Probabilidade: definição freqüentista

• Repetir um experimento sob as mesmas circunstâncias.

• A probabilidade de ocorrência de um evento A seria:

– P(A) = lim M/ N

NÆ∞

– M é o número de ocorrência do evento A – N é o número total de experimentos.

Probabilidade: definição subjetiva

• Quando não a possibilidade de se aplicar os conceitos clássicos e freqüentista de probabilidade:

– Baseia-se em opinião sobre ocorrência de um evento.

• Probabilidade do resultado de um jogo.

• Probabilidade de haver aula.

Probabilidade: definição axiomática

• Supõe as seguintes verdades absolutas:

– Dado um espaço amostral S e eventos A e B, tem-se.

1. P(A) ≥ 0;

2. P(S) = 1;

3. Se A e B são mutuamente exclusivos, P(A+B) = P(A) + P(B)

Propriedades da Probabilidade

1. P(Ø) = 0 2. P(S) = 1

3. P(A U B U C) = P(A) + P(B) + P(C), se A, B e C são mutuamente exclusivos.

4. P(A^c) = 1 – P(A)

5. P(AUB) = P(A) + P(B) – P(A ∩B) 6. Se A ⊂ B Æ P(A) ≤ P(B)

7. P(AUB) = P(A) + P(A^C ∩B)

Métodos de Contagem

• Para se calcular a probabilidade de um evento é necessário saber sua proporção dentro do universo dos eventos possíveis

A P(A) = ???

Supondo eventos equiprováveis S

Princípio Fundamental da Contagem

• Se uma tarefa é completada em N etapas seqüenciais, com n_i possibilidade em cada etapa. Então, o número total de maneiras de realizar a tarefa é:

– Número Total = n₁ ^x n₂ ^x . . . n_N

? ? ?

Etapa 1 Etapa 2 Etapa 3

Tipos de Experimentos

• Com reposição ou sem reposição de amostras

• Elementos das amostras podem ser ordenados ou não ordenados

Tipos de Experimentos

• Experimento sem reposição ordenado:

– Dada uma turma de N alunos, escolher 01 presidente, 01 tesoureiro e 01 secretário.

• Arranjo

• Experimento sem reposição não ordenado:

– Dada uma turma de N alunos, escolher 03 representantes.

• Combinação

Tipos de Experimentos

• Cálculo de experimento sem reposição ordenado:

– Ordenar n amostras de um conjunto de N elementos, sem reposição.

Æ (N)_n = N (N-1) ... (N-n+1) = N! / (N-n)!

– Escolher 01 goleiro e 01 centroavante entre 8 jogadores.

– Escolher 01 presidente, 01 tesoureiro,

01secretário numa turma de 15 formandos.

Tipos de Experimentos

• Cálculo de experimento com reposição ordenado:

– Ordenar n amostras de um conjunto de N elementos, com reposição.

N^{n =} N N ... N (já que há reposição)

– Escolher 01 goleiro e 01 capitão dentre 11 jogadores.

– Escolher 01 presidente e 01 tesoureiro dentre 15 alunos, sendo que há a possibilidade de se acumular os cargos.

Tipos de Experimentos

• A probabilidade é o razão entre os eventos desejados e os possíveis:

– Qual é a probabilidade de se lançar um dado 03 vezes e não ocorrer repetição de números?

– Na maternidade Parto Feliz nasceram 05

crianças numa determinada semana. Qual era a probabilidade de todas as crianças terem

nascido em dias distintos?

– P(A) = (N)_n / Nⁿ

Tipos de Experimentos

• Permutação

– Se N = n Æ P_n = n!

– (n)_n = n (n-1) ... (n-n+1)

– Quantas palavras de 03 letras não repetidas posso formar com o seguinte conjunto de letras?

• L = {A, I, B}

Tipos de Experimentos

• Experimento sem reposição não ordenado:

– Combinação de N elementos n a n.

– Dada uma turma de N alunos, escolher 03 representantes.

• Há menos possibilidades do que no caso ordenado, certo?

– C_N,n = (N)_n/ P_n = N!/(n! (N-n)!) (analisar!!!)

Tipos de Experimentos

• Experimento sem reposição não ordenado:

– C_N,n = (N)_n/ P_n = N!/(n! (N-n)!)

– 8 times participam de um torneio de futebol.

Cada equipe enfrenta todas as demais apenas uma vez. Quantos jogos serão realizados?

– E se houver jogos de ida e de volta?

– Escolher 03 pessoas num grupo de 10.

Partição de Conjuntos

• C_N,n – Equivale dividir S em dois subconjunto: A e A^c

• A com n elementos e A^c com n1

elementos, sendo:

N = n + n1

A

S

- A possui n elementos - S possui N elementos

Partição de Conjuntos

• Generalização do problema:

– Dividir um conjunto S de N elementos em k subconjuntos, sendo que

• N = n₁+ n₂+ ... +n_k (n_i – número de elemento do i- ésimo subconjunto)

• Corresponde a k problemas encadeados de combinações (veja o diagrama de Venn)

– C_N,n1 C(N-n1),n2 ... C_nk,nk

Partição de Conjuntos

• Generalização do problema:

– Que matematicamente é equivalente a:

• N! / (n₁! n₂! ... n_k!)

• C_N,n1 C(N-n1),n2 ... C_nk,nk

• Será que isto é verdade?

– C_N,n = N! / (n! (N-n)! ) (lembrete)

Partição de Conjuntos

• Exemplos:

– O jogo de bridge corresponde a dividir o baralho de 52 entre 04 jogadores. Quantas maneiras há de se dividir o baralho?

• Resp. Æ C_52,13 C_39,13 C_26,13 C_13,13

Partição de Conjuntos

• Exemplos:

– O jogo de pôquer com 04 jogadores utiliza 32 cartas, distribuídas igualmente entre os 04 naipes.

• Baralho = {Naipes X Cartas}

• Naipes = {paus,espada,ouro,copas}

• Cartas = {7,8,9,10,Valete,Dama,Rei, Ás}

• Se um jogador receber na primeira mão 05 cartas, qual é a probabilidade dele receber só um par de ases (evento A)?

• Resp. Æ P(A) = C_4,2C_7,3 ( C_4,1C_4,1C_4,1) / C_32,5 = 0,11 (0,0667)

ÁS ÁS ÁS ÁS ÁS

Partição de Conjuntos

• Processos de Bernoulli

– Qual é a probabilidade de ocorrer k vezes um eventos A dentre N tentativas, sendo p a sua probabilidade do ocorrência?

• P(A) = p , P(A^c) = 1 – p

• P(A) P(A)...P(A) P(A^c)...P(A^c) = p^k (1-p)^N-k

– Pode-se combinar esse conjunto de eventos de N, k a k maneiras.

• P{A ocorrer exatamente k vezes} =

C_N,k p (1- p)^N-k

Partição de Conjuntos

• Processos de Bernoulli

– P{A ocorrer apenas exatamente k vezes} = C_N,k p (1- p)^N-k

– Exemplo: Qual é a probabilidade que em uma família com 04 filhos, 02 serem meninas?

• Resolução por Bernoulli ou de forma exaustiva.

• Resp. = 3/8

Partição de Conjuntos

• Processos de Bernoulli

– P{A ocorrer apenas exatamente k vezes} = C_N,k p^k (1- p)^N-

k

– Exemplo: Um atirador tem três chances de acertar um alvo. Para ele vencer a competição deverá acertar pelo menos duas vezes no alvo.

Sabendo-se que ele tem probabilidade de 0,4 de acerta um tiro, qual é a probabilidade dele

vencer a competição?

• Resp. = 0,352

Próxima Aula

• Probabilidade condicional, eventos independentes e teorema de Bayes

Probabilidade Condicional

• Sejam dois eventos A e B de um mesmo espaço amostral e supondo que P(A) > 0, a probabilidade condicional de B ocorrer

dado que A ocorreu é dada por:

– P(B/A) = P(A B) / P(A)

• É a probabilidade de ocorrer A e B dentro do subconjunto dos eventos de A.

A B Æ P(B/A) =

Probabilidade Condicional

• Dado:

– P(B/A) = P(A B) / P(A)

• A probabilidade de ocorrer os eventos A e B é igual a:

– P(A B) = P(B/A) P(A) = P(A) P(B/A)

• A probabilidade de ocorrer A e ocorrer B dado que ocorreu A

A B Æ P(B/A) =

Probabilidade Condicional

• Exemplo:

– P(B/A) = P(A B) / P(A)

1 2 3 4 5 6 6

5 4 3 2 1

• Exemplo: experimentos seqüenciais que a

ocorrência de um eventos na k-ésima etapa depende das etapas anteriores

– Dada uma urna com 03 bolas azuis e 07 vermelhas. Se 02 bolas são retiradas sem reposição, determine:

• Espaço amostral:

• P(A₁A₂)

• P(A₁V₂)

• P(V₁A₂)

• P(V₁V₂)

– P(A/B) = P(A B) / P(B)

Probabilidade Condicional

Probabilidade Condicional

• Generalização da probabilidade condicional:

– P(A₁A₂ ... A_n) = P(A₁) P(A₂/A₁)P(A₃/A₁A₂) ...

P(A_n/A₁A₂ ...A_n-1) – Interpretação:

P(A) P(B/A) P(C/BA) P(ABC)

Probabilidade Condicional

• Exemplo: Dada uma urna com 03 bolas azuis e 07 vermelhas. Se 02 bolas são retiradas sem

reposição, qual é a probabilidade de ocorrer a seguinte seqüência de eventos:

– P(A₁A₂V₃V₄A₅) = 1/120 – P (A₁A₂A₃V₄V₅) = ? – P (V₁V₂A₃A₄A₅) = ? – ...

Probabilidade Total

• P(A) = P(A/B₁) P(B₁) + P(A/B₂) P(B₂) ...

P(A/B_n) P(B_n)

A

B₁

B₂

B_n

• P(A) = P(AB₁) + P(AB₂) + ... + P(AB_n)

Conjuntos disjuntos

Probabilidade Total

• Exemplo: dada 03 urnas com as seguintes composições:

– Urna 1: 03 bolas brancas e 05 bolas vermelhas.

– Urna 2: 04 bolas brancas e 02 bolas vermelhas.

– Urna 2: 01 bola branca e 03 bolas vermelhas.

– A probabilidade de escolha das urnas é, respectivamente: 2/6, 3/6 e 1/6.

– Qual é a probabilidade de se escolher uma bola branca?

Resp. = ½

– Interpretação via média ponderada.

Teorema de Bayes

• Dado dois eventos A e B, num mesmo espaço amostral, pela probabilidade

condicional, temos:

– P (A B) = P(A) P(B/A) – P (B A) = P(B) P(A/B)

– P(A) = P(B) P(A/B) / P(B/A) – P(A/B) = P(A). P(B/A) / P(B)

Ponderação

Teorema de Bayes

• Exemplo: dado um baralho com 52 cartas

– Qual é a probabilidade de se tirar uma Rainha, sabendo-se que a carta é uma figura?

– Qual é a probabilidade de se tirar uma Rainha, sabendo-se que a carta é de espada?

– Qual é a probabilidade de se tira uma Rainha de espada, sabendo-se que a carta é uma figura

preta?

Teorema de Bayes

• Exemplo:

– Um meteorologista acerta 80% dos dias em que chove e 90% dos dias em que não chove. Costuma chover em 10% dos dias. Tendo havido previsão de chuva para amanhã, qual é a probabilidade de realmente vir a chover?

1,0 Total

Sol Chove

Total Prev. sol

Prev. Ch.

Teorema de Bayes

• Generalização:

– Dadas duas partições de S (S=A₁ U A₂), então:

– P(A₁/B) = P(A₁) P(B/A₁) /

( P(A₁) P(B/A₁) + P(A₂) P(B/A₂) )

– Uma vez que:

• P(B) = P(A₁) P(B/A₁) + P(A₂) P(B/A₂)

– Para o caso de n partições:

P(A_i/B) = P(A_i) P(B/A_i) / Σ ( P(A_k) P(B/A_k) )

Média ponderada

Teorema de Bayes

• Exemplo:

– Um companhia produz peças em 03 fábricas (A₁,A₂ e A₃), na proporção de 15%, 35% e 50%, respectivamente. Suas

probabilidades de produzirem peças defeituosas são: 1%, 5% e 2%.

– Dado que o controle de qualidade detectou uma peça com defeito, qual é a probabilidade de ter sido produzida por cada uma das fábricas?

» P(A_i/D) = ?

Independência entre Eventos

• Dois eventos são independente se a ocorrência de um dele não alterar a

probabilidade de ocorrência do outro e vice- versa.

• Sejam dois eventos A e B, sendo P(A) > 0.

O evento B é dito independente de A se:

– P(B/A) = P(B)

Independência entre Eventos

• Como:

– P(B/A) = P(B) (eventos independentes) – P(A B) = P(A) P(B)

– Se B é independente de A, logo o inverso também é verdadeiro?

Independência entre Eventos

• Exemplo:

– P(A), P(B), P(A B), P(A) P(B), P(A/B) e P(B/A)

1 2 3 4 5 6 6

5 4 3 2 1

Independência é uma questão de proporção

Independência entre Eventos

• Exemplo:

– Experimento: lançamento de 02 moedas

– Eventos: A₁ (cara no 1⁰ lançamento), A₂ (cara no 2⁰ lançamento) e A₃ (ocorrência da mesma face nos dois lançamentos).

– Verifique:

• P(A₁), P(A₂), P(A₃)

• P(A₁A₂), P(A₁A₃) e P(A₂A₃)

• P(A₁A₂A₃)

• P(A₁A₂A₃) = P(A₁) P(A₂) P(A₃) ?

Independência entre Eventos

• Com seria a independência de 03 eventos (A,B,C) simultaneamente?

– P(AB) = P(A) P(B) – P(AC) = P(A) P(C) – P(BC) = P(B) P(C)

– P(ABC) = P(A) P(B) P(C) – E para n eventos?

Exemplos Finais

• Um piloto de Fórmula 1 acaba de entrar no boxe com seu carro. Ele sabe que o carro apresenta pelo menos um entre dois problemas: de injeção e ou de bobina. A probabilidade de haver problema de injeção é de 60% e a de bobina, 70%. Por outro lado, as probabilidade de o carro retornar à corrida são:

a) 80% se houver só problema de bobina.

b) 40% de houver só problema de injeção.

c) 20% se houver ambos os problemas.

Pergunta-se:

i) Qual a probabilidade de que o carro esteja com os dois problemas?

ii) Qual a probabilidade de que o carro retorne à corrida?

iii) Se o carro retornar à corrida, qual a probabilidade de que ele estivesse com os dois problemas?

iv) Qual a probabilidade do carro retornar à corrida, sabendo-se que o piloto é Rubens Barrichelo?

Exemplos

• Suponha que João recebeu um diagnóstico, após um exame hormonal, de que ele é homossexual. Ele entra em pânico. Então seu amigo, que está cursando a disciplina de processos estocásticos, diz a ele para se acalmar que ele vai fazer algumas contas para ver a real possibilidade deles continuarem amigos e freqüentarem JUNTOS o mesmo vestiário na academia.

– A proporção de homossexuais na sociedade é de 10%.

– A probabilidade de falso negativo no teste é de 40%.

– A probabilidade de falso positivo é de 2%.