Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Ricardo Guimar˜ aes Herrmann herrmann@ime.usp.br
Orientadora: Profa. Dra. Leliane Nunes de Barros Instituto de Matem´ atica e Estat´ıstica
Universidade de S˜ ao Paulo
9/5/2007
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Motiva¸c˜ao
Diferentes formas de Planejamento:
Planejamento Hier´ arquico (HTN) permite planejamento para aplica¸c˜oes pr´ aticas envolvendo milhares de a¸c˜ oes
Planejamento N˜ ao-Determin´ıstico permite lidar com incerteza
sobre efeitos de a¸c˜ oes
Motiva¸c˜ao
Diferentes formas de Planejamento:
Planejamento Hier´ arquico (HTN) permite planejamento para aplica¸c˜oes pr´ aticas envolvendo milhares de a¸c˜ oes
Planejamento N˜ ao-Determin´ıstico permite lidar com incerteza sobre efeitos de a¸c˜ oes
Sinergia entre as t´ecnicas:
O uso de HTNs como controle de busca permite maior eficiˆencia ao Planejamento N˜ ao-Determin´ıstico
Planejamento N˜ ao-Determin´ıstico d´ a maior robustez a planos de a¸c˜ oes
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Objetivos
Estudar a integra¸c˜ ao dessas duas t´ecnicas de planejamento [Kuter & Nau 2004]
Implementar o sistema ND-SHOP2 [Kuter & Nau 2004], o qual n˜ ao ´e publicamente dispon´ıvel
Comparar o sistema implementado com um sistema de
planejamento n˜ ao-determin´ıstico existente, chamado MBP
[Roveri et al. 2001], em termos de desempenho relativo e
qualidade dos planos gerados
Dom´ınio Protot´ıpico: Presas e Predador
Descri¸c˜ ao do dom´ınio: Presas e Predador
Presas e predador movem-se em uma grade n × n Movimentos utilizando as a¸c˜ oes norte, sul, leste e oeste Predador possui a a¸c˜ ao adicional agarrar, aplic´ avel quando alcan¸ca uma presa
Presas possuem a a¸c˜ ao adicional descansar
Indeterminismo do dom´ınio reside nas a¸c˜ oes das presas Possui um grande fator de ramifica¸c˜ ao
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Problema Protot´ıpico: Presas e Predador
grade 5 × 5 2 presas
3 a¸c˜ oes poss´ıveis
5 × 5 × 3 = 75 poss´ıveis
estados sucessores
Problema Protot´ıpico: Presas e Predador
A motiva¸c˜ ao para adot´ a-lo como um problema protot´ıpico nesse trabalho:
O planejador MBP gasta tempo exponencial com o aumento do n´umero de presas
O planejador ND-SHOP2 gasta tempo polinomial com o aumento de presas
Esse ´e o comportamento que queremos observar nesse trabalho com a implementa¸c˜ ao do sistema ND-SHOP2
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
1 Introdu¸c˜ ao
Planejamento Cl´ assico e Hier´ arquico Planejamento N˜ ao-Determin´ıstico
2 Planejamento N˜ ao-Determin´ıstico Hier´ arquico T´ecnica de “Indeterminiza¸c˜ ao”
Planejador ND-SHOP2
3 Proposta
Implementa¸c˜ ao
Testes Comparativos
Atividades
1 Introdu¸c˜ ao
Planejamento Cl´ assico e Hier´ arquico Planejamento N˜ ao-Determin´ıstico
2 Planejamento N˜ ao-Determin´ıstico Hier´ arquico T´ecnica de “Indeterminiza¸c˜ ao”
Planejador ND-SHOP2
3 Proposta
Implementa¸c˜ ao Testes Comparativos Atividades
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Planejamento Cl´assico (N˜ao-Hier´arquico)
Planejamento em IA consiste na busca automatizada de planos de a¸c˜oes que visam alcan¸car metas pr´e-estabelecidas em mundos descritos formalmente
Utiliza como formalismo um Sistema de Transi¸c˜ ao de Estados
Defini¸c˜ ao
Um Sistema de Transi¸c˜ ao de Estados ´e a 3-tupla Σ = hS , A , γ i : S ´e um conjunto finito de estados
A ´e um conjunto finito de a¸c˜oes
γ : S × A 7→ 2 S ´e uma fun¸c˜ ao de transi¸c˜ ao de estados
Um problema de Planejamento Cl´ assico consiste em encontrar
uma sequˆencia de a¸c˜oes que, se executadas a partir de um
determinado estado inicial s 0 ∈ S , leve a um estado meta de
Suposi¸c˜oes do Planejamento Cl´assico
Suposi¸c˜oes restritivas feitas pelo Planejamento Cl´ assico Conjunto finito de estados
Ambiente completamente observ´ avel A¸c˜oes determin´ısticas
Ambiente est´atico (sem eventos externos) Metas de alcan¸cabilidade
Planos seq¨ uenciais Tempo impl´ıcito Planejamento offline
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Suposi¸c˜oes do Planejamento Cl´assico
Suposi¸c˜oes restritivas feitas pelo Planejamento Cl´ assico Conjunto finito de estados
Ambiente completamente observ´ avel A¸c˜oes determin´ısticas
Ambiente est´atico (sem eventos externos) Metas de alcan¸cabilidade
Planos seq¨ uenciais Tempo impl´ıcito Planejamento offline
Desafios:
Problemas de pequeno porte j´ a envolvem quantidades enormes de estados
NP-completo, mesmo sob essas restri¸c˜oes
Busca Progressiva no Espa¸co de Estados
FCP (s 0 , g , Σ) π ← ∅ ; s ← s 0
loop
se s satisfaz g ent˜ ao devolva(π)
A ← { (s , a) | a ´e uma a¸c˜ ao de Σ aplic´ avel a s } se A = ∅ ent˜ ao devolva(falha)
n˜ ao-deterministicamente escolha (s, a) ∈ A π ← π ∪ { (s , a) }
s ← γ (s , a)
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Planejamento Hier´arquico
Planejamento guiado por Redes Hier´ arquicas de Tarefas (HTNs) Projetista do dom´ınio fornece diferentes m´etodos para decompor a¸c˜oes compostas (ou tarefas)
A¸c˜oes (ou tarefas) compostas, abstratas, representam sub-metas de alto n´ıvel
A¸c˜oes (ou tarefas) primitivas representam a¸c˜oes
O estado corrente deve satisfazer um conjunto de pr´e-condi¸c˜oes de um m´etodo para que este seja aplic´ avel
Mais expressivo que o Planejamento Cl´ assico
Faz uma busca no espa¸co de redes de tarefas atrav´es das diferentes decomposi¸c˜oes
Um problema de Planejamento Hier´ arquico consiste em, dado um
estado inicial s 0 e uma a¸c˜ ao composta, decompˆ o-la atrav´es de
m´etodos at´e o n´ıvel de a¸c˜oes primitivas, execut´ aveis a partir de s 0
Exemplo de Planejamento Hier´arquico
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Redes Simples de Tarefas
Redes Simples de Tarefas (STNs):
Caso especial de HTNs
Efetua busca progressiva no espa¸co de estados Escolha de a¸c˜ oes guiada pela decomposi¸c˜ ao de redes hier´ arquicas de tarefas
Base para a fam´ılia SHOP de planejadores:
SHOP - decomposi¸c˜ao em ordem total (listas de tarefas)
SHOP2 - decomposi¸c˜ao em ordem parcial (redes de tarefas)
JSHOP2 - compila¸c˜ao de planejadores espec´ıficos de dom´ınio
Decomposi¸c˜ao Hier´arquica em Ordem Parcial
PFD (s , w, D , M )
se w = ∅ ent˜ ao devolva(π)
n˜ao-deterministicamente escolha u ∈ w , sem predecessores em w se t
u´e uma a¸c˜ao primitiva ent˜ ao
A ← { (a, σ) | a ´e uma a¸c˜ao de D , σ ´e uma substitui¸c˜ao tal que nome(a) = σ(t
u) e a ´e aplic´avel a s } se A = ∅ ent˜ ao devolva(falha)
n˜ao-deterministicamente escolha (a, σ) ∈ A π ← PFD (γ(s, a), σ(w \ { u } ), D , M ) se π = falha ent˜ ao devolva(falha) sen˜ ao devolva(a.π)
sen˜ ao
M ← { (m, σ) | m ´e um m´etodo de M , σ ´e uma substitui¸c˜ao tal que nome(m) = σ(t
u) e m ´e aplic´avel a s } se M = ∅ ent˜ ao devolva(falha)
n˜ao-deterministicamente escolha (m, σ) ∈ M n˜ao-deterministicamente escolha w
0∈ δ(w , u, m, σ) devolva PFD (s, w
0, D , M )
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Exemplo de M´etodos de Decomposi¸c˜ao
1 Introdu¸c˜ ao
Planejamento Cl´ assico e Hier´ arquico Planejamento N˜ ao-Determin´ıstico
2 Planejamento N˜ ao-Determin´ıstico Hier´ arquico T´ecnica de “Indeterminiza¸c˜ ao”
Planejador ND-SHOP2
3 Proposta
Implementa¸c˜ ao Testes Comparativos Atividades
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Planejamento N˜ao-Determin´ıstico
Motiva¸c˜ ao:
Ambientes pr´ aticos n˜ ao s˜ ao t˜ ao bem comportados como os do Planejamento Cl´ assico
A¸c˜ oes podem falhar de modo previs´ıvel
E poss´ıvel representar a ´ incerteza nos efeitos de a¸c˜ oes Agentes mais informados podem planejar para contingˆencias Estrat´egia:
Planejador deve considerar todos os poss´ıveis caminhos de execu¸c˜ ao diferentes, para poder encontrar um plano que funcione, apesar do indeterminismo
Problemas:
Ainda mais dif´ıcil que o Planejamento Cl´ assico
O tamanho do plano condicional obtido pode crescer
Indeterminismo Limitado
A¸c˜oes podem ter efeitos n˜ ao-determin´ısticos, mas os efeitos poss´ıveis podem ser descritos atrav´es de uma linguagem de a¸c˜ oes Planejamento Conformante, ou planejamento sem sensores,
constr´ oi planos seq¨ uenciais que podem ser executados sem percep¸c˜ ao
Planejamento Contingente, ou condicional, lida com o indeterminismo limitado construindo um plano condicional com diferentes ramifica¸c˜ oes que prevˆeem as diferentes contigˆencias que possam surgir, ou uma pol´ıtica
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Planos como Pol´ıticas
Um plano seq¨ uencial n˜ ao ´e capaz de representar a¸c˜ oes para diferentes evolu¸c˜oes do mundo
Outro tipo de formalismo mais expressivo para representar planos deve ser utilizado em Planejamento N˜ ao-Determin´ıstico
Defini¸c˜ ao Uma pol´ıtica π:
Fun¸c˜ ao π : S 7→ A , diz qual a¸c˜ ao executar em um determinado estado
Geralmente um conjunto de pares de estado e a¸c˜ ao (s, a) Conjunto de estados em π, S π = { s | (s, a) ∈ π }
Pol´ıtica determin´ıstica: apenas uma a¸c˜ ao por estado
Estrutura de Execu¸c˜ao de Pol´ıticas
Defini¸c˜ ao
A estrutura de execu¸c˜ ao Σ π de uma pol´ıtica π, dado o sistema de transi¸c˜ ao de estados Σ ´e:
Σ π ⊆ Σ ´e um grafo direcionado, onde:
N´os s˜ao estados alcan¸c´aveis atrav´es de a¸c˜ oes de π Arestas s˜ao poss´ıveis transi¸c˜ oes de estado causadas por π Caminho em Σ π de s 1 at´e s 2 ⇐⇒ s 1 ´e π-ancestral de s 2 e s 2
´e π-descendente de s 1
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Estrutura de Execu¸c˜ao de Pol´ıticas
Sistema de Transi¸c˜ ao de Estados Σ
Estrutura de Execu¸c˜ ao Σ π
s 2 ´e π-ancestral de s 7
Classes de Solu¸c˜oes
Diferentes n´ıveis de garantia de planos como pol´ıticas
Fracos Para cada s ∈ S 0 , existe pelo um caminho em Σ π
que alcan¸ca um estado meta
Fortes Qualquer estado de S π alcan¸ca a meta sem que estados sejam visitados novamente (sem ciclos) Fortes C´ıclicos Qualquer estado de S π alcan¸ca a meta, por´em
podem existir ciclos em Σ π
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Classes de Solu¸c˜oes
Diferentes n´ıveis de garantia de planos como pol´ıticas
Fracos Para cada s ∈ S 0 , existe pelo um caminho em Σ π
que alcan¸ca um estado meta
Fortes Qualquer estado de S π alcan¸ca a meta sem que estados sejam visitados novamente (sem ciclos) Fortes C´ıclicos Qualquer estado de S π alcan¸ca a meta, por´em
podem existir ciclos em Σ π
N´ıvel crescente de garantia: Fracos < Fortes C´ıclicos < Fortes Algumas vezes planos fortes n˜ ao existem mas solu¸c˜ oes fortes c´ıclicas s˜ ao satisfat´orias
Como ´ ultimo recurso, caso n˜ ao exista outra solu¸c˜ ao melhor,
um plano fraco pode vir a funcionar
1 Introdu¸c˜ ao
Planejamento Cl´ assico e Hier´ arquico Planejamento N˜ ao-Determin´ıstico
2 Planejamento N˜ ao-Determin´ıstico Hier´ arquico T´ecnica de “Indeterminiza¸c˜ ao”
Planejador ND-SHOP2
3 Proposta
Implementa¸c˜ ao Testes Comparativos Atividades
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Planejamento N˜ao-Determin´ıstico Hier´arquico
Suposi¸c˜oes do Planejamento N˜ ao-Determin´ıstico Hier´arquico Conjunto finito de estados
Ambiente completamente observ´ avel A¸c˜ oes n˜ ao-determin´ısticas
Ambiente est´ atico (sem eventos externos)
Metas como decomposi¸c˜ ao de tarefas e alcan¸cabilidade Planos como pol´ıticas
Tempo impl´ıcito Planejamento offline
No contexto deste trabalho, Planejamento N˜ ao Determin´ıstico
Hier´ arquico denota Planejamento Hier´ arquico com A¸c˜ oes
“Indeterminiza¸c˜ao” de Planejadores Progressivos
Motiva¸c˜ ao:
Muito trabalho tem sido feito para melhorar a eficiˆencia de planejadores que efetuam busca progressiva no espa¸co de estados
E desej´ ´ avel poder transportar estas t´ecnicas para o Planejamento N˜ ao-Determin´ıstico
Caracter´ısticas:
Transforma¸c˜ ao de modo sistem´ atico (FCP → ND-FCP) Estende planejadores progressivos para lidar com indeterminismo
Preserva corretude e completude Suposi¸c˜oes:
Σ com estados totalmente observ´ aveis
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Planejamento Progressivo Determin´ıstico
FCP (s 0 , g , D , α) π ← ∅ ; s ← s 0
loop
se s satisfaz g ent˜ ao devolva(π)
A ← { (s , a) | a ´e uma instˆ ancia total de um operador em D , a ´e aplic´ avel a s, e a ∈ α(s) }
se A = ∅ ent˜ ao devolva(falha)
n˜ ao-deterministicamente escolha (s, a) ∈ A π ← π ∪ { (s , a) }
s ← γ (s , a)
Planejamento Progressivo N˜ao-Determin´ıstico
ND-FCP (S 0 , g , D 0 , α 0 )
π ← ∅ ; S ← S 0 ; resolvidos ← ∅ loop
se S = ∅ ent˜ ao devolva(π)
selecione um estado s ∈ S e remova-o de S se s satisfaz g ent˜ ao insira s em resolvidos sen˜ ao se s ∈ / S π ent˜ ao
A ← { (s, a) | a ´e uma instˆ ancia total de um
operador em D 0 , a ´e aplic´ avel a s, e a ∈ α 0 (s) } se A = ∅ ent˜ ao devolva(falha)
n˜ ao-deterministicamente escolha (s , a) ∈ A π ← π ∪ { (s , a) }
S ← S ∪ γ(s , a)
sen˜ ao se s n˜ ao tem π-descendentes em (S ∪ resolvidos) \ S π
ent˜ ao devolva(falha)
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
1 Introdu¸c˜ ao
Planejamento Cl´ assico e Hier´ arquico Planejamento N˜ ao-Determin´ıstico
2 Planejamento N˜ ao-Determin´ıstico Hier´ arquico T´ecnica de “Indeterminiza¸c˜ ao”
Planejador ND-SHOP2
3 Proposta
Implementa¸c˜ ao
Testes Comparativos
Atividades
ND-SHOP2
Planejador ND-SHOP2
T´ecnica de “indeterminiza¸c˜ ao” aplicada a SHOP2
α representa a escolha de a¸c˜ oes geradas pela decomposi¸c˜ ao hier´ arquica
Alguns resultados emp´ıricos mostram condi¸c˜ oes em que o tempo de execu¸c˜ ao cresce apenas polinomialmente em rela¸c˜ ao
`
a vers˜ ao determin´ıstica do problema Permite combinar:
Poder de controle de busca espec´ıfico de dom´ınio do planejamento hier´ arquico
Capacidade de lidar com a¸c˜ oes n˜ ao-determin´ısticas
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Simula¸c˜ao
Simula¸c˜ao
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Simula¸c˜ao
Simula¸c˜ao
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Simula¸c˜ao
Simula¸c˜ao
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Simula¸c˜ao
Simula¸c˜ao
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Simula¸c˜ao
Simula¸c˜ao
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Simula¸c˜ao
Simula¸c˜ao
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Simula¸c˜ao
Simula¸c˜ao
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Simula¸c˜ao
Simula¸c˜ao
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Objetivos
Estudar a integra¸c˜ ao dessas duas t´ecnicas de planejamento [Kuter & Nau 2004]
Implementar o sistema ND-SHOP2 [Kuter & Nau 2004], o qual n˜ ao ´e publicamente dispon´ıvel
Comparar o sistema implementado com um sistema de
planejamento n˜ ao-determin´ıstico existente, chamado MBP
[Roveri et al. 2001], em termos de desempenho relativo e
qualidade dos planos gerados
Modelo da Linguagem para ND-SHOP2
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Planejamento Progressivo em Haskell
plan :: Domain -> State -> Goal -> [Plan]
plan d s g = planAux d s g [] empty where planAux d s g p v
| s ‘member‘ v = [] -- j´ a visitado
| stripsGoal g s = [p] -- ´ e meta
| otherwise = do
a <- allApplicable st d let s’ = s ‘apply‘ a
p’ = p ++ [a]
v’ = s ‘insert‘ v
in planAux d s’ g p’ v’ >>= return
O uso de avalia¸c˜ ao pregui¸cosa, fun¸c˜oes de altas ordens e
estruturas de dados persistentes permite um modo de
programa¸c˜ ao declarativa, aproximando a implementa¸c˜ao do
Exemplo Presas e Predador
M´etodos HTN para obter eficiˆencia:
Seguir presas primeiro na horizontal e depois na vertical Diminui o n´umero de a¸c˜ oes a considerar
Escolher uma presa espec´ıfica, segu´ı-la e agarr´ a-la, depois considerar outras presas
Complexidade deixa de crescer exponencialmente com o n´ umero de presas
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
An´alise Emp´ırica dos Resultados
Compara¸c˜ ao da solu¸c˜ oes obtidas por MBP e ND-SHOP2 An´ alise da qualidade dos planos gerados
Tempo de execu¸c˜ ao
Testes com dom´ınios adicionais:
Vers˜ao n˜ao-determin´ıstica do Mundo dos Blocos
A¸ c˜ oes podem funcionar normalmente, falhar sem alterar o
estado do mundo ou podem derrubar um bloco na mesa
Atividades a Realizar
1
Modelo de estados, operadores, transi¸c˜ oes, tarefas, m´etodos e unifica¸c˜ao l´ ogica
2
Parsers de dom´ınios e problemas no formato de SHOP2, estendido para representar a¸c˜ oes n˜ ao-determin´ısticas
3
Planejamento cl´ assico atrav´es de busca progressiva utilizando apenas operadores de planejamento
4
Decomposi¸c˜ ao de tarefas em ordem total (SHOP)
5
Decomposi¸c˜ ao de tarefas em ordem parcial (SHOP2)
6
“Indeterminiza¸c˜ ao” da decomposi¸c˜ ao em ordem parcial (ND-SHOP2)
7
Testes comparativos de desempenho utilizando dom´ınios n˜ ao-determin´ısticos
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas
Cronograma
Atividade Mai Jun Jul Ago Set Out Nov
Modelo √ √
Parsers √ √
Cl´assico √
Ordem Total √ √
Ordem Parcial √ √
ND-SHOP2 √ √
An´alise √ √
Reda¸c˜ao √ √ √
Defesa √
Referˆencias
U. Kuter, D. Nau, M. Pistore, P. Traverso. (2005) A Hierarchical Task-Network Planner based on Symbolic Model Checking
U. Kuter, D. Nau (2004)
Forward-Chaining Planning in Nondeterministic Domains M. Ghallab, D. Nau, P. Traverso. (2004)
Automated Planning.
S. Russell, P. Norvig. (2002) Inteligˆ encia Artificial.
Ricardo Guimar˜aes Herrmann Planejamento Hier´arquico com A¸c˜oes N˜ao-Determin´ısticas