Estudo de Caso: Modelagem de E-Institution
utilizando MAS-ML 2.0 e NormML
Emmanuel S. S. Freire, Gustavo A. L. Campos,
Mariela I. Cortés
Universidade Estadual do Ceará – Fortaleza-CE, Brasil
savio.essf@gmail.com, gustavo@larces.uece.br, mariela@larces.uece.br
Resumo – Os sistemas centrados em agentes vêem sendo amplamente explorados pela comunidade científica como uma abordagem adequada para o desenvolvimento de sistemas computacionais cada vez mais complexos. Considerando que agentes de software são inseridos em ambientes e, de forma geral, se relacionam com outros agentes para alcançar seus objetivos, surgiu o conceito de E-Institutions. Nele, consegue-se limitar o comportamento de agentes dentro de sistemas multiagentes. A limitação do comportamento pode ser feita tanto em nível de comunicação entre os agentes, como pela definição de normas que os agentes devem seguir para que um determinado objetivo seja alcançado. O foco principal desse artigo é a modelagem de um estudo de caso de E-Institutions utilizando as linguagens de modelagem MAS-ML 2.0 e NormML.
Palavras-chave – Modelagem E-Institutions, MAS-ML 2.0, NormML
I. INTRODUÇÃO
Os sistemas centrados em agentes [1] [2] vêem sendo amplamente explorados pela comunidade científica como uma abordagem adequada para o desenvolvimento de sistemas computacionais cada vez mais complexos.
Segundo [3], um agente é uma entidade capaz de perceber seu ambiente por meio de sensores e de agir sobre esse ambiente por intermédio de atuadores. No caso de vários agentes cooperando ou disputando entre si, inseridos em um mesmo ambiente e trocando informações, chamamos esse sistema de multiagentes (SMA) [3].
Considerando que agentes de software são inseridos em ambientes e, de forma geral, se relacionam com outros agentes para alcançar seus objetivos, surgiu o conceito de
E-Institutions [4]. Nele, o comportamento dos agentes é limitado
de acordo com o papel que ele está associado e também por meio do ambiente no qual ele está inserido.
O objetivo desse artigo é modelar um exemplo de
E-Institutions utilizando as linguagens de modelagem MAS-ML
2.0 [5] e NormML [6] [10] para retratar a comunicação entre os agentes e as normas que devem ser cumpridas, respectivamente.
Este artigo está estruturado da seguinte maneira: Na Seção 2 são apresentados os principais conceitos da linguagem de modelagem MAS-ML 2.0. Na Seção 3, a linguagem de modelagem NormML é descrita. Em seguida, os conceitos de
E-Institutions são mostrados na Seção 4. Um estudo de caso
referente à modelagem de E-Institution utilizando MAS-ML
2.0 e NormML é ilustrado na Seção 5. Alguns trabalhos relacionados são apresentados na Seção 6. Finalmente, as conclusões e trabalhos futuros são descritos na Seção 7.
II. MAS-ML 2.0
MAS-ML 2.0 [5] é uma linguagem de modelagem que realiza uma extensão conservativa da MAS-ML [7] para permitir a modelagem das arquiteturas internas definidas em [3] baseando-se no framework conceitual TAO (Taming
Agents and Objects) [8]. O mecanismo de extensão utilizado
baseou-se na criação de duas novas metaclasses, para representar percepção e planejamento, e seis estereótipos, para representar função próximo, função de formulação de objetivo, função de formulação do problema, planejamento e função utilidade. A Figura 1 mostra as extensões realizadas para viabilizar as novas características definidas.
Fig. 1. Extensões propostas por [5] no metamodelo MAS-ML
A seguir são apresentados os aspectos estáticos dessa linguagem de modelagem.
Aspectos Estáticos A. Diagrama de Classes
Um diagrama de classes é uma visão gráfica do modelo estrutural/estático [7]. MAS-ML 2.0 estende o diagrama de classes de UML [9] para incluir a modelagem de entidades de um SMA, utilizando os relacionamentos já definidos em UML e o relacionamento habita [5]. Com base nas extensões
propostas para a modelagem das diversas arquiteturas internas de agente, a representação do agente nos diagramas de classe MAS-ML 2.0 ganhou quatro variantes gráficas, onde cada uma representa cada uma das arquiteturas internas citadas anteriormente.
B. Diagrama de Organização
O objetivo dos diagramas de organização é modelar todas as organizações de um sistema. Os diagramas de organização são responsáveis por modelar uma organização, ou seja, por modelar as propriedades da organização (objetivos, crenças, planos, ações e axiomas), os papéis definidos pela organização, as entidades (agentes, classes e suborganizações) que exercem esses papéis e o ambiente em que ela reside [7]. Este diagrama mostra os relacionamentos Posse, Exerce e Habita [5].
C. Diagrama de Papéis
O diagrama de papel é responsável pela ilustração dos relacionamentos entre os papéis do agente e os papéis de objeto identificados nos diagramas de organização. Esse diagrama também identifica as classes acessadas pelos papéis de objeto e papéis do agente. As interações entre os agentes e as organizações do sistema são descritas com base nos relacionamentos entre os papéis ilustrados nos diagramas de papel [7]. Este diagrama mostra os relacionamentos Controle, Dependência, Associação, Agregação e Especialização [5].
Aspectos Dinâmicos
Os aspectos dinâmicos de MAS-ML 2.0 são representados através de uma extensão dos diagramas de seqüência e de atividade da MAS-ML para representar os aspectos dinâmicos de SMAs, ou seja, para representar as interações entre as instâncias do SMA e as ações de cada instância.
A extensão do diagrama de sequência se deu pela definição de novos pathnames1 e ícones para as instâncias dos SMAs (agentes, organizações e ambiente). O conceito de mensagem usado em UML foi estendido para representar entidades que estão enviando e recebendo mensagens e não estão chamando métodos e outras entidades. Além disso, foram criados estereótipos para representar a criação e destruição de instâncias de SMAs e para representar a interação entre agentes, organizações, objetos e seus papéis, alguns estereótipos associados a mensagens foram redefinidos e outros foram criados. Em relação ao diagrama de atividades, as características propostas por [11] foram mantidas. Desta maneira, cada atividade é representada por um retângulo de bordas arredondadas. As crenças do agente são representadas por um quadrado com a identificação das crenças utilizadas pelo agente e os objetivos são representados no canto superior direito através de uma descrição textual com o estereótipo <<goal>>.
1 Na UML, estrutura de nomes para identificar uma entidade em um diagrama de seqüência.
III. NORMML
NormML [6] [10] é uma linguagem de modelagem baseada em UML para a especificação das normas para restringir o comportamento das entidades MAS.
O metamodelo da NormML estende o metamodelo SecureUML [12], que fornece uma linguagem para a modelagem de funções, permissões, ações, recursos e restrições de autorização, juntamente com as relações entre permissões e papéis, ações e permissões, recursos e ações e restrições e permissões [6]. A extensão é feita nos elementos básicos: norm, agent e AgentAction e também, inclui um conjunto de invariantes que garante a boa formação de uma norma e várias operações que são usadas para identificar possíveis conflitos entre duas normas definidas. A Figura 2 mostra o metamodelo da linguagem.
Fig. 2. Metamodelo NormML [6]
A seguir são apresentados os aspectos estáticos [6] [10] dessa linguagem de modelagem.
Aspectos Estáticos A. Conceitos Deônticos
A lógica deôntica refere-se à lógica de pedidos, ordens, regras, leis, princípios morais e julgamentos. Em sistemas multi-agente, tais conceitos têm sido utilizados para descrever as restrições de comportamento para os agentes na forma de obrigações (o que o agente deve executar), permissões (o que o agente pode executar) e proibições (o que o agente não pode executar). Assim, uma das principais propriedades de uma norma é a identificação do tipo de restrição a ser definido, ou seja, a identificação dos conceitos deônticos associados com a norma.
B. Entidades Envolvidas
Desde que as normas são sempre definidas para restringir o comportamento das entidades, a identificação dessas entidades cujo comportamento está sendo restringido é fundamental. A norma pode regular o comportamento dos indivíduos (ou seja, de um determinado agente, ou de um agente, enquanto está desempenhando um papel determinado) ou o comportamento de um grupo de indivíduos (ou seja, todos os agentes desempenhando um papel determinado, grupos de agentes, grupos de agentes desempenhando papéis ou todos os agentes do sistema).
C. Ações
Uma vez que uma norma é definida para restringir a execução das entidades, é importante que a ação a ser regulamentada seja claramente regulamentada. Tais ações podem ser de comunicação, normalmente representado pelo envio e recebimento de uma mensagem, ou ações não-comunicativas (como acessar e modificar um recurso, entrar em uma organização, se deslocar para outro ambiente, etc.).
D. Restrições de Ativação
As normas têm um período em que suas restrições devem ser cumpridas, porém somente quando elas, as normas, estiverem ativas. As normas podem ser ativadas por uma restrição ou um conjunto de restrições que podem ser: a execução das ações, a especificação de intervalos de tempo (antes, depois, entre elas), a realização de estados do sistema ou aspectos temporais (como datas), e também a ativação / desativação de outra norma e cumprimento / violação de uma norma.
E. Sanções
Quando uma norma é violada a entidade que violou essa norma pode sofrer uma punição e quando for cumprida uma norma, a entidade que tem acompanhado a norma poderá receber uma recompensa. Essas recompensas e punições são chamadas de sanções e devem ser descritas juntamente com a especificação norma.
F. Contexto
As normas são geralmente definidas em um determinado contexto que determina a área da sua aplicação. A norma
pode, por exemplo, ser descrita no contexto de um determinado ambiente e deve ser preenchida apenas pelos agentes de execução no ambiente ou pode ser definida no contexto de uma organização e cumprida apenas pelos agentes que desempenham um papel na organização.
A seguir são apresentados os aspectos dinâmicos dessa linguagem de modelagem [6] [10].
Aspectos Dinâmicos A. Criação
Além de ser capaz de definir as normas no momento da concepção também é desejado que seja capaz de definir as entidades que têm o poder de criar normas em tempo de execução e as circunstâncias sob as quais, as normas podem ser criadas.
B. Cancelamento
As normas definidas no projeto ou na execução podem ser canceladas durante a execução do sistema. A fim de especificar as restrições de cancelamento válidas, é importante identificar as entidades que têm o poder de cancelar as normas e as circunstâncias em que as normas serão canceladas.
C. Delegação
Uma norma (especificada no projeto ou na execução), aplicada em uma determinada entidade pode ser delegada por esta entidade para outra entidade em tempo de execução. Após a delegação, o comportamento dessa entidade será restrito à norma. A definição de uma delegação válida inclui conceitos, tais como: qual a entidade que tem o poder de delegar à norma, que entidades podem ser as responsáveis para o cumprimento da norma e as circunstâncias em que a norma pode ser delegada.
IV. E-INSTITUTION
Segundo [13], os indivíduos, no dia-a-dia, interagem com diversas pessoas para alcançar seus objetivos, sendo que muitas destas interações são reguladas pelo que os autores chamam de instituições, que têm como objetivo verificar se normas e protocolos estão sendo seguidos de forma correta durante tais interações. Instituições podem ser consideradas, neste contexto, como representações que estabelecem toda e qualquer restrição (formal ou informal) que indivíduos devem seguir durante as interações. Assim, de acordo com [14], pode-se visualizar uma instituição como um framework dentro do qual as interações humanas acontecem, definindo o que é proibido e o que é permitido e sob quais condições (por exemplo, a constituição de um país).
O conceito de Instituição Eletrônica (IE) é baseado no conceito de instituições humanas. Em Sistemas Multiagentes tem-se o conceito de entidades autônomas que interagem para atingir objetivos individuais, porém não se pode ter certeza de qual será o comportamento deles junto ao sistema. Desta forma, o uso de uma instituição eletrônica que regula o comportamento de agentes da mesma forma que instituições humanas regulam o comportamento das pessoas é um dos
mecanismos que podem ser empregados para garantir o eficiente funcionamento de um sistema [15].
O modelo das Instituições Eletrônicas é baseado em cinco elementos principais [16] que serão descritos a seguir.
A. Agentes e Papéis
Agentes são considerados jogadores em uma instituição eletrônica, interagindo através de atos de fala. Os papéis definem padrões de comportamento para um determinado agente. A identificação e a regulamentação de papéis fazem parte do processo de formalização de qualquer organização e qualquer agente de uma instituição eletrônica deve assumir, obrigatoriamente, um papel. Um papel representa um conjunto de ações que devem representar as capacidades do papel, ou seja, o quê um determinado agente com este papel pode fazer.
B. Framework Dialógico
Define as locuções que agentes podem trocar. As interações entre os agentes devem ocorrer através de atos de fala, que utilizam um dicionário bem definido (uma ontologia que define o vocabulário da instituição) e uma linguagem comum.
C. Cenas
Para cada atividade, interações entre agentes são articuladas através de reuniões de grupos de agentes, chamadas cenas, que seguem protocolos de comunicação bem-definidos.
D. Estrutura Perfomativa
Pode ser considerada como uma rede de cenas cujas conexões são mediadas por transições. A definição de uma estrutura performativa exige, também, a especificação de como diferentes papéis podem se mover de uma cena para outra, ou seja, como agentes e seus papéis podem se mover entre as diferentes cenas e quando novas conversações entre agentes devem iniciar.
E. Regras Normativas
Estas regras, em uma instituição eletrônica, definem o contexto e as possíveis conseqüências de determinadas ações. Estas conseqüências impõem obrigações para os agentes e seus papéis que podem afetar as rotas possíveis definidas na estrutura performativa. São definidos dois níveis de regras: intra-cena, que representam o que um determinado papel pode realizar em uma cena; e intercena, que define as rotas possíveis para um agente, dependendo do seu papel.
Por meio da utilização de ambientes de IE, é possível modelar e especificar um sistema baseado em agentes que interagem através de conjunto de normativas regulando suas interações. Ainda, é viabilizada a implementação de agentes e a simulação e o monitoramento da especificação gerada, de forma a validar sua corretitude. Um exemplo destes ambientes é o Electronic Institutions Development Environment - EIDE [16].
V. ESTUDO DE CASO: AEROPORTO
Atualmente, os grandes aeroportos fazem mais do que simplesmente servir de lugar para aterrissagem e decolagem de aviões. Shopping centers com centenas de lojas, cinemas, hotéis, centros empresariais, e até mesmo centros gastronômicos são algumas das atrações dos aeroportos atuais. O grande número de usuários em potencial e a variedade de serviços oferecidos em um mesmo local fazem dos aeroportos um bom domínio para o desenvolvimento de aplicações como, por exemplo, compra de produtos ou mesmo a compra de passagens aéreas.
O cenário adotado neste estudo de caso simula a situação onde uma pessoa chega ao aeroporto com um dispositivo móvel. O aeroporto é dotado de uma rede de sistemas embarcados que fornece serviços de “paquera”, cinema, compras e localização. Ao chegar no aeroporto, o usuário requisita quais são os serviços disponíveis naquele momento. O anúncio da lista de serviços disponíveis é feito por um servidor do próprio aeroporto, denominado announcer. Uma vez que um dos serviços é escolhido pelo usuário, o
announcer informa ao usuário quais são as opções para o
serviço selecionado. Por exemplo, se o serviço selecionado for de compras, então é exibida uma lista de produtos disponíveis para a compra [17].
Ao selecionar um dos produtos da lista de compras, o usuário recebe uma lista de todas as lojas que possuem aquele produto. A partir deste momento, o usuário escolhe uma das lojas e inicia o processo de negociação que, se for bem sucedido, será seguido de um processo de pagamento. Para o processo de pagamento, um outro elemento do aeroporto aparece: o banco. O banco também provê serviços de pagamentos de mercadorias via sistema embarcado. Desta forma, o usuário paga o valor negociado ao banco e apresenta o recibo eletrônico para receber a mercadoria [17].
Definição das Cenas
O processo de interação entre os agentes do sistema foi modularizado e modelado utilizando o conceito de cenas. Quatro cenas foram identificadas: chegada, seleção, negociação e pagamento. Na primeira cena, o usuário descobre quais os serviços estão disponíveis. Na segunda, seleciona dentre um dos serviços, que neste estudo de caso será o serviço de compra, recebe uma lista de todos os produtos que estão disponíveis para a venda, escolhe um dos produtos e recebe uma lista de todos os vendedores daquele produto. Na etapa de negociação, o usuário escolhe um dos vendedores e negocia um preço para o produto. Finalmente, na última etapa o valor negociado do produto é pago ao banco [17]. Este processo é ilustrado na Figura 3.
.
A seguir será descrita a cena denominada chegada, mostrando as regras que regem a cena como também a modelagem tanto das interações, utilizando o diagrama de sequência da MAS-ML, como das normas, utilizando o diagrama de normas da NormML.
Descrição da Cena Chegada
Nesta cena, considera-se arbitrariamente que todo o processo não deve durar mais do que 10 segundos (time-to-live). A cena pode ser instanciada por qualquer agente desempenhando qualquer papel (tag Creator). Porém, apenas agentes desempenhando papéis de customer e announcer podem participar das interações (tag Participant). Além disso, eles só podem participar se o estado de execução do protocolo estiver no estado s0 para a entrada do customer e no estado s1 para a entrada do announcer. As interações desta cena contêm apenas duas mensagens, sendo uma do agente customer para o agente
announcer avisando que chegou no aeroporto (mensagem m1)
e a resposta do agente announcer através da lista de serviços disponíveis no aeroporto (mensagem m2). Um relógio é ativado toda vez que um agente envia uma mensagem requisitando os serviços. A finalidade deste relógio é manter uma bom tempo de resposta no sistema, pois uma vez que o relógio contar cinco segundos, uma ação de recuperação automática do sistema (announcer-is-down) é ativada [17]. A Figura 4 mostra o diagrama da cena Chegada.
Fig. 4. Cena: Chegada [17]
Normas da Cena Chegada
As normas definidas para a cena chegada são listadas a seguir.
Qualquer agente pode criar a cena;
Agentes desempenhando o papel de “customer” só podem entrar na cena se o protocolo estiver no estado inicial, ou seja, nenhuma conversão ocorreu antes;
Agentes desempenhando o papel de “announcer” só podem entrar na cena após um agente “customer” ter iniciado a conversação;
Para iniciar uma conversação, o agente “customer” envia uma mensagem “se apresentando” ao agente “announcer”, que responde com uma lista de serviços disponíveis; Após um agente “customer” iniciar a conversação, ao
agente “announcer” possui cinco segundos para enviar uma resposta. Caso nenhuma resposta tenha sido enviada, pode significar, por exemplo, que o agente “announcer” não está funcionando corretamente, ou existem problemas
de comunicação. Desta forma, deve ser executada uma ação de recuperação para verificar o motivo.
Modelagem da Interação entre Agentes
A modelagem da interação entre agentes na cena foi feita utilizando o diagrama de sequência da MAS-ML 2.0. Para tanto, foram utilizados os mesmos conceitos que foram descritos na cena Chegada. A Figura 5 mostra o diagrama resultante da modelagem.
Fig. 5. Diagrama de Sequência da Cena: Chegada
Modelagem das Normas da Cena
A modelagem das normas que regem a Cena Chegada foi feita utilizando o diagrama de normas da NormML. Para tanto, foram utilizadas as mesmas normas que foram descritas na cena Chegada. A Figura 6 mostra o diagrama resultante da modelagem.
VI. TRABALHOS RELACIONADOS
Nesta seção são apresentados os trabalhos relacionados. MAS-ML 2.0 [5] é uma linguagem de modelagem que realiza uma extensão conservativa da MAS-ML [7] para permitir a modelagem das arquiteturas internas definidas em [3] baseando-se no framework conceitual TAO (Taming
Agents and Objects) [8]. Possui diagramas para representar
tanto os aspectos estáticos como dinâmicos de agentes. A linguagem de modelagem NormML [6] [10] é baseada em UML [9] para a especificação das normas para restringir o comportamento das entidades MAS. Fornece uma linguagem para a modelagem de funções, permissões, ações, recursos e restrições de autorização, juntamente com as relações entre permissões e papéis, ações e permissões, recursos e ações e restrições e permissões [6].
O trabalho de [17] apresenta uma abordagem para regular a interação dos agentes que fazem parte de um sistema multi-agente aberto. Para isso, é proposto um modelo conceitual que trata de conceitos como cenas, normas e restrições de forma
integrada. Adicionalmente, monitora a interação entre os agentes e as leis que foram especificadas para que sejam aplicadas.
Fig. 6. Diagrama de Normas da Cena: Chegada
VII. CONCLUSÕES E TRABALHOS
Neste trabalho foi apresentada a modelagem de um estudo de caso de uma E-Institution utilizando as linguagens MAS-ML 2.0 e NormMAS-ML com o intuito de mostrar que os elementos utilizados para especificar uma E-Institution podem ser mapeados para os elementos dos diagramas das linguagens utilizadas.
O diagrama de sequência da MAS-ML 2.0 mostrou-se capaz de modelar os aspectos relacionados com a interação (mensagens) entres os agentes dentro de uma determinada cena. Assim como, o diagrama de norma da NormML mostrou-se satisfatório para modelar as normas que regem tanto o ambiente de forma geral como cada uma das cenas que as compõe.
Como trabalho futuro, é sugerido uma integração entre as linguagens de modelagens MAS-ML 2.0 e NormML e a
criação de uma ferramenta CASE para que seja possível a modelagem dos aspectos das E-Institution através de uma única linguagem de modelagem.
REFERÊNCIAS BIBLIOGRÁFICAS
[1] Padilha, t. p. p.; Jácome, T. F. (2002). O Uso de Técnicas de Modelagem de Agentes em Ambientes Educacionais. In: VI Congresso Iberoamericano de Informática Educativa.
[2] Casillo, B. H. (2008). Agentes Auxiliando Ambientes de Engenharia de Software Centrado em Processos. Dissertação de Mestrado. São José dos Campos: INPE.
[3] Russell, S.; Norvig, P. (2004). Inteligência Artificial: uma abordagem moderna. 2 Ed. São Paulo: Prentice-Hall.
[4] Esteva, M.; Aguilar, R.; Sierra, C.; Garcia, P.; Arcos, J. L.(2001). On The Formal Specification of Electronic Institutions.
[5] Gonçalves, E. J. T. (2009). Modelagem de Arquiteturas Internas de Agentes de Software Utilizando A Linguagem MAS-ML 2.0. Dissertação de Mestrado. Fortaleza: UECE, Centro de Ciência e Tecnologia.
[6] Figueiredo, K.; Silva, V. T. da (2010). NormML: A Modeling Language to Model Norms. In: 1st Workshop on Autonomous Software Systems. Salvador, Brazil.
[7] Silva, V. T. da (2004). Uma linguagem de modelagem para sistemas multi-agentes baseada em um framework conceitual para agentes e objetos. Tese de doutorado. Rio de Janeiro: PUC, Departamento de Informática.
[8] Silva, V.; Garcia, A.; Brandao, A.; Chavez, C.; Lucena, C.; Alencar, P. (2003). Taming Agents and Objects in Software Engineering. In: Garcia, A.; Lucena, C.; Zamboneli, F.; Omicini, A; Castro, J. (Eds.), Software Engineering for Large-Scale Multi-Agent Systems, Springer-Verlag, LNCS 2603, pp. 1-26, 2003, ISBN 978-3-540-08772-4.
[9] UML: Unified Modeling Language Specification, versão 2.2, OMG, (2010). Disponível em: <http://www.omg.org/technology/documents/ modeling_spec_catalog.htm#UML>. Acessado em: 29 de janeiro 2011. [10] Silva, V. T. da; Braga, C.; Figueiredo, K. (2010). A Modeling Language
to Model Norms. The International Joint Conference on Autonomous Agents and Multi-Agent Systems (AAMAS'2010), 9th. Proceedings of the International Conference on Autonomous Agents and Multi-Agent Systems, Toronto, Canadá.
[11] Silva, V. T.; Choren, R.; Lucena, C. J. P. de (2005). Using UML 2.0 Activity Diagram to Model Agent Plans and Actions. The International Joint Conference on Autonomous Agents and Multi-Agent Systems (AAMAS'2005), 4th. Proceedings of the International Conference on Autonomous Agents and Multi-Agent Systems, Netherlands, Holanda, pp. 594-600, v. 2, n.1, ACM, ISBN: 1-59593-094-9.
[12] Basin, D.; Doser, J.; Lodderstedt, T. (2006). Model driven security: from UML models to access control infrastructures, ACM TSEM, 15(1), pp.39-91.
[13] Sabater-Mir, J., Pinyol, I., Villatoro, D., Cuni, G., Sierra C., Rodriguez-Aguilar, J. A. and Arcos, J. L. (2007) “e-Institutions oriented to the use of Reputation”. Sixth Framework Programme Priority 7. Bellaterra, Catalonia, Spain.
[14] Arcos, J. L., Esteva, M., Noriega, P., Rodrígues-Aguilar, J. A. and Sieera, C. (2006) “An Integrated Development Environment for Electronic Institutions”. In: Software Agent-Based Applications, Platforms and Development Kits. p.121-142.
[15] Sierra, C.; Rodríguez-Aguilar, J. A.; Noriega, P.; Arcos J. L. (2004) “Engineering Multi-agent Systems as Electronic Institutions”. In: Upgrade, 5:33–38.
[16] Esteva, M. (2003) “Electronic Institutions: from specification to development”. Tese (Doutorado) - Artificial Intelligence Research Institute, IIIA, Espanha.
[17] Paes, R. B. (2005) “Regulando a Interação de Agentes em Sistemas Abertos: Uma Abordagem de Leis. Dissertação de Mestrado. Rio de Janeiro: PUC-Rio, Departamento de Informática.
[18] Silva, V. T., Choren, R.; Lucena, C.(2008). MAS-ML: a multi-agent system modelling language, In IJAOSE, Modeling Lang. for Agent Systems,(2)4pp.382-421.
