UNIVERSIDADE DO VALE DO RIO DOS SINOS CURSO DE ANÁLISE DE SISTEMAS
Sistemas Especialistas
Sistemas de Apoio à Decisão
Grau A – 2005/1
Marcos de Oliveira Machado Robson Machado Borges
Professor MSc. Sílvio César Cazella
Sumário
Introdução... 3
O que são sistemas especialistas ... 4
Vantagens ... 5
Características dos Sistemas Especialistas ... 6
Aplicações ... 7 Arquitetura ... 9 Representação do conhecimento ... 10 Métodos de Inferência ... 12 Incertezas... 13 Conclusão ... 14 Referências ... 15
Introdução
Os sistemas especialistas solucionam problemas que normalmente são resolvidos por especialistas humanos que detenham grande conhecimento no assunto.
Para solucionar tal problema, os sistemas especialistas devem acessar uma base de conhecimento do domínio da aplicação, o que deve ser estruturado da melhor maneira possível (RICH & KNIGHT, 1994).
A teoria dos sistemas especialistas surgiu entre o final da década de 60 e início de 70, baseando-se nas pesquisas de Feigenbaum, Lederberg, Shortliffe e Buchanan na Universidade de Stanford (GIARRATANO & RILEY, 1998).
O presente trabalho tem por objetivo fazer uma explanação a respeito de uma das áreas de conhecimento da inteligência artificial: os sistemas especialistas.
Serão abordados tópicos sobre sua arquitetura e sua interação com o ambiente, características da base de conhecimento, vantagens, desvantagens, áreas de aplicação e cuidados como o tratamento de incertezas.
O que são sistemas especialistas
Os sistemas especialistas compreendem uma das áreas de interesse da Inteligência Artificial (IA), podendo ser considerado, inclusive, como um ramo da Inteligência Artificial (Giarratano & Riley, 1998), conforme apresentado na Figura 1.
Figura 1: Algumas das áreas da Inteligência Artificial. Fonte: Adaptado de Giarratano & Riley, 1998 p. 2.
Para Feigenbaum (1982) apud Giarratano & Riley (1998), um sistema especialista é um programa de computador que usa o conhecimento e inferências para resolver problemas muito difíceis e que requerem a expertise humana para solucioná-los.
Comparados a sistemas de apoio a decisão, destacam-se por emular a habilidade dos tomadores de decisão, diferentemente dos sistemas que apenas apóiam e auxiliam os decisores. De fato, Giarratano & Riley (1998) enfatizam que os sistemas especialistas são capazes de responder, de acordo com a área de domínio em que são aplicados, como por exemplo um sistema de diagnóstico médico ou para análise de crédito financeiro.
Segundo Harmon & King (1988), para que um programa funcione como um especialista humano, deve ser capaz de fazer as mesmas coisas que um especialista humano faz. Deve interagir com o usuário da mesma forma que um consultor humano o faria. Por exemplo: ouvindo o usuário, evitando perguntas cuja reposta pode ser deduzida, mudando a forma de apresentação, de acordo com o usuário e tirando conclusões, mesmo que os dados fornecidos não sejam totalmente completos.
Ainda em relação à interação entre o usuário e o sistema, Rich & Knight (1994) destacam as seguintes características, necessárias em um sistemas especialistas:
• Explicar seu raciocínio. Para convencer o usuário de que a solução apresentada é adequada ao problema, é necessário que o sistema descreva de forma clara e precisa o conjunto do raciocínio utilizado que o levou àqueles resultados;
• Adquirir conhecimento novo e modificar conhecimento antigo. Um especialista humano está sempre atento a novas informações que o levem a modificar seu conhecimento ou
Robótica Visão e Percepção Reconhecimento de Fala Redes Neurais Sistemas Especialistas Aprendizagem Linguagem Natural
Inteligência Artificial
mesmo complementá-lo. Da mesma forma, um sistema especialista deve manter, o quanto mais precisas for, suas bases de conhecimento.
• Uma das formas de explicitar o conhecimento de um especialista humano, em um sistemas especialistas, é mantendo interações contínuas entre eles. Uma outra maneira é submeter os mesmos dados brutos utilizados pelo especialista humano e permitir que o sistema especialista aprenda com ele.
Primeira e segunda geração dos sistemas especialistas
A tecnologia empregada nos sistemas especialistas evoluiu muito da primeira para a segunda geração. A segunda geração tenta solucionar algumas deficiências existentes na primeira.
Nikolopoulos (1997) distingue a segunda geração de sistemas especialistas quanto aos seguintes aspectos:
• organização de uma base de conhecimento modularizada em estrutura multi-nível. Isso permite oferecer níveis diferentes de abstração e detalhamento no momento da apresentação ao usuário, dependendo do seu conhecimento do assunto ou preferências pessoais;
• emprego de representações híbridas para combinar múltiplos esquemas de representação;
• disponibilidade de ferramentas que possam automatizar a aquisição de novo conhecimento;
• maior detalhamento das ações e do tratamento realizado no processo de transformação do conhecimento em ações;
• separação do conhecimento geral e do conhecimento específico da aplicação.
Vantagens
Um sistema especialista pode trazer vantagens únicas devido ao modo como é projetado. Apesar de possuírem desenvolvimento e manutenção caros, a sua operação é muito barata. Um sistema especialista pode ser facilmente distribuído em inúmeras cópias, enquanto que o treinamento de um novo especialista humano é muito mais caro e demorado (LIEBOWITZ, 1999). Entre as principais vantagens em se implementar um sistema especialista, Liebowitz (1999) destaca:
• ajuda a reduzir falhas humanas e acelerar tarefas;
• aumenta o desempenho e a qualidade na resolução de problemas;
• apresenta estabilidade e flexibilidade;
• combina e preserva o conhecimento dos especialistas;
• contempla hipóteses múltiplas simultaneamente;
• integra várias ferramentas;
• apresenta maior eficiência e otimização de resultados;
• não é afetado por questões psicológicas, estresse e fatores externos;
• possui maior rapidez na resolução de problemas;
Características dos Sistemas Especialistas
Um Sistema Especialista é aquele projetado e desenvolvido para atender a uma aplicação determinada e limitada do conhecimento humano. É capaz de emitir uma decisão, apoiado em conhecimento justificado, a partir de uma base de informações, tal qual um especialista de uma determinada área do conhecimento humano.
Para tomar uma decisão sobre um determinado assunto, um especialista o faz a partir de fatos que encontra e de hipóteses que formula. Busca em sua memória um conhecimento prévio armazenado durante anos, desde o período de sua formação e no decorrer de sua vida profissional, sobre esses fatos e hipóteses.
Durante o processo de raciocínio, verifica-se a importância dos fatos informados, comparando-os com as informações do seu conhecimento acumulado sobre esses fatos e hipóteses.
Neste processo, formulam-se novas hipóteses e verificam-se novos fatos. Os novos fatos influenciarão no processo de raciocínio. Este raciocínio é sempre baseado no conhecimento prévio acumulado. Um especialista, com esse processo de raciocínio, pode não chegar a uma decisão, caso os fatos de que dispõe para aplicar o seu conhecimento prévio não forem suficientes. Pode-se, por este motivo, inclusive, chegar a uma conclusão equivocada.
Um Sistema Especialista deve, além de inferir conclusões, ter a capacidade de adquirir novos conhecimentos e, desse modo, melhorar o seu desempenho de raciocínio e a qualidade de suas decisões.
Segundo Giarratano & Riley (1998), um sistema especialista deve possuir as seguintes características gerais:
• alta performance;
• tempo de resposta adequado;
• alta confiabilidade;
• explicativo;
• flexível;
• listar todas as razões para uma hipótese particular;
• listar todas as hipóteses que podem explicar uma evidência observada;
• explicar todas as conseqüências de uma hipótese;
• dar um prognóstico de que acontecerá se uma hipótese for verdadeira;
• justificar as perguntas que o programa indaga ao usuário;
Aplicações
Os sistemas computacionais tradicionais utilizam soluções algorítmicas, sendo bem aplicáveis a problemas que envolvam a precisão de cálculos numéricos ou que não permitam mudanças no seu comportamento. Caso ocorra uma mudança no negócio, geralmente o programa necessita ser atualizado.
Já os sistemas especialistas não utilizam apenas algoritmos, mas também o raciocínio simbólico e heurística para resolver problemas que, eventualmente, não tenham sido pré-definidos. Muitas aplicações de sistemas especialistas foram desenvolvidas utilizando linguagens PROLOG ou LISP, pois estas linguagens se utilizam do paradigma lógico, auxiliando na montagem de proposições lógicas que representem o conhecimento adquirido junto ao especialista humano. Entretanto, muitas adaptações são necessárias para utilizar essas linguagens, afim de implementar um sistemas especialista completo (GIARRATANO & RILEY, 1998).
Segundo, ainda, Giarratano & Riley (1998), recomenda-se a utilização de shells, ou seja, ambientes desenvolvidos para a implementação de sistemas especialistas, oferecendo várias ferramentas e características comuns a qualquer sistema.
Rich & Knight (1994) afirmam que os primeiros shells ofereciam apenas mecanismos para representação do conhecimento, raciocínio e explicações. Com o passar do tempo, os sistemas especialistas passaram a interagir com outros sistemas, possibilitando a integração e interação com outros sistemas da corporação, promovendo, desta forma, a atualização constante da sua base de conhecimento.
Nikolopoulos (1997) sugere que tem ocorrido uma grande proliferação no uso de sistemas especialistas nos setores comerciais, industriais e nas mais diversas áreas como setores público, negócios, finanças, educação, manufatura, telecomunicações, medicina e direito.
Giarratano & Riley (1998) citam o sistema XCON como um dos casos de maior sucesso na aplicação de sistemas especialistas. A aplicação permitiu, por exemplo, que a Digital Equipment Corporation – DEC economizasse milhares de dólares ao ano com a redução do tempo necessário para processar pedidos de computadores de alto desempenho, de acordo com a necessidade do cliente.
Estima-se que o XCON seja capaz de processar um pedido 15 vezes mais rápido que uma pessoa, além de oferecer 98% de precisão (contra 70% de um ser humano).
Na Tabela 1, Waterman (1986) apud Giarratano & Riley (1998) apresentam algumas aplicações de sucesso envolvendo sistemas especialistas e suas áreas de interesse:
Área Nome Função
CRYSALIS Interpretar a estrutura 3D de uma proteína DENDRAL Interpretar estruturas moleculares
TQMSTUNE Ajuste em Triple Quadruple Mass Química
CLONER Desenhar novas moléculas biológicas ACE Diagnosticar falhas em redes telefônicas EURISKO Desenho de microeletrônica em 3D PALLADIO Desenhar e testar novos circuitos VLSI
CADHELP Ensino para CAD
Eletrônica
SOPHIE Ensinar a diagnosticar falhas em circuitos PUFF Diagnosticar doenças pulmonares
VM Monitorizar pacientes de cuidados intensivos AI/COAG Diagnosticar doenças sanguíneas
AI/RHEUM Diagnóstico de doenças reumáticas BLUE BOX Diagnosticar e medicar depressões
MYCIN Diagnosticar e medicar infecções bacterianas ONCOCIN Medicar e controlar pacientes de quimioterapia Medicina
ATTENDING Ensinar administração de anestesias
REACTOR Diagnosticar e remediar acidentes com reatores Engenharia
STEAMER Ensinar a operar centrais termelétricas DIPMETER Interpretar logs de um dipmeter
MUD Diagnosticar e remediar problemas de perfuração Geologia
PROSPECTOR Interpretar dados geológicos de minerais PTRANS Prognósticos para gerenciamento de
computadores da DEC
BDS Diagnosticar partes defeituosas numa rede de switching
XCON Configurar sistemas de computadores da DEC Sistemas de
Computadores
YES/MVS Monitorizar e controlar o sistema operacional MVS da IBM
Tabela 1: Aplicações comerciais de sistemas especialistas
Hayes-Roth et al. (1983), sintetizam os tipos de sistemas voltados à engenharia de conhecimento e ao tipo de problema para o qual devem ser utilizados, conforme pode ser visto na Tabela 2.
Categoria Problema endereçado
Interpretação Situações de inferência a partir de coleta de dados por observação Predição Inferência de conseqüências prováveis a partir de uma situação Diagnóstico Inferência de defeitos a partir de observações
Design Configuração de objetos, de acordo com restrições estabelecidas
Planejamento Planejamento de ações para atingir um objetivo Monitoramento Compara observações com o plano traçado
Debugging Prescreve concerto ou cuidados especiais para remediar um problema
Correção Desenvolve e executa planos para administrar uma solução de um problema diagnosticado
Instrução Diagnóstico, debugging e correção de deficiência de conhecimento para estudantes
Controle Interpretação, predição, correção e monitoramento sobre o comportamento de um sistema
Tabela 2: Categorias genéricas de aplicações para engenharia de conhecimento Fonte: Adaptado de Hayes-Roth et al. (1983, p. 14)
Arquitetura
Os elementos básicos que compõem a arquitetura de um sistema especialista são apresentados na Figura 2. Nota-se que existe uma interface de comunicação com o usuário do sistema, isto é, com aquela pessoa que irá utilizar o sistema no seu dia-a-dia, e uma interface com o especialista que domina a aplicação.
Esta interação é obtida através do módulo de aquisição de conhecimento, necessário para converter as informações obtidas pelo especialista em uma representação estruturada (base de conhecimento).
Figura 2: Arquitetura de um sistema especialista. Fonte: Adaptado de Nikolopoulos (1997, p. 4)
Base de Conhecimento Motor de Inferência Módulo de Explanação Módulo para Aquisição de Conhecimento Interface com o usuário domínio do especialista usuário
Os itens que compões a arquitetura de um sistema especialista são os seguintes:
• Base de conhecimento. A base de conhecimento aparece no topo da arquitetura e é
responsável por estruturar todo o conhecimento sobre o domínio da aplicação. As bases de conhecimento podem ser representadas de várias formas. Uma das mais comuns é por sentenças do tipo “Se – Então” (NIKOLOPOULOS, 1997).
• Motor de inferência. Implementa os algoritmos que decidirão quais as regras que serão
satisfeitas pelos fatos ou objetos. Posteriormente, prioriza essas regras e executa aquela que obtiver maior prioridade (GIARRATANO & RILEY, 1998). Em geral, sua implementação é independente do domínio da aplicação, ou seja, dependerá principalmente da forma como o conhecimento foi representado na base de conhecimento. (NIKOLOPOULOS, 1997).
• Módulo para aquisição de conhecimento. Responsável por traduzir o conhecimento
obtido junto a um especialista em regras. Esse processo deve ser utilizado constantemente de forma a aumentar o refinamento do conhecimento adquirido pelo sistema, o mais próximo possível do conhecimento do especialista da área (RICH & KNIGHT, 1994). Esse processo pode ser automático, semi-automático ou manual.
• Módulo de explanação (ou explicação). Expõe ou detalha o raciocínio utilizado pelo
sistema para a obtenção daquele resultado (Giarratano & Riley, 1998). É particularmente útil em aplicações como a medicina, onde é importante, por exemplo, justificar claramente todos os passos utilizados para se chegar a um diagnóstico.
• Interface com o usuário. É o mecanismo pelo qual o usuário e o sistema especialista
interagem. Podem ser utilizadas interfaces gráficas como GUI (Graphic User Interface) e, alternativamente, oferecer conexão com outros sistemas (NIKOLOPOULOS, 1997). O uso de linguagem natural também pode ser oferecido para interface com o usuário (NILSSON, 1998).
Representação do conhecimento
A representação do conhecimento é uma das principais preocupações dos Sistemas Especialistas e da Inteligência Artificial (Liebowitz, 1999). Os modelos mais utilizados para a representação do conhecimento são as redes semânticas e os frames.
Redes Semânticas
As redes semânticas surgiram em 1968 com os estudos realizados por Quillian a respeito da memória associativa humana.
De acordo com Levine (1988):
As redes semânticas são representações gráficas do conhecimento. Como uma árvore de decisão, elas consistem em nós que são representados por círculos, e arcos que são representados por linhas com setas. Os nós contém informações, e os arcos mostram a relação entre elas.
É considerada como uma forma de programação orientada a objetos e tem as vantagens que esses sistemas normalmente apresentam, incluindo a modularidade e a facilidade de visualização por parte das pessoas.
As redes semânticas se concentram nas categorias de objetos e relacionamento entre eles. Os nodos representam substantivos, adjetivos, pronomes e nomes próprios. Os arcos são reservados basicamente para representar verbos transitivos e preposições. Na Figura 3, temos um exemplo simples dessa representação.
Figura 3: Representação do conhecimento através de redes semânticas
São bastante utilizadas nas linguagens LISP e PROLOG para representação de domínios, onde os problemas podem ser descritos como taxonomias (classificações complexas). As principais vantagens das redes semânticas são a flexibilidade, inteligibilidade, maleabilidade, simplicidade e a herança.
As redes semânticas utilizam dois mecanismos de inferência: herança e filtragem. A herança serve para inferir propriedades “default” dos elementos de uma classe, como por exemplo, filho, neto, sogro, etc., enquanto que a filtragem serve apenas para focar conceitos específicos.
Frames
O modelo de frames, para a representação do conhecimento, surgiu com os estudos de Minsky, através da comparação entre as propriedades observadas nos objetos e os padrões estereotipados, previamente definidos na memória.. Um frame é uma coleção de atributos, em geral chamados de escaninhos (slots), e valores a eles associados (e possivelmente restrições a estes valores) que descrevem alguma entidade do mundo (RICH & KNIGHT, 1994). Os frames integram conhecimento declarativo sobre objetos e eventos e conhecimento procedimental sobre como recuperar informações ou calcular valores.
Os atributos também apresentam propriedades, que dizem respeito ao tipo de valores e às restrições de número que podem ser associadas a cada atributo. Essas propriedades são chamadas facetas.
Assim como nas redes semânticas, uma das características dos frames é a possibilidade de que sejam criados novos subtipos de objetos que herdem todos as propriedades da classe original. Essa herança é bastante usada tanto para a representação do conhecimento como para a utilização de mecanismos de inferência. Os frames são, geralmente, desenvolvidos para representar alguma área genérica ou específica de conhecimento. Na Figura 4, observamos um exemplo da representação do conhecimento de uma “Sala”.
Figura 4: Representação do conhecimento através de frames: “Sala” Fonte: Bittencourt (2001, p. 265)
Como vantagem dos frames, pode-se observar que eles são bem adaptados ao raciocínio humano, além de flexíveis e fáceis de usar, embora não tenham uma metodologia de implementação específica. Permitem a herança automática dos atributos e podem estruturar uma grande quantidade de conhecimentos.
Métodos de Inferência
O mecanismo de inferência é a parte do sistema que manipula as regras e os fatos, inferindo novos fatos de fatos existentes, através das regras, controlando o fluxo de dados e a ordem da inferência (Krishnamoorthy, 1996).
O conhecimento deve estar representado de forma que permita uma boa interpretação. Os objetos devem estar dispostos em uma determinada ordem, sendo estruturado como uma árvore de contexto.
O mecanismo de inferência é um protocolo utilizado para navegar através das regras e dados da representação do conhecimento. Sua tarefa é selecionar e aplicar a regra mais apropriada em cada passo da execução do sistema especialista, procedimento este diferente de técnicas usuais de programação onde o programador seleciona a ordem na qual o programa deverá executar os passos.
Há sistemas que operam por caminhamento para a frente, outros se utilizam de caminhamento retrospectivo e ainda outros que empregam ambas as direções.
No caminhamento retrospectivo, o sistema parte da meta. Por exemplo: a identificação de uma espécie de inseto, permitindo chegar a uma conclusão, o nome da espécie.
O sistema trabalha com peças elementares de informação (como a lista dos componentes de um computador) e tenta seguir para o objetivo combinando estes elementos (como a configuração impressa de componentes que representem completamente um sistema de computador funcional).
Muitos sistemas que empregam caminhamento retrospectivo são usados para propósitos de diagnóstico; eles iniciam com algum objetivo (uma lista de sintomas, por
exemplo) e tentam descobrir quais premissas podem ocasionar tais sintomas. Geralmente a escolha de qual direção o sistema deverá executar é feita reproduzindo a maneira utilizada por uma pessoa ao resolver o problema.
O mecanismo de inferência também ajuda a detectar erros em nossos pensamentos e nos permite modificar e aprimorar as regras que usamos para alcançar nossos objetivos.
Incertezas
Em sistemas especialistas, Giarratano & Riley (1998) definem incerteza como a ausência de uma informação adequada para tomar uma decisão. Nikolopoulos (1997) acrescenta, ainda, que informações incompletas, conflitantes, vagas ou imprecisas são fontes de incertezas.
Quando um sistema especialista depara-se com uma incerteza, inicia-se uma busca por soluções alternativas e, dentre estas, escolhe a melhor. O número de soluções encontradas pode ser grande. Selecionar a melhor pode ser uma tarefa difícil e custosa.
Em algumas áreas de aplicação esse problema é particularmente sensível, como na medicina, em que um diagnóstico inadequado pode matar um paciente. Ou ainda sua aplicabilidade em sistemas comerciais onde um erro pode custar muito caro.
A incerteza pode ocorrer ainda, segundo Nikolopoulos (1997) durante a fase de aquisição de conhecimento, quando diferentes especialistas divergem em relação a melhor solução para um problema, comprometendo a performance do sistema especialista que está sendo modelado.
Nikolopoulos (1997) também afirma que a incerteza pode estar intrínseca às próprias regras de condição ou fatos. O autor exemplifica essa situação na seguinte regra de um especialista financeiro:
SE (investidor possui meia idade e baixo salário) ENTÃO (investidor tem perfil de baixo risco)
A regra oferece incerteza pois um investidor com essas características, possui, geralmente, perfil de baixo risco, mas nem sempre.
Para resolver esse problema, pode-se estabelecer um indicador para a confiança a respeito desta regra. Por exemplo: 80%. Desta forma, o sistema poderá avaliar, entre outras possíveis condições, a melhor opção para determinar tal conclusão.
Neste exemplo, outros aspectos que oferecem incertezas são as expressões “meia idade” e “baixo salário” as quais podem ser vagas.
Giarratano & Riley (1998) destacam os seguintes algoritmos, úteis para tratar questões que envolvam incertezas:
• probabilidade clássica;
• probabilidade Baysiana;
• teoria de Hartley, baseada na teoria de conjuntos;
• teoria de Sannon, baseada em probabilidades;
• teoria de Dempster-Shafer;
Conclusão
A construção de um sistema especialista compreende em capturar o conhecimento e a experiência de especialistas em uma determinada área e emular em computador o comportamento do mesmos.
Para uma perfeita utilização do sistema deve-se observar as vantagens e desvantagens do seu uso. É importante salientar, que eles são bastante úteis para auxiliar os usuários na tomada de decisão, mas algumas tarefas ainda vão ser realizadas pelo especialista humano, já que existem limitações nos sistemas, como situações de incerteza.
Como principais vantagens dos sistemas especialistas, pode-se observar o aumento da produtividade, preservação e disseminação do conhecimento existente.
Durante a realização deste trabalho, observou-se ainda que, o principal obstáculo para o desenvolvimento de um sistema especialista é a dificuldade em capturar o conhecimento e o tratamento especial a situações de desvio.
Verificou-se também que os sistemas especialistas representam uma solução para muitos problemas que enfrentamos na atualidade. Sendo estes sistemas, uma das principais áreas da inteligência artificial a possuírem aplicações comerciais.
Os sistemas especialistas podem ser úteis em diversos segmentos, cujas aplicações servem para tomada de decisões.
Na tomada de decisão, os sistemas podem decidir no lugar de um usuário, pois, quando bem estruturados, podem acumular um grande volume da experiência e treinamento adquirida dos especialistas humanos.
Referências
BITTENCOURT, Guilherme. Inteligência Artificial : ferramentas e teorias. 2. ed. Florianópolis, Editora da UFSC, 2001. 362 p.
GIARRATANO, Joseph; RILEY, Gary. Expert systems : principles and programming. 3. ed. Boston, PWS Publishing Company 1998. 597 p.
HARMON, Paul; KING David. Sistemas Especialistas. Rio de Janeiro, Editora Campus, 1988. 304 p.
HAYES-ROTH, Frederick; WALTERMAN, Donald A.; LENAT Douglas B. Building expert systems. Massachusetts, Addison-Wesley Publishing Company Inc. 1983. 444 p.
KRISHNAMOORTHY, C. S. Artificial Intelligence and Expert Systems for Engineers. CRC Press, 1996.
LEVINE, R. J.; DRANG, D. E.; EDELSON, B. Inteligência Artificial e sistemas especialistas. Trad. RATTO, M.C.S.R. São Paulo, Mcgrawhill, 1988. 264p.
LIEBOWITZ, J.; The Handbook of Applied Expert Systems. CRC Press, 1999. 868p.
NIKOLOPOULOS, Chris. Expert systems : introduction to first and second generation and hybrid knowledge based systems. New York: Marcel Dekker, Marcel Dekker Inc, 1997. 331 p.
NILSSON, Nils J. Artificial intelligence : a new synthesis. San Francisco, CA : Morgan Kaufmann, 1998. 513 p.
RICH, Elaine; KNIGHT, Kevin. Inteligência Artificial 2. ed. São Paulo, Makron Books, 1994. 696 p.
