2.1 DA POSSIBILIDADE DE AGENTES MORAIS ARTIFICIAIS
2.1.2 Teste de Turing Moral
O Teste de Turing foi utilizado para determinar as situações em que um agente artificial agiria de modo competente a tal ponto de se tornar indistinguível de um agente humano. A questão que surge é sobre a possibilidade de utilização de um teste semelhante para verificar a presença de um agente moral artificial explícito.
Allen será o primeiro autor a realizar um tratamento substantivo do Teste de Turing para sistemas inteligentes301. Nesse caso, o teste implicaria conversações entre uma máquina e
interrogadores humanos, se estes não identificarem o sistema artificial, então este seria um agente moral302. A tese é a de que haveria uma correlação entre o Teste de Turing para
verificação de inteligência artificial e para verificação de um agente moral artificial.
Allen e Wallach serão os primeiros autores a designarem essa espécie similar de jogo de imitação moral de Teste de Turing Moral (Moral Turing Test – MTT)303. Uma das dúvidas
iniciais era qual modelo ético a ser utilizado nesse teste: deontológico, utilitarista ou da virtude. Beavers elenca os parâmetros necessários para um teste nesse sentido: consciência (consciousness), intencionalidade (intentionality), livre-arbítrio (free will), reponsabilidade moral (moral responsibility) e (moral accountability)304.
300 LAKATOS, I. O falseamento e a metodologia dos programas de pesquisa científica. In: LAKATOS, I.;
MUSGRAVE, A. (org.) A crítica e o desenvolvimento do conhecimento. São Paulo: Cultrix, 1979; LAKATOS, I. History of science and its rational reconstructions. In: HACKING, I. (org.). Scientific
revolutions. Hong-Kong: Oxford University, 1983.
301 ARNOLD, Thomas; SCHEUTZ, Matthias. Against the Moral Turing Test: accountable design and the moral
reasoning of autonomous systems. In: SCHEUTZ, Matthias (dir.). Hrilab. Medford, 2016. Disponível em: https://hrilab.tufts.edu/publications/arnoldscheutz16mtt.pdf. Acesso em: 02 jul. 2020 às 22:48.
302 ARNOLD; SCHEUTZ, 2016. 303 ARNOLD; SCHEUTZ, 2016.
304 Cf. “Though this might sound innocuous at first, excluded with this list of inessentials are not only
consciousness, intentionality, and free will, but also anything intrinsically tied to them, such as conscience, (moral) responsibility, and (moral) accountability”. BEAVERS, 2011, p. 340.
Floridi irá utilizar parâmetros totalmente diferentes para distinguir um objeto moral (moral patient) de um agente moral (moral agent). Para o autor, não se pode exigir que um agente moral artificial seja livre, consciente e responsável. Bastaria que possuísse interatividade (interactivity), autonomia (autonomy) e adaptabilidade (adaptability). A interatividade é a capacidade de responder a estímulos decorrentes da mudança de estados. A autonomia seria a capacidade de alterar seu status sem precisar de estímulos externos e a adaptabilidade significa possuir regras de transição para outros estados305.
Apesar de sedutora, a tese de Floridi reduz muito o conceito de agente moral artificial a um conceito fraco e limitado, não condizente com a tradição moral. Seus critérios seriam mais adequados à assunção de um senciente artificial do que de um agente artificial. A tese rompe igualmente com a noção de similaridade entre a moralidade humana e a artificial. Reduzindo a agência moral artificial a uma sombra da agência humana, de modo a praticamente negar a possibilidade de existência de uma verdadeira agência moral artificial. Desse modo, iremos adotar os parâmetros apresentados por Beavers.
Allen irá sugerir que o MTT compare ações morais em vez de respostas verbais306. Em
vez de um interrogador, haveria um sujeito que tentaria distinguir se o agente que realizou a ação era humano ou artificial. Se fossem indistinguíveis, o agente moral artificial passaria no MTT307.
Nesse teste há uma mudança em relação ao TT clássico. Não se trata de uma verificação de performance linguística ou conversacional, mas de habilidade para agir em determinada situação moralmente relevante. Se a máquina não for identificada como o agente “menos moral” (less moral member), então ela passaria no teste. Trata-se de um método de resultado comparativo, por isso denominado de Teste de Turing Moral Comparativo (comparative MTT – cMTT)308.
A principal razão para a mudança de estratégia do MTT decorre do profundo desacordo entre os filósofos morais sobre as teorias morais309. Qual seria a resposta correta para
determinada situação? Deve-se mentir para se salvar um inocente ou a mentira por si só viola a lei moral? Desse modo, se optou por um outro caminho, a comparação de comportamentos em
305 FLORIDI, L.; SANDERS, J. On the Morality of Artificial Agents. Minds and Machines, v. 14, p. 349-379,
2004.
306 ALLEN, Colin; VARNER, Gary; ZINSER, Jason. Prolegomena to any future artificial moral agent. Journal of
Experimental & Theoretical Artificial Intelligence, v. 12, n. 3, p. 251-261, 2000.
307 ARNOLD; SCHEUTZ, 2016.
308 ALLEN; VARNER; ZINSER, 2000, p. 255.
309 STAHL, B. C. Information, ethics, and computers: the problem of autonomous moral agents. Minds and
determinada situação moralmente relevante310. Bastaria verificar como um agente artificial se
comporta. Se ele agir de modo similar a um humano consciente e moralmente responsável, em uma situação relevante, então ele seria considerado um agente moral artificial311.
O uso do Teste de Turing Moral (Moral Turing Test – MTT) para verificar a performance moral de sistemas artificiais inteligentes não é evidente a priori. Para Arnold e Scheutz o jogo de imitação de MTT sustenta-se em pressupostos frágeis, mesmo que se utilize de cenários morais computáveis. As principais falhas listadas pelos autores são a vulnerabilidade a erros (vulnerable to deception), raciocínios inadequados (inadequate reasoning) e performance moral ineficiente (inferior moral performance)312.
Dentre as diversas fraquezas do MTT, segundo Allen, podemos citar o baixo nível de comparação entre máquinas e humanos. Afinal, o design do sistema poderia ter como standard a moralidade de uma criança ou similar, dado que a comparação deve prever que a máquina não se sairia moralmente pior do que um ser humano em qualquer situação similar. Por outro lado, existe uma certa tolerância a que seres humanos realizem escolhas morais errôneas, o que de modo algum é claro quando se trata de máquinas. Haveria a mesma tolerância para que elas agissem de modo imoral? Allen alerta que provavelmente iríamos exigir mais das máquinas do que de outros seres humanos. E os seus erros seriam menos tolerados313.
Outro problema seriam as pequenas falhas morais. Não se admite de um lado ou de outro, para humanos e máquinas, que matem ou pratiquem grandes males, mas o que se dirá em relação às pequenas mentiras, às mentiras inofensivas, às mentirinhas brancas ou boas314.
Geralmente, admitimos um certo grau de tolerância a estas, mas não se pode dizer o mesmo em relação às máquinas315.
310 Cf. “A Moral Turing Test (MTT) might […] be proposed to bypass disagreements about ethical standards by
restricting the standard Turing Test to conversations about morality. If human “interrogators” cannot identify the machine at above chance accuracy, then the machine is, on this criterion, a moral agent”. ALLEN; VARNER;
ZINSER, 2000, p. 254.
311 CROCKETT, Larry. AI Ethics: the thin line between computer simulation and deception. In: GRIFFITHS,
Paul; NOWSHADE, Mitt Kabir. Proceedings of the European Conference on the Impact of Artificial Intelligence
and Robotics. Oxford: ACPI, 2019. p. 83.
312 ARNOLD; SCHEUTZ, 2016.
313 ALLEN; VARNER; ZINSER, 2000, p. 255.
314 Cf. “Apesar da valoração negativa do fenômeno, é possível extrair alguns de seus aspectos positivos. No campo
profissional, a mentira pode ser vista como uma habilidade importante no processo de comunicação, na resolução de problemas com os chefes, companheiros e clientes, e na resolução de negociações complexas”. MATIAS,
Danilo Wágner de Souza; LEIME, Jamila Leão; WALENTINA, Carmem, TORRO-ALVES, Nelson; BEZERRA, Amorim Gaudêncio. Mentira: Aspectos Sociais e Neurobiológicos. Psicologia: Teoria e Pesquisa, v. 31, n. 3, p. 397-401, jul.-set. 2015, p. 397.
Talvez a vulnerabilidade a erros e outros defeitos do MTT sejam apenas uma limitação tecnológica atual316, a ser superada pelo avanço “explosivo” da tecnologia. Nesse meio tempo,
o uso do MTT deveria ter um escopo reduzido. Poderia ser utilizado tão somente como um objetivo geral a ser alcançado; como um teste de capacidade de um agente moral artificial317,
mas não de sua moralidade em si ou mesmo como modelo “enfraquecido” a ser utilizado para agentes morais artificiais dotados de inteligência artificial fraca (weak AI)318.
Talvez o MTT jamais seja atingido pela strong AI ou mesmo pela weak AI319, por mais
vigoroso que seja o desenvolvimento tecnológico. Haveria um limite intransponível que impediria que um sistema artificial passasse no MTT. O julgamento moral humano seria tão robusto que jamais seria atingido por um agente artificial320. Esta última tese colide com o
entendimento de que podem surgir agentes morais artificiais. Talvez o teste em si seja inadequado para verificar a presença de um agente moral artificial (AMM).
Arnold e Scheutz irão defender uma outra estratégia distinta do MMT, denominada de “verificacionismo” (“verification”). O principal erro desse teste está na sua opacidade, na sua falta de transparência sobre as justificativas para a escolha moral artificial321. Afinal, não basta
o agente moral deliberar ou agir, ele deve saber por quais razões deliberou desta ou daquela forma.
Para Allen e Wallach, dever-se-ia substituir um MTT completo por um teste mínimo de MTT (Moral Turing Test) para se determinar a performance de agente moral artificial explícito (explicit AAMA).
Como se pode notar, a tese de que há similaridade entre a moralidade humana e a artificial admite teoricamente a possibilidade de condutas morais comparáveis, entre humanos e agentes artificiais, em situações relevantes. O teste comparativo (cMTT) entre os agentes esbarra ainda hoje em dificuldades tecnológicas intransponíveis, que, talvez, sejam no futuro superadas pelo desenvolvimento exponencial dos sistemas autônomos.
Outra crítica que poderia ser formulada à tese do agentes morais autônomos é a de que eles poderiam imitar atuar como agentes morais humanos, mas jamais atuariam verdadeiramente. Eles não disporiam de intencionalidade ou vontade própria, mas
316 ALLEN; VARNER; ZINSER, 2000, p. 259.
317 GERDES, A.; ØHRSTRØM, P. Issues in robot ethics seen through the lens of a moral Turing Test. Journal of
Information, Communication and Ethics in Society, v. 13, n. 2, p. 98-109, 2015. Disponível em:
https://portal.findresearcher.sdu.dk/da/publications/issues-in-robot-ethics-seen-through-the-lens-of-a-moral- turing-te. Acesso em: 04 jul. 2020 às 00:59.
318 ARNOLD; SCHEUTZ, 2016. 319 ARNOLD; SCHEUTZ, 2016. 320 ARNOLD; SCHEUTZ, 2016. 321 ARNOLD; SCHEUTZ, 2016.
responderiam a comandos predeterminados. Eles jamais compreenderiam o conteúdo de suas escolhas, ou seja, jamais passariam no teste da Sala Chinesa de moralidade.