Da possibilidade de algoritmos que possuam mecanismos de emergência

Dado que é possível a emergência de agentes morais artificiais, cabe questionar se é possível estruturar algoritmos capazes de permitir a emergência de agentes morais artificiais completamente autônomos.

Uma saída apresentada por Leben está no uso de modelos da teoria dos jogos morais. Como fundamento desse entendimento, tem-se que os algoritmos morais pretendem alcançar determinados fins. As regras morais seguiriam uma arquitetura racional capaz de solucionar os mais difíceis dilemas éticos por meio de modelos de cooperação e não cooperação, denominados de Maximin435_.

Um dos setores de inteligência artificial mais avançados se relaciona ao aprendizado de máquina por reforço de multiagentes (multi-agent reinforcement learning – MARL), que se caracteriza pelo estudo da dinâmica cooperativa e competitiva entre agentes artificiais inteligentes.

433 _{DI MARZO, Giovanna; GLEIZES, Marie-Pierre; KARAGEORGOS, Anthony. Self-Organisation and}

Emergence. MAS: An Overview Informatica, v. 30, p. 45-54, 2006.

434 _{DI MARZO; GLEIZES; KARAGEORGOS, 2006, p. 45-54.} 435 _{LEBEN, 2018, p. 5.}

Jaderberg et alii comprovaram a possibilidade prática de emergência espontânea de um comportamento, que nunca havia sido explicitamente treinado. Foi utilizado com sucesso, em um jogo, o uso de um algoritmo de aprendizado por reforço (RL-based training). Nesse caso, surgiram espontaneamente comportamentos eficientes na busca de melhores resultados436_{. O}

jogo estabelecia, como objetivo, que equipes multiagentes deveriam capturar uma bandeira. Tratava-se de uma tarefa que não havia sido programada, e as equipes deveriam aprender como alcançar esse desafio. Um dos pontos importantes do programa é que ele gerava, de modo aleatório, todos os mapas e as informações espaciais das bandeiras. Essa variável aumentava consideravelmente o esforço de coordenação por aprendizado das equipes artificiais, que deveriam se coordenar em uma rica, múltipla e variada representação de ambientes.

Um ponto merece muito destaque e atenção. Afinal, a inteligência artificial poderia ser tão eficiente quanto a humana? Para isso ela deveria dominar o grande segredo dos sapiens. Algo que permitiu à espécie que se instalasse em hábitats distantes e inóspitos, totalmente desconhecidos. Sem mapas prévios e lidando com outras espécies completamente desconhecidas, lidaram com outras espécies humanas e as superaram – ou, melhor, as massacraram. Os sapiens conquistaram o mundo graças à sua linguagem única437_{. O}

desenvolvimento de agentes morais completamente autônomos deve prever o uso ou a emergência de uma linguagem artificial eficiente.

Mas seria possível a emergência de uma linguagem artificial singular e eficiente? Poderiam agentes artificiais criarem tal linguagem438_{? Talvez essa seja a ferramenta mais}

importante rumo à superação da Lei de Lovelace.

O surgimento emergente de comportamentos multiagentes foi comprovado em outras situações439_{. Foi constatada a possibilidade de emergência de linguagem composicional}

fundamentada (grounded compositional language) para atingir finalidades e objetivos em populações de multiagentes440_.

Nesse teste, cada agente tinha objetivos a realizar, especificados por vetores e não observáveis externamente pelos demais agentes. Dentre os objetivos estavam as tarefas de movimentação e posicionamento espacial. Estes poderiam exigir algum grau de coordenação

436 _{JADERBERG Max et alii. Human-level performance in 3D multiplayer games with population-based}

reinforcement learning. Science31, p. 859-886, May 2019.

437 _{HARARI, Yuval. Sapiens: Uma breve História da humanidade. São Paulo: L&PM Editores, 2015, p. 27-28.} 438 _{KIRBY, Simon. Spontaneous evolution of linguistic structure-an iterated learning model of the emergence of}

regularity and irregularity. IEEE Trans. Evolutionary Computation, v. 5, p. 102-110, 2001; KIRBY, Simon. Natural language from artificial life. Artificial Life, 2002; CHRISTIANSEN, Morten H.; KIRBY, Simon. Language evolution: consensus and controversies. Trends in cognitive sciences, v. 7, n. 7, p. 300-307, 2003.

439 _{MORDATCH, 2018.}

ou comunicação entre agentes. O teste revelou não somente o uso de ferramentas verbais, mas a emergência do uso de sinais não verbais que não tinham sido ensinados, bem como outras estratégias não comunicativas (noncommunicative strategies)441_{. O teste relatou a emergência}

de uma linguagem composicional abstrata a partir de uma experiência fundamentada (emergence of an abstract compositional language from grounded experience)442_.

O objetivo de criar agentes artificiais dialogais orientados para alcançar objetivos (goal- driven dialog agents), capazes de perceber o ambiente, por meio da visão, audição ou sensores e interagir com humanos ou outros agentes, mediante comunicação, possui limites técnicos ainda.

Os estudos demonstram, porém, que os agentes não dominam o significado funcional da linguagem, tais como grounding (mapeamento de palavras para conceitos físicos), composicionalidade (combinação de conhecimento de conceitos mais simples para descrever conceitos mais ricos) ou aspectos do planejamento (entendendo o objetivo da conversa). Mais grave, a linguagem natural não emerge naturalmente no diálogo multiagentes, apesar de relatos técnicos nesse sentido443_{. Esses resultados provisórios não provam, contudo, a impossibilidade}

técnica, apenas a limitação técnica atual.

Desse modo, não se pode concluir pela impossibilidade de emergência de comportamentos comunicacionais em algoritmos que utilizem o aprendizado de máquina por reforço em multiagentes (multi-agent reinforcement learning – MARL). Pelo contrário, os estudos tendem a avançar em complexidade, profundidade e ousadia nas possibilidades computacionais444_{, expandindo o caminho para a superação do Teste de Lovelace.}

Obviamente a possibilidade de emergência de uma linguagem não basta para a singularidade artificial. Insetos possuem linguagem. Formigas e abelhas se comunicam e cooperam para alcançarem objetivos comuns. Tampouco a comunicação humana se destaca por ser a única linguagem verbal ou vocal. Os símios possuem alguma modalidade desta. Os sapiens dominaram porque possuíam algo muito diferenciado, uma linguagem extremamente versátil445_.

441 _{MORDATCH, 2018, p. 1.497.} 442 _{MORDATCH, 2018, p. 1.501.}

443 _{KOTTUR, Satwik et al. Natural language does not emerge ‘naturally’ in multi-agent dialog. In: EMNLP, 2017.}

Disponível em: https://arxiv.org/pdf/1706.08502.pdf. Acesso em: 26 jul. 2020 às 00:37.

444 _{LAZARIDOU, A.; PEYSAKHOVICH, A.; BARONI, M. Multi-agent cooperation and the emergence of}

(natural) language. In: INTERNATIONAL CONFERENCE ON LEARNING REPRESENTATIONS (ICLR), 2017; LAZARIDOU, A.; HERMANN, K. M.; TUYLS, K.; CLARK, S. Emergence of linguistic communication from referential games with symbolic and pixel input. In: INTERNATIONAL CONFERENCE ON LEARNING REPRESENTATIONS (ICLR), Vancouver, 2018; LEE, Jason D. et al. Emergent translation in multiagent communication. CoRR, abs/1710.06922, 2018.

Eles se comunicavam para alcançar objetivos comuns, mas, principalmente, conseguiram trabalhar e transmitir a sua imaginação. São a única espécie a inventar a ficção. Graças a ela foram possíveis os mitos, as coisas que não existem, as abstrações que estão na base da economia (dinheiro), política (governo) e direito (pessoa jurídica)446_.

Os experimentos atuais demonstram a possibilidade de emergência de comunicação artificial, mas nada provam sobre a possibilidade de uma imaginação artificial. Tampouco a Lei de Lovelace se detém nesse aspecto. O seu teste é limitado a declarar a impossibilidade de algoritmos criarem algo. O que está se provando superado.

Diversos estudos têm sido conduzidos justamente nessa preocupação. Seria possível a emergência de uma criatividade artificial?447_{. Inicialmente, o uso de algoritmos de geração de}

linguagem natural (Natural Language Generation – NLG) serviam a um único propósito, assistir os seres humanos em suas tarefas de redação de textos, tais como e-mails, no jornalismo digital e mesmo auxiliando autores de ficção na produção de conteúdo. Igualmente, houve uma expansão do uso técnico da geração de textos em áreas técnicas como no direito, em finanças e medicina448_.

Os programadores são testados a apresentarem uma nova geração de algoritmos ainda mais ousados. O objetivo é produzir um modelo autônomo na geração de textos criativos, que sejam instigantes. Trata-se se um desafio gigantesco. A escrita criativa, contudo, ainda, tem sido considerada impregnável para as máquinas.

Uma nova geração de algoritmos criativos tem surpreendido pelo seu poder de geração de conteúdo. Os resultados têm se estendido de textos em não ficção, artigos de notícias até ficção, como dramas e poesias449_{. Os textos demonstram as qualidades técnicas da gramática e}

semântica, bem como combinam uma qualidade preocupante. Os potenciais conflitos éticos decorrentes assustam. A manipulação de informação ou desinformação é real. Mas o mais importante é que as portas em direção à criatividade artificial foram abertas e não podem ser simplesmente negligenciadas. Alegar uma teórica impossibilidade técnica não condiz com o debate no setor tecnológico. Desse modo, cabe considerar a realidade de um cenário de emergência de uma linguagem artificial de alto nível, versátil e criativa, como algo possível,

446 _{HARARI, 2015, p. 30.}

447 _{KOBIS, Nils; MOSSINK, Luca. Creative artificial intelligence – Algorithms vs. humans in an incentivized}

writing competition. ResearchGate. 2020. Disponível em:

https://www.researchgate.net/publication/338689473_Creative_Artificial_IntelligenceAlgorithms_vs_humans_in _an_incentivized_writing_competition. Acesso em: 25 jul. 2020 às 10:11.

448 _{KOBIS; MOSSINK, 2020, p. 2.} 449 _{KOBIS; MOSSINK, 2020, p. 3.}

mesmo que improvável a curto prazo. A superação do Teste de Turing (fraco) parece próxima nesse campo.