A criaçãode deveres da inteligência artificial

Desde já, alerta-se que a aplicação do art. 422 do Código Civil, como norma da função integrativa da boa-fé para reconhecer e criar deveres anexos ou laterais que preencham supostas incompletudes numa relação jurídica, é uma difícil tarefa por conta de um mau uso que pode ser feito da boa-fé. Forgioni delineia que a função integrativa da boa-fé representa um poder dado a um terceiro que deverá utilizá-lo para solucionar eventuais incompletudes em nome da preservação da relação jurídica, visando os legítimos interesses das manifestações de vontades das partes, e, justamente pela responsabilidade em torno desse poder, o terceiro deverá evitar utilizá-la de forma amorfa, como “remédio para todos os males” ou como uma espécie de caixa de Pandora⁶⁸³.

Para além disso, o intérprete só deve partir para o processo de integração após investigar se, de fato, está diante de uma incompletude e se tal incompletude não é intencional, como ocorre no caso dos contratos incompletos. Todavia, há de se destacar que a função integrativa desempenha um papel essencial no desenvolvimento progressivo das relações jurídicas e na sua correlação com os ideais presentes no sistema do Direito Privado:

A referência à boa fé que, de modo progressivo, têm vindo a acompanhar o desenvolvimento prático e teórico dos deveres acessórios, começa a desenhar-se: não se trata – ou não se trata tanto – de reforçar o vínculo contratual, ao sabor jusracionalista com laivos grocianos; deve entender-se que a evolução das sociedades e das suas ordens jurídicas, ganha a batalha pelo liberalismo, converteu o contrato, em si, num valor a preservar, sem necessidade de arrimos especiais, sejam eles a boa fé ou outros. A boa fé constitui, como noutras das suas aparições, já detectadas ou a detectar, um processo cómodo de, com apoio juspositivo, remeter para a magma imensa do sistema, onde as intenções normativas mais profundas do jurídico, ainda que de modo inconsciente, ganham materialidade.⁶⁸⁴

Assim, a função integrativa da boa-fé pode ser invocada para encontrar o melhor sentido na solução da incompletude por meio do reconhecimento de deveres que devem compor a relação jurídica visando: i) a cooperação entre as partes; ii) a atuação com

683 FORGIONI, Paula. Contratos empresariais: teoria geral e aplicação. São Paulo: Editora Revista dos Tribunais, 2016, p. 279.

684MENEZES CORDEIRO, António Manuel da Rocha e. Da Boa-fé no Direito Civil. volume único. Coimbra:

Almedina, 2015, p. 616.

lealdade⁶⁸⁵; iii) a obrigatoriedade de prestar a informação necessária para viabilizar um consentimento informado; iv) a proteção dos legítimos interesses das partes⁶⁸⁶. Tais deveres podem ser agrupados na qualidade de deveres anexos (instrumentos que otimizam a prestação devida) ou deveres de proteção (o sentido objetivado na relação jurídica não pode resultar em danos injustos aos contraentes)⁶⁸⁷.

Tal procedimento envolvendo a aplicação da função integrativa para a criação de deveres nas relações jurídicas deve ser contrastado com a falta de transparência no funcionamento de algoritmos com tecnologia de inteligência artificial. Conforme relatado no tópico 2.3.3, os titulares dos softwares dos algoritmos não costumam revelar a maneira que a inteligência artificial se utiliza dos dados do usuário e os combina com as informações presentes no Big Data para indicar o sentido da declaração de vontade que o usuário deve adotar. Também foi afirmado nesta pesquisa que, por conta da tecnologia do machinelearning, não é raro se deparar com situações em que o próprio funcionamento do algoritmo não é do conhecimento do seu titular.

Invariavelmente, é necessário reconhecer que, embora a essência de uma máquina com tecnologia de inteligência artificial seja a sua capacidade de desempenhar uma atividade humana, os algoritmos, ao buscarem o resultado mais eficiente para os seus usuários, não são seres humanos e, por isso, podem se desviar do cumprimento de deveres anexos ou laterais que se encontram presentes na relação jurídica a ser formada entre o usuário e um terceiro.

Tal conclusão é substancial para justificar que, embora o algoritmo seja uma máquina, a forma que a inteligência artificial irá processar os dados fornecidos pelo seu usuário não está fora do alcance dos deveres anexos e laterais que o usuário deve respeitar e perseguir em eventuais incompletudes na relação jurídica firmada. Inclusive, vale ainda complementar que os deveres anexos estão coligados à prestação principal e se encontram presentes em todas as fases da relação jurídica⁶⁸⁸.

Assim, por exemplo, o dever de não utilizar critérios discriminatórios se enquadra com facilidade entre os deveres de proteção de responsabilidade do usuário do algoritmo e

685 “Os deveres acessórios de lealdade obrigam as partes a, na pendência contratual, absterem-se de comportamentos que possam falsear o objectivo do negócio ou desequilibrar o jogo das prestações por elas consignado.” (MENEZES CORDEIRO, António Manuel da Rocha e. Da Boa-fé no Direito Civil. volume único. Coimbra: Almedina, 2015, p. 606).

686MARTINS-COSTA, Judith. A boa-fé no direito privado: critérios para a sua aplicação. São Paulo:

Saraiva, 2018, p. 572.

687MARTINS-COSTA, Judith. A boa-fé no direito privado: critérios para a sua aplicação. São Paulo:

Saraiva, 2018, p. 573.

688AMARAL, Ana Cláudia Corrêa Zuin Mattos do; e COSTA, Izabella Affonso. Honestidade nas relações privadas: o papel da boa-fé objetiva no “dever de renegociar” em tempos de pandemia. In: II Encontro Virtual no CONPEDI, 2020, Fortaleza. Direito Civil Contemporâneo II. Florianópolis: CONPEDI, 2020, v.1, p. 67.

também de seu titular. Independentemente de o usuário ou do titular do algoritmo terem intenção de inserir na programação da inteligência artificial a utilização de critérios discriminatórios, ambos podem e devem ser responsabilizados caso o algoritmo sugira resultados que violem tais deveres.

A responsabilidade do usuário decorre da culpa in eligendo, por ter optado pela utilização de um serviço de inteligência artificial que recomendou condutas que acabaram por prejudicar terceiros e a responsabilidade do titular do software do algoritmo está inserida no risco empresarial da atividade oferecida ao mercado⁶⁸⁹. Isto é, o oferecimento do uso de inteligência artificial aplicada a sugestões de manifestação de vontade envolve, como toda atividade empresarial, riscos que são inerentes ao serviço⁶⁹⁰. Da mesma forma que o titular se propõe a lucrar, direta ou indiretamente, ao oferecer esse serviço ao mercado, deve ser responsabilizado pelas violações à função integrativa da boa-fé presente na relação jurídica formada entre o usuário do algoritmo e o terceiro⁶⁹¹.

689 Sobre esse ponto, Ana Frazão chega a defender, inclusive, que, no contexto de uma sociedade empresária que é usuária de um serviço de auxílio de tomada de decisão por inteligência artificial, o administrador da sociedade pode responder pessoalmente perante à sociedade por culpa in eligendo: “[...] parte-se da premissa de que o administrador não pode ter confiança cega no sistema de inteligência artificial, uma vez que o dever de diligência exige que avalie, dentro do possível, a acurácia e a robustez do sistema, diante dos resultados pretendidos e dos riscos a ele relacionados. Consequentemente, não se pode afastar a responsabilidade pessoal dos administradores de sociedades empresárias por danos decorrentes de sistemas de inteligência artificial em razão da culpa in eligendo pela escolha da tecnologia. A partir do momento em que o administrador delega parte dos processos decisórios da sociedade empresária para um sistema de inteligência artificial, o mínimo que se espera é que tenha agido com prudência e cautela na escolha desse sistema.” (FRAZÃO, Ana. Responsabilidade civil de administradores de sociedades empresárias. In: FRAZÃO, Ana; e MULHOLLAND, Caitlin. (coord.).

Inteligência artificial e direito: ética, regulação e responsabilidade. São Paulo: Thomson Reuters Brasil, 2019, p. 506).

690 “[...] nosso atual estágio societário – sociedade de risco – se caracteriza por sua ênfase em narrativas individualizantes, sendo o mercado a única certeza e razão. Pautado no presente para projetar o futuro, o passado perde sua força orientadora da ação, o presente é vivido apenas em função do futuro, de um futuro não objetivo, de curto prazo, do resultado imediato. Essa orientação temporal legitima riscos, pois, no presente, não se prevê e nem se deseja danos para o futuro.” (ROCHA, Carlos Guilherme; e FREIRE, Estela Cardoso. Da possibilidade e da necessidade de responsabilização civil pelo risco do desenvolvimento: um argumento sociológico.

Civilistica.com. Rio de Janeiro, a. 10, n. 2, 2021, p. 23)

691Ainda acerca da responsabilidade do titular do algoritmo, CaitlinMulholland defende a aplicação da teoria do risco de desenvolvimento aos agentes empresariais que desenvolvem ou exploram a IA: “São elementos do risco de desenvolvimento (i) o dano causado por um produto – que não é, em tese, defeituoso; (ii) a impossibilidade técnica objetiva de reconhecimento, por parte tanto do fornecedor quanto do consumidor, da defeituosidade e da potencialidade danosa do produto, no tempo da ocasião do dano; e (iii) o desenvolvimento tecnológico que identifica, posteriormente, um defeito do produto, gerador do dano. Esses requisitos, se aplicados às hipóteses de danos causados por IA autônoma, poderiam ser igualmente interpretados para fins de atribuição da obrigação de indenizar. Senão vejamos: (i) o dano é casualmente ligado a um sistema da IA; (ii) é virtualmente impossível identificar, no momento inicial de programação da IA, a previsibilidade e potencialidade danosa à aplicação do sistema; e (iii) o desenvolvimento da aprendizagem autônoma pela IA, que independe de interferência humana, causa efetivamente o dano a uma pessoa. A esses três elementos soma-se um quarto, que é (iv) a decisão autônoma geradora do resultado danoso, na medida em que esses processos de aprendizagem e decisão independem da atuação e da racionalidade humana.” (MULHOLLAND, Caitlin. Responsabilidade civil e processos decisórios autônomos. In: FRAZÃO, Ana; e MULHOLLAND, Caitlin. (coord.). Inteligência artificial e direito: ética, regulação e responsabilidade. São Paulo: Thomson Reuters Brasil, 2019, p. 335).

Neste ponto, vale o alerta de Eric Sadin de que a inteligência artificial não é, de fato, uma “inteligência”, mas sim uma técnica que permite à máquina executar algumas tarefas humanas e que é produto de uma programação que a orienta e a estrutura⁶⁹². A inteligência artificial não se “importa” em seguir o Código Civil ou qualquer outra lei do ordenamento jurídico brasileiro, que existe para ser aplicada aos sujeitos de direito reconhecidos pelo ordenamento. A “norma” que regula os atos do algoritmo é a sua programação, o problema é que, por causa do aprendizado de máquina, essa programação pode ser modificada pela máquina de maneira autônoma. Jacques Ellul, inclusive, defende que a eticidade e moralidade não conseguiriam ser estabelecidas pelo próprio sistema técnico, mas sim dependem de uma inserção, manutenção e regulação do ser humano⁶⁹³.

A responsabilidade pela fiscalização e pelo controle de todas as consequências dessa programação, ainda que autonomizada, recai sobre quem possui os direitos sob tal tecnologia e se propõe a dar uma aplicação econômica a ela. Por isso, Geraldo Frazão de Aquino Júnior aponta que o direito aplicável ao mundo digital deve se respaldar no direito aplicável ao mundo físico e a imputabilidade de eventual dever indenizatório está associada à atribuição de responsabilidade a pessoas e não a um robô, devendo a conduta do algoritmo sempre ter a conduta de um sujeito de direito por ele responsável⁶⁹⁴.