Transformações do mundo hiperconectado no direito privado: autonomia da vontade e boa-fé objetiva nas relações jurídicas com manifestações de vontade influenciadas por algoritmos com tecnologia de inteligência artificial / Raphael Framemam Braga Viana. O quinto e último capítulo da parte principal da tese é dedicado à elaboração da boa-fé aplicada a algoritmos com tecnologia de inteligência artificial.
O Novo Mundo Eclodido
Por exemplo, se um algoritmo tem a capacidade de consultar seu banco de dados para analisar todas as formas como um determinado sujeito se comportou na situação "X", é razoável concluir que, com o auxílio da matemática e da estatística, ele conseguirá, ao menos menos para estimar a possibilidade de que a maioria repita o comportamento na situação "X". Acontece que enquanto a tecnologia e o uso de inteligência artificial integrados a um ambiente de hiperconectividade podem trazer inúmeros benefícios, como será mostrado nos tópicos a seguir, tal ecossistema tecnológico permite a captura de uma enorme quantidade de dados individuais que permitem a influência direta de inteligência artificial e o uso de algoritmos no design da expressão humana.
Os pilares do mundo hiperconectado
- Algoritmos e modelos de previsão
- Inteligência Artificial
- Machine Learning
- Big Data
- Internet das coisas
Por fim, uma superinteligência seria um sistema de inteligência artificial capaz de exceder significativamente o desempenho humano com um conjunto de dados e informações muito superiores ao que um humano poderia alcançar54. Assim, o aprendizado de máquina consiste em uma habilidade integrada a alguns sistemas de inteligência artificial, que se distinguem pela possibilidade de obter conhecimento próprio a partir de dados brutos63.
Admirável mundo novo: características do mundo hiperconectado
A esfera pública colonizada por algoritmos
A princípio, a bolha dos filtros pode até ser vista como algo positivo, pois o sistema de inteligência artificial é provocado a coletar e analisar dados de seus usuários com o objetivo de criar uma rede de informações pessoais para cada pessoa. No entanto, Magrani explica que a excessiva filtragem realizada pelos algoritmos gera uma espécie de colonização da esfera pública, pois os usuários não vão mais determinar conscientemente as informações exibidas dentro dessa esfera pública virtual e, sem seu conhecimento e consentimento, são removidos . de visões divergentes.
Da sociedade disciplinar à sociedade de controle
147 A ideia da sociedade de controle foi desenvolvida e aprofundada por Gilles Deleuze quando explicou as claras diferenças entre os dois tipos de sociedade: “Nas sociedades de disciplina, nunca se pára de recomeçar (da escola ao quartel, do quartel à fábrica ). ), enquanto nas sociedades de controle nada nunca está acabado, empresa, treinamento, serviço são estados metaestáveis e coexistentes da mesma modulação, como um deformador universal. Enquanto a manipulação exige que um humano gerencie uma ação planejada para direcionar o conteúdo da mídia de transmissão, a modulação algorítmica utiliza as mais avançadas técnicas de inteligência artificial para estimular o comportamento dos usuários de tecnologias de informação e comunicação.
The Black Box Society
A sociedade da caixa preta seria estruturada por empresas do setor financeiro e tecnológico investindo massivamente no uso de algoritmos para coletar o máximo de dados possível dos indivíduos a fim de monitorá-los e atingir os objetivos de negócios. Não há clareza sobre o tratamento dado aos dados, daí a falta de informações sobre sua coleta, compartilhamento e potencial.
Três grandes problemas causados por algoritmos com tecnologia de
O algoritmo podeserpreconceituoso
Fornecer um banco de dados com informações diversas o suficiente para evitar vieses não seria uma consequência direta da boa fé no uso dessas tecnologias. Nesse sentido, Cathy O'Neil explica que em alguns casos será necessário sacrificar a eficiência ou “silenciar” o algoritmo em busca de um modelo mais justo e seguro no qual não haja risco de os usuários sofrerem com decisões discriminatórias222. .
A falta de transparência e de eticidade no uso de inteligência artificial
Thiago Junqueira explica por exemplo que o art. 20 da Lei Geral de Proteção de Dados é insuficiente para combater a discriminação algorítmica. 245 MULHOLLAND, Caitlin; e FRAJHOF, Isabella Z. Inteligência artificial e a lei geral de proteção de dados pessoais: breves notas sobre o direito à explicação quando as decisões são tomadas por aprendizado de máquina.
O risco de substituição da autonomia da vontade e suas consequências
Perspectivas sobre a aplicação da inteligência artificial no direito processual: análise das diretrizes éticas e eficiência judicial. Orientação Regulatória para Sistemas de Inteligência Artificial: Análise de Documentos de Iniciativas dos EUA e da União Européia.
Entre autonomia privada, contratos e algoritmos
É papel da doutrina e da jurisprudência identificar situações abusivas que não devem ser admitidas no ordenamento jurídico brasileiro, bem como indicar critérios técnicos e objetivos para limitar a aplicação da autonomia privada. Portanto, torna-se papel da doutrina repensar os fundamentos e regras da autonomia privada a partir do peso da tecnologia para influenciar o processo decisório.
Autonomia privada e Direito Romano
Trata-se de conceito de grande importância, pois freia a ideia de que a autonomia privada está vinculada apenas à liberdade do indivíduo de praticar o ato que quiser em busca de qualquer fim permitido pelo ordenamento jurídico. O raciocínio dos romanos em relação à autonomia privada também permite determinar que as prerrogativas derivam da autonomia.
Autonomia privada no século XXI
Judith Martins-Costa defende, assim, que a autonomia privada nunca pode ser vista como algo isolado, como um átomo, mas sim como a disposição do sujeito de direito para estabelecer regras dentro de uma ordem social legalmente constituída numa ordem de relações jurídicas354. Ou seja, o avanço do século XXI tem levado a uma modernização da autonomia privada que deve avançar ainda mais para dar conta da delegação do exercício da autonomia volitiva ao algoritmo e até que ponto o ordenamento jurídico protege a confiança364 entre o usuário do algoritmo e o detentor da inteligência artificial que utiliza.
A nova economia institucional
Ao tratar do tema denominado análise econômica do direito, é fornecida uma estrutura teórica para a análise do direito. Existem três postulados da nova economia institucional: informação assimétrica, custos de transação e o papel das instituições no desempenho econômico.
A importância da finalidade na celebração de negócios jurídicos
Os seguintes cenários são concebíveis: .. i) Contratante usuário do algoritmo lucrativo + Proprietário do algoritmo lucrativo x Contraparte sem margem de lucro;. Continuaria ofensivo e contrário à regra moral da ordem privada, por exemplo, o uso de inteligência artificial com resultados discriminatórios. iv) Contratante que utiliza o algoritmo sem margem de lucro + Titular do algoritmo com margem de lucro x Contraparte sem margem de lucro;
A manifestação de vontade com a presença de algoritmos com tecnologia
O que se quer dizer é que as teorias jurídicas clássicas do Direito Privado não foram formadas levando em conta a possibilidade da intervenção de uma máquina com inteligência artificial nesse processo de formação da vontade do sujeito de direito, mas, independentemente desse fator, a realidade do mundo hiperconectado não vai esperar a reformulação da ordem para começar a interferir nas relações jurídicas. É característica inegável do ordenamento privado que os sujeitos de direito tenham o poder de manifestar sua vontade em razão da liberdade que o ordenamento lhes confere para criar uma regulação de seus próprios interesses quando se estabelece uma relação jurídica com outros sujeitos de direito424.
O uso da inteligência artificial na formação da relação jurídica
A “objetivação do contrato” ocorreu devido a uma mudança no próprio contexto de formação das relações jurídicas, como forma de perceber que a realidade mudou a forma como a teoria da vontade foi originalmente concebida. A presença de algoritmos de inteligência artificial que intervêm na declaração de vontade não parece um regresso à concepção tradicional da teoria da vontade, porque afinal o indivíduo não realiza o processo de escolha da sua decisão de forma totalmente autónoma. .
As transformações das relações jurídicas de Direito Privado na sociedade
Obviamente, a autonomia privada e a teoria da vontade não foram estruturadas com esse fator tecnológico em mente, mas cabe à doutrina apresentar uma reinterpretação da dogmática jurídica à luz da intervenção algorítmica nas relações de direito privado. Já a análise do peso da tecnologia na autonomia privada perpassa pelo fator econômico, pois algoritmos são desenvolvidos para auxiliar ou influenciar o processo decisório da manifestação de vontade baseada em interesses econômicos453.
Considerações iniciais sobre a moralidade do Direito Privado
Esse significado seria ainda mais proeminente se, como defende Georges Ripert para a existência de uma regra moral nas relações privadas, a moralidade fosse vista como um dos elementos introduzidos no sistema, cuja função é direcionar o uso técnico do mais técnico regras de direito para resolver obstáculos em torno da “evolução de idéias jurídicas, dúvidas e lutas em torno de certas instituições.”459. Tal introdução à importância da regra moral é de grande importância para o presente estudo, pois, uma vez que a moral se encontra na essência da utilização técnica do direito privado como sistema para satisfazer os desejos de um sujeito jurídico que deve se submeter à jurídico capaz de relacionar direitos e obrigações perante terceiros, acredita-se que uma melhor compreensão da regra moral e suas implicações seja o melhor caminho para encontrar soluções para os problemas levantados no tópico 2.4.
Da base no Direito Natural e sua insuficiência
A base do Direito Natural para indicar o uso da moralidade na aplicação da lei é que ela é uma "pergunta permanente do homem teórico sobre seu lugar na sociedade"470, que, portanto, exerce um poder de influência nas relações humanas independentemente de uma aceitação ou não expressamente pelo ordenamento jurídico471. Não menos clara é a influência do direito natural privado, tanto na formação quanto na aplicação do direito positivo.
Dos bons costumes e sua insuficiência
Tais costumes, se compatíveis com a moralidade do direito privado, podem evoluir para regras de conduta de acordo com a boa-fé. Assim, torna-se imperativo examinar diretamente qual a influência que uma norma moral exerce sobre as relações jurídicas e qual o peso do fundamento moral na interpretação da declaração de vontade dos sujeitos de direito.
Origens, fundamentos e aplicação da regra moral nas relações privadas
Feitas tais conclusões preliminares sobre a presença de um elemento moral na ordem civil, reconhecidamente também no Código Civil de 2002, destaca-se que quem melhor explica o papel e a importância de uma regra moral nas relações privadas é o civilista francês . Georges Ripert, em uma obra clássica sobre o assunto chamada “A Regra Moral nas Obrigações Civis”. Ou seja, o positivismo jurídico torna-se impotente neste ponto porque, seja o legislador positivamente a favor ou contra a regra moral, é inevitável porque está implícito nas instituições e princípios do direito privado.
A importância da ciência do Direito
É uma conquista da jurisprudência, a convicção das vantagens e desvantagens mútuas (e opostas) das técnicas de legislar pelo método da casuística e pelo método das cláusulas (e princípios) gerais. Deve-se entender, portanto, que a insistência em um maior aprofundamento da moralidade do direito privado não é fruto de um valor interpretativo, mas da comprovação de que a moralidade se desenvolveu ao longo da história para criar oportunidades de criação de ferramentas suficientes para moldar novas interpretações com critérios objetivos.
A obrigação civil longe de ser uma relação sobre dois patrimônios
Aqui não se trata de caprichos isolados de um indivíduo, mas de bens de valor geral. Para esse novo direcionamento da figura do contrato, deve-se ressaltar que ele tem ligação direta com a ideia de moralismo na ordem civil.
O solidarismo jurídico
Nesse sentido, a solidariedade jurídica promove uma “funcionalização social” das instituições jurídicas e visa “a transformação de uma sociedade injusta e anormal em uma comunidade solidária, justa, equilibrada e cooperativa”544. Portanto, deve-se notar que essa forma de solidariedade jurídica é flexível o suficiente para se adaptar aos avanços sociais, inclusive com o potencial de reconhecer que os algoritmos que desempenham o papel de inteligência artificial são fatores influenciadores desses papéis sociais desempenhados pela pessoa jurídica estabelecida. na sociedade.
O Direito Privado como um sistema aberto
O Direito Privado como um sistema complexo
Antônio Junqueira de Azevedo, ao considerar o sistema jurídico como um todo, afirma que o direito é um sistema complexo porque funciona como um conjunto heterogêneo de elementos que se interligam de forma constante e diversa561. Por fim, o entendimento do direito como sistema jurídico é relevante, pois cabe ao sistema evitar os conflitos e, caso já existam, resolvê-los568.
O Código Civil como elemento do sistema aberto
Tratar o Código Civil de 2002 como um sistema aberto nada mais é, portanto, do que reconhecer sua capacidade de mobilidade, que permite a entrada de elementos extrajudiciais na ordem civil. Desenvolveu-se também a justificativa de que o direito privado deve ser considerado como um sistema que necessariamente sofre e exerce a influência de fatores extrajurídicos como a moralidade acima apresentada.
Eticidade: característica basilar do Código Civil de 2002
Os princípios norteadores do código civil são os princípios da ética e da sociabilidade582, que estão presentes em dispositivos legais como o art. Portanto, é preciso reconhecer que as vias de abertura do Código Civil de 2002, como sistema, permeiam os dispositivos legais e os princípios vinculados aos valores éticos (moralidade) perseguidos pela ordem civil.
Entre princípios, cláusulas gerais e a necessidade de ressistematização
O crescimento da importância da boa-fé no ordenamento jurídico brasileiro, sem indícios de diminuição de seu uso e importância na doutrina e na jurisprudência632, também é suficiente para apresentá-la como ponto de partida ideal para soluções de problemas decorrentes de abusos. da vontade sob a influência de algoritmos e inteligência artificial. Por desempenhar funções tão importantes na adequação do Direito Privado à solução dos problemas jurídicos decorrentes do progresso social, torna-se cada vez mais necessário um uso mais rigoroso, objetivo e técnico da boa-fé.
Sentidos da boa-fé
Tomasevicius aponta que a boa-fé pode ser estruturada como norma jurídica (modelo comportamental) ou como norma jurídica, e neste último caso pode ser. Não é possível submeter a boa-fé a uma subsunção plana, sempre a mesma em todas as suas manifestações.
A função hermenêutica da boa-fé aplicada aos algoritmos
Todo testamento vital está sujeito à regra do art. 112 do Código Civil que sua interpretação deve priorizar a intenção nele expressa sobre o sentido literal da linguagem657. Ou seja, quando o art. 113 do Código Civil estabelece que os negócios jurídicos devem ser interpretados de acordo com a boa-fé e uso do local da celebração, deduz-se que o exame do contexto fático que culminou no processo de manifestação da vontade também deve ser analisados pelo intérprete para fornecer hipóteses de significado interpretativo mais consistentes com a realidade das diretivas antecipadas em uma determinada relação jurídica661.
Standards de comportamento
O dono do algoritmo deve ser responsabilizado, mesmo que a inteligência artificial tenha se desenvolvido de forma autônoma, por meio do aprendizado de máquina, um processo de recomendação de comportamento que se desvie dos padrões pré-estabelecidos de boa-fé. O usuário do algoritmo não está isento de responsabilidade por adotar um comportamento indicado pela inteligência artificial que se desvie dos padrões de.
Interpretação em favor do não usuário em face do usuário e em favor do
A função hermenêutica da boa-fé deve ser ampliada para considerar que o usuário do algoritmo cria uma expectativa legítima de que a IA simule o comportamento humano de acordo com os padrões de comportamento predeterminados pela boa-fé. em). A função hermenêutica da boa-fé permite ao intérprete identificar os usos e práticas praticadas pelos donos de algoritmos de IA a ponto de criar padrões comportamentais inerentes à IA.
A função integrativa da boa-fé aplicada aos algoritmos
- A criaçãode deveres da inteligência artificial
- O dever de cooperação pela inteligência artificial
- O dever de informação com o auxílio da inteligência artificial
- O dever de proteção aplicado aos algoritmos
A integração de uma relação jurídica pode ser feita de diversas formas, das quais a função integradora da boa-fé é apenas uma delas. 187 do Código Civil, reconhecem que o titular do algoritmo com tecnologia de inteligência artificial pode ser responsabilizado caso tenha feito seu usuário causar dano à esfera jurídica de sua contraparte na relação jurídica final731.
A função corretora da boa-fé aplicada aos algoritmos
Ressalte-se que se a tecnologia do algoritmo for de código aberto, a função corretiva de boa-fé poderia teoricamente identificar tecnicamente todos os comandos em sua programação que ultrapassariam os limites da autonomia da vontade determinada pelo ordenamento jurídico (incluindo o conteúdo do contrato no meio da relação jurídica) e pode resultar na nulidade da relação jurídica celebrada entre o usuário e o proprietário da tecnologia de inteligência artificial. A nova ordem jurídica e os paradigmas da função social do direito e da boa-fé objetiva e suas figuras parciais.
