A esfera pública colonizada por algoritmos

No que concerne ao mundo virtual, Magrani explica que os espaços digitais podem ser encarados como esferas públicas abstratas, onde as pessoas se comunicam regularmente¹¹⁹. Neste sentido, não faltam exemploscomo as redes sociais do instagram, facebook, linkedin, reddit, twitter, tiktok e também os grupos de whatsappe telegram. Só o Facebook, em questão de horas, consegue coletar informações de dezenas de milhões de

115MAGRANI, Eduardo. Entre dados e robôs. Porto Alegre: Arquipélago Editorial, 2019, p.31-32.

116MAGRANI, Eduardo. Entre dados e robôs. Porto Alegre: Arquipélago Editorial, 2019, p.24.

117 Apesar do grande impacto econômico da internet das coisas no mercado global, há doutrinadores, como Renato M. S. OpiceBlum, que apresentam sérias preocupações com a difusão dessa tecnologia pelo mundo:

“Muita interação = muita facilidade; muitos dados = muitos interesses = muito dinheiro. Esta sequência, obrigatoriamente reconhecida quando objetos são associados à Internet, foi fácil e rapidamente percebida pelos indivíduos mal intencionados que atuam na Web. Logicamente, a partir do momento em que as coisas (relógios, fogões, Tvs) precisam de dados reais e atualizados de seus usuários para funcionar de forma personalizada, estes objetos passaram a atrair a atenção de infratores. De fato, neste espetáculo de objetos fantásticos, é proporcionalmente alarmante a gama de problemas decorrentes de vícios, defeitos ou vulnerabilidadesconstatados, de forma que a falta de segurança parece ser a grande pedra no caminho desta tecnologia. Neste sentido, são reiterados os brados de especialistas do mundo inteiro sobre a atual fragilidade dos sistemas de segurança da informação na IoT. Ademais, além da singeleza dos sistemas de proteção, é preciso pontuar a ausência de políticas claras de informação ao consumidor sobre a coleta de dados, armazenamento e, obviamente, dos possíveis riscos em termos de violação da privacidade. E a situação é agravada pelo fato de que os objetos ofertados hoje no mercado não detêm sistema capaz de sujeitar-se à atualização online, abrindo com isto uma porta enorme de instabilidade.” (BLUM, Renato M. S. Opice. Internet das coisas: a inauguração do novo mundo e suas intercorrências jurídicas. In: MARTINS, Guilherme Magalhães; e LONGHI, João Victor Rozatti. (coord.). Direito digital: direito privado e internet. Indaiatuba: Editora Foco, 2020, p. 256).

MAGRANI, Eduardo. Entre dados e robôs. Porto Alegre: Arquipélago Editorial, 2019, p.24.

118 MAYER-SCHÖNBERGER, Viktor e CUKIER, Kenneth. Big Data. New York: First Mariner Books, 2014, p. 96.

119MAGRANI, Eduardo. Entre dados e robôs. Porto Alegre: Arquipélago Editorial, 2019, p.156.

pessoas e analisar o impacto que palavras e compartilhamentos geram umas nas outras dentro da plataforma¹²⁰. Segundo Magrani, modelos de negócios baseados em filtragem algorítmica foram desenvolvidos para atuarem diretamente nesses espaços digitais com a finalidade de realizar práticas abusivas para direcionar a venda de produtos e serviços de forma otimizada a potenciais consumidores¹²¹. Tal prática favorece a criação de um efeito chamado filterbubble:

A filterbubble (ou filtros-bolha) pode ser definida como um conjunto de dados gerado por todos os mecanismos algorítmicos, utilizados para se fazer uma edição invisível voltada à customização da navegação on-line. Em outras palavras, é uma espécie de personificação dos conteúdos da rede, feita por determinadas empresas, através de mecanismos de busca e redes sociais, entre diversas outras plataformas e provedores. Forma-se, então, a partir das características de navegação de cada pessoa, um universo particular on-line, condicionando sua navegação.¹²²

Ainda sobre o assunto, é relevante, diferenciar a filterbubble (ou bolha-filtro) de outro conceito chamado câmara de eco. Ambos os conceitos representam espécies de personificação dos conteúdos da rede, entretanto enquanto as câmaras de eco são criadas por pessoas, as bolhas-filtro são originadas por algoritmos. Sumpter explica que um bom exemplo de câmara de eco ocorre quando blogueiros que escrevem sobre um mesmo tema criam conexões dentro de seus blogs para confirmar os seus pontos de vista e dar suporte ao que eles defendem, de modo que se “você clicasse de um blog para outro, escolhendo links aleatórios de cada página que visitasse, continuaria preso dentro do mesmo conjunto de opiniões com a qual começou”¹²³. Já as bolhas-filtro limitam o conteúdo que o usuário acessa a partir de uma predição algorítmica que, muitas vezes, é imperceptível e torna pessoas involuntariamente reféns dos algoritmos, com uma premissa de que “você não decide deliberadamente o que aparece para você dentro da bolha, nem tem acesso ao que fica de fora”¹²⁴.

Ainda sobre o funcionamento da bolha-filtro, resta a dúvida para entender o que é priorizado pela Amazon ou como o próprio Facebook ou Twitter elegem algumas postagens políticas específicas para expor ao usuário enquanto outras sobre a mesma temática são deixadas de lado porque, apesar das grandes empresas de tecnologia defenderem que os

120O’NEIL, Cathy. Weapons of Math Destruction. New York: Penguin Random House, 2016, p. 180.

121MAGRANI, Eduardo. Entre dados e robôs. Porto Alegre: Arquipélago Editorial, 2019, p.157.

122MAGRANI, Eduardo. Entre dados e robôs. Porto Alegre: Arquipélago Editorial, 2019, p.158.

123SUMPTER, David. Dominados pelos números. Rio de Janeiro: Bertrand Brasil, 2019, p. 149.

124MAGRANI, Eduardo. Entre dados e robôs. Porto Alegre: Arquipélago Editorial, 2019, p.159.

algoritmos são científicos e neutros, os critérios de prioridade são muito difíceis de serem comprovados¹²⁵. Segundo Frank Pasquale, o problema reside no fato de que o funcionamento dos algoritmos que são titularizados por essas grandes empresas de tecnologia e inteligência artificial estão protegidos pela tutela do sigilo das práticas empresariais, o que torna extremamente complicado para analisar ou comprovar as alegações de neutralidade¹²⁶.

David Sumpterdetalha um pouco da metodologia da bolha-filtro justamente a partir do exemplo do Facebook, Twitter e Google:

[...] o modelo “filtro” é uma simplificação de como o algoritmo do Facebook funciona de fato. Ele captura o recurso mais central por meio do qual o Facebook filtra nosso feed, o Twitter filtra nossa linha do tempo e o Google filtra nossas buscas: quanto mais clicamos em alguma coisa, ou alguém, mais proeminentemente eles nos são mostrados, e mais provavelmente iremos continuar a clicar neles.¹²⁷

Um dos grandes diferenciais da bolha-filtro é não permitir que o usuário perceba que ele se encontra dentro da bolha, assim, CathyO’Neil expõe que uma empresa como o Facebook termina se aproximando de uma espécie de “Mágico de Oz” porque os seus usuários não veem os seres humanos se envolvendo na rede social, pelo contrário, os updates no feed de notícias aparecem quase que naturalmente e, por isso, dão uma aparência de neutralidade¹²⁸. A filterbubble, então, nada mais é do que a prova de que quanto mais confiança as pessoas depositam nas redes sociais para encontrarem o que desejam e precisam, mais influência estas redes vão desempenhar em suas vidas através de seus algoritmos e da criação desse ambiente extremamente controlado das bolhas-filtro¹²⁹. Inicialmente, o usuário é como uma “página em branco”, mas, a partir do momento em que começa a interagir na plataforma com outras postagens ou cria as próprias mensagens na rede social, o algoritmo começa a criar a bolha¹³⁰.

As redes sociais possuem essa intensa capacidade de colher os mais diversos dados pessoais dos seus usuários porque, uma vez logado, o usuário passa a fornecer um perfil tão rico de si que viabiliza a utilização de um marketing individualizado e condizente

125 PASQUALE, Frank. The Black Box Society. Cambridge: Massachusetts, 2015, p. 14.

126 PASQUALE, Frank. The Black Box Society. Cambridge: Massachusetts, 2015, p. 14-15.

127SUMPTER, David. Dominados pelos números. Rio de Janeiro: Bertrand Brasil, 2019, p. 152.

128O’NEIL, Cathy. Weapons of Math Destruction. New York: Penguin Random House, 2016, p. 180.

129 PASQUALE, Frank. The Black Box Society. Cambridge: Massachusetts, 2015, p. 14.

130 SUMPTER, David. Dominados pelos números. Rio de Janeiro: Bertrand Brasil, 2019, p. 153.

com o seu perfil¹³¹. Isso se torna possível graças à democratização de acessibilidade à tecnologia e à internet, mas também, por exemplo, os dados de pagamento móveis geram complexos mapas de atividades de consumo nunca antes vistos e que impulsionarão diversas empresas voltadas para a inteligência artificial no varejo, mercado imobiliário e outros setores¹³².

A princípio, a filterbubblepoderia até ser encarada como algo positivo, pois o sistema de inteligência artificial é provocado para colher e analisar os dados de seus usuários com o objetivo de montar uma rede de informações personalizada para cada pessoa.

Entretanto, Magrani explica que o excesso de filtragem realizado pelos algoritmos gera uma espécie de colonização da esfera pública porque os usuários não vão mais decidir deliberadamente as informações que surgem dentro dessa esfera pública virtual e, sem ter consciência e sua anuência, são afastados pelos algoritmos de pontos de vistas divergentes¹³³.

O ambiente da filterbubble é extremamente propício para a ocorrência de modulação, que corresponde a um conjunto de procedimentos realizados na esfera pública virtual para modular opiniões, gostos e incentivar tendências¹³⁴, o que nos remete para própria ideia de sociedade de controle, a ser explorada no tópico a seguir.Isto porque os dados colhidos pelo Facebookseguemalimentando o Big Data diariamente para revelar as preferências de cada um de seus clientes, seu QI e sua personalidade¹³⁵, facilitando para que a própria rede social possa determinar, de acordo com seus próprios interesses, o que seus usuários podem ver ou aprender na rede¹³⁶. Ainda neste sentido, Bruno Ricardo Bioni destaca que foi desenvolvido um modelo de negócio chamado zero-priceadvertisement business model visando o controle do comportamento do seu público alvo por meio de estratégias de marketing extremamente agressivas e individualizadas:

O zero-priceadvertisement business model consiste, portanto, em um (novo) modelo de negócio, que esconde uma série de sujeitos para a sua operacionalização. É uma intricada e complexa rede de atores que atua colaborativamente para a entrega de publicidade direcionada (comportamental). Dentre alguns desses atores, inserem-se os chamados data brokers, que agregam a maior quantidade possível de dados para ajustes ainda mais finos nas campanhas publicitárias. Como resultado, há um fluxo

131BIONI, Bruno Ricardo. Proteção de Dados Pessoais. Rio de Janeiro: Forense, 2020, p. 18.

132LEE, Kai-Fu. Inteligência Artificial. Rio de Janeiro: Globo Livros, 2019, p. 97.

133MAGRANI, Eduardo. Entre dados e robôs. Porto Alegre: Arquipélago Editorial, 2019, p.159.

134SOUZA, Joyce, AVELINO, Rodolfo e SILVEIRA, Sérgio Amadeu (org.). A Sociedade de controle:

manipulação e modulação nas redes digitais. São Paulo: Hedra, 2018, p. 10.

135SUMPTER, David. Dominados pelos números. Rio de Janeiro: Bertrand Brasil, p. 45-46.

136 O’NEIL, Cathy. Weapons of Math Destruction. New York: Penguin Random House, 2016, p. 180.

informacional abundante e difícil de mapear todos os atores nele envolvidos, o que é desafiador para qualquer perspectiva regulatória.¹³⁷

Tal modelo de negócio se lastreia numa estratégia publicitária chamada microtargeting ou profiling que consiste nesse direcionamento dos usuários à venda de produtos ou serviços¹³⁸. Ocorre que o microtargeting, embora inicialmente sirva para direcionar os usuários para produtos ou serviços fornecidos ao mercado, não deixa de ser uma técnica de manipulação do comportamento humano e, como toda técnica, ela pode ter um bom uso ou um mal uso. De acordo com CathyO’Neil, foi graças a estratégias bem-sucedidas de microtargeting que, nos Estados Unidos em 2015, 43% dos eleitores republicanos acreditavam que Obama era mulçumano e 20% dos americanos acreditavam que Obama não tinha nascido nos Estados Unidos e, portanto, como estrangeiro, não poderia ser presidente¹³⁹.

Para concluir este ponto, são de extrema relevância as conclusões de Eduardo Magrani acerca do impacto da transformação da esfera pública em um ambiente limitado e controlado: i) as redes sociais podem estar contribuindo para uma sociedade menos informada porque o debate público é manipulado¹⁴⁰; ii) está ocorrendo uma colonização do mundo da vida por causa de agentes não humanos, a exemplo de artefatos técnicos (como os bots) e algoritmos de inteligência artificial, que produzem efeitos nocivos em decorrência do filterbubble¹⁴¹.