OS FRUTOS: FAKE NEWS, BOATOS, FIREHOSING, TEORIAS DA CONSPIRAÇÃO,

DEEPFAKE

Desinformação, com todos seus mecanismos, somada às características do nosso tempo (sociedade da informação/desinformação), ao costume enraizado da propaganda política e aos interesses hegemônicos, encontrando no meio digital espaço aberto para interferências mascaradas e, até certo ponto, sem muito rastreamento, geraram uma prole profícua – fake news, firehosing, boatos, e a caçula até este momento, deepfake. Alguns destes fenômenos são antigos e foram apenas potencializados pelas TIC e redes sociais digitais – boatos, fake news, teorias da conspiração. Outros dependem das novas tecnologias para existir – firehosing e deepfake.

Assim, emprestamos a defesa da importância do estudo do fenômeno da pós-verdade pela Ciência da Informação, feita por Araújo, para destacar, também, a importância dos estudos de desinformação e das consequências e causas informacionais da Sociedade da Desinformação. Consequente à falta de aderência com a verdade ou à “crise” da verdade, é preciso estudar estes fenômenos “como uma nova dinâmica a partir da qual a informação é produzida, circula e é consumida, numa dinâmica na qual atuam os sistemas de informação, as tecnologias digitais, os sujeitos e, permeando tudo isso, a cultura do desdém e do desprezo pela verdade” (ARAÚJO, 2019, p. 14).

mais concentra o significado foi baseada em Allcott e Gentzkow (2017, p. 213). Fake News são artigos ou informações com características de notícias intencionalmente e verificadamente falsos, que podem enganar os leitores. São notícias fabricadas, com características jornalísticas, mas antecipadamente pensadas para a manipulação e descoladas da verdade. Elas possuem características bem específicas de produção, formatação e intenção.

É importante a distinção entre fake news e:

 Erros de comunicação não intencionais: erros humanos não intencionais podem fazem parte de qualquer informação e comunicação humana, não configurando fake news, justamente pela não intencionalidade.

 Boatos e rumores: que não possuem origem em uma determinada notícia ou informação, nem uma intenção específica de influência política, econômica, social etc. são fenômenos antigos, que podem ser criados de má-fé ou não, mas não possuem origem ou formato noticioso e por isso não se configuram como fake news. Contudo são um problema real que acompanha as fake news, gerando consequências por vezes graves e por isso não podem ser negligenciados.

 Teorias da conspiração: são teorias que não são facilmente verificáveis ou desmentidas. Normalmente se originam em pessoas que acreditam em sua veracidade e são baseadas em pontas soltas de fatos reais ou de crenças enraizadas contextualizadas ou descontextualizadas. Como exemplo temos diversas teorias da conspiração que envolvem o incidente das Torres Gêmeas, muitas aceitas até mesmo por especialistas e costuradas em documentários. Rotular alguma teoria de conspiratória também pode ser uma maneira de desqualificá-la, sem maiores elucidações, ainda que se trate de uma boa explicação, bem embasada em fatos, ainda que nem sempre óbvios. Conspirações existem. A questão está em distinguir o que é realista do que é fantasioso, na totalidade do argumento ou em algumas de suas partes.  Sátiras: também não devem ser interpretadas como fake news, nem fatos. A ideia em

torno desse tipo de humor é o cinismo, a exacerbação do absurdo. É o caso do jornal Sensacionalista, que, no início, chegou a ser confundido com um jornal factual, mas contém em seu próprio enunciado “Sensacionalista: um jornal isento de verdade”.  Declarações e promessas falsas de políticos: não podem ser tachadas de fake news,

infelizmente, por fazerem parte do jogo, contanto que não estejam propagando ou corroborando as fake news circulantes. Contudo, como já comentado, as fake news têm sido utilizadas comprovadamente com fins políticos, como no caso Brexit, eleição do

Trump, eleições brasileiras de 2018, entre outras.

 Relatórios que são inclinados ou enganosos: podem ser tachados de desinformação, porém não são fake news.

No Brasil, o assunto fake news fomentou a proposição de diversos Projetos de Lei apresentados ao Congresso Nacional descritos no PARECER Nº 0/2018 – CCS, do Congresso Nacional/Conselho de Comunicação Social – CCS (BRASIL, 2018). Muitas destas propostas têm como objetivo a tipificação criminal dos atos de criação, divulgação, compartilhamento, publicação ou transmissão de informações falsas pela rede. Em contraponto, a Frente Parlamentar pela Liberdade de Expressão e o Direito à Comunicação com Participação Popular (FrenteCom) enviou ao Conselho de Comunicação Social do Congresso Nacional documento ponderando que “a nossa democracia precisa, sim, se debruçar sobre este fenômeno sem, entretanto, incorrer em medidas que cerceiem a liberdade de expressão e a privacidade dos usuários da Internet no Brasil” (BRASIL, 2018).

Além dos problemas de liberdade de expressão e privacidade, criminalizar o compartilhamento de fake news pune o manipulado e não o manipulador. Como discernir entre quem apenas compartilhou e alguém que compartilhou com má intenção ou contratado para isso? Apenas com muita investigação. Fazendas de cliques, trolls, operadores de contas falsas, gabinetes de ódio e desinformação industrializada, são a parte operacional organizada das distopias informacionais. Mas ainda sabendo de todo este esquema e encontrando seus redutos, quem os contrata e/ou financia? A criminalização deste fenômeno requer ações muito mais acuradas do que tem sido propostas.

As consequências políticas das fake news acenderam um alerta no mundo. O assunto começou a ser amplamente estudado e comentado, inclusive dentro e através grupos midiáticos. Além de discutir o tema, pesquisadores buscam soluções técnicas para o combate às fake news. É o caso do estudo de Sneha Singhania, Nigel Fernandez e Shrisha Rao (2017), que propõe um detector automatizado de fake news, rápido e preciso, que emprega deep

learning através de uma rede de atenção hierárquica em três níveis (three level hierarchical attention network) – 3HAN. Através de experimentos em um grande conjunto de dados do

mundo real, os autores observaram a eficácia do 3HAN com uma precisão de 96,77%.

Os pesquisadores Natali Ruchansky, Sungyong Seo, Yan Liu (2017), também propõem um modelo híbrido, que combina o que eles especificaram como as três características de detecção das fake news – o texto, a resposta do usuário que a recebem e os usuários origem que a promovem. Os pesquisadores incorporaram o comportamento do texto e dos usuários. O modelo proposto CSI é composto de três módulos: Capture (baseado na

resposta do texto utilizando uma Rede Neural Recorente para capturar o padrão temporal da atividade do usuário em um determinado artigo), Score (aprende a característica de origem com base no comportamento dos usuários), and Integrate (o módulo que integra os dois primeiros para classificar se a notícia é fake ou não). Os autores afirmam que a análise experimental em dados do mundo real demonstra que o CSI atinge maior precisão do que os modelos existentes e extrai representações latentes significativas de usuários e artigos.

Shu, K, Wang S, Liu H (2017), buscando o mesmo tipo de solução, exploram uma relação também tríplice para detecção de fake news. Para eles a maioria dos algoritmos de detecção existentes se concentram em encontrar pistas do conteúdo das notícias, o que não é eficaz, uma vez que estes conteúdos são feitos para enganar os usuários. Eles então propõem um olhar para o contexto social do processo de disseminação das notícias baseado na tríplice relação entre editores, notícias e usuários. Por exemplo, os editores tendenciosos partidários são mais propensos a publicar notícias falsas, e usuários com baixa credibilidade têm maior probabilidade de compartilhar notícias falsas. Assim os pesquisadores propõe um framework de incorporação tri-relacionamento TriFN, que modela relações editor-notícias e interações usuário-notícias simultaneamente para a classificação de notícias falsas. Realizando experimentos em dois conjuntos de dados do mundo real, demonstram que a abordagem proposta supera significativamente outros métodos de referência para detecção de notícias falsas.

As fake news alimentaram na mídia a bandeira de uma cruzada pela verdade, empunhada ostensivamente pelas grandes corporações midiáticas, que se unem em grupos de

fact checking. Pilar Carrera (2018) põe em cheque essa busca pela verdade promovida por

grandes corporações, como parte de uma simulação para recobrar a credibilidade. Este simulacro transcende o campo da comunicação e “permite, entre outras coisas, segregar dois grandes campos discursivos através de um procedimento em que da mesma lógica de poder – e também diríamos dos mesmos atores – emerge, ao mesmo tempo, a doença e sua cura: a pós-verdade e seu suposto antídoto” (CARRERA, 2018, p. 1470).

Ao considerar as fake news e até mesmo a desinformação como algo falso/mentira que a grande mídia rejeita, é declarada a inocência de todo o sistema de comunicação que não é “marginal”. As consequências são óbvias e Carrera (2018, p. 1471) elenca três delas:

1. Desvio de atenção: a atenção é desviada da lógica do próprio sistema de comunicação e dos vínculos estruturais da verdade, para focar nos “redutos” de produtores de mentiras. Enquanto isso reforçam a ideia de que os meios de comunicação formais são espaços de transparência discursiva e de reflexo da realidade. Suprimindo de suas

práticas a desconfiança e seguindo assim com a porta aberta para a desinformação. Uma atitude profundamente demagógica que recupera velhos dogmas

em torno do tema da representação como uma duplicata do mundo, sem questionar o que está supostamente ‘Duplicado’ é o resultado de uma conjuntura e poder históricos específicos, não um fato ‘objetivo’ ou natural localizado além do histórico” (CARRERA, 2018, 1471).

2. A internet é a culpada: Quando o discurso é sobre a pós-verdade, vinculando este às formas de mediação, o foco pousa sobre a Internet e as redes sociais, sugerindo que estes são os espaços preferidos para a mentira e deturpação, novamente isentando os meios de comunicação tradicionais, como se fossem espaços de mediação livres de interesses e manipulação.

3. O emissor sincero: vende a ideia de que o importante é focar em um emissor de confiança e fidedigno (a própria mídia) e não na capacidade crítica do receptor para decodificar discursos inevitavelmente atravessados por interesses políticos, econômicos e demais vieses.

De fato, não se pode alimentar estas consequências e ideias, eximindo a mídia de suas ações desinformativas, apoiando a caça às fake news. Quem produz desinformação não devia ter autoridade para decidir o que é falso ou verdadeiro. É extremamente suspeito que sites de

fact checking sejam associações entre empresas como: Globo, CBN, UOL, Band, Folha de

São Paulo, SBT, Facebook, Google, e outras grandes corporações. O combate às fake news pode ser alimentado por interesses de manutenção da hegemonia e monopólio dos meios de comunicação. Por outro lado é preciso estimular e apoiar o bom jornalismo comprometido com a maior imparcialidade possível e o sério apuramento dos fatos. Existem iniciativas de

fact checking de perspectiva crítica e ativista, como o da Agência Pública – O Truco e da

Escola de Jornalismo da Énois (SP) e do Laboratório Data_labe (RJ) na favela da Maré – ChecaZap, entre outras.

A solução mais ética seria desenvolver mecanismos regulatórios, como Ramonet (2003) sugere, para uma ecologia da informação, argumentando que, assim como o meio ambiente, a informação também está contaminada e é preciso descontaminá-la das mentiras e da ideologia atreladas a ela. As informações e as ideias não podem ser naturalizadas. “Todas as ideias podem ser defendidas, anunciadas, porém como ideias e não como uma coisa natural”; “é preciso igualmente descontaminar de publicidade, do ponto de vista ideológico, o meio que nos cerca” (RAMONET, 2003, p. 252). Desta maneira não seria alimentada uma caça às fake news interessada e direcionada e sim um fazer informativo responsável e

sustentável, que combata as distopias informativas e não use rótulos para disfarças umas em detrimento de outras.

Falsehood ou Firehose é a tática que faz analogia com firehose, que significa

“mangueira de incêndio”. A ideia é a inundação proposital, tal qual a tática de desinformação, mas a inundação é feita exclusivamente através de fake news, aí está a diferença entre as duas táticas.

Temos ainda o aparecimento das deepfakes (Figura 4), que se aproveitando do caminho aberto pelas fake news, desafiam ainda mais nosso sentido de verdade e de realidade. Com ajuda de programas avançados de animação e inteligência artificial, são executados vídeos e áudios manipulados, capazes de ludibriar quem assiste. Podem ser tão aproximados do real que o indivíduo tem dificuldade de distinguir como algo produzido artificialmente.

O termo apareceu em 2017, quando um usuário do Reddit13 de nome deep face começou a postar vídeos falsos de sexo com famosas. Utilizando softwares de deep

learning14, rostos de atrizes famosas eram aplicados em clipes já existentes. O grande problema é a facilidade com que isso pode ser feito e a qualidade cada vez melhor. Em uma busca rápida no Gloogle, vários tutoriais são oferecidos15. O processo pode ser feito baseado em bibliotecas de código aberto, voltados para deep learning, alguns utilizam linguagem Python.

O programador oferece fotos e vídeos da pessoa que quer usar na edição e esses dados são processados automaticamente por uma rede neural. Assim o computador aprende como é determinado rosto, como se move, como reage à luz ou à sombra. Quando o computador encontra pontos em comum entre um rosto e outro, faz a sobreposição, criando a ilusão. Vários programas se agregam na construção dos vídeos, como programas que modulam a voz a partir de amostras, que articulam a fala com sincronização do movimento labial.

13 Reddit é uma rede social semelhante a um fórum com divisões por categorias ou área de interesse. Os usuários fazem suas postagens e, de acordo com a quantidade de votos de aprovação que recebem, mantém suas postagens no topo. As postagens são abertas a discussão e as respostas também podem receber aprovação ou desaprovação além de comentários.

14 O Machine Learning (ML) é o aprendizado de máquina ou aprendizado automático. Suas técnicas se baseiam na criação de algoritmos capazes de aprender, prever ou generalizar uma representação compacta de dados desconhecidos a partir de um conjunto de dados conhecidos. A “rede neural profunda”, por sua vez, acelera as máquinas de aprendizado englobando análise de vídeo, reconhecimento de objetos, assistência na entrega de dados, inteligência artificial e as realidades aumentada e virtual. A interação é essencial neste processo de aprendizagem da máquina Na mesma linha está o Deep Learning ou aprendizagem profunda, que é uma subcategoria de Machine Learning, com uso de redes neurais, para aprimorar processos como reconhecimento de fala, visão e processamento de linguagem natural.

15 Exemplos de tutoriais disponíveis em: https://www.alanzucconi.com/2018/03/14/a-practical-tutorial-for-fakeapp/; https://www.alanzucconi.com/2018/03/14/introduction-to-deepfakes/ e https://www.limontec.com/ 2018/02/deepfakes-criando-videos-porn-falsos.html. Acesso em jun. 2019.

Recentemente, versões mais simples, viralizaram nas redes sociais. E exemplos mais elaborados com os presidentes Obama e Trump foram usados para mostrar a eficiência da técnica16 e causam preocupação. Os resultados do vídeo do presidente Obama (Figura 4) é impressionante e assustador, demonstrando quantas manipulações são possíveis.

Figura 4 – Deepfake. Manipulação digital animada do Presidente Obama

Fonte: YouTube – Supasorn Suwajanakorn Publicado em 11 de jul de 2017

Até que ponto será possível manipular as informações em textos, imagens e vídeos? Como será possível a distinção entre verdades e não verdades ante a enxurrada de informações que recebemos, a velocidade da vida que nos atravessa e as técnicas de manipulação cada vez mais precisas?

16 Exemplos de vídeos manipulados com essas técnicas : https://www.youtube.com/watch?v=9Yq67CjDqvw e

https://www.techtudo.com.br/noticias/2018/07/o-que-e-deepfake-inteligencia-artificial-e-usada-pra-fazer-videos-falsos.ghtml. Acesso em jun. 2019.

4 COMPETÊNCIA EM INFORMAÇÃO: RAÍZES, EPISTEMOLOGIA E