O suicídio e a falta de controle nas redes sociais

O Facebook vai contratar 3.000 funcionários para responder a denúncias de material inapropriado e acelerar a remoção de vídeos de assassinatos e suicídios (n. 45). Essa é uma reação diante da incapacidade dos filtros feitos apenas pelos softwares, que não bastam para a rede social monitorar seus posts (n. 45). Por exemplo, a transmissão ao vivo de tentativa de suicídio e autoflageração é (sic) permitida (n. 56). A rede diz não querer ‘censurar ou punir pessoas que estão sofrendo’ (n. 56). A justificativa é que, sendo que assim, elas (as pessoas) podem ser ajudadas por quem as estejam assistindo (n. 56), e seus os vídeos, no entanto, devem ser depois removidos, já que não haverá mais oportunidade de prestar auxílio (n. 56).

Os moderadores demonstram preocupação com a inconsistência de certos pontos da política de mediação adotada pela rede social em questão (n. 56). Monika Bickert, chefe de gerenciamento de políticas globais do Facebook, disse que é difícil chegar a um consenso sobre o que permitir ou não na rede (n. 56) e, cita, demonstrando a problemática da questão, que se alguém escreve uma piada sobre suicídio. É um mero comentário ou um grito de ajuda? (n. 112). Assim, o Facebook criou as suas próprias regras, considerando raça e etnia, religião, gênero e orientação sexual como ‘categorias protegidas’ (n. 112).

Os dados mais recentes do Facebook apontam que a rede exclui 300 mil publicações por mês (n. 112). A meta para cada revisor era avaliar, por dia, 3.500 fotos, vídeos e textos denunciados. Mais de sete por minuto, ou um a cada 8,5 segundos (n. 112), entre os conteúdos estão suicídios, assassinatos, assédios,

ameaças, armas, drogas e violência animal publicadas em 15 idiomas (n. 112). Essa declaração mostra que na rede ‘tudo é permitido’ e circula livremente, até ser identificado e vetado.

Os casos de suicídios são encaminhados a autoridades (n. 112), justifica a rede social. Com o volume de trabalho, é impossível não ter erro humano nesse ritmo (n. 112). A rede reconhece as dificuldades e atribui a falha a erro humano e disse que seus moderadores deveriam ter percebido que o conteúdo precisava ser retirado (n. 26). As reclamações mais urgentes, como as que envolvem risco de suicídio ou abusos sexuais contra crianças, vão para o topo da lista para avaliação pelos moderadores (n. 26).

Para dar conta, o Facebook anunciou contratação de 10 mil funcionários diretos e indiretos para controlar os conteúdos inapropriados (n. 112). A rede havia recebido críticas por não tomar providências para proibir a publicação de imagens abusivas, propaganda extremista e notícias falsas (n. 56) e reação de que a empresa faria tudo o que poderia para evitar novos casos (n. 56), após a transmissão de um homicídio ao vivo.

É nesse oceano infinito das redes sociais que há espaço para a incitação ao suicídio, como ficou em evidência o caso envolvendo o jogo da Baleia Azul. Rio de Janeiro e Paraná apuram se adolescentes que tentaram suicídio foram motivados pelo jogo Baleia Azul, que circula nas redes sociais – trata-se de uma série de desafios que culminam na tentativa de suicídio (n. 34). Outros três casos estão em investigação no país, em Mato Grosso, Minas e Paraíba (n. 34). A unidade vem fazendo um trabalho solitário de identificação por redes sociais, pois ainda não recebeu denúncias (n. 34). Com o avanço dos casos, o ministro da Justiça, Osmar Serraglio, determinou... que a Polícia Federal investigue o jogo Baleia Azul, que circula em redes sociais (n. 41). O presidente da ONG Safernet, Thiago Tavares, disse que o jogo Baleia Azul surgiu como uma ‘fake news’ (n. 47). Essa notícia falsa que surgiu na Rússia e chegou ao Brasil de forma sensacionalista e alarmista acabou servindo de gatilho para um efeito de imitação (n. 47), que se refletiu em grupos de WhatsApp criados pelos próprios jovens em situação de vulnerabilidade (n. 47).

Assim, as redes sociais permitem o desenvolvimento de jogos perigosos. A Baleia azul é algo perverso, sádico, torturante, pois trabalha com a habituação da dor.

O adolescente vai se dessensibilizando, tomando atitudes mais graves e amedrontadoras até estar totalmente sem medo e excitado para o desafio de pôr em risco a própria vida. O jogo é criminoso, é caso de polícia (n. 38). As redes sociais viabilizam ainda o bullying. Por exemplo, no relato em que, além da exclusão em sala, a menina foi atacada por mensagens na internet, que incluíam incitação ao suicídio (n. 105), ao exemplificar um caso de cyberbullying.

Ao mesmo tempo, as mesmas redes sociais que circulam conteúdo inapropriado, permitem espaços para impulsionar serviços de apoio. Um deles é o serviço do CVV, que realizou mais de 1 milhão de atendimentos ao ano, por telefone, chat, e-mail, Skype e também pelo Facebook (n. 13).

4.3.5.1 Análise prévia

Diante do exposto, há questões centrais no debate sobre o suicídio e as redes sociais. Um desses pontos é a existência da circulação de conteúdo inapropriado, segundo as orientações da OMS, como exposição de métodos ou mesmo de transmissões ao vivo de tentativas e/ou suicídios. A preocupação é grande porque a própria empresa reconhece a impossibilidade de filtro total. Logo, até que seja apagado, o conteúdo inapropriado pode ganhar grande amplitude e impactar aqueles que estão mais vulneráveis. Assim, compreendemos que, nas redes sociais, não há controle, ou ele é muito limitado, representando situações de risco.

Outro aspecto preocupante, em relação às redes sociais, é que ela pode servir para fins criminais, como pessoas querendo incentivar jovens a cometerem atos suicidas, como ficou em evidencia no episódio da Baleia Azul. Foi pelas redes sociais que o desafio se disseminou, que ultrapassou rapidamente a questão territorial. Trouxe ainda um desafio: a dificuldade de encontrar os responsáveis, exatamente pela disseminação massiva de informações. Mas a incitação não está exclusivamente exposta em jogos, mas por ataques através das redes, em que a violência sai da vida real e vai para a virtual, como cyberbullying.

Assim, existe a necessidade de ampliar a responsabilidade pelo conteúdo que circula nas redes sociais e o debate mostra-se urgente. Como aponta Ricardo Pedreira, diretor-executivo da ANJ (Associação Nacional de Jornais), a sociedade vive

um momento, no Brasil e no mundo, em que as fragilidades das redes sociais estão sendo expostas (n. 26). Mas elas (internet e plataformas digitais) também criaram um território livre de inverdades, informações falsas e, como mostra a reportagem do Times, conteúdos perniciosos que preocupam a sociedade (n. 26).

Ao mesmo tempo, é nas redes sociais que os casos acabaram ganhando ampla divulgação e alcance, mesmo que o grupo envolvido não queira abordar determinado assunto. Por exemplo, como ocorreu nas tentativas de suicídio de estudantes da Medicina da USP (Universidade de São Paulo), em que o clima de tensão aparece nas páginas do Facebook dos estudantes – que citam “surto de suicídio” (n. 23). Partindo do pressuposto da existência do tabu na sociedade e o receio da estigmatização, é possível prever que se esses casos não tivessem circulado nas redes sociais provavelmente não teriam sido noticiados. O fato de o conteúdo sobre suicídio circular de maneira rápida na rede é uma mostra de que as pessoas querem falar sobre eles ou, pelo menos, que têm receio de que se prolifere, como no caso de utilizarem o termo ‘surto’ de suicídio citado anteriormente.