Controle de conteúdo na internet e identidade pessoal: consequências para a moderação de conteúdo pelas plataformas digitais para o self

PROGRAMA DE PÓS-GRADUAÇÃO EM DIREITO

CECÍLIA LOPES GUIMARÃES PEREIRA

CONTROLE DE CONTEÚDO NA INTERNET E IDENTIDADE PESSOAL:

CONSEQUÊNCIAS DA MODERAÇÃO DE CONTEÚDO PELAS PLATAFORMAS DIGITAIS PARA O SELF

BELO HORIZONTE 2022

CONTROLE DE CONTEÚDO NA INTERNET E IDENTIDADE PESSOAL:

CONSEQUÊNCIAS DA MODERAÇÃO DE CONTEÚDO PELAS PLATAFORMAS DIGITAIS PARA O SELF

Dissertação apresentada ao Programa de Pós-Graduação em Direito da Universidade Federal de Minas Gerais – UFMG, enquanto requisito para obtenção do título de Mestra em Direito.

Orientador: Prof. Dr. Brunello Stancioli Coorientador: Prof. Dr. Fabrício Bertini Pasquot Polido

BELO HORIZONTE 2022

P436c Pereira, Cecília Lopes Guimarães

Controle de conteúdo na internet e identidade pessoal [manuscrito]: consequências da moderação de conteúdo pelas plataformas digitais para o self / Cecília Lopes Guimarães Pereira.-- 2022.

96 f.: il.

Dissertação (mestrado) - Universidade Federal de Minas Gerais, Faculdade de Direito.

Bibliografia: f. 88-96.

1. Direito civil - Teses. 2. Direito a privacidade - Teses.

3. Redes sociais on-line - Teses. 4. Algoritmos. 5. Internet - - Teses. I. Stancioli, Brunello Souza. II. Polido, Fabrício Bertini Pasquot. III. Universidade Federal de Minas Gerais - Faculdade de Direito. IV. Título.

CDU: 347.121.1

Realizou-se, no dia 25 de agosto de 2022, às 13:30 horas, Online, da Universidade Federal de Minas Gerais, a defesa de dissertação, intitulada

, apresentada por CECILIA LOPES GUIMARÃES PEREIRA, número de registro 2020701671, graduada no curso de DIREITO, como requisito parcial para a obtenção do grau de Mestre em DIREITO, à seguinte Comissão Examinadora: Prof(a). Brunello Souza Stancioli - Orientador (Faculdade de Direito - UFMG), Prof(a). Fabricio Bertini Pasquot Polido (Universidade Federal de Minas Gerais), Prof(a). Marco Antonio Sousa Alves (Universidade Federal de Minas Gerais), Prof(a). Lucas Costa dos Anjos (UFJF/GV).

ATA DA DEFESA DA DISSERTAÇÃO DA ALUNA CECILIA LOPES GUIMARÃES PEREIRA

PROGRAMA DE PÓS-GRADUAÇÃO EM DIREITO

A Comissão considerou a dissertação:

( X ) Aprovada, tendo obtido a nota __100___.

( ) Reprovada

Finalizados os trabalhos, lavrei a presente ata que, lida e aprovada, vai assinada por mim e pelos membros da Comissão.

Belo Horizonte, 25 de agosto de 2022.

Prof(a). Brunello Souza Stancioli ( Doutor ) nota __100___.

Prof(a). Fabricio Bertini Pasquot Polido ( Doutor ) nota __100___.

Prof(a). Marco Antonio Sousa Alves ( Doutor ) nota __100__.

Prof(a). Lucas Costa dos Anjos ( Doutor ) nota ___100__.

“So we beat on, like boats against the current, borne ceaselessly into the past”

The Great Gatsby

questionamentos, dúvidas, incertezas e descobertas (como toda bom percurso acadêmico deve ser). E, por muito tempo, tive dificuldade de expressar o que me movia a continuar a buscar esse título, além de todo o respeito ao meio e aos profissionais e colegas nele envolvidos, e foi apenas em uma das minhas conversas com uma das pessoas que muito admiro e que já esteve no lugar que agora estou, que entendi que, acima de tudo, a dedicação ao mestrado é, além de um compromisso com a vida acadêmica e com a comunidade que nela se forma, a realização de um sonho pessoal, que é percebido de diferentes formas por cada pessoa que tem o privilégio dessa oportunidade. É a conjunção de um sonho que representa, nessa dissertação, a esperança de uma educação mais inclusiva, que alcance mais pessoas e que possam ter a oportunidade que eu tenho hoje, um sonho de devolver, mas também de adquirir conhecimento. O desejo de uma educação mais humanizada e que seja reconhecida e alcance diferentes setores da sociedade. E hoje, posso dividir esse sonho com as pessoas que amo e com toda a comunidade através das ideias que tento trazer aqui. Para isso, tenho muitas pessoas a agradecer por todo esse caminho.

Aos meus orientadores Brunello e Fabrício, pelos ensinamentos, paciência e oportunidades em todo esse percurso, obrigada por terem me acompanhado e me dado os elementos e espaço necessários para crescimento. Meus pais, Arlindo e Adalgisa, por acreditarem tanto no meu potencial e me fazerem acreditar que eu consigo alcançar o que quiser neste mundo (mesmo quando eu sei que não consigo), obrigada por terem me dado todas as oportunidades possíveis, me criando com muita liberdade e um amor incondicional. Minha família, em nome das minhas avós Wânia, que foi sempre uma inspiração acadêmica para mim, e Maria, por colocar minhas realizações sempre como grandes marcos, e de meus avôs Mauro, exemplo de resiliência em suas ideias, e Marcos, presente mesmo após partir. Meu irmão Igor, obrigada por manter sempre os momentos leves. À minha psiquiatra (e colega mestranda da pós-UFMG), Amanda Lima, e minha psicóloga Diana Aguiar, por terem me fornecido o amparo necessário durante os momentos que precisei.

Aos meus colegas pandêmicos, Júlia, Fernanda, Marcinha (minha eterna guia na pós) e Diogo, por terem passado pelo mestrado durante esse período fora do usual comigo e criado laços especiais, que ainda possamos olhar esses anos com olhos menos melancólicos e, nas palavras de Gabo, acreditar que “a memória do coração elimina as más lembranças e enaltece as boas”. Agradeço especialmente aos meus amigos – que tiveram extrema paciência durante esse período –, que me apoiaram e sempre torcem por mim, aqui representados pelo Bruno, Larissa Lopes, Luiza, Larissa Seixas, Boris, Isabella Bettoni e Rosimeire.

Um agradecimento especial ao escritório Aroeira Salles, por toda a compreensão e suporte durante esse período, a advocacia não se sustenta sem a academia, nem o meio acadêmico sem uma prática que seja exercida com respeito e em busca de um direito mais humanizado, um lugar que não veja essa realidade está fadado. Tive a sorte e o privilégio de me ver cercada de profissionais abertos ao diálogo e que conseguiram me apoiar e me incentivar a continuar, na certeza de que o conhecimento e o ensino são o caminho para o futuro que queremos.

Principalmente, agradeço aos meus mentores, que me inspiram diariamente a ser uma profissional e acadêmica melhor, Daniela, Luís Baeta, Pedro Rezende, Mariana Ferolla, Mariana Miraglia e Nayron Russo.

é essencial. Apreciar as primaveras e as colheitas como vem não é tarefa fácil, obrigada por dançar essa dança comigo.

controle de conteúdo realizado pelas plataformas, em especial pelas redes sociais, considerando o importante papel de tais espaços para a sociedade atual como local de construção cultural, política e de fortalecimento das relações comunitárias para a construção da identidade pessoal dos sujeitos. A dissertação tomará como base a discussão da identidade pessoal, da autora Marya Schechtman, a partir da qual o sujeito é entendido como uma entidade inerentemente diacrônica, que decorre de uma narrativa autobiográfica. A partir dessa perspectiva, será discutida a influência das plataformas considerando a identidade informacional no cenário da nova realidade das tecnologias, pontuando a importância da interferência para a constituição do self. Diante desses conceitos, serão abordados os contornos do controle de conteúdo realizado pelas plataformas, os modelos por elas aplicados e, principalmente, quais as possíveis implicações às narrativas e à autoidentificação dos usuários em razão desta realidade – tomando para isso casos atuais e concretos de moderação de conteúdo. Como resultado dessas análises, serão trazidas possíveis propostas que buscam aperfeiçoar o atual modelo de governança de conteúdo.

Palavras-chave: Plataformas. Controle de Conteúdo. Identidade pessoal narrativa.

Moderação. Internet.

moderation by platforms, in particular by social medias, known for its role as a place for cultural formation, political discussion and strengthening of communities relations in today’s society, for the construction of people’s personal identity. The research was based on Marya Schechtman’s theory about the Narrative Self-Constitution View, which understands the subject as an inherently diachronic entity arising from an autobiographical narrative. Considering the theory of the Narrative Self- Constitution View, Luciano Floridi and Massimo Durante discuss the concept of an informational identity, which considers the new technologies. Furthermore, the thesis aims to discuss the relevance of platforms to informational identity in today’s technological society and its power in the constitution of the self. Therefore, it will address the contours of content moderation by platforms, its patterns and the potential consequences to the user’s narratives and power to self-identification because of this reality – to reach this goal the research will consider recent cases of moderation. As a result of those analyses, possible propositions which aims to perfect the current model of governance of platforms will be discussed.

Keywords: Platforms. Content Moderation. Narrative Self-Constitution View.

Internet.

1 IDENTIDADE PESSOAL NARRATIVA: A CONSTITUIÇÃO DO SELF A PARTIR

DA AUTOBIOGRAFIA ... 16

1.1 A IDENTIDADE PESSOAL NARRATIVA NA VISÃO DE SCHECHTMAN ... 16

1.2 DIFERENTES TRAJETÓRIAS: A EXPANSÃO PARA OUTRAS NARRATIVAS . 20 1.3 A IDENTIDADE PESSOAL E AS NOVAS TECNOLOGIAS ... 22

2 CONTROLE DE CONTEÚDO E PLATAFORMAS DIGITAIS ... 28

2.1 CONTROLE PELAS PLATAFORMAS E OS PADRÕES DE COMUNIDADE: DIFERENTES NÍVEIS DE MODERAÇÃO... 35

2.1.1 A transparência em padrões de comunidade ... 45

2.2 CASOS DE CONTROLE DE CONTEÚDO PELAS PLATAFORMAS: A TENSÃO ENTRE OS DIREITOS FUNDAMENTAIS ... 47

2.2.1 O caso TikTok e a moderação de conteúdo considerado pouco atrativo . 48 2.2.2 A invasão do capitólio e o banimento do ex-presidente Trump ... 51

2.2.3 A política do nome real e a suspensão de contas de drag queens ... 52

2.2.4 O Facebook e os casos de exclusão de fotos de mães amamentando ... 54

3 PLATAFORMAS E IDENTIDADE PESSOAL: DO EU NA ERA DIGITAL ... 57

3.1 AS IMPLICAÇÕES DO CONTROLE DE CONTEÚDO À CONSTRUÇÃO DO SELF: O SER NA REALIDADE INFORMACIONAL ... 57

3.1.1 Potenciais impactos do controle de conteúdo para a privacidade do self69 3.2 POSSÍVEIS PROPOSTAS PARA MITIGAÇÃO DAS CONSEQUÊNCIAS ADVINDAS DO ATUAL CONTROLE DE CONTEÚDO AO DESENVOLVIMENTO DA IDENTIDADE PESSOAL ... 72

CONCLUSÕES ... 84

REFERÊNCIAS ... 88

INTRODUÇÃO E JUSTIFICATIVA

Esta dissertação é escrita a partir do atual contexto social, no qual a Internet alterou para sempre a relação entre a humanidade e o meio, bem como entre ela e si mesma, trazendo para o centro das discussões novas questões acerca da configuração democrática, do coletivo e do indivíduo com base nas novas tecnologias que cada vez mais emaranham a vida online e offline, no que Floridi passa a chamar de onlife¹.

O próprio desenvolvimento da Internet como hoje a conhecemos demonstrou o interesse e o desafio encontrado para que a sociedade desenvolvesse um padrão universal de comunicação, capaz de interconectar diferentes redes e de criar um denominador comum, a rede das redes². E, em seu cerne, nos anos iniciais de seu desenvolvimento, essa tecnologia buscava a criação de um local aberto e fundamentalmente “livre”, sem interferência significativa de terceiros, de modo que qualquer pessoa pudesse participar de sua formação e inovar de diferentes maneiras³.

Embora o caráter da Internet tenha sido alterado com os anos, sua relevância nas diferentes relações se tornou latente. Essa nova realidade pode ser percebida pelo papel desempenhado pelas plataformas⁴ no cotidiano dos indivíduos diante das diversas funções por elas desempenhadas. Dentre elas, a importante parte como ator político, cujas decisões de governança desempenham papel de relevância, especialmente no que concerne a discussões relacionadas à liberdade de discurso⁵. Suas decisões não apenas acabam por mediar as interações e as relações entre os

1 FLORIDI, Luciano. The Fourth Revolution: How the infosphere is reshaping human reality. Oxford:

Oxford University Press, 2014.

2 PARENTONI, Leonardo. Neutralidade da Rede: mudanças na infraestrutura da Internet e como isso influencia na sua vida. Revista Jurídica da Presidência, Brasília, v. 19, n. 119, p. 660-597, out.

2017/jan. 2018. Disponível em:

https://repositorio.ufmg.br/bitstream/1843/40964/2/Neutralidade%20de%20rede%20-

%20mudan%C3%A7as%20na%20infraestrutura%20da%20internet%20e%20como%20isso%20infl u%C3%AAncia%20na%20sua%20vida.pdf. Acesso em: 24 jul. 2022, p. 564.

3 FIELD, Brandi. Net Neutrality: An Architectural Problem in Search of a Political Solution. Asper Review, Winnipeg, v. 10, n. 1, p. 187-211, 2010. Disponível em:

https://journals.library.ualberta.ca/asperreview/index.php/asperreview/article/view/7, p. 189.

4 No presente trabalho, como mais bem definido no capítulo 2, entende-se plataforma como sendo, em síntese, sites online que hospedam conteúdo criado por indivíduos, buscando mediar tais interações a partir de uma infraestrutura e sem, na maior parte do tempo, ocuparem-se de produzir a própria informação.

5 GORWA, Robert. What is Platform Governance? Information, Communication & Society, [s.l.], v.

22, n. 6, p. 854-871, 2019. Disponível em:

https://www.tandfonline.com/doi/abs/10.1080/1369118X.2019.1573914. Acesso em: 24 jul. 2022, p. 859.

indivíduos, mas controlam o que pode e não pode ser realizado dentro da rede, em uma espécie de regulação interna da mesma⁶.

Diante deste cenário, o presente trabalho terá como objetivo discutir os desafios apresentados pelo controle de conteúdo realizado pelas plataformas, especificamente pelas mídias sociais, à construção da identidade pessoal. Para isso, será considerado o cenário atual em que tais decisões de moderação de conteúdo⁷ são realizadas por estas empresas em um modelo de transparência questionável e que enfrenta conflitos para sua regulamentação, como será mais bem explicitado no decorrer desta dissertação.

Apesar das relevantes discussões sobre os impactos decorrentes do controle de conteúdo pelas plataformas frente aos diferentes níveis da sociedade ser ponto de discussão acadêmica e legislativa⁸, identificou-se lacunas ainda a serem melhor abordadas, especialmente no que toca aos efeitos da moderação ao self e as formas de delimitá-lo com o intuito de impedir potenciais exclusões causadas por tais decisões. Nesse contexto, a questão que busca orientar o presente trabalho é: qual o contorno mais adequado para a governança das plataformas com o intuito de melhor enfrentar os impactos decorrentes do controle de conteúdo ao desenvolvimento da identidade pessoal, considerando, dentre outras questões, o atual cenário de moderação que enfrenta questionamentos sobre transparência, ausência de representatividade⁹, trazendo consequências à narrativa do self?

Por sua vez, ela parte da hipótese de que esse modelo de controle de conteúdo pode ser um risco para o desenvolvimento do self, retirando o elemento de troca e de comunicação, bem como suprimindo a possibilidade real de questionar as decisões das plataformas. Tais influências diretas causadas pelo controle de conteúdo à identidade pessoal são realizadas em um ambiente de conflitos para a regulamentação das plataformas, em razão de se constituírem como empresas na

6 Ibidem, p. 861.

7 O termo moderação de conteúdo mais profundamente abordado no presente trabalho, significando, de modo por demais conciso, a análise realizada pelas plataformas em relação ao que deve ou não ser mantido online.

8 Aqui, destaca-se os autores Tarleton Gillespie, Laura DeNardis, Robert Gorwa, Jack Balkin, Yochai Benkler, Kyle Langvardt, Sarah M. West, dentre outros. Vide: GILLESPIE, Tarleton. The politics of platforms. New Media & Society, [s.l.], v. 12, n. 3, p. 347-364, fev. 2010. Disponível em:

https://journals.sagepub.com/doi/10.1177/1461444809342738. Acesso em: 24 jul. 2022;

DENARDIS, Laura. The Global War for Internet Governance. Londres: Yale University Press, 2014; BENKLER, Yochai. The Wealth of Networks: How Social Production Transforms Markets and Freedom. New Haven: Yale University Press, 2006.

9 GILLESPIE, Tarleton. Custodians of the Internet: Platforms, content moderation, and the hidden decisions that shape social media. New Haven: Yale University Press, 2018, p. 18-25.

estrutura transnacional da Internet, não havendo clareza sobre o respeito a preceitos fundamentais que deveriam ser respeitados nesse processo, como a liberdade de expressão, o direito à informação, direitos processuais, como o de ampla defesa, que não são considerados no processo decisório das plataformas.

Esse cenário de riscos ao processo narrativo do self depende de uma compreensão multisetorial transnacional sobre a realidade dos padrões das plataformas e da Governança a ela relacionadas, o qual confronta a sociedade civil, as plataformas e os próprios Estados, de modo a estabelecer critérios mínimos que possam ser adequados aos Direitos Humanos e que possam proporcionar ao indivíduo o direito de se autoidentificar frente à realidade das TICs e de sua autoconstrução, diante da insuficiência do atual direito estatal de lidar adequadamente com tais questões.

A preocupação com o tema é latente não apenas em razão do espaço ocupado por tal tecnologia, conforme já brevemente exposto, mas também devido aos efeitos decorrentes da moderação realizada pelas plataformas, o que pode ser discutido de forma mais detalhada a partir da análise de decisões tomadas por plataformas – como se pretende fazer nesta dissertação –, as quais influenciam a construção informacional do indivíduo e a própria possibilidade humana de trazer significado à realidade.

Com o intuito de atender aos objetivos ora descritos, trabalhando diferentes noções entre as relações do Direito, as novas tecnologias e a sociedade, adotou-se como método de pesquisa durante o curso do mestrado a participação em discussões teóricas e conceituais junto a diferentes pesquisadores – em especial junto aos discentes e docentes do PPGD-UFMG –, assim como a revisão da literatura. Para isso, utilizou-se de diversas fontes, livros jurídicos e filosóficos, dissertações e teses, legislações, pesquisas realizadas por institutos de pesquisa, análise de políticas de moderação de conteúdo, dentre outros.

Partindo das discussões e das conclusões alcançadas foi construída a presente dissertação, a qual se divide em três principais capítulos. No âmbito do primeiro capítulo, serão trazidos os principais debates relacionadoss à identidade pessoal. Nesse momento, será discutido o conceito do self sob a perspectiva da autora Marya Schechtman, bem como a construção de uma identidade pessoal

narrativa que busque ser estruturada a partir da perspectiva diacrônica do sujeito e de uma narrativa autobiográfica, que considere os elementos psicológicos da ação¹⁰. Além disso, buscar-se-á explorar os diferentes aspectos da constituição do self para Schechtman, a partir da qual o indivíduo experienciaria o presente no contexto de uma narrativa mais ampla, de modo a condicionar o caráter e as experiências a partir do passado vivido e do futuro antecipado, o que acontece com a pessoa que é reconhecida como parte de uma história em andamento¹¹. O desenvolvimento da identidade pessoal narrativa parte não apenas de uma narrativa individualizada da pessoa, mas também de um reconhecimento dessa identidade por outras pessoas¹². Nesse momento, diante da perspectiva de diferentes autores, serão trazidos os questionamentos iniciais acerca das implicações do crescente uso das novas tecnologias de informação e comunicação para a nova realidade das relações interpessoais e suas alterações na esfera do self. Do mesmo modo, objetivará entender os contornos do self diante de um panorama que tenha como objetivo trazer questionamentos sobre o contexto atual das redes sociais, defrontando-o às teorias jurídico-filosóficas.

Em um segundo momento do trabalho, serão trazidas as discussões sobre as plataformas e o controle de conteúdo por elas realizado. Nesse capítulo, buscar-se-á traçar o papel de tais empresas na sociedade atual, como uma espécie de

“guardiões” do discurso e das interações sociais, atuando, por vezes, como “atores políticos”, cujas decisões e governança desempenham um papel de relevância, especialmente no que concerne às discussões relacionadas à liberdade de discurso¹³. Com base nisso serão discutidas as particularidades relacionadas aos padrões de comunidades adotados pelas plataformas e as repercussões diretas dessas ao controle de conteúdo.

Como se buscará demonstrar, essa discussão é multifacetada e, em primeiro plano, baseia-se no estabelecimento de políticas de comunidades pelas plataformas

10 SCHECHTMAN, Marya. Staying Alive: Personal Identity, Practical Concerns, and the Unity of a Life. Oxford: Oxford University Press, 2014, p. 100.

11 SCHECHTMAN, Marya. Stories, lives, and basic survival: A refinement and defense of the

narrative view. In: BAGGINI, Julian (ed.). A Philosophers’ Manifest: ideas and arguments to change the world. Cambridge: Cambridge University Press, 2007. Disponível em:

https://www.cambridge.org/core/journals/royal-institute-of-philosophy-

supplements/article/abs/stories-lives-and-basic-survival-a-refinement-and-defense-of-the-narrative- view/2A8B7EBDD09EB67D616FA1413FD27234. Acesso em: 24 jul. 2022, p. 162.

12 SCHECHTMAN, Marya. Staying Alive: Personal Identity, Practical Concerns, and the Unity of a Life, cit., p.103.

13 GORWA, Robert. What is Platform Governance?, cit., p. 859.

com o intuito de estabelecer certos padrões que entendem que seriam adequados a serem seguidos dentro de seus serviços. Nessas, são publicadas diretrizes sobre sua regulação interna, as quais abrangem o controle de conteúdo o qual a empresa poderá realizar sobre seus usuários¹⁴.

Entretanto, como será abordado, o controle de conteúdo e os debates de moderação perpassam não apenas o âmbito dos padrões de comunidade, alcançando a transparência das plataformas, assim como o próprio design dessas tecnologias, o legislativo, administrativo e todo o sistema regulatório desses novos modelos de negócio¹⁵. Com o intuito de ilustrar as discussões ora trazidas no trabalho, serão trazidas no referido capítulo uma seleção de casos de controle de conteúdo que ganharam a atenção tanto dos usuários quanto da mídia no passar dos anos com o intuito de fazer uma análise desses no âmbito do presente trabalho.

A partir disso, objetiva-se trazer em perspectiva não apenas as próprias plataformas, mas também os indivíduos diretamente afetados pelas decisões de controle de conteúdo e cujo fluxo de suas narrativas se alteram pela moderação de tais empresas – seja ela correta, ou não.

Por fim, no âmbito do capítulo final do presente trabalho, discute-se as implicações diretas do controle de conteúdo ao self. Questiona-se, nesse momento, até que medida do cenário atual significa entregar, aos atores privados e às plataformas, as decisões relacionadas aos limites sobre as decisões sobre o controle de conteúdo, de maneira pouco clara e sem qualquer tipo de discussão ou inspeção.

Assim, considerando casos como os citados, terá como objetivo abordar os efeitos do controle de conteúdo para a identidade pessoal narrativa. A Internet como esse novo local de interação e de construção e participação pública¹⁶. De que modo estar no espaço digital e construir no mundo onlife influencia na narrativa do indivíduo. Nesse capítulo, serão discutidas de que maneira as decisões tomadas pelas plataformas influenciariam na narrativa do self e afetariam a possibilidade de interação e reconhecimento com terceiros em relações intersubjetivas.

14 MACKINNON, Rebecca. Fostering freedom online: The role of internet intermediaries. [S.l.]:

UNESCO Publishing, 2015, p. 20.

15 BALKIN, Jack. The future of free expression in a Digital Age. Pepperdine Law Review, Malibu, v.

36, n. 2, p. 427-444, 2009. Disponível em: https://digitalcommons.pepperdine.edu/plr/vol36/iss2/9/.

Acesso em: 24 jul. 2022, p. 427.

16 Ibidem.

Para tanto, pretende-se analisar quais podem ser os desdobramentos dessa relação entre a identidade pessoal narrativa e do controle de conteúdo desenvolvido pelas plataformas, tendo como enfoque as redes sociais, reconhecendo seu caráter diacrônico e relacional a partir dessa nova perspectiva trazida pelas TICs.

Do mesmo modo, as consequências à saúde mental decorrentes dessas plataformas e de decisões de impulsionamento como tais, que contribuem para a criação de expectativas irrealistas e que geram frustrações pessoais em seus usuários, serão pontos discutidos em diversos âmbitos, sendo tópico de atenção em razão das sérias consequências psicológicas trazidas aos usuários das redes sociais, em especial para os jovens, e sendo recorrentemente criticadas pelas distorções de autoimagem causadas aos indivíduos, por decisões pouco claras¹⁷.

Por fim, considerando o atual cenário traçado para o controle de conteúdo pelas plataformas, o trabalho delineará as possíveis formas para mitigar as exclusões e as repercussões trazidas pela moderação ao self e ao direito do indivíduo de se autoconstruir perante a sociedade. A discussão será delimitada com base em algumas das principais observações trazidas pelos estudiosos do tema, a fim de se apresentarem como possíveis melhorias ao cenário do controle de conteúdo.

Objetivar-se-á investigar e trazer para a pesquisa, de modo a responder o questionamento ora colocado, as maneiras que se mostram viáveis na sociedade atual transnacional, realizar a moderação para lidar com os conflitos trazidos pelas novas tecnologias e, em especial pelas plataformas, de modo a valorizar o processo de construção e desenvolvimento do indivíduo.

17 INSTAGRAM muda regra para seios após protesto de influenciadora plus size. G1, São Paulo, 28 out. 2021. Disponível em: https://g1.globo.com/economia/tecnologia/noticia/2020/10/28/instagram- muda-regras-para-fotos-de-seios-apos-protesto-de-influenciadora-plus-

size.ghtml?utm_source=twitter&utm_medium=social&utm_campaign=g1. Acesso em: 19 jul. 2022, s.p.

1 IDENTIDADE PESSOAL NARRATIVA: A CONSTITUIÇÃO DO SELF A PARTIR DA AUTOBIOGRAFIA

1.1 A IDENTIDADE PESSOAL NARRATIVA NA VISÃO DE SCHECHTMAN

Para que seja possível compreender a ideia da identidade como uma narrativa na perspectiva de Marya Schechtman, é essencial que a percepção do tempo não seja entendida de forma fragmentada, mas sim de maneira fluída dentro do contexto da própria existência. O indivíduo vivenciaria o presente a partir de uma narrativa mais ampla, condicionando as experiências do passado vivido e do futuro antecipado, de forma que os acontecimentos sejam reconhecidos como uma história em curso¹⁸.

Isto significa que o interesse de alcançar um objetivo no futuro acabaria por influenciar a maneira com que o indivíduo percebe o presente; da mesma forma que as experiências do passado acabam por moldar as decisões do presente. Ou seja, a pessoa se veria constantemente influenciada tanto por aquilo que ocorreu e que, por conseguinte, acaba por impactar em suas experiências atuais quanto pelo futuro que ainda virá, mas já molda suas ações, como explicita Schechtman¹⁹:

Existem, é claro, muitas formas em que o contexto de uma narrativa mais ampla pode impactar e condicionar a experiência. Esse impacto pode ser visto, por exemplo, nas formas que alguém pode experienciar um período de trabalho intenso quando se sabe que ao final do projeto uma promoção estará assegurada e a pessoa poderá sair de férias, em contraste com a forma com que uma pessoa experiencia o trabalho como se ele fosse parte de uma vida extremamente extenuante e sem um alívio previsível. Também é percebido na experiência e nas ações de alguém ao chegar na porta de sua própria casa, ao contrário de ao chegar na porta de uma casa. Ou ao chegar na porta de sua nova casa, e não na porta da casa que viveu por muitos anos. Ou na porta de uma casa em que sua família querida aguarda, e não na porta de uma casa vazia após um término doloroso – mesmo que seja a mesma casa e a mesma porta em todos os casos.

18 SCHECHTMAN, Marya. Stories, lives, and basic survival: A refinement and defense of the narrative view, cit., p. 162.

19 Tradução livre. No original: “There are, of course, a great many ways in which the larger narrative context can impact and condition experience. This impact can be seen, for instance, in the

difference between the way someone experiences a period of intensely hard work when she knows that once the project is off her desk her promotion is assured and she can leave on vacation, and the way she experiences it if it is part of a life of grindingly difficult labor with no foreseeable relief. It is also seen in the differences between what someone experiences and does walking up to the door of his house rather than to the door of a house. Or of walking up to the door of his new house rather than to the door of the house he has lived in for many years; or to the door of a house in which his loving family waits rather than to the door of an empty house after a bitter breakup – even if it is the same house and the same door in each case.” (Ibidem).

A partir disso, a construção da identidade parte de uma linearidade narrativa do sujeito, sendo intimamente ligada a uma unidade diacrônica de autoconsciência.

A autora tomaria como pressuposto a ideia de “caracterização” do indivíduo, que buscaria avaliar quais ações, experiências e traços são corretamente atribuídos a uma pessoa, quais são – em última instância – os elementos psicológicos da ação, ou seja, a maneira com que as experiências são incorporadas no presente, criando diferentes conexões entre diferentes momentos da vida, ao contrário de avaliar sua relação apenas com um período específico no tempo²⁰.

Com isso, a experiência do indivíduo é unificada a partir de seu caráter diacrônico, fazendo com que diferentes momentos e experiências sejam resultado de uma única vida, a formação de uma única identidade pessoal. A constituição do self partiria, então, de uma ideia narrativa autobiográfica da pessoa, das lentes e da maneira com que essa vivencia o mundo, como traz a autora²¹:

Nós nos constituímos como pessoas, nessa visão, ao desenvolver e operar com uma autobiografia narrativa (em maior parte explicita) que age como as lentes pelas quais experienciamos o mundo. As pessoas experienciam seu presente como fluindo de um passado em particular em direção a um futuro em particular, e essa forma de se relacionar com o presente muda o caráter de toda a experiência. A reivindicação é que entender o fluxo psicológico em termos narrativos afeta uma unidade diacrônica profunda de autoconsciência que é levada a embasar a capacidade para ações forenses em que a teoria da continuidade psicológica falha em adequadamente expressar (daí sua suscetibilidade ao argumento de afirmação extrema).

Nessa perspectiva, partir-se-ia da ideia de que as partes, os momentos individuais de uma vida, não existiriam de maneira independente do todo, mas apenas como uma abstração dele, de modo que a narrativa da identidade começa a partir da narrativa em andamento da vida de uma pessoa, da qual momentos individuais podem ser abstraídos²². Diante dessa perspectiva, para que uma

20 SCHECHTMAN, Marya. Staying Alive: Personal Identity, Practical Concerns, and the Unity of a Life, cit., p. 100-102.

21 Tradução livre. No original: “We constitute ourselves as persons, on this view, by developing and operating with a (mostly implicit) autobiographical narrative which acts as the lens through which we experience the world. Persons experience their present as flowing from a particular past and flowing toward a particular future, and this way of relating to the present changes the character of experience altogether. The claim is that understanding psychological flow in narrative terms generates the deep diachronic unity of self-consciousness that is taken to underlie the capacity for forensic actions and which psychological continuity theories fail to adequately express (hence their susceptibility to the argument from the extreme claim).” (Ibidem, p. 100).

22 Ibidem.

identidade possa ser considerada como sendo constituída a partir de tal conceito narrativo, ela precisaria atender alguns requisitos.

O primeiro seria definido como restrições da realidade, a partir do qual a narrativa precisaria se conformar com o que seria geralmente aceitável como característica básica da realidade e da natureza das pessoas, ou seja, seria necessário que o indivíduo se engajasse em interações com outros e vivesse no mesmo mundo que as outras pessoas. Isso significa que, por exemplo, a narrativa precisaria respeitar preceitos básicos de espaço e de tempo, como o fato de que seres humanos não podem se encontrar em dois lugares ao mesmo tempo ou viverem tipicamente muito mais do que cem anos²³. Por outro lado, isso não significa que, no decorrer de suas narrativas, os indivíduos não venham a passar por pequenos erros de interpretação em relação ao que vivenciaram, uma vez que isso faz parte da própria experiência humana, mas que é preciso existir uma coerência de suas narrativas em relação à realidade.

O segundo é chamado pela autora de restrições de articulação, a partir dele seria necessário que os indivíduos fossem capazes de articular suas narrativas localmente, ou seja, seria necessário que o indivíduo conseguisse explicitar minimamente as razões que justificam o que ele acredita e sente, de modo a responder e articular perguntas simples sobre si mesmos²⁴.

Essa perspectiva, no entanto, não desconsidera os elementos implícitos da narrativa do indivíduo, os quais, muitas vezes, podem partir de elementos desconhecidos pela própria pessoa, fato que não o descaracteriza inteiramente como apto a constituir a narrativa. De tal maneira, tanto os elementos explícitos quanto os implícitos da narrativa têm um papel importante na constituição do self, devendo ser entendido que as forças psicológicas que constituem a identidade são dinâmicas e ativas, moldadas a partir de suas ações²⁵.

Não é necessário que o indivíduo explicita e conscientemente articule a narrativa de uma forma linear e concreta em sua mente, uma vez que a experiência presente da pessoa é analisada com base no que aconteceu no passado e no que é esperado que aconteça no futuro, cenários que, por si só, acabam por moldar sua

23 SCHECHTMAN, Marya. Stories, lives, and basic survival: A refinement and defense of the narrative view, cit., p. 163.

24 Ibidem, p. 162.

25 SCHECHTMAN, Marya. The Constitution of selves. Nova York: Cornell University Press, 2018, p.

116-117.

realidade e sua identidade²⁶. Ou seja, a percepção do que poderia ser compreendido como narrativa para a construção do self, na teoria da autora, considera uma visão ampla embasada sobretudo na perspectiva diacrônica do sujeito e cujas restrições impostas para a formação da narrativa buscam, de certa maneira, conformá-las.

Como já brevemente trazido, na teoria da identidade pessoal narrativa de Schechtman, uma parte essencial da formação do self seria o reconhecimento da própria narrativa por outros indivíduos²⁷. Isso porque a construção identitária parte não apenas do próprio narrar individual (seja ele intencional ou não), mas também das histórias que os outros contam e como percebem a pessoa.

O que se propõe, segundo tal perspectiva, é que existe, a partir disso, uma espécie de desenvolvimento relacional entre os diferentes indivíduos, com reconhecimento mútuo e participação conjunta através da interação que eles criam²⁸. Essa compreensão seria essencial, principalmente, para que seja possível discutir a formação da identidade pessoal por indivíduos que não podem autonarrar.

Isso porque, ainda que a sociedade em geral não espere que tais indivíduos desenvolvam completamente suas capacidades, ainda assim as interações que são travadas desses com toda a comunidade parte de um reconhecimento de tais pessoas como seres humanos em grau de igualdade, no sentido de que elas também vivem uma vida em sociedade, sendo nomeados, registrados, bem como participando dos costumes da comunidade, ou seja, sendo parte nessas relações²⁹.

De tal modo, a construção da identidade poderia ser resumida como um processo que passa pela narrativa pessoal em interação com seu reconhecimento por terceiros, como trazido por Brunello Stancioli e Pedro Martins³⁰:

Desta forma, pode-se resumir o processo de construção da identidade como algo que emerge a partir da interação entre uma narrativa de primeira pessoa (a interpretação de suas informações pessoais reivindicada pelo próprio sujeito), o reconhecimento dessa narrativa por terceiros (ou seja, como os interlocutores do sujeito reconhecerão a interpretação reivindicada)

26 SCHECHTMAN, Marya. Staying Alive: Personal Identity, Practical Concerns, and the Unity of a Life, cit., p. 135-136.

27 Ibidem, p. 103.

28 Ibidem, p. 104.

29 Ibidem, p. 120.

30 MARTINS, Pedro Bastos Lobo; STANCIOLI, Brunello Souza. Persona: Em Busca de Identidade(s).

In: POLIDO, Fabrício Bertini Pasquot; ANJOS, Lucas Costa dos; BRANDÃO, Luiza Couto Chaves (orgs.). Práticas de Pesquisa em Direito, Tecnologia e Sociedade. Belo Horizonte: Instituto de Referência em Internet e Sociedade, 2020. Disponível em: https://irisbh.com.br/wp-

content/uploads/2020/06/Pr%C3%A1ticas-de-Pesquisa-em-Direito-Tecnologia-e-Sociedade.pdf.

Acesso em: 24 jul. 2022, p. 120-121.

e as próprias narrativas feitas por esses terceiros (o que os interlocutores narram sobre aquele sujeito, como interpretam as informações dele as quais têm acesso).

Assim, as relações intersubjetivas não são o que ameaçam a construção da identidade pessoal. Pelo contrário, a partir desses marcos teóricos, a identidade só é possível de ser construída através dessa competição entre narrativas, interpretações e compartilhamentos de informações.

É com base nesta ideia que alguns autores chegam a afirmar que o indivíduo apenas pode ser compreendido como um ser-em-relação-com, entendendo que a interação humana é constituída como elemento essencial para a emergência da pessoalidade³¹. A pessoa não existiria isoladamente, sendo necessária a vivência em rede e a alteridade para que o indivíduo crie e recrie³².

As relações intersubjetivas são, então, parte essencial para a construção e o desenvolvimento dessas narrativas e, por conseguinte, do próprio self. Por esse mesmo motivo, quando é discutida a construção dessa identidade pessoal, não se está partindo do pressuposto de que tudo que for reivindicado pelo sujeito será parte de sua identidade e tampouco se assume que qualquer atribuição externa seria um elemento identitário, sendo necessária essa interação entre as diferentes perspectivas. De tal maneira, a construção identitária é um desenvolvimento relacional entre diferentes indivíduos, sendo necessário que haja participação e reconhecimento entre eles e não apenas que haja restrição das narrativas criadas pelo próprio indivíduo, mas uma criação conjunta.

1.2 DIFERENTES TRAJETÓRIAS: A EXPANSÃO PARA OUTRAS NARRATIVAS A identidade pessoal narrativa como teoria pura traz questionamentos sobre os indivíduos que não teriam a capacidade de autonarrar diante do papel essencial de tal habilidade como um elemento básico para a constituição do self, indagando-se de que maneira esses poderiam – e se poderiam – ter sua identidade pessoal caracterizada a partir da linha teórica discutida. Entretanto, em seus estudos, Marya Schechtman teria se distanciado de tais teorias tradicionais em tal ponto ao trazer em suas discussões uma ampliação das maneiras com que o papel da experiência compartilhada teria em tais casos.

31 OLIVEIRA, Maiuí. Ruídos da Personalidade: O direito à privacidade em face das múltiplas identidades forjadas na alteridade. 2011. Dissertação (Mestrado em Direito) – Faculdade de Direito, Universidade Federal de Minas Gerais, Belo Horizonte, 2011. Disponível em:

https://repositorio.ufmg.br/handle/1843/BUOS-9K9U3M. Acesso em: 24 jul. 2022, p. 24.

32 Ibidem, p. 50.

Questionar-se-ia, então, de que forma a primeira experiência pessoal identitária poderia ser formada a partir da teoria narrativa de Schechtman. A resposta a esses questionamentos decorre, em grande parte, do importante papel exercido por terceiros na construção da identidade pessoal, como já trazido. O elemento relacional é parte imprescindível para os indivíduos que não têm a capacidade de narrar suas próprias vidas, como bebês, pessoas com déficits cognitivos e idosos acometidos com demência³³.

A partir da relação entre tais indivíduos e outros é possibilitado que seja desenvolvida uma identidade. Isso aconteceria não apenas através do reconhecimento da narrativa por outros, ou seja, a partir da narrativa criada por terceiros sobre o indivíduo, mas também sobre histórias contadas por terceiros sobre o próprio indivíduo, de modo a estabelecer um vínculo e uma linha entre os diferentes estágios da vida³⁴. Isso possibilitaria que tais interações e as narrativas criadas por outros indivíduos ocupassem um papel importante ao analisar o cenário completo do desenvolvimento do self, uma vez que permitiriam que o passado e o futuro fossem incorporados no presente ao preencher uma lacuna que não seria feita de outra forma, como exemplifica Schechtman³⁵:

Quando pais, pediatras e outros adultos interagem um bebê, isso é em antecipação de que o bebê se desenvolverá de formas que serão influenciadas pelo que acontece agora. Nossa interação com crianças jovens que ainda não possuem capacidades forenses antecipam os seus desenvolvimentos e, então, nós a tratamos como indivíduos que irão possuir essas capacidades. Nós falamos com bebês e crianças jovens como se elas tivessem um nível de autoconsciência ou habilidade de narrativa que elas ainda não o têm e nós a tratamos (de uma forma atenuada) como seres morais e prudentes antes que eles tenham se tornado tais. [...]

No outro extremo da vida, o tratamento de pacientes com demência reconhece sua circunstância atual como uma continuação de uma narrativa particular. Amigos e familiares próximos que tiveram relacionamentos com a pessoa normalmente mantêm o relacionamento com o indivíduo, mesmo quando ele não consegue mais os reconhecer.

33 SCHECHTMAN, Marya. Staying Alive: Personal Identity, Practical Concerns, and the Unity of a Life, cit., p. 103.

34 Ibidem, p. 104.

35 Em tradução livre. No original: “When parents, pediatricians, and other adults interact with an infant it is in anticipation that the infant will develop in ways that will be influenced by what happens now.

Our interactions with young children who do not yet possess forensic capacities anticipate their development, and so we treat them as individuals who will possess these capacities. We talk to infants and very young children as if they have a level of self-consciousness or narrative skill that they do not yet have, and we treat them (in an attenuated way) as moral and prudential beings before they have become such. […] At the other end of life, the treatment of dementia patients acknowledges their current circumstances as the continuation of a particular narrative. Close friends and family who had relationships with the person usually continue their relationship with the patient even when he can no longer recognize them.” (Ibidem, p. 104-105).

A partir dessa perspectiva, a construção da identidade pessoal decorre tanto de uma narrativa interna quanto externa, com um desenvolvimento que a autora compara ao de uma sonata, que se desenvolve de formas diversas, alterando tons antes de chegar ao fim. Assim, o exame do nível de dificuldade de tal peça musical necessitaria de uma análise da integralidade dela, mesmo que em certos momentos ela fosse construída por passagens de diferentes níveis de expertise, a sonata poderia ter passagens mais simples que outras e, nem por isso, o conjunto da obra poderia ser considerado como tal e ser executado por um artista iniciante³⁶.

Nessa perspectiva uma afirmativa similar – até certa medida – poderia ser feita em relação aos indivíduos ao considerar que aquela pessoa em seus estágios avançados seria a mesma em sua infância, ou, em alguns casos, também seria o indivíduo com demência no futuro, existindo um único padrão a ser seguido para o desenvolvimento dos estágios dos seres humanos³⁷. A vida de uma pessoa seria composta por diferentes momentos que poderiam ser, até certa medida, analisados individualmente, mas que não teriam significado sem o todo, considerando que todos eles resultariam ao final na composição da vida daquele indivíduo.

Com isso, Schechtman concebeu um marco que não apenas admite a relevância do reconhecimento de narrativas por terceiros e da influência desses na estruturação do self, mas que, ao considerar a unicidade da construção da vida, acaba por expandir a teoria narrativa, reconhecendo-se a construção identitária de diferentes sujeitos fora do espectro normativo.

1.3 A IDENTIDADE PESSOAL E AS NOVAS TECNOLOGIAS

O crescimento do uso das novas tecnologias de informação e comunicação trouxeram diversos questionamentos sobre os efeitos de tais ferramentas para a nova realidade das relações interpessoais e, consequentemente, suas alterações na esfera do self, a qual passou a sofrer influências diretas das modificações sociais proporcionadas por tais tecnologias.

O autor Luciano Floridi, em seus trabalhos, traz a ideia das quatro revoluções que teriam tido grande impacto em alterar a compreensão interna e externa dos seres humanos, afirmando que os seres humanos estariam hoje passando pelo que

36 Ibidem, p. 107.

37 Ibidem.

seria a quarta revolução, na qual estariam sendo forçados a aceitar abandonar a ideia de que ocupariam uma posição única no universo no que tange ao raciocínio lógico, ao processamento de informações e ao comportamento inteligente, em razão das novas tecnologias³⁸.

Partindo dessa realidade da quarta revolução, o autor analisa a consequência das novas tecnologias para a construção da identidade pessoal. Ao considerar a maneira como as TICs podem impactar diretamente na esfera do self e ao longo de nossa própria narrativa, uma nova perspectiva é trazida para a discussão.

Diante da quarta revolução, Floridi afirma que a liberdade para o desenvolvimento da identidade teria deixado de ser conferida pelo anonimato e passado a ser associada à autodeterminação e à autonomia, de modo a ser intrinsicamente relacionada às informações fundantes do ser. Isso porque, na estrutura da sociedade e da Internet atual, não é possível mais falar em um anonimato real online, sendo sempre – ou quase sempre – possível que seja descoberta a identidade de uma pessoa por trás da tela³⁹.

A identidade seria construída, então, a partir da liberdade de determinação, de mostrar quem se é e quem pretende se tornar, ou seja, a narrativa que pretende ser construída no mundo online e que irá ressonar também no mundo offline. Essa visão aproxima-se, em parte, da ideia de identidade narrativa de Marya Schechtman, uma vez que ela reconhece a importância das narrativas na mudança e na construção do self a partir de um complexo de informações e de atividades conscientes, bem como de memórias que são partes do próprio indivíduo. As narrativas seriam fortemente influenciadas pela nova realidade informacional, como melhor explicita o autor⁴⁰:

[...] as micro-narrativas que estamos produzindo e consumindo estão, também, mudando nosso self social e, logo, como nós nos vemos. [...]

38 FLORIDI, Luciano. The Fourth Revolution: How the infosphere is reshaping human reality, cit., p.93.

39 Ibidem, p. 64.

40 Tradução livre, no original: “[...] the micro-narratives we are producing and consuming are also changing our social selves and hence how we see ourselves. […]

Today, consciousness is still a stream (more water metaphors […]). But it does appear in bits, not James’s bits, of course, but rather the digital ones of social media. Nothing is too small, irrelevant or indeed private to be left untold. Any data point can contribute to the description of one’s own personal identity. And every bit of information may leave a momentary trace somewhere, including the embarrassing pictures posted by a schoolmate years ago, which will disappear, of course, like everything else in this planet, but just more slowly than our former selves will.” (Ibidem, p. 62-63).

Hoje, a consciência ainda é um curso (mais uma metáfora sobre água [...]).

Entretanto, ela aparece em pedaços, como os digitais, das mídias sociais.

Nada é tão pequeno, irrelevante, ou privado para não ser relatado. Qualquer dado pode contribuir para a descrição da identidade pessoal de alguém.

Assim como qualquer pedaço de informação pode deixar um traço em algum lugar, incluindo as fotos embaraçosas postadas por um colega de escola de anos atrás, as quais também vão desaparecer, como tudo nesse planeta, apenas mais lentamente que nos selves anteriores.

O self teria um caráter informacional, sendo composto de um complexo de informações, de atividades conscientes, de memórias ou de narrativas que são parte do próprio indivíduo e de sua identidade. Isso significaria dizer que a mente e o self seriam como diferentes estados da própria informação⁴¹. Entretanto, partindo dessa perspectiva, o autor questiona de que maneira, sendo o self construído a partir de informações, tais dados seriam mantidos como uma unidade de forma coerente⁴².

Distanciando-se da perspectiva de Schechtman, para responder a tal questionamento, Floridi estabelece que o self deveria ser analisado enquanto um sistema informacional multiagente, de modo que todas as informações a seu respeito formassem uma rede informativa difusa, em que tudo que fundamenta a identidade pessoal são estados dinâmicos da informação, a partir de uma análise sincrônica do objeto⁴³.

A partir disso, Floridi desenvolve o Modelo das Três Membranas, no qual seria possível trazer uma hipótese reconciliatória ao desenvolvimento do self em relação às TICs. Nele, o autor sugere um modelo que toma como base estruturas biológicas para, de forma figurativa, estabelecer a formação do self⁴⁴.

Esse modelo seria estruturado em três estágios de desenvolvimento, denominados de membranas, a corpórea, a cognitiva e a da consciência. Em cada uma dessas, haveria o encapsulamento de dados que seriam transformados em informações e que, ao final, permitiriam que o indivíduo fosse constituído por entidades autônomas complexas, sem que, para tanto, ocorresse uma perda de unicidade do indivíduo⁴⁵. Os estágios de cada uma das fases representariam a evolução dos próprios organismos, perpassando por animais inteligentes até

41 Ibidem, p. 70-71.

42 FLORIDI, Luciano. The Informational Nature of Personal Identity. Minds and Machines, [s.l.], v. 21, p. 549-566, maio 2011. Disponível em:

https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3840132. Acesso em: 24 jul. 2022, p. 556.

43 OLIVEIRA, Maiuí. Ruídos da Personalidade: O direito à privacidade em face das múltiplas identidades forjadas na alteridade, cit., p. 31.

44 FLORIDI, Luciano. The Informational Nature of Personal Identity, cit., p. 557.

45 DURANTE, Massimo. Ethics, Law and the Politics of Information: A Guide to the Philoshophy of Luciano Floridi. Dordrecht: Springer, 2017, p. 91

alcançarem a autoconsciência de suas mentes e a capacidade de construção da identidade pessoal⁴⁶.

No primeiro estágio, o da membrana corpórea/física, os dados seriam padrões físicos (ex. luzes, barulhos ou campos magnéticos etc) e sua função seria como uma espécie de barreira entre o interior da célula e o mundo exterior. Nessa fase, os dados considerados ainda não partiriam de estruturas bióticas, mas fluiriam no ambiente, sem que existisse quem os enviasse ou recebesse. Assim, os dados se moveriam de um ambiente pré-biotico para um pós-biótico a partir de seu encapsulamento pela membrana, cujo papel seria exatamente o de permitir ao organismo interagir com o ambiente, com inputs e outputs próprios⁴⁷.

A segunda membrana seria a cognitiva, na qual os dados avaliados seriam aqueles relacionados a linguagens (ex. sons, gestos, cheiros, comportamentos etc.), de modo que haveria uma migração de um momento pré-cognitivo para outro pós- cognitivo em relação aos dados da primeira membrana. Nesse momento, o encapsulamento dos dados tornaria possível a codificação dos dados internamente através das memórias para o processamento e para a comunicação⁴⁸.

Por sua vez, a terceira fase seria constituída da evolução da membrana da consciência, com um movimento da pré-consciência para a pós-consciência, quando o indivíduo se tornaria consciente de si mesmo. Nesta etapa, os dados se tornam informação utilizável para o indivíduo, a partir de uma apropriação e de uma unificação dos dados encapsulados nos estágios anteriores pelo self⁴⁹.

A partir, então, de um desenvolvimento das três membranas, Floridi entende que qualquer tecnologia que seja capaz de afetar qualquer uma delas deve ser entendida como uma tecnologia do self. Nessa perspectiva, as TICs seriam, hoje, as tecnologias de transformação mais poderosas às quais os indivíduos já teriam sido expostos, uma vez que essas afetariam as três membranas, “[...] intensificando a membrana corpórea, empoderando a membrana cognitiva e estendendo a membrana da consciência”⁵⁰.

46 FLORIDI, Luciano. The Informational Nature of Personal Identity, cit., p. 558.

47 Ibidem, p. 559.

48 Ibidem.

49 DURANTE, Massimo. The Online Construction of Personal Identity Through Trust and Privacy Information. Information, Zurique, v. 2, n. 4, p. 594-620, 2011. Disponível em:

https://www.mdpi.com/2078-2489/2/4/594. Acesso em: 24 jul. 2022, p. 599-600.

50 Tradução livre, no original: “[...] by enhancing the corporeal membrane, empowering the cognitive membrane, and extending the consciousness membrane.” (FLORIDI, Luciano. The Informational Nature of Personal Identity, p. 561).

Ao analisar a teoria de Floridi, o autor Massimo Durante entende que “o self é uma força egopoiética que se constrói a partir de uma série de transformações progressivas: o desenvolvimento em três estágios a partir do qual dados são encapsulados e transformados em sinais, códigos e significados”⁵¹.

Um dos pontos de discussão levantados diz respeito à influência das TICs na construção da identidade diante das alterações que essas tecnologias trouxeram para as memórias e para as informações difundidas. O aumento de possibilidades de armazenamento e de acumulação de memórias por meio das TICs, em especial pela Internet, passou a ter um papel significativo na construção do self, uma vez que possibilitam não apenas um reforço à natureza do sujeito, mas também uma constrição à sua própria autodeterminação. Quanto mais memórias é possível acumular a partir de novas tecnologias, mais limitada se torna a construção da identidade no entendimento de Floridi, uma vez que esse desenvolvimento também significa uma diminuição de nossas liberdades de redefinição interna⁵².

A ideia de esquecimento também é parte da autoconstrução e de nossa determinação identitária e, com o desenvolvimento das TICs e suas possibilidades de armazenamento e difusão antes não conhecidas pela humanidade, essa dinâmica é alterada e consideravelmente restrita. Nesse cenário, o que se vislumbra é um ambiente com uma possível cristalização da identidade ao ser retirada completamente tal possibilidade.

Por outro lado, as redes sociais, como também compreendido por Floridi, teriam trazido uma modificação sem precedente, que possibilitou aos indivíduos tomarem para si a construção de suas identidades a partir de suas interações e pensamentos online⁵³. Isso não significa, de nenhuma forma, que a expansão do espaço de desenvolvimento do self no ambiente virtual seja dissociado da realidade offline, uma vez que as ações virtualmente realizadas trazem consequências reais para o indivíduo e, como tais, são partes fundantes da identidade ⁵⁴.

Partindo dessas ideias, Massimo Durante também discorre sobre a formação da identidade pessoal e a influência exercida pela narração e pelas informações a

51 DURANTE, Massimo. Ethics, Law and the Politics of Information: A Guide to the Philoshophy of Luciano Floridi, cit., p. 93.

52 FLORIDI, Luciano. The Fourth Revolution: How the infosphere is reshaping human reality, cit., p.

64.

53 Ibidem, p. 64.

54 DURANTE, Massimo. The Online Construction of Personal Identity Through Trust and Privacy Information, cit., p. 596.

ela relacionadas através de um contexto compartilhado de comunicação, especialmente no que concerne às novas tecnologias e, especificamente, à Internet, que, em seu entendimento, possibilita a coparticipação nessa construção:

Na realidade física, nós construímos nossa identidade (narrativamente entendida como um texto aberto) dentro de diferentes ambientes e restrições sociais, ex.: dentro de diferentes contextos, que são em sua maioria já estruturados e fornecidos, não podendo ser moldados à nossa narrativa. Em contraste, na realidade digital, as redes sociais, por exemplo, são plataformas (como no caso do facebook) que permitem que os usuários se aproveitem dos recursos da rede para construir, em termos informacionais, não apenas suas narrativas, mas também para participar na co-construção de seus contextos de comunicação compartilhados⁵⁵.

Assim, o desenvolvimento da identidade para Durante é diretamente relacionada também ao contexto em que ela é apresentada, sendo este elemento essencial para sua compreensão e para seu desenvolvimento, considerando não apenas a importância atribuída pelo autor à participação de diferentes sujeitos na construção compartilhada da identidade, mas também a própria influência da identidade narrativa na atual realidade informacional. Em tal linha, a confiança e a privacidade são considerados como elementos essenciais para a construção da identidade pessoal, em especial diante do novo papel desempenhado pelas tecnologias.

A confiança se mostraria essencial nas interações entre indivíduos para que esses construam uma expectativa compartilhada de como serão interpretadas as informações reveladas (ou a narrativa reivindicada), de maneira que elas não sejam descontextualizadas. A privacidade, por sua vez, relaciona-se com o poder do sujeito de se autoidentificar e de reivindicar informações relacionadas a ele como sendo suas. Assim, uma condição mínima de justiça [fairness] é assegurada quando todas as partes têm pelo menos oportunidades iguais para moldar um relato verdadeiro do self.⁵⁶

Com base nessas discussões sobre a construção da identidade pessoal e as possíveis influências exercidas pelas TICs, é possível discutir o controle de conteúdo pelas plataformas digitais, especificamente pelas redes sociais, e seus possíveis efeitos ao desenvolvimento do self.

55 Ibidem, p. 595.

56 Ibidem.