Liberdade de Expressão e Redes Sociais

• A moderação de conteúdo é o processo por meio de quais plataformas de redes sociais controlam o que os conteúdos são admitidos em seus espaços. Em termos gerais, o processo integra três etapas: definição de normas, detecção de infrações e tomada de ações.

• A moderação de conteúdo on-line constitui desde então um tema de discussão bastante relevante para o exercício da liberdade de expressão. A carga de sistemas automatizados de detecção de conteúdo “perjudiciales ou danificados” supõe ameaças adicionais ao volume de informações que agora podem ser censuradas, os parâmetros eleitos de forma privada para bloquear conteúdo, a presença de sessões, entre outros.

• A Seção 230 da Lei sobre a Decência nas Comunicações nos Estados Unidos é um instrumento jurídico essencial para entender as obrigações e as possibilidades das redes sociais no que diz respeito aos conteúdos produzidos por seus usuários ao redor do mundo.

• Os jornalistas enfrentam riscos especiais quando tratam das redes sociais. Embora estas plataformas não tenham normas especiais para atender a esses riscos, as normas gerais que foram contempladas podem ser úteis nesses casos.

• As plataformas sabem que em seus processos de moderação ocorrem erros. Por isso foram estabelecidos mecanismos de apelação para que seus usuários solicitem a revisão de suas decisões.

Introdução

Inegavelmente, as redes sociais potencializaram a liberdade de expressão ao redor do mundo. No entanto, sua adoção também gerou retornos legais e sociais que são mantidos em vigor atualmente. Quais devem ser as normas aplicáveis ​​a ambientes que por naturalidade não têm fronteiras? Como controlar as plataformas dos conteúdos problemáticos que seus usuários geram? Você tem nas redes sociais a obrigação de controlar o conteúdo? Neste módulo serão abordadas estas e outras questões relacionadas às redes sociais e à liberdade de expressão.

I. Moderação de conteúdo

O que é a moderação de conteúdo nas redes sociais?

Moderação de conteúdo é o processo de supervisão e avaliação do conteúdo gerado por usuários em plataformas on-line, como redes sociais, fóruns, sites de notícias ou aplicativos de mensagens. 

A moderação de conteúdo que realiza plataformas de redes sociais, em termos gerais, o processo integra três etapas:

1. Definição e publicação de normas: las plataformas definem regras para governar seus espaços. Estas regras podem vir da proibição de publicar conteúdos que podem ser desnudos até a proibição de vender órgãos usando esses espaços. Como explicado por Ángel Díaz e Laura Hecht-Felella, "embora as formulações específicas sejam diferentes de uma plataforma para outra, essas diretrizes são mais semelhantes do que diferentes. Na prática, as eliminações em casos de alto perfil em uma plataforma tendem a ser refletidas por outras plataformas importantes, independentemente das diferenças no idioma específico de suas respectivas normas"¹.

Las regras não estão agarradas em pedra. Pelo contrário, elas mudam constantemente. Em seus inícios, plataformas como Facebook e YouTube tiveram conjuntos de regras muito sensíveis que depois evoluíram enquanto as plataformas mismas evolucionavam. Por exemplo, em 2006, as regras do YouTube foram colocadas em uma página²:

Hoje, as normas do YouTube têm um site dedicado com décadas de subpáginas e séculos de regras³. As regras podem ser bastante detalhadas, muito mais do que as leis nacionais. Por exemplo, a política de linguagem que incita ao ódio de Meta proíbe certos comentários contra pessoas em função das “características protegidas” de razão, etnia, nacionalidade, deficiência, religião, casta, orientação sexual, sexo, identidade de gênero e doença grave. Esta política prevê casos tão específicos como o seguinte: O Facebook proíbe os insultos “exceto certos insultos baseados no gênero no contexto de uma ruptura amorosa, que se definem como (…) frases ou termos ofensivos com a intenção de insultar, incluídos, entre outros: 'cabrón', 'hijo de perra'”.

2. Detecção de possíveis infrações: Em seguida, as plataformas despliegan sistemas de detecção de possíveis infrações, as quais combinam tanto ferramentas automatizadas quanto moderação humana. Esses sistemas automatizados utilizam algoritmos e inteligência artificial para identificar conteúdo que possa violar as normas. Por exemplo, você pode detectar imagens ou textos que contenham violência, gráficos ou conteúdo sexualmente explícito. No entanto, devido à complexidade e à naturalidade subjetiva do conteúdo, a moderação também requer intervenção humana. Os moderadores humanos revisam e avaliam o conteúdo identificado pelos sistemas automatizados ou reportados pelos usuários, considerando fatores como o contexto cultural que os sistemas automatizados sempre não podem considerar.

De acordo com Meta, seus sistemas automatizados detectam mais de 90% do conteúdo sobre o que toma ações para a maioria de suas políticas⁴. Esta empresa publica um relatório de transparência no qual indica qual a porcentagem dos casos de infrações que foram detectados proativamente pela plataforma e por meio do relatório dos usuários⁵.

3. Toma de acciones: finalmente, as plataformas podem eliminar os conteúdos considerados infratores e tomar outros tipos de ações. Por exemplo, em termos gerais, Meta toma três tipos de medidas: eliminar (conteúdos ou contas), reduzir (a distribuição de conteúdo, "inclusive quando não se contempla del todo na norma de eliminação em virtude de nossas políticas") e informar (agregando anúncios ou informações adicionais para dar contexto aos usuários)⁷.

II. Moderação de conteúdo automatizada

A moderação de conteúdo é o processo de supervisionar e avaliar o conteúdo gerado por usuários em plataformas on-line, como redes sociais, fóruns, sites de notícias ou aplicativos de mensagens. Em termos gerais, o processo integra: (i) a criação de normas que determinam que classe de conteúdo não é permitida, (ii) a implementação de sistemas para detectar possíveis infrações e (iii) a imposição de restrições aos conteúdos e sanções aos usuários. Este processo geralmente leva a cabo uma combinação de moderação manual realizada por humanos e, acima de tudo, algoritmos de moderação automaticamente.

A moderação de conteúdo pode seguir diferentes modelos⁸:

• Pré-moderação: abaixo deste modelo, para que um usuário possa publicar seu conteúdo em redes sociais ou plataformas on-line, você deve primeiro passar pelo manual de revisão de um moderador. A revisão determinará se o conteúdo é apropriado para ser publicado ou se deve ser rechaçado.

• Possibilidade: abaixo deste modelo, o usuário submete a informação que deseja e esta é publicada instantaneamente, sem necessidade de passar primeiro por um filtro ou pelo visto bom de um moderador.

• Moderação reativada: abaixo deste modelo, os conteúdos submetidos aos usuários nas plataformas digitais são publicados sem restrições e a moderação ocorre apenas como resposta a perguntas, denúncias ou petições apresentadas pelos usuários. É dito que os conteúdos judicializados permanecem on-line enquanto não são denunciados.

• Moderação distribuída: abaixo deste modelo, a decisão sobre quais conteúdos podem ser mantidos e quais itens precisam ser removidos completamente na comunidade, através de um mecanismo de votação ou do apoio a uma iniciativa de remoção ou bloqueio específico.

Em geral, as plataformas mais populares combinam essas abordagens: passe por filtros cada conteúdo que é público para tratar de identificar as violações mais graves de suas políticas (como, por exemplo, os conteúdos de exploração sexual infantil), mas também deixe aberta a possibilidade de denúncias da comunidade.

A moderação automática de conteúdo é apresentada como a melhor alternativa nesses casos, permitindo uma moderação instantânea e disponível a qualquer momento. Este tipo de moderação permite a remoção de conteúdos judiciais por um tempo que não obstrua a experiência do usuário com tempos de espera muito longos. Além disso, remova parte da carga psicológica para que milhas de moderadores humanos se exponham no diario, para ter que revisar conteúdos violentos⁹.

um. Moderação de conteúdo e inteligência artificial

Se deve distinguir os cenários:

Alguns desenvolvedores de IA foram argumentados em processos legais que se tratam de uma propriedade, por isso não são responsáveis ​​pelo conteúdo gerado, nem mesmo o usuário. 

Nos Estados Unidos, foi estudado um caso contra a OpenAI que está sendo demandado por difamação depois que ChatGPT retomou um caso judicial e supostamente disse erroneamente que Mark Walters cometi fraude. O principal argumento de defesa é que se trata de uma ferramenta que não é pública, embora haja algumas falhas (alucinações) no algoritmo, quem é pública é um terceiro que deve ser responsável por conhecer as limitações da ferramenta e não tomar as precauções correspondentes. Para saber mais, https://aibusiness.com/responsible-ai/is-there-freedom-of-speech-for-ai-chatgpt-is-sued-for-libel

Este precedente resulta relevante em um contexto no qual os periodistas exploram como integrar novas ferramentas em sua investigação trabalhista. 

b. Moderação de conteúdo e conteúdo periódico

Os jornalistas também podem enfrentar erros de moderação de conteúdo. As regras das plataformas supõem que, em ocasiões, publicações dedicadas a informar o público sobre algum incidente que possa ser removido de maneira injusta.

Por exemplo, em agosto de 2019, um jornalista da Suécia publicou uma fotografia de estoque representando uma menina em estado de angústia e acompanhou a descrição de um incidente de violência sexual dirigido a duas meninas. A publicação contém detalhes sobre as vítimas e os eventos, além de criticar a maneira negligente em como o sistema judicial tratou o incidente. Meta eliminou a publicação ao considerar que infringia suas políticas relacionadas à exploração sexual infantil, abuso e desnudez. No entanto, a empresa posteriormente restituiu a publicação ao notário que na realidade buscava informar¹¹. Outro caso semelhante ocorreu em 2022, quando um jornal em idioma urdu baseado na Índia informou no Facebook que os talibãs reabriram escolas para mulheres e meninas em março. Meta eliminou a publicação porque, sob seus sistemas de moderação de conteúdo, identificou erroneamente que o conteúdo elogiava a organização, violando suas políticas sobre grupos terroristas. Após uma apelação, Meta restabeleceu a publicação e removeu as restrições aplicadas à página para encontrar o que foi escrito em um tom neutro que não fez desculpas ao terrorismo¹².

c. Princípios da sociedade civil sobre moderação de conteúdo

Desde a sociedade civil global, foram propostos dois grupos importantes de princípios em relação aos conteúdos nas plataformas e à responsabilidade das empresas. Por uma parte, você está Princípios de Manila sobre Responsabilidade de Intermediários, publicado em 2015. Estes seis princípios são um marco de referência para os tomadores de decisão em relação à legislação e às políticas públicas relacionadas com intermediários da Internet pelo conteúdo que produz seus usuários.¹³. Em termos gerais, os princípios estabelecem o seguinte:

1. Não deve ser exigida a restrição de conteúdo sem uma ordem emitida por uma autoridade judicial.
2. As solicitações de restrição de conteúdo devem ser claras, inequívocas e respeitar o devido processo
3. As leis, ordens e práticas de restrição de conteúdo devem cumprir os testes de necessidade e proporcionalidade.
4. Leis, políticas e práticas de restrição de conteúdo devem respeitar o processo devido.
5. A transparência e a transmissão de informações devem ser incluídas nas normas, políticas e práticas sobre restrição de conteúdo

Posteriormente, em 2018, organizações da sociedade civil publicaram os Princípios de Santa Clara, aqueles que se concentram na transparência, nos processos e na entrega de contas na moderação de conteúdo¹⁴. Por exemplo, os princípios estabelecem que as empresas devem publicar informações sobre o número de conteúdos e informações eliminadas por país ou região, com informações sobre as políticas violadas. Além disso, as plataformas devem fornecer informações suficientes aos usuários sobre as sanções aplicadas contra seus conteúdos ou contas e dar-lhes a oportunidade de recorrer às suas decisões.

III. Os problemas de moderação de conteúdo

As redes sociais cumprem um papel chave, facilitando a conexão entre pessoas ao redor do mundo e impulsionando a liberdade de expressão. No entanto, seus processos de moderação são imperfeitos. Como explicado Díaz e Hecht-Felella: 

…as normas privadas que regem o acesso a este serviço podem resultar em experiências divergentes entre diferentes populações. Embora as empresas de redes sociais adornem suas políticas de moderação de conteúdo com a linguagem dos direitos humanos, suas ações são impulsionadas principalmente pelas prioridades comerciais, pela ameaça de regulamentação governamental e pela pressão externa da opinião pública e dos meios de comunicação convencionais.¹⁵.

Na verdade, existem inúmeras preocupações relacionadas à moderação automatizada¹⁶. Algumas dessas coisas podem ser categorizadas assim:

• Precisão e confiabilidade: a precisão de uma ferramenta de moderação depende em grande medida da tarefa para que ele seja treinado. Existem ferramentas direcionadas para detectar todo tipo de conteúdo, como infrações a direitos de autor ou conteúdos que contenham exploração sexual infantil. No entanto, esses sistemas podem ter problemas na hora de detectar variações sutis no idioma¹⁷.

Em 2017, o Facebook gerou polêmica ao bloquear uma fotografia de uma estátua de Netuno na Itália, considerando-a “sexualmente explícita”18.A escritora Elisa Barbari pretendia compartilhar esta imagem da estátua em sua página do Facebook dedicada à história de Bolonha. No entanto, o conteúdo foi removido automaticamente. Se bem depois o Facebook foi descoberto e revisado sua decisão, este incidente se soma a outros casos em que foram censuradas imagens inofensivas, até mesmo depois deste19.

• Vieses: a existência de sessões pode exacerbar a discriminação contra os grupos marginalizados. Por exemplo, as ferramentas de processamento de linguagem natural que são menos precisas em textos que não estão em inglês podem prejudicar as pessoas que não têm outros idiomas, especialmente no caso de idiomas sub-representados on-line. As sessões culturais do pesquisador também podem influenciar os conjuntos de dados de treinamento, impactando o que for considerado discurso de ódio ou o que for priorizado nos dados.

Em março de 2024, o Instagram censurou uma imagem publicada por Men Taking Babies, uma organização sem multas de lucro que apoya aos homens homossexuais que desejam ser pais, que mostra a dos esposos acariciando amorosamente seu filho, calificando-a de conteúdo “sensível” e “gráfico”20.Ron Poole-Dayan, Diretor Executivo da organização, habló o sessão social contra a criação de filhos por parte de pares do mesmo sexo.

• Entendimento contextual do discurso: as ferramentas de moderação automática caem muitas vezes na hora de extrair conhecimentos contextuais de situações onde a intencionalidade não é clara. Por exemplo, um IA pode marcar uma fotografia de uma mulher amando como desnudez quando se trata de uma expressão permitida em muitas plataformas.

•  Falso positivos e falsos negativos da moderação de conteúdo: A sessão e o treinamento da automação podem gerar resultados incorretos de moderação, afetando os direitos. Existem vários casos onde publicações que não representam riscos à população são removidas injustamente e também casos onde aqueles que podem resultar em permanência judicial on-line por muito tempo.

4. Moderação e curadoria de conteúdo no sistema interamericano

um. O teste tripartido e padrões regionais

A proteção do direito à liberdade de expressão, tanto online como offline, deve ser ampliada, pela naturalidade do direito fundamental e pelo seu papel intrínseco ao sistema democrático e à participação pública. Nesse sentido, a Comissão Interamericana afirmou que “nos termos consagrados no artigo 13 da Convenção Americana protege de igual maneira tanto os meios de comunicação tradicionais como a expressão difundida através da Internet”.²⁴ Este direito compreende a liberdade de buscar, receber e difundir informações e ideias de todo o mundo, e de qualquer maneira, assim como este não pode estar sujeito a censura prévia, proibindo a restrição deste por meios indiretos.²⁵

La Relatoría Especial para la Libertad de Expresión, em seu relatório de 2024, Inclusão digital e governança de conteúdo na Internet, recomendou aos Estados “Adotar as disposições de direito interno necessárias para que, em conformidade com suas condições de operação, as plataformas digitais apliquem o teste tripartido e rindan garantam processos em suas práticas de moderação de conteúdo; instituam mecanismos de avaliação de risco, devido à diligência e procedimentos para evacuar quejas relacionadas com a circulação de conteúdos não protegidos por direito à liberdade de expressão e aplicação diligentemente e de bons processos”.²⁶

Além disso, a Relatoria tem uma advertência de que a moderação de conteúdo na América Latina deve atender aos padrões regionais, que são mais restritos na proteção à liberdade de expressão, o que implica um desafio particular:

“197. Frente ao anterior, um ponto relevante que a Corte Interamericana anunciou é que a interpretação de um direito ampliado pela Convenção Americana, si resulta mais restritiva em outro marco jurídico internacional, não justifica a adoção desses critérios mais restritivos no contexto da Convenção Asimismo, se bem a abordagem da União Europeia se resalta por ser um derechos, se deve Tenho em conta que o marco jurídico interamericano difere da aplicação no contexto dos tratados fundamentais da União Europeia e do Convênio Europeu de Direitos Humanos no sentido de que “as garantias de liberdade de expressão contidas na Convenção Americana foram projetadas para serem mais generosas e para reduzir ao mínimo as restrições à livre circulação de las ideias”. Esta não é uma consideração discursiva, enquanto o artigo 10 da Convenção Europeia permite “formalidades, condições, restrições” que foram interpretadas a favor da imposição de censura prévia sob um escrutínio estrito, o artigo 13.2 da Convenção Americana estabelece explicitamente que o exercício da liberdade de expressão “não pode estar sujeto a prévia censura sino a responsabilidades ulteriores”. Assim, o CADH contempla em seu artigo 13.3 a proteção explícita contra as restrições indiretas à liberdade de expressão, e nem o Convenio Europeo nem o Pacto Internacional sobre Direitos Civis e Políticos apresentam disposições equiparáveis. La RELE também sinalizou distinções entre as provisões do CADH e de outras tratadas internacionais sobre direitos humanos a respeito dos discursos não protegidos, como as expressões de ódio, concluindo que sua aplicação no SIDH é mais estrita.” (subrayado proprio)

b. Sistemas de filtragem de conteúdo e liberdade de expressão

De maneira mais pontual, em relação aos sistemas de filtração de conteúdo – como forma de limitação de fato de circulação de informações – impostos por governos ou fornecedores de serviços comerciais são alertados de que quando estes não são controlados pelo usuário final constituem uma forma de censura prévia e não representam uma restrição justificada à liberdade de expressão.²⁷

Sobre este assunto, vale a pena destacar que, ao ponderar possíveis abusos da liberdade de expressão dos direitos humanos, as plataformas adotaram estratégias distintas, nos quais, através do procedimento de moderação, busca classificar os riscos de censura prévia e fornecer um mecanismo de proteção de direitos potencialmente vulneráveis.

Um deles, originado na tese de ausência geral de responsabilidade dos intermediários, refere-se a um 'mecanismo de notificação e remoção' que dá aos titulares de direitos uma oportunidade de recorrer diretamente a um intermediário da Internet para remediar uma infração que eles creem estavam sujeitos.²⁸ Além disso, refira-se ao mecanismo 'notice and warning", derivado de posturas de responsabilidade limitada das plataformas, consistente em que o intermediário receba uma pergunta, que depois deve notificar o gerador de conteúdo potencialmente problemático, que lhe seja de advertência. O gerador de conteúdo tem a oportunidade de corrigir seu comportamento, para que ele detenha o procedimento, ou o defenda. dentro de um prazo previsto, o que pode dar lugar a sanções posteriores²⁹. Existe outro mecanismo, denominado 'notice and stay down', que sugere que o intermediário receba uma notificação sobre o caráter ilegal ou infrator do conteúdo alojado, e posteriormente exija não apenas a remoção da informação, mas também tome medidas adicionais para garantir que não seja posteriormente publicado, seja pelo mesmo usuário ou por outros usuários.³⁰

No entanto, cada uma dessas estratégias traz um risco próprio para o exercício de liberdade de expressão, pois tem um efeito direto sobre o direito à liberdade de expressão, pois pode levar à eliminação de conteúdo de Internet (ou, alternativamente, uma redução de sua visibilidade), que deve ser solicitada em cada jurisdição, de acordo com seu marco jurídico e normas complementares existentes³¹.

Neste cenário, a Relatória Especial sobre a Promoção e Proteção do Direito à Liberdade de Opinião e Expressão da Organização das Nações Unidas, em 2010, advirtiu que o risco de responsabilidade por parte dos intermediários gera um efeito inibidor para a liberdade de expressão. Isso, dado que os intermediários optaram por um comportamento conservador e “se decantaram pela segurança censurando em excesso o conteúdo potencialmente ilegal” e, além disso, que “os intermediários, tanto quanto as entidades privadas, não estão nas melhores condições para determinar se um determinado conteúdo é ilegal, porque para eles faltam sopesar com cuidado os interesses divergentes e examinar as defesas”. ³²

Também foi destacado que suas estratégias de moderação de conteúdo têm limitações próprias. Por exemplo, expor considerações sobre o sistema de notificação e retirada pode “é uma opção para impedir que os intermediários adotem comportamentos ilícitos ou fomentados no marco de seus serviços, podendo ser objeto de abusos por parte de agentes estatais e privados”. e insisti que as limitações posteriores nunca devem ser delegadas a uma entidade privada. ³³

De modo semejante, em 2017, a Relatoria também alertou que se concentrava um aumento de Estados estabelecendo obrigações de monitoramento e eliminando rapidamente o conteúdo gerado pelos usuários, com marcos punitivos que conquistavam a liberdade de expressão nas sociedades democráticas. Particularmente, refiro que essas regulamentações "implicam a delegação de competências reguladoras e funções a atores privados que carecem de ferramentas básicas de entrega de contas. A demanda de rapidez e eliminações automáticas correm o risco de consolidação como novas formas de restrição prévia que estimulam a criatividade no contexto do direito de autor. Destaco que perguntas completas de hecho e derecho geralmente devem ser julgados por instituições públicas, não por atores privados cujos processos atuais podem ser incompatíveis com as normas do processo de débito e cujos motivos são principalmente econômicos.³⁴

Da exposição, resulta evidente que a moderação de conteúdo foi um obstáculo para que não terminasse interesses fundamentais como a liberdade de expressão. É por isso que os intermediários entregam em alguns casos soluções tecnológicas, por exemplo, para dar resposta às obrigações de proteção dos direitos do autor. No entanto, ainda não garantimos a proteção básica à liberdade de expressão nos termos descritos.

Um dos riscos da moderação automatizada consiste na difícil técnica de incluir vários fatores que devem ser mantidos em conta em conformidade com os padrões legais para uma potencial limitação de uma expressão.

A respeito, a Red en Defensa de los Derechos Digitales (R3D) explica algumas dificuldades para realizar a moderação de conteúdo em grande escala.³⁵ Assim, este “representa o dilema de que as expressões em geral emitem um contexto específico que incorpora questões que devem ser valorizadas, contos como a intencionalidade e as circunstâncias históricas, culturais e sociais do caso concreto, porque muitas vezes os conteúdos podem ser suprimidos ou moderados de maneira incorreta pelos sistemas dados a incapacidade que você tem para tomar conta esse contexto”.³⁶ Isso implica, por si só, que o sistema daria de baixo conteúdo por defeito em maior proporção do que o necessário. Além disso, deve-se ter em conta o impacto que pode ter a concentração da moderação de conteúdo por parte desses atores privados, devido à sua posição no mercado e ao desequilíbrio de poder em relação aos usuários.³⁷

Em relação a outros aspectos técnicos, a organização Karisma, que destaca os riscos que plantam a detecção automatizada de infrações de direitos de autor para a liberdade de expressão: i) exercer um poder 'real e eficiente' e 'injusto' de controle, regular e influenciar a circulação digital de conteúdo, ii) proliferação de notificações ilegítimas(sobre conteúdo de domínio público, de propriedade da parte notificada, aplicação estrita da lei de direitos do autor gerando situações injustas e, iii) deficiências no processo de notificação e apelação. Essas falhas do sistema, segundo o estúdio, geraram um dano individual (bajada de conteúdo para o autor) e também um coletivo (efeito inibidor) porque conquistaram a capacidade e a motivação dos criadores para criar e manter um público para seu conteúdo^.38

c. Obrigações das plataformas sobre moderação de conteúdo, em conformidade com o direito internacional dos direitos humanos

Os Estados são os principais titulares das obrigações em matéria de direitos humanos, em particular a adoção de legislação que seja coerente com seus compromissos na matéria, como aqueles originados e decorrentes dos artigos 19 e 20 do Pacto Internacional de Direitos Políticos e Civis e do artigo 13 da Convenção Americana sobre Direitos Humanos, referente à liberdade de expressão.

Neste contexto, sabemos que a dependência do novo regime de ferramentas automáticas de reconhecimento e filtração gera um risco de “bloqueio excessivo”. As medidas adotadas pelos provedores de serviços devem ser “estritamente específicas” para permitir uma proteção efetiva dos direitos de autor, mas não afetarão os usuários que utilizam as plataformas legalmente.

Agora bem, tendo em conta a multiplicidade de atores das interações on-line e seus diferentes papéis, a UNESCO realizou um estudo sobre a necessidade e as condições de processos reguladores dos sistemas de moderação e curadoria de conteúdo, para serem coerentes com as garantias de direitos humanos como a liberdade de expressão.

Tudo isso fez com que plataformas e fornecedores de serviços também precisassem adotar medidas para que seus serviços respeitem os direitos humanos.³⁹ Isso foi refletido na adoção de medidas como:

• “poder demonstrar antes do sistema regulatório o cumprimento de seus termos de serviço e a eficácia das medidas que levam a cabo para detectar, identificar ou eliminar conteúdo”.

• "notificar os usuários quando seu conteúdo for excluído ou sujeito a moderação de conteúdo e incentivo além dele. Isso permitiu que os usuários entendessem por que essa ação foi tomada em seu conteúdo, o método utilizado (algorítmico ou após uma revisão humana) e abaixo do que as regras de plataforma foram tomadas. […]“

• contar com processos que permitem aos usuários tomar suas decisões (…). Esta disposição pode variar dependendo do tamanho da empresa e do grau em que existem procedimentos de reparação eficazes para que os usuários apelem para as ações.”²³

• provar um mecanismo eficaz de reparação de usuários na plataforma que eles permitem (para os não usuários, se forem afetados por um conteúdo específico) oportunidades significativas para plantar suas inquietações e obter uma reparação quando correspondente. Isso deve incluir um canal de denúncia claro, facilmente acessível e compreensível para os usuários. As perguntas aos usuários devem ser notificadas sobre o resultado de sua apelação; Este mecanismo de apelação deve seguir os princípios descritos nos Princípios Reitores das Nações Unidas sobre as Empresas e os Direitos Humanos para mecanismos de queja eficazes (legitimidade, acessibilidade, previsibilidade, equidade, transparência, compatibilidade de direitos e aprendizagem contínua).²⁴

• “Las plataformas digitais devem notificar os usuários e explicar os processos de apelação quando seu conteúdo é eliminado ou se etiqueta expressamente, é restringido em termos de comentários ou de partilha de associação publicitária,dados limites especiais em termos de amplificação ou recomendação (a diferença de “orgânico/algorítmico”, amplificação e recomendação), e por quê. Isso permitiu que os usuários compreendessem as razões para tomar medidas sobre seu conteúdo, o método utilizado (algorítmico ou após uma revisão humana) e abaixo do que as regras de plataforma tomariam as medidas. Além disso, você deve contar com processos que permitem aos usuários tomar essa decisão e obter uma reparação adequada.

Para saber mais sobre moderação em escala: https://www.alsur.lat/sites/default/files/2022-05/moderacion_contenidos_alsur.pdf

V. Processos de apelação nas plataformas

Os sistemas de moderação de conteúdo buscam criar um ambiente seguro para os usuários das plataformas. No entanto, como foram sinalizados, esses sistemas ocasionalmente falham na hora de detectar violações e podem remover material que não viola as políticas ou deixar on-line outros que sejam infringidos. Para estes casos, as plataformas de redes sociais dominantes estabeleceram mecanismos de apelação através dos quais os usuários podem impugnar decisões como a eliminação de publicações ou contas. Desta forma, uma peça de conteúdo removida com anterioridade poderia ser restabelecida ou um usuário suspenso poderia voltar a usar a plataforma normalmente.

Em termos gerais, os processos de apelação consistem no envio de uma apelação pelo usuário com pouco espaço para apresentar argumentos ou explicar o contexto, uma reconsideração pela plataforma que provavelmente será rápida e a notificação final ao usuário. Os detalhes específicos variam entre as plataformas distintas. No entanto, para efeitos ilustrativos, a continuação são apresentados os processos de moderação e apelo do YouTube e Meta, já que ambos contam com particularidades interessantes.

YouTube: três golpes e apelações

O YouTube remove os conteúdos que infringem as Normas da Comunidade, que incluem regras contra spam, conteúdos violentos, conteúdos de ódio, entre outros. Quando o YouTube considera que as políticas foram violadas, envia ao correio uma notificação ao usuário. Se for o caso da primeira vez, o usuário receberá uma “advertência”.

Um exemplo de notificação do YouTube por suposta infração de sua política sobre organizações criminosas e violentas.

*Os detalhes do caso são ocultados.

No entanto, depois da primeira infração, cada infração futura será considerada como uma “falta” ou “greve”. Com cada greve pode-se impor sanções, cada vez mais severas, como o bloqueio temporal do canal desde a publicação dos vídeos. Luego de tres strikes, YouTube bloqueia la cuenta permanentemente.

Os usuários podem apelar à decisão do YouTube antes de qualquer falta para evitar sanções⁴⁰. Nesses casos, as inconformidades são exibidas no YouTube Studio, o painel de controle dos usuários para seus canais no YouTube. O processo de apelação pode resultar na restauração do conteúdo removido, na instituição de uma restrição de idade ou na remoção definitiva e na conservação da greve.

Espaço de apelação dentro do YouTube Studio. O YouTube concede 800 caracteres para deixar um comentário com argumentos ou contexto adicional⁴¹.

Meta: Conselho de Supervisão

Meta também elimina conteúdo do Facebook e Instagram quando considera que isso viola suas Normas Comunitárias. Nestes casos, as plataformas enviam uma notificação aos seus usuários quando consideram que algum conteúdo publicado infringe as políticas. Os usuários que consideram que seu conteúdo foi removido de maneira injusta podem usar o botão “Expresa tu desacuerdo” para retirar seu conteúdo⁴². Facebook e Instagram geram um número de identificação para o tráfego da apelação. Além disso, ambas as plataformas estão localizadas em um espaço onde os usuários podem consultar o estado da apelação. 

Se depois de estudar a apelação, a Meta continuará considerando que o conteúdo é infrator, o usuário terá uma opção adicional: enviar seu caso para o Oversight Board ou Consejo Asesor de conteúdo da Meta. Este é um dos desenvolvimentos mais inovadores dos sistemas de moderação de plataformas e é o único em sua classe.

Como foi sinalizado em um módulo anterior, o Oversight Board é uma espécie de tribunal de última instância que toma decisões finais em casos de alterações na moderação de conteúdo no Facebook e Instagram. Sua criação foi feita em um contexto de debates profundos sobre o manejo da informação falsa, engañosa, discriminatória ou prejudicial nas redes sociais e constitui uma intenção de Meta por assentar em suas decisões de moderação de conteúdo, melhorar o processo, aumentar a transparência e brindar a interpretação de contas por parte de um aplicativo externo e independente da empresa.

Nem todos os casos enviados ao Oversight Board foram revisados ​​nesta “última instância”. Este processo requer o número de identificação da apelação fornecido originalmente por Meta. No entanto, o trâmite é realizado diretamente na página do Conselho de Supervisão. O usuário que apela terá a oportunidade de apresentar uma breve argumentação sobre por que seu caso deverá ser selecionado. Desde o início de suas operações em 2020, este conselho foi selecionado e resultou em 92 casos⁴³.

Esses mecanismos excluem a possibilidade de restaurar publicações que representam riscos extremos de segurança (como aqueles relacionados à exploração infantil) e se estendem também às publicações que só foram denunciadas, mesmo que não sejam removidas, ou às publicações visíveis de outros usuários que sejam considerados perigosos.⁴⁴.

As apelações em casos de acusações de infrações aos direitos do autor

Neste ponto, vale a pena referir-se aos processos de apelação antes das plataformas por supostas infrações aos direitos do autor. Nestes casos, segue-se um processo especial aprovado pela Ley de Derechos do Autor del Milenio Digital dos Estados Unidos (Digital Millennium Copyright Act ou “DMCA”). O DMCA é uma legislação que estabelece um marco legal para a proteção dos direitos de autor no ambiente digital. Um dos elementos clave do DMCA é o processo de “notificação e retirada” (ou “notice and takedown”), que permite aos titulares de direitos de autor notificar aos intermediários da Internet que albergues contêm conteúdo publicado por usuários, como redes sociais, presuntas infrações a seus direitos⁴⁶.

Para os casos em que foram sinalizados por supostas infrações, o DMCA também contempla um mecanismo de defesa para os usuários que consideram que seu conteúdo não infringe os direitos de autor ou que possuem uma licença válida para usar esse material. Este processo é conhecido como “contranotificação” (“contranotificação”). Quando uma plataforma de redes sociais retira o conteúdo em resposta a uma notificação de infração de direitos do autor, você deve fornecer ao usuário afetado uma cópia dessa notificação e remover o conteúdo presunçosamente infrator. Neste ponto, o usuário tem a opção de apresentar uma contranotificação.

A contranotificação deve incluir certas informações, como a identificação do conteúdo retirado, uma declaração de que o usuário acredita que o conteúdo foi retirado por erro ou por uma identificação errada do material e a vontade de alguém à jurisdição do tribunal federal do distrito onde o usuário reside ou onde se encontra na sede legal da rede social.

Uma vez que a plataforma que recebeu a contranotificação deverá ser reenviada ao titular dos direitos de autor que apresentou a notificação original de infração. Se o titular dos direitos de autor não iniciar ações legais, o provedor de redes sociais deverá restaurar o conteúdo retirado⁴⁷.

É importante notar que o processo de notificação e retirada estabelecido pelo DMCA tem sido objeto de críticas devido ao seu impacto na liberdade de expressão por vários motivos⁴⁸:

• Falta de equilíbrio entre os direitos de autor e a liberdade de expressão: o processo favorece excessivamente os titulares de direitos de autor em detrimento da liberdade de expressão dos usuários. Isto deve-se ao fato de que o simples fato de receber uma notificação de infração pode levar a retirada de conteúdo sem uma avaliação adequada de se realmente constitui uma violação dos direitos de autor ou se está protegido por exceções legais.

• Facilidade para abusar do sistema: o processo foi utilizado de forma abusiva por parte para censurar a expressão legítima e crítica.

• Efeito dissuasor para os usuários: As consequências legais estabelecidas no DMCA criam um efeito dissuasor que pode fazer com que os usuários não apelem, a pesar de ter o direito de fazê-lo.

Conclusão

As plataformas de redes sociais desempenham um papel fundamental tanto em conectar pessoas ao redor do mundo como em estabelecer políticas e processos para proteger histórias de pessoas e suas expressões. Através de suas normas comunitárias e processos de moderação, as plataformas buscam criar um ambiente que seja seguro e que permita a expressão de seus usuários. Sem embargo, contos processuais têm defeitos. Os jornalistas, em particular, também são vítimas desses defeitos, enfrentando riscos como a censura ao seu conteúdo e a exposição ao incidente.

A censura e o ataque aos jornalistas nas redes sociais são problemas significativos que colocam em risco a liberdade de expressão e o exercício do jornalismo independente. Apesar dos mecanismos de apelação e das políticas destinadas a proteger os jornalistas, ainda existem falhas na implementação dessas medidas.