Assédio e violência online: moderação de conteúdo pode ser enfrentamento eficaz

A despeito de avanços legislativos em torno do tema, alterações promovidas pelas plataformas de redes sociais têm sido também uma frente para o combate a tais condutas. Entretanto, ainda não é tão claro como discursos ofensivos online podem ser interpretados por máquinas — o que dificulta a implementação de soluções automatizadas

Na última década, as redes sociais passaram a ganhar maior importância, tornando-se uma nova arena para a ação comunicativa. Redimensionaram as possibilidades de participação de grupos diversos e ampliaram as possibilidades de interações, em que há a potencialidade de que qualquer pessoa comum se torne, de fato, um emissor de conteúdo de ampla recepção, algumas questões relativas ao engajamento equitativo e democrático permanecem prementes, como (1) o acesso material de pessoas a esses serviços , (2) a educação digital e a possibilidade de, de fato, se tornar um ator relevante na circulação de conteúdo, e (3) outros obstáculos materiais como casos de violência online. Este artigo foca neste terceiro eixo. Apresento aqui um breve panorama sobre as implicações de violências discursivas na participação em debates online, especificamente, em relação àquelas que tem gênero como base e são denominadas como “assédio online” – conceito que serve para abranger uma gama de comportamentos que produzem “contatos indesejáveis, e que são utilizados para criar um ambiente intimidador, incômodo, amedrontador, ou até mesmo hostil para as vítimas, com usos de meios digitais para alcançar a vítima.” (Lenhart et al., 2016, tradução livre).

Nessa esteira, os estudos feministas entendem o assédio online como sendo uma expressão de padrões culturais mais amplos que colocam a mulher em uma posição inferior na sociedade. Seriam formas de se reforçar papeis sexuais existentes no mundo offline nesta nova arena. Em relação ao assédio online, há ainda outras características típicas do ambiente virtual que podem o tornar mais grave do que o assédio offline, tais como (1) anonimato; (2) difusão; (3) permanência.

Idealmente, sistemas democráticos deveriam contemplar que grupos diversos tenham a mesma possibilidade de participação e construção do debate público (DAHL, 1994), já que entres seus pressupostos basilares está a igualdade entre sujeitos e o livre embate de ideias. Se a esfera virtual tem se tornado o principal ambiente para a interlocução comunicativa entre pessoas, mecanismos que evitem a sobreposição de grupos em relação a outros e que estimulem a participação de minorias, são extremamente desejáveis.

A literatura recente que discute assédio e discurso de ódio traça uma distinção bastante demarcada do assédio direcionado a uma pessoa por ser parte de um grupo específico e de ofensas direcionadas a uma pessoa devido a seus posicionamentos. Em geral, as consequências do primeiro são maiores e mais profundas. Grupos que já sofrem com violências discursivas e com desigualdades de tratamento na vida social, potencialmente estão mais vulneráveis em situações de constrangimento – inclusive devido à falta de amparo de instituições públicas para reparações e indenizações.

Para investigar o fenômeno com maior profundidade, dois pesquisadores da Universidade de Oslo conduziram dois surveys (NADIN e FLADMOE, 2017; 2019). Buscaram responder se: (1) mulheres experienciam mais assédio online do que homens – e quais as diferenças das ofensas de um grupo para o outro; e, (2) em qual extensão há padrões de gênero em relação a como o assédio atua como um mecanismo de silenciamento? Este estudo indicou que mais homens sofrem comentários ofensivos do que mulheres, mas, no entanto, estes dizem respeito a seus posicionamentos e opiniões, e não sobre suas identidades. Outro resultado desta pesquisa foi que mulheres têm maior tendência a deixar de publicar conteúdos, após terem sofrido com ataques do que os homens – o que se conceitua como “chilling effect”. Neste sentido, concluíram que o assédio tem alta potencialidade de silenciamento de mulheres nas redes.

O assédio online, como mostra o estudo de Jhaver, Ghoshal, Bruckman e Gilbert (2018), a partir da análise de listas de bloqueio do Twitter e entrevistas com usuários (bloqueadores e bloequeados), pode ocorrer de múltiplas formas:

Assédio e violência online: moderação de conteúdo pode ser enfrentamento eficaz

A despeito de avanços legislativos em torno do tema, com medidas contra a pornografia de vingança e divulgação de imagens íntimas por exemplo, alterações promovidas pelas plataformas de redes sociais têm sido também uma frente para o combate a tais condutas. Entretanto, ainda não é tão claro como discursos ofensivos online podem ser interpretados por máquinas — o que dificulta a implementação de soluções automatizadas. Observando o Twitter, por exemplo, é possível ver que uma parte significativa da linguagem misógina possa ser classificada como “misoginia casual”. Isto é, termos como “estupro”, “vadia”, e “prostituta” podem ser usados de forma metafórica, sem de fato serem ameaçadores ou abusivos. Formas mais sutis e menos agressivas de ofensas podem ser expressadas para mulheres, e ainda assim comunicarem que mulheres são incapazes, objetificáveis e cidadãs de segunda-classe.

No entanto, algumas medidas para a redução da incidência do assédio online podem ser pensadas, tais como:

  1. A edição de leis específicas anti-assédio online — que, mesmo sem intuito coercitivo, podem ter como efeito a denúncia e visibilidade do problema;
  2. Moderação online: nem sempre a resposta regulatória é o melhor e único caminho. Há possibilidade de aplicação de técnicas diversas de moderação, que não seja apenas a remoção de conteúdo ofensivo ­– sendo esta passível de ser realizada por algoritmos ou por humanos.
  3. Criação de chatbots: no Twitter, por exemplo, alguns bots são programados para chamar a atenção para discursos ofensivos;
  4. Mensagens de alerta: o Tinder, por exemplo, exibe mensagens de alerta para que os usuários tenham ciência de que estão usando linguagem que pode ser considerada ofensiva;
  5. Educação e fomento a contra-discursos: com campanhas anti-assédio, por exemplo;
  6. Contra-balanceamento com mensagens positivas e expressões de apoio da comunidade online.

Referências:

BOECKMANN, Robert J.; LIEW, Jeffrey. Hate speech: Asian American students’ justice judgments and psychological responses. Journal of Social Issues 58, n. 2, 2002, p. 363–381.

JHAVER, Shagun et al.. Online Harassment and Content Moderation: The Case of Blocklists. ACM Transactions on Computer-Human Interaction, s.l, vol. 25, n. 02, março 2018. Disponível em: http://eegilbert.org/papers/tochi18-jhaver-blocklists.pdf.

LENHART, Amanda; YBARRA, Michelle; ZICKUHR, Kathryn; PRICE-FEENEY, Myeshia. Online Harassment, Digital Abuse, and Cyberstalking in America. Data & Society Institute. 21 nov. de 2016.

NADIM, Marjan; FLADMOE, Audun. Silencing women? Gender and online harassment. Social Science Computer Review, 2019.

NADIM, Marjan; FLADMOE, Audun. Silenced by hate? Hate speech as a social boundary to free speech. Boundary Struggles. Contestations of Free Speech in the Public Sphere. Oslo: Cappelen Damm Akademisk, 2017, p. 45–76.

Fonte: portal.fgv.br

*As opiniões expressas neste artigo são de responsabilidade exclusiva da autora Yasmin Curzi, não refletindo necessariamente a posição institucional da FGV.

Share on facebook
Facebook
Share on whatsapp
WhatsApp
Share on twitter
Twitter
Share on linkedin
LinkedIn
Share on pinterest
Pinterest

Deixe uma resposta

Posts Recentes

 Ver tudo