7

Labirinto adentro: sobre bots, trolls, assédio e poder

Eu hoje represento a cigarra
Que ainda vai cantar
Nesse formigueiro quem tiver ouvidos
Vai poder escutar meu grito

— Rita Lee

Imagem da série Território, Andrea Tavares

Nos últimos anos, vivemos a desgraça de ser liderados por homens destemperados e despreparados que rezam pela cartilha do guru trumpista Steve Bannon. A extrema direita bannoniana brasileira que desdenha a democracia é composta por homens ressentidos que sempre estiveram em diálogo com seus pares fascistas ao redor do mundo.

A trupe recrutada por Bannon conta com associados como Trump, Bolsonaro e seus homens-fortes, o italiano Matteo Salvini e o húngaro Viktor Orbán. Os bannonianos topam qualquer parada para chegar ao poder e têm sabido usar redes sociais e aplicativos de mensagem para desinformar, disseminar ódio, exercitar uma verve vergonhosa, assassinar a reputação de desafetos e aniquilar opositores. A gramática política assombrosa que compreende esse vale-tudo nas redes sociais e aplicativos de mensagem tornou-se o maior pesadelo do campo progressista brasileiro em 2016, quando Trump foi eleito, e Bannon, amplamente creditado como o responsável pela vitória dos republicanos, saiu pelo mundo arrebanhando novos membros para seu clube de lideranças autoritárias. A extrema direita brasileira, a essa altura, já estava organizada ao redor do clã Bolsonaro e Bannon viu em Jair Bolsonaro o grande potencial que de fato tinha. O então deputado federal Jair Bolsonaro dizia que Bannon era um ícone no combate ao marxismo cultural. Bannon retribuía os elogios e com frequência chamava Bolsonaro de herói. Analistas políticos antenados passaram a alertar o Brasil para o risco que corríamos se seguíssemos à mercê da maquinação dessa gente. Não deu tempo, fomos dragados por um tsunami reacionário.

Em O negócio do Jair, lançado em 2022, a jornalista Juliana Dal Piva recapitula a gênese da ascensão do clã Bolsonaro. Tá tudo lá. Em 2018, a extrema direita brasileira tinha feito a sua lição de casa e tinha quase todos os recursos para chegar à presidência. Mas a chancela e a mentoria de Bannon foram críticos para que as forças aglutinadas ao redor de Bolsonaro soubessem como usar as redes e os aplicativos de mensagem como o fizeram. Trolls e bots reinaram nas eleições de 2018, fizeram estrago nas eleições de 2022 e hoje se mostram extremamente úteis para homens acusados de atentar contra a dignidade sexual de meninas e mulheres.

Desde 2016, sabemos que o gospel de Bannon funcionava nas urnas. A novidade é que essa gramática tem sido igualmente eficaz para manter em silêncio mulheres vítimas de crimes contra dignidade sexual.

Trolls, bots do mal e bots do bem

A cartilha bannoniana adaptada e aperfeiçoada pela extrema direita brasileira pode ser imperceptível aos olhos de quem observa apenas o que se passa nos debates, nos programas veiculados durante o horário eleitoral gratuito e em inserções comerciais veiculadas na TV e no rádio. Nessas frentes, vemos apenas os golpes que a extrema direita dá, da cintura pra cima, em adversários. É nas nas redes e nos aplicativos de mensagem que vemos e vivemos os golpes dados da cintura pra baixo pelo Gabinete do Ódio e grupos afins. Essa dinâmica é característica dos esforços de guerra bannonianos. Quem estaria desferindo esses golpes? Quem protagoniza esse vale-tudo? Frequentemente, trolls e bots.

De acordo com o InternetLab, centro de pesquisas que é referência para interessados no debate sobre política e internet, trolls são usuários de redes e aplicativos que transgridem o que é considerado aceitável no debate público e cujo comportamento violento performático torna conversas republicanas inviáveis.

Bots, por sua vez, são um tipo específico de programa de computador que realiza tarefas de forma autônoma a partir de algoritmos. Há robôs do bem, programados para nos ajudar e que tornam possível nosso cotidiano. Bots do bem não têm intenções maliciosas. Alguns, como os crawlers, são robôs que pesquisam e extraem volumes gigantescos de dados em tempo real e são o motor por trás dos mecanismos de busca que usamos diariamente. Outros, como a Beta, a primeira robô feminista do Brasil, têm como propósito pressionar tomadores de decisão e contribuir para que o debate público sobre a igualdade de gênero exista e seja vibrante. A Beta, desenvolvida pelo laboratório de ativismo Nossas, nasceu em 2017 dentro do Messenger do Facebook. Sua missão era alertar usuárias sempre que um tema sensível relacionado aos direitos de meninas e mulheres entrava na pauta do executivo ou do legislativo. Nossa bot feminista tinha amigas mundo afora, robôs criadas por grupos feministas e que naquele momento habitavam a fronteira da inovação na luta por direitos humanos. A Beta foi decisiva em momentos em que direitos de meninas e mulheres estavam em xeque. Em 2020, a Meta promoveu mudanças em suas políticas de comunidade e a Beta teve de se aposentar. À época, aproximadamente 170 mil pessoas haviam chamado a Beta no inbox.

Porém, há os bots do mal, aqueles usados para automatizar perfis falsos e promover um engajamento artificial, fraudulento. Bots assim são programados para alavancar determinados conteúdos, repetir as mesmas ideais ad nauseam e atacar interlocutores de maneira coordenada. Somadas, essas práticas forjam uma percepção distorcida da realidade e são capazes de corroer Estados de Direito.

Trolls são usuários reais que passam dos limites e desejam intimidar e constranger interlocutores. Bots não são usuários reais, são contas falsas programadas para atacar, ofender, humilhar. Os trolls atacam motivados pelos mais variados incentivos. Bots são comprados — e custam caríssimo. Ambos, trolls e bots, quando atacam, visam prejudicar seus alvos e interditar debates relevantes. Quem atiça trolls e compra bots parece mais popular do que de fato é e suas narrativas parecem ter mais aderência do que de fato têm. A extrema direita bannoniana brasileira entendeu rapidamente que trolls e bots, no limite, manipulam a percepção da realidade e aproveitou todas as brechas que encontrou para jogar sujo e golpear adversários da cintura pra baixo.

Em Novo jogo, velhas guerras, livro lançado em 2020, o advogado e diretor executivo do InternetLab Francisco Britto Cruz fala da "utopia da desintermediação à brasileira”, uma falácia hoje encarnada no clã Bolsonaro. Britto Cruz emprega o termo para nomear essa falsa impressão de que alguns políticos não têm medo de usar redes e aplicativos de mensagens para falar a verdade para o povo sem intermediários. Articular trolls e comprar bots são elementos constitutivos dos esforços de guerra da extrema direita. Bannon, Bolsonaro, seus trolls e seus bots são causa e consequência da utopia da desintermediação à brasileira.

Infelizmente, veremos adiante que essa turma está fazendo escola. A gramática política de Bannon e Bolsonaro tem se mostrado vantajosa para que acusados de atentar contra a dignidade sexual de meninas e mulheres.

Bots do bem podem facilitar — e até mesmo salvar — a vida de meninas e mulheres. Bots do mal que operam em sintonia com trolls para promover agendas que só interessam a misóginos e autoritários aprofunda vulnerabilidades. A tecnologia pode acelerar e dar escala a transformações positivas para meninas e mulheres, mas pode também ser usada para manter mulheres cativas em situações de risco e em silêncio.

Bots do mal custam caro

Bannon arregimentou lideranças em diversos países e a potência de sua gramática política é um fenômeno global. Diante disso, organizações do mundo todo passaram a trabalhar em diálogo na busca por remédios que ajudem a curar o estrago que trolls e bots causam quando conseguem fazer mais barulho que cidadãos preocupados com a democracia e os direitos humanos. Esforços dessa natureza têm resultado em tipologias interessantes que guiam quem quer preservar a infraestrutura cívica brasileira. As definições mencionadas acima, elaboradas pelo time do InternetLab, são exemplos felizes de esforços dessa natureza. Graças ao empenho de grupos como o InternetLab, hoje sabemos bem mais sobre trolls e bots do que sabíamos quando Bannon começou sua busca por Trumps em todos os continentes. E sabemos algo muito importante: bots do mal capazes de virar a maré da opinião pública têm um preço salgado. Em resumo, driblar limites legais e desenvolver automações que emulem personalidades reais é difícil e caro.

De partida, criar e administrar perfis falsos nas redes e aplicativos de mensagem demanda conteúdos que usuários reais produzem naturalmente — foto de perfil, fotos e vídeos de familiares e amigos, informações sobre trabalho e interesses, opiniões sobre temas variados.

Bots rudimentares não seguem quase ninguém nas redes, não têm seguidores, compartilham poucas informações sobre si. Contas fake muitas vezes nem têm foto de perfil, compartilham poucas fotos e vídeos, não marcam membros da família e amigos em suas postagens, não compartilham com frequência detalhes sobre suas trajetórias profissionais. Até os nomes dos bots do mal são um desafio porque os algoritmos têm dificuldades para criar nomes verossímeis. É difícil e caro criar personas falsas que reproduzam as especificidades e nuances de personalidades reais.

Robôs mais sofisticados, do tipo que Bannon e o clã Bolsonaro gostam e que as plataformas fingem não ver, falam mais de si. Têm seguidores e seguem várias contas — reais e fake. Os interessados em ver o mercado dos bots prosperar investem alto como retorno de automações complexas e mais difíceis de detectar. Ferramentas como o Bot Sentinel, o Botometer ou o brasileiro PegaBot ajudam quem quer ou necessita investigar vestígios da automação, como o uso de fotos e vídeos roubadas de perfis de usuários reais. Mas é árdua a vida das organizações que investem recursos escassos e tentam fazer frente ao orçamento infinito da extrema direita. A cada pleito, os bannonianos brasileiros investem mais recursos nesse tipo de esforço de guerra e ampliam seu arsenal.

Outro desafio para os scripts dos bots do mal é a sintaxe. É difícil e caro reproduzir automaticamente a maneira como pessoas reais se expressam. A sintaxe humana é perfeitamente imperfeita. A inteligência artificial vive correndo atrás da genuinidade de personalidades reais. É por isso que a evolução de ferramentas como o Chat GPT anima, mas também assusta. Por ora, a dificuldade que os bots enfrentam na reprodução da sintaxe humana real ainda é regra e ferramentas como o Chat GPT é acessível para muito poucos. Tuítes provenientes de contas fake, por exemplo, costumam ser repetitivos estereotipados por serem produtos de algoritmos e não da mente de um indivíduo real. Somas vultuosas são investidos no desenvolvimento de automações que reproduzem a autenticidade da sintaxe humana.

O mesmo pode ser dito sobre a semântica. Bots do mal são usualmente criados para uma finalidade específica. Quem compra bots sabe o que quer deles: eleger, promover, cancelar, ameaçar… os donos de bots têm muito dinheiro e legislam em causa própria. São ondeados por poder e isso é perceptível nas postagens de seus bots. Os posts são repetitivos, os temas são sempre os mesmos, as referências são sempre os mesmos links. Os bots estão sempre indignados. Sempre unidos da verdade mais verdadeira. Eles sempre sabem de algo que o establishment não quer que o mundo saiba — só não contam que eles são resultado de uma quantidade de grana que só o próprio establishment consegue arrecadar. A semântica dos robôs é pobre, seus donos não.

Ademais, bots do mal demandam investimento em seus feeds. A linha do tempo de um usuário fake costumeiramente compreende posts com links, menções e hashtags que convêm aos seus donos e aquele algo a mais que mantém bots vivos mesmo quando a Meta topa fazer o mínimo e diz que está fazendo tudo o que pode. O PegaBot, projeto do Instituto do Tecnologia e Sociedade do Rio de Janeiro e do Instituto Tecnologia & Equidade lançado em 2018, permite verificar a atividade de uma conta de Twitter e identificar a probabilidade do perfil ser um bot. Os algoritmos do PegaBot selecionam uma amostra de até 100 tweets recentes publicados por perfil sob análise e emite uma nota que traduz a probabilidade de ser uma conta fake. Outras iniciativas de natureza semelhante desenvolvidas pelo mundo usam métricas distintas, mas o fim é o mesmo: observar a linha do tempo e o tom de voz de um perfil é chave para pegar bots. Perfis que postam pouco e têm um feed escasso têm mais chance de cair na malha fina das plataformas e dos aplicativos de mensagem. Donos de bots ganham muito com a longevidade de seus robôs. Porém, usuários que postam intensamente e compartilham dezenas de posts por minuto também pode ser um vestígio de automação detectado pelas plataformas e caem muito rápido. Bots não podem falar demais nem de menos. Robôs com vida longa se tornam referências, viram pilares de comunidades, ganham prestígio. E se tornam uma arma cada vez mais eficiente para bannonianos e afins. Por essa razão, aqueles que desejam bots operando livremente, manipulando o debate público, destinam muito dinheiro para que programadores consigam desenvolver bots cuja pegada digital seja idêntica à pegada digital de um usuário real.

Em suma, incitar trolls e gerar e gerenciar exércitos de bots é complexo, caro e, sobretudo, toma muito tempo. O clã Bolsonaro ouviu os conselhos de Bannon e alimentou bots por anos. Durante as eleições, especialistas garantem que o clã dobrou essa aposta e investiu pesado em uma estratégia semiautomatizada: estima-se que os bolsonaristas tenham contratado agências que oferecem pacotes que compreendem um usuário real administrador e cerca de aproximadamente 700 contas falsas quentes.

Só quem sabe que vai perder o jogo se jogar limpo arrecada recursos vultuosos e banca esforços de guerra desenhados para nos deixar confusos, sem saber o que é orgânico e o que são automatizações mal-intencionadas. O uso de inteligência artificial sem transparência demanda dinheiro, tempo e é prova de um profundo desinteresse pela igualdade e pela justiça.

Sobre acusados de assédio e seus bots

Em outubro de 2015, Bannon, em uma entrevista concedida à CNN enquanto cruzava os Estados Unidos com Trump, disse: "What the media misses is the amount of anger that's out there. Trump didn't create that”. Trata-se de uma afirmação reveladora sobre as forças em movimento à época e o que conseguiram nos conquistar lá e cá. E é também uma frase que nos permite compreender o momento em que estamos. Hoje, tendo em mãos uma gramática política que ensina a alimentar trolls e pagar bots para obter e manter poder, homens poderosos acusados de discriminação, assédio moral e assédio sexual sabem muito bem o que priorizar: inocentes se defendem nos tribunais, munidos dos fatos e representados por advogados competentes e comprometidos com o Estado de Direito. Os demais gastam com times jurídicos que extrapolam o razoável e são adeptos do lawfare que usam as leis como instrumento de combate e atacam vítimas da cintura pra cima e com trolls e bots, que cuidam dos golpes da cintura pra baixo. Em casos assim, é vital botarmos reparo nisso, advogados, trolls e bots costumam repetir a mesma ladainha: fulano está sendo condenado pela mídia, é um lineamento, é um injustiça, é um complô, havia consentimento, essas informações carecem de contexto, são acusações injustas, isso aí é vingança, vocês estão sendo enganados, acordem, tomem a pílula vermelha.

Trolls e bots podem ajudar misóginos a se elegerem e podem, também, ajudar misóginos a se defenderem das consequências de seus próprios atos. Quando é isso que está em jogo, os bots costumam bradar nas redes diferentes versões de um mesmo sinal de alerta: parem, não mordam a maçã que Eva disse ser tão gostosa! Bennon, na frase acima, pontua: a extrema direita não inventou o ódio, ela apenas sabe surfar nele. O mesmo vale para predadores sexuais. Assediadores sexuais não inventaram o ódio às mulheres, eles apenas sabem surfar essa onda melhor do que qualquer um.

No ano passado, a atriz Amber Heard e seu ex-marido, o também ator Johnny Depp protagonizaram uma longa disputa nos tribunais. O Caso Johnny Depp tomou conta das manchetes e das redes sociais. O mundo inteiro acompanhou cenas ora comoventes, ora patéticas. Poucos conseguiram a proeza de se manter alheios à guerra de narrativas e às teses de defesa das partes. Contudo, embora o volume de conteúdo a respeito do litígio fosse abissal e os feeds transbordassem vídeos e fotos de Heard, Depp e seus advogados, compreender à vera o que se passava era tarefa bem complicada. Aquilo que parecia para muitos ser informação em abundância era, na realidade, desinformação e misoginia. Johnny Depp lançou mão de todos os truques possíveis para garantir que a sua versão dos fatos prevalecesse: cobrou favores, ameaçou publicamente quem se solidarizou com Heard e os declarou desafetos eternos, hostilizou a ex-companheira inúmeras vezes para todo mundo ver e em diversas ocasiões debochou do Estado de Direito. Além disso, Depp recorreu a estratégias clássicas dos interessados em desinformar para controlar: investiu alto na mobilização de trolls e na compra de bots.

No Brasil, há diversos paralelos preocupantes. Em fevereiro, o líder masculinista Thiago Schultz (que nas redes responde por “Manual Red Pill”) ameaçou a atriz Lívia La Gatto de morte. La Gatto e muitas das mulheres que saíram em sua defesa foram atacadas por trolls raivosos e bots do mal que conseguiram a grande proeza de dizer absurdos ainda maiores do que as ameaças originais proferidas pelo próprio Schultz. Vítimas, testemunhas, representantes legais e aliadas em outros casos recentes, trágicos e célebres passaram — e ainda passam — por adversidades semelhantes. O caso Thiago Brennand, o caso Casas Bahia, o caso Marcius Melhem são paradigmáticos e guardam semelhanças com o gospel de Bennon, com as adaptações do cânone bannoniano promovidas pelo clã Bolsonaro e com o Caso Johnny Depp. Essa lista não é exaustiva, são apenas casos que estão na ponta da língua e que estão muitíssimo bem documentados. Predadores sexuais andam cada vez mais replicando práticas da extrema direita antidemocrática. Tem valido a pena, para tipos que abusam do poder que têm e das mulheres ao seu redor, usar trolls e bots para inflar artificialmente a adesão à sua versão dos fatos e silenciar vítimas e testemunhas. Mulheres vítimas de assédio e o movimento feminista como um todo se beneficiaria de análises de automação robustas capazes de informar etratégias de resistência.

Durante as eleições, Bolsonaro e sua tropa de choque registraram um aumento de seguidores fora do padrão nas redes sociais. O impacto mais significativo se deu no Twitter. Carla Zambelli (PL-SP), por exemplo, costumava registrar entre 1.000 e 1.500 novos seguidores ao dia. No período eleitoral, esses números explodiram e a então candidata Zambelli chegou a registrar até 62.000 novos seguidores em apenas dois dias. A então candidata Bia Kicis (PL-DF) teve desempenho semelhante. Kicis tinha em média 1.000 novos perfis ao dia e durante as eleições chegou a registrar mais de 50.000 novos seguidores em um fim de semana. O uso de inteligência artificial sem transparência, nessas circunstâncias, tem como objetivo gerar a sensação de que a extrema direita é composta por lideranças em ascensão e que pesquisas não importam. Quando essa estratégia é replicada por homens que atentam contra a dignidade sexual de meninas e mulheres, o que se pretende é convencer todo mundo de que a narrativa do assediador é mais verossímil que a da vítima. É o mesmo modus operandi usado para finalidades distintas, mas contíguas — descredibilizar pesquisas e eleger misóginos ou descredibilizar vítimas e proteger misóginos.

Em tempos de papos acalorados sobre fake news e a possibilidade de revisão do marco civil da internet, muito tem sido dito sobre poder, política, redes sociais e aplicativos de mensagem. Paralelamente, muito tem sido dito sobre assédio sexual no ambiente de trabalho e sobre a necessidade de um marco normativo novo a esse respeito. Não podemos perder de vista que as pautas são conexas. Não podemos nos dar ao luxo de pensar que se tratam de encruzilhadas históricas distintas. Homens inconformados querem suas mulheres cativas, suas funcionárias amedrontadas, suas eleitoras no cabresto e os meios para levar esses planos adiante são os mesmos, a cartilha é a mesma. Pensar essas agendas como raias paralelas e cobrir resultados via editorias distintas vai custar a vida de muitas mulheres.