A data de 17 de maio marca o Dia Internacional de Combate à LGBTfobia. A efeméride rememora o dia 17 de maio de 1990, ocasião em que a Organização Mundial da Saúde excluiu a homossexualidade da Classificação Internacional de Doenças (CID), rescindindo seu status de patologia. Aproveitando o significado da data e do mês, as pesquisadoras e docentes Larissa Pelúcio, da Faculdade de Arquitetura, Artes, Comunicação e Design (FAAC) da Unesp, câmpus de Bauru, e Bruna Irineu, da Universidade Federal de Mato Grosso, estão lançando um novo livro, intitulado Violência algorítmica e vidas LGBTQIAPN+.
A obra se baseia em uma pesquisa de abrangência latino-americana que as docentes desenvolvem há anos junto a outros colaboradores, com apoio do CNPq. Em entrevista ao Jornal da Unesp, a dupla explica o conceito de violência algorítmica, apresenta os resultados do levantamento e destaca as várias iniciativas que buscam combater as ações de invisibilização e intolerância que são promovidas, de forma automática, por muitas das grandes plataformas digitais onipresentes na vida contemporânea.
O livro em lançamento é intitulado Violência algorítmica e vidas LGBTQIAPN+. Por que decidiram escrevê-lo?
Larissa Pelúcio e Bruna Irineu: Esse livro nasce de um processo coletivo de pesquisa e escrita desenvolvido em parceria por nós, Larissa Pelúcio e Bruna Andrade Irineu, da UFMT, no âmbito de um projeto financiado pelo CNPq, que reúne pesquisadoras e pesquisadores de diferentes instituições no Brasil e no exterior. O projeto é uma investigação sobre políticas públicas LGBTI+ na América Latina e no Caribe, estruturado em três eixos. O livro resulta das análises produzidas no eixo políticas digitais, enfrentamento à violência algorítmica e ao colonialismo de dados, e se debruça sobre os impactos das tecnologias digitais na produção contemporânea de desigualdades.
Nesse processo, contamos com levantamentos sistemáticos em publicações online realizados pela doutoranda Fernanda Pasian e pela graduanda Sofia Kimura, cujo trabalho foi fundamental para identificar padrões recorrentes.
O que é a violência algorítmica a que o título se refere? Pode apresentar exemplos?
Larissa Pelúcio e Bruna Irineu: A violência algorítmica diz respeito aos modos pelos quais sistemas automatizados — especialmente aqueles que organizam, moderam e distribuem conteúdos nas plataformas digitais — produzem ou amplificam desigualdades.
Um dos achados mais significativos foi perceber que, embora o termo “violência algorítmica” ainda não circulasse de forma consolidada, seus efeitos já estavam amplamente presentes. Ela pode se manifestar, por exemplo, na invisibilização de conteúdos produzidos por pessoas LGBTQIAPN+ ou de pautas relevantes para esses grupos, frequentemente classificados como “sensíveis”, mesmo quando tratam de direitos humanos ou de eventos como paradas da diversidade. Ao mesmo tempo, observa-se uma assimetria na moderação: discursos de ódio que patologizam sexualidades dissidentes muitas vezes permanecem ativos, enquanto conteúdos educativos ou afirmativos são restringidos.
Outro exemplo é a monetização de conteúdos misóginos ou transfóbicos em algumas plataformas. Isso mostra que não estamos lidando apenas com falhas técnicas, mas com escolhas que atravessam modelos de negócio. Essa violência também é interseccional, atingindo de forma mais intensa pessoas racializadas e territórios periféricos.
O livro sustenta que elementos como o racismo e o sexismo são intrínsecos ao funcionamento das infraestruturas digitais. Será que as plataformas foram capturadas por esses valores? Ou já foram concebidas para operar com esses parâmetros?
Larissa Pelúcio e Bruna Irineu: Desde Karl Marx, sabemos que as tecnologias estão longe de serem neutras. Marx já apontava que a maquinaria, no contexto do capitalismo industrial, não era apenas um instrumento técnico, mas um dispositivo de exploração, controle do trabalho e produção de mais-valia. Essa chave analítica continua extremamente atual quando olhamos para as tecnologias digitais e, em particular, para os sistemas algorítmicos.
No livro, mostramos como essa ausência de neutralidade se expressa de forma concreta naquilo que hoje se convencionou chamar de racismo algorítmico. Dialogando com autoras como Safiya Umoja Noble, Ruha Benjamin e Tarcízio Silva, analisamos, por exemplo, como mecanismos de busca tendem a associar termos racializados a conteúdos estigmatizantes, reproduzindo hierarquias históricas. Discutimos ainda, em diálogo com a pesquisa de Mariah Silva, como sistemas de reconhecimento facial registram taxas de erro significativamente mais elevadas quando aplicados a pessoas negras e transsexuais. Esse fenômeno não configura um mero “desvio técnico”: ele expressa o resultado direto de bases de dados enviesadas e de escolhas políticas incorporadas ao próprio design dessas tecnologias.
O argumento central por trás desses exemplos é que os algoritmos operam como continuidades de regimes de poder já existentes. Eles reorganizam, intensificam e automatizam desigualdades, muitas vezes sob a aparência de objetividade técnica. É justamente por isso que falar em violência algorítmica não é exagero retórico, mas uma forma de nomear práticas que produzem exclusão, vigilância desigual e distribuição assimétrica de riscos e direitos.
Isso não significa necessariamente uma intenção deliberada de produzir discriminação, mas indica que as desigualdades estruturais acabam sendo reproduzidas nos códigos, nos bancos de dados e nos critérios de decisão algorítmica. Quando se ocupa um lugar de privilégio, tende-se a não perceber certos efeitos como problemáticos, porque eles não afetam diretamente quem projeta essas tecnologias — que, em grande medida, são pessoas brancas, cisgêneras, heterossexuais e com alto poder econômico.
Por isso, mais do que perguntar se essas infraestruturas foram “capturadas” ou “concebidas” com esses vieses, é importante entender que elas emergem de um contexto social marcado por desigualdades profundas, que acabam sendo traduzidas em linguagem técnica.
Como se situa esta problemática especificamente em relação ao contexto da população LGBTQIAPN+ no Brasil?
Larissa Pelúcio e Bruna Irineu: No caso brasileiro, a violência algorítmica contra pessoas LGBTQIAPN+ adquire contornos muito particulares porque se articula a desigualdades históricas já profundamente sedimentadas por raça, classe, território, gênero e colonialidade. A obra enfatiza que a interseccionalidade não aparece como “adorno teórico”, mas como ferramenta indispensável para compreender como diferentes formas de opressão se entrelaçam à LGBTfobia.
Uma das dinâmicas específicas é aquilo que o livro chama de “tecnopolítica do silenciamento”. Plataformas que deveriam funcionar como espaços de circulação de informação e construção comunitária acabam, por arranjos algorítmicos, não entregando conteúdos LGBTQIAPN+ ao classificá-los como inadequados, sensíveis ou impróprios. Há flagrantes assimetrias.
Mas há avanços. Até cerca de cinco anos atrás, ao se buscar no Google Imagens a palavra “travesti”, os resultados exibiam majoritariamente pessoas despidas, em poses sensuais ou em cenas de violência. A pressão de grupos organizados contribuiu para que esse tipo de resultado fosse alterado. Além disso, hoje temos pessoas LGBTQIAPN+ produzindo conteúdos diversos para as plataformas, ocupando cargos legislativos e conquistando títulos acadêmicos em instituições de prestígio, entre outros exemplos. Esses avanços são fruto de organização política e pressão sobre os governos, resultando em políticas de inclusão.
O livro também argumenta que o Brasil ocupa uma posição especialmente vulnerável dentro do capitalismo de plataforma e do colonialismo de dados. As infraestruturas digitais utilizadas cotidianamente no país são controladas majoritariamente por grandes empresas estrangeiras, sobretudo estadunidenses. Isso significa que políticas de moderação, critérios de segurança, parâmetros morais e modelos algorítmicos são definidos fora do contexto brasileiro, frequentemente reproduzindo valores conservadores, racistas e cisheteronormativos. A obra associa esse processo ao avanço de formas contemporâneas de colonialismo digital e à concentração de poder nas big techs.
Como pode ser feito o enfrentamento a esta violência algorítmica?
Larissa Pelúcio e Bruna Irineu: O enfrentamento passa por diferentes frentes. Em primeiro lugar, é fundamental avançar em processos de regulação das plataformas, de modo a responsabilizá-las pelos efeitos de suas arquiteturas e não apenas transferir essa responsabilidade para os usuários. Em paralelo, há um campo importante de ativismo digital e de produção de contrapoder, com coletivos e iniciativas que buscam tensionar essas estruturas, criar tecnologias alternativas e promover alfabetização crítica sobre o funcionamento dos algoritmos. Também vemos emergir propostas ligadas à soberania de dados, ao design mais inclusivo e a perspectivas como o hackfeminismo e o transfeminismo digital, que procuram reimaginar as tecnologias a partir de outros valores e experiências.
Mapeamos um campo bastante ativo de resistência tecnopolítica na América Latina, especialmente no Brasil. Um exemplo é o coletivo Código Não Binário, que desenvolveu o TybyrIA, a primeira inteligência artificial voltada para o combate a discursos de ódio contra pessoas LGBTQIAPN+. À frente dessa iniciativa estão Veronyka Gimenes e Amanda Claro, que prefaciam nosso livro. Citamos também o Archivo Inexistente, projeto chileno conduzido por Felipe Rivas San-Martín, que utiliza inteligência artificial generativa para recuperar fragmentos de uma memória queer latino-americana apagada ou registrada apenas como patologia.
Nós mesmas criamos um observatório para mapear como a imprensa latino-americana tem tratado temas relativos a direitos e vidas LGBTQIAPN+. Por meio dele, passamos a produzir conteúdo voltado ao letramento sobre conceitos propostos por autoras e autores envolvidos com o pensamento crítico acerca da relação entre capitalismo e big techs.
Sabemos que há outras iniciativas atuando diretamente sobre linguagens, códigos e sistemas digitais, revelando como funcionam as estruturas que produzem exclusão e experimentando novas formas de construir tecnologia, memória e circulação de conhecimento.