Telegram e o conteúdo extremista: O perigo das recomendações algorítmicas

Recentemente, um estudo realizado pelo Southern Poverty Law Center (SPLC), em parceria com a BBC, revelou que o Telegram, uma plataforma de mensagens com um bilhão de usuários, utiliza um algoritmo que, em vez de moderar o conteúdo extremista, acaba promovendo-o. A pesquisa mostrou que o recurso "canais similares", lançado no ano passado, sugere canais com conteúdos radicais, mesmo quando o usuário está navegando por tópicos aparentemente inofensivos, como celebridades ou tecnologia. Isso levanta sérias preocupações sobre o papel da plataforma na disseminação de conteúdo perigoso.

Principais descobertas do estudo

• Promoção de conteúdo extremista: O estudo revelou que, ao pesquisar tópicos comuns, como "Donald Trump" ou "revoltas no Reino Unido", o algoritmo rapidamente sugere conteúdos radicalizados, como teorias de conspiração ou grupos de extrema-direita. Em um exemplo, ao buscar por "Donald Trump", surgiram sugestões de canais que promovem a teoria conspiratória Q-Anon, conhecida por alegar uma guerra secreta entre Trump e uma suposta elite pedófila.

• Risco real de radicalização: O estudo do SPLC também evidenciou como a plataforma não só sugere conteúdos, mas também facilita a conexão de indivíduos com grupos extremistas e criminosos. Em uma demonstração, uma pesquisadora conseguiu, com facilidade, encontrar ofertas de armas em canais relacionados ao Telegram, incluindo a venda de uma submetralhadora Uzi por cerca de 850 libras (aproximadamente R$ 6,6 mil).

• Conexão com acontecimentos reais: A pesquisa revelou que usuários do Telegram não estão apenas consumindo conteúdo virtualmente. Em algumas situações, esses grupos de extrema-direita organizaram eventos presenciais, como protestos violentos, imediatamente após ataques, espalhando informações falsas e inflamando a situação.

A resposta do Telegram

• Em defesa da plataforma, o Telegram afirmou que seus usuários recebem apenas o conteúdo com o qual escolhem se engajar. A empresa destacou que sua moderação de conteúdo é ativa, removendo milhões de itens considerados nocivos diariamente. Eles também afirmaram que o recurso de "sugestões de canal" funciona de forma a recomendar conteúdos semelhantes ao que o usuário já segue, sem amplificar ou promover conteúdo radical.

• No entanto, as alegações de que o Telegram não "injeta" conteúdo, mas apenas sugere, contrastam com as evidências apresentadas pelos especialistas, que apontam o contrário. A pesquisadora Megan Squire, por exemplo, afirmou que a plataforma representa um perigo digital significativo, citando a facilidade com que conteúdos de ódio e teorias da conspiração se espalham.

O caso de Pavel Durov e a investigação na França

• Além das preocupações sobre o conteúdo extremista, o fundador do Telegram, Pavel Durov, está sendo investigado na França por alegada cumplicidade em crimes como tráfico de drogas e compartilhamento de imagens de abuso infantil na plataforma. As acusações foram agravadas pela alegação de que Durov teria se mostrado indiferente à necessidade de moderar os conteúdos da plataforma, uma postura criticada por ex-funcionários e pesquisadores.

A ameaça digital e as implicações

• O estudo e os eventos em torno do Telegram deixam claro que a plataforma se tornou um ponto central para atividades criminosas e extremistas, muitas vezes facilitando a radicalização e a organização de ações violentas. Especialistas como David Maimon, da Georgia State University, apontam que o Telegram é uma das principais plataformas para criminosos que buscam realizar desde fraudes até o tráfico de armas. A forma como a plataforma é utilizada por grupos radicais e criminosos representa uma ameaça crescente para a segurança pública e a integridade digital.

O estudo da SPLC expõe uma questão crítica sobre como algoritmos em plataformas de comunicação podem ser utilizados para amplificar conteúdos perigosos, muitas vezes sem a devida moderação. Enquanto o Telegram defende que apenas sugere conteúdo com base nas escolhas dos usuários, a realidade é mais complexa, com a plataforma facilitando o encontro e a interação entre indivíduos com interesses radicais e criminosos. A crescente utilização de plataformas como o Telegram por grupos extremistas e criminosos exige uma reflexão urgente sobre a necessidade de regulamentação mais rigorosa e de uma ação mais efetiva por parte das empresas de tecnologia para prevenir danos à sociedade.