Projeto Thrive: Meta, TikTok e Snap se unem para monitorar postagens sobre suicídio

Recentemente, as empresas Meta (responsável pelo Facebook e Instagram), TikTok e Snap (do Snapchat) anunciaram uma nova colaboração chamada Thrive, em parceria com a Mental Health Coalition. O objetivo principal deste projeto é melhorar a moderação de conteúdos prejudiciais à saúde mental, com um foco específico em postagens relacionadas a automutilação e tendências suicidas.

Objetivo do Projeto Thrive

• O Thrive visa detectar e remover rapidamente conteúdos que possam incentivar ou glorificar o suicídio. A ideia é que, ao identificar sinais de postagens prejudiciais, uma das plataformas possa alertar as outras. Isso permitirá uma abordagem coordenada para remover esses conteúdos de todas as plataformas envolvidas.

Como funciona

• Detecção de conteúdos nocivos: As plataformas usarão hashes, que são códigos numéricos que representam conteúdos que violam as políticas de uso. Esses códigos ajudam a identificar rapidamente postagens prejudiciais sem compartilhar dados pessoais dos usuários.

• Compartilhamento de dados e colaboração: Embora os dados pessoais não sejam compartilhados, as empresas trocarão informações sobre sinais e descobertas relacionadas a conteúdos nocivos. Isso melhora a capacidade de detectar e remover postagens prejudiciais de forma mais eficaz.

• Papel da Meta: A Meta fornecerá a infraestrutura técnica necessária para o projeto. Além disso, a Meta já tomou medidas significativas para moderar conteúdos prejudiciais. Entre abril e junho de 2024, a Meta removeu 12 milhões de postagens nocivas e ajustou algoritmos para limitar a exposição de adolescentes a conteúdos potencialmente prejudiciais.

Impacto esperado

• Com a criação do Thrive, espera-se que a detecção e remoção de conteúdos prejudiciais se tornem mais ágeis e eficazes. A colaboração entre as plataformas permitirá uma resposta mais rápida e coordenada, ajudando a criar um ambiente online mais seguro para todos os usuários, especialmente para os jovens que são mais vulneráveis a conteúdos prejudiciais.

O projeto Thrive representa um esforço importante na luta contra conteúdos prejudiciais à saúde mental nas redes sociais. Ao unir as forças da Meta, TikTok e Snap, juntamente com a Mental Health Coalition, a iniciativa busca não apenas remover postagens nocivas de forma mais eficaz, mas também promover um ambiente digital mais seguro e saudável. A colaboração entre essas grandes plataformas tecnológicas pode servir como um modelo para outras iniciativas semelhantes no futuro.