Pornografia deepfake na Coreia do Sul: Como a IA está exacerbando a violência de gênero e qual a solução?

A Coreia do Sul, embora líder em avanços tecnológicos, enfrenta sérios desafios na defesa dos direitos humanos, especialmente em relação à violência de gênero exacerbada pela tecnologia. O crescente uso de inteligência artificial (IA) para criar vídeos deepfake pornográficos destaca a lacuna entre o desenvolvimento digital e a proteção social, afetando mulheres e meninas em todo o país.

Impacto dos deepfakes na sociedade coreana

• Deepfakes definidos: Deepfakes são conteúdos manipulados digitalmente para parecerem reais, envolvendo vídeos, fotos e áudios falsos. Esse tipo de material tornou-se uma ferramenta nociva de violência de gênero na Coreia do Sul, com mulheres e menores de idade como principais vítimas.
• Dados alarmantes: Um relatório da Security Heroes revelou que 53% dos vídeos deepfake pornográficos analisados envolviam celebridades sul-coreanas, indicando um alvo desproporcional sobre essas mulheres.
• Adolescentes envolvidos: O fenômeno se espalha entre adolescentes, que utilizam essa prática como uma "brincadeira", prejudicando também alunas de escolas, professoras e outras figuras não públicas.

Falta de conscientização e proteção

• Cultura digital avançada, proteção defasada: Embora a Coreia do Sul seja referência em tecnologia, com alta conectividade e uso de smartphones, a conscientização sobre crimes digitais sexuais ainda é insuficiente.
• Crimes sexuais em alta: Desde o caso "Nth Room" em 2019, envolvendo milhares de vítimas, houve pressão por maior proteção. No entanto, apenas 28% dos criminosos digitais sexuais foram indiciados em 2021, revelando a dificuldade no combate efetivo.

A resposta do governo e desafios

• Medidas insuficientes: O governo tentou criar novas legislações e uma Força-Tarefa de Crimes Digitais, mas a dissolução dessa equipe e o discurso do presidente Yoon Suk Yeol sobre a falta de discriminação de gênero enfraqueceram os avanços.
• Ativismo e pressão popular: Grupos de ativistas continuam a pressionar o governo por políticas mais rigorosas e pela proteção das vítimas, ressaltando a urgência de ações concretas para lidar com deepfakes como violência de gênero.

IA: Parte do problema, parte da solução

• Uso positivo da IA: A mesma tecnologia que facilita o crime, pode ser usada para combatê-lo. Em Seul, uma ferramenta digital já rastreia e remove deepfakes, reduzindo o tempo de detecção de duas horas para apenas três minutos.
• Limitações e futuro: No entanto, a remoção rápida de conteúdos não apaga os traumas das vítimas. Para uma mudança significativa, o governo deve responsabilizar provedores de serviços e incentivar políticas de prevenção.

O combate à pornografia deepfake na Coreia do Sul é complexo e demanda uma abordagem integrada. Embora a IA esteja sendo utilizada para mitigar os danos, é necessária uma legislação mais rigorosa, educação pública, e conscientização contínua para prevenir e combater eficazmente essa forma de violência digital. Sem isso, a tecnologia continuará sendo uma ferramenta de opressão para milhares de mulheres e meninas.