Conteúdo verificado
terça-feira, 17 de setembro de 2024 às 12:32

Empresas de IA se comprometem a combater Deepfakes de pornografia

Empresas de inteligência artificial (IA), incluindo gigantes da tecnologia, assumiram um compromisso crucial: combater o abuso sexual baseado em imagens, especialmente deepfakes pornográficos. O anúncio, realizado pela Casa Branca em 12 de setembro de 2024, reflete um esforço conjunto entre o governo dos Estados Unidos e grandes corporações para mitigar os impactos negativos causados pelo uso indevido de IA. O problema é grave, com vítimas que variam de mulheres a crianças e pessoas LGBTQI+, e requer uma resposta forte e coordenada.

Medidas adotadas pelas empresas

1. OpenAI e Anthropic

  • OpenAI: Criadora do ChatGPT, comprometeu-se a remover imagens de nudez dos datasets utilizados para treinar seus modelos de IA, quando apropriado.
  • Anthropic: Responsável pelo Claude, seguiu a mesma linha, garantindo que seus sistemas não contribuam para a disseminação de imagens abusivas.

2. Microsoft, Adobe e Cohere

Essas empresas também aderiram ao compromisso:

  • Microsoft: Envolvida em iniciativas de controle de dados para prevenir a criação de deepfakes.
  • Adobe: Assumiu uma postura firme contra o uso indevido de suas ferramentas.
  • Cohere: Focada na responsabilidade com seus conjuntos de dados e na proteção contra o abuso sexual baseado em imagens.

3. Common Crawl

  • Common Crawl: Plataforma de rastreamento de dados, comprometeu-se a obter seus datasets de forma responsável, protegendo-os contra uso indevido. Contudo, não participou dos outros tópicos abordados pelas empresas mencionadas.

4. GitHub, Meta e Snap

Além dessas corporações, outras gigantes tecnológicas implementaram medidas adicionais:

  • GitHub: Proibiu o compartilhamento de ferramentas que incentivem ou apoiem a criação de imagens íntimas não consensuais.
  • Meta: Removeu milhares de contas do Instagram envolvidas em golpes de sextorsão e proibiu a promoção de apps que gerem conteúdo abusivo.
  • Snap: Disponibilizou ferramentas para denúncias e suporte às vítimas de deepfakes pornográficos.

5. Google

  • Google: Implementou atualizações em seus sistemas de busca para reduzir a exibição de imagens falsas de conteúdo explícito e facilitou a remoção desses materiais a pedido das vítimas.

Impacto na sociedade

O compromisso das empresas de IA representa um avanço significativo no combate a deepfakes pornográficos. A crescente utilização dessas tecnologias para a criação de imagens íntimas não consensuais afeta diretamente a vida das vítimas, gerando consequências devastadoras.

As principais áreas de impacto incluem:

  • Proteção de Dados: Empresas como a OpenAI e Microsoft tomaram medidas para garantir que seus datasets não incluam imagens de nudez ou abusivas.
  • Ferramentas de denúncia e suporte: Empresas como Snap e Meta estão oferecendo canais de suporte para vítimas de deepfakes.
  • Controle de divulgação: Google e GitHub estão limitando a disseminação de ferramentas e imagens abusivas, contribuindo para a redução de materiais não consensuais na internet.

O avanço das tecnologias de IA trouxe grandes benefícios, mas também gerou desafios complexos, como o aumento de deepfakes pornográficos e abuso de imagens íntimas. O compromisso assumido por grandes empresas demonstra uma responsabilidade crescente no uso ético dessas ferramentas. A união dessas corporações na luta contra o abuso digital é um passo importante para proteger vítimas e controlar a disseminação de conteúdos prejudiciais.

Estão lendo agora

"Friendly Fire": Linkin Park anuncia música inédita com voz de Chester BenningtonO Linkin Park, renomada banda de rock, surpreende fãs ao anunciar o lançamento de uma música inédita intitulada "Friendl...
Encceja 2025: Datas e inscrições - Um resumo do que você precisa saber para conseguir seu diploma do ensino fundamental ou médioO Encceja (Exame Nacional para Certificação de Competências de Jovens e Adultos) é uma oportunidade valiosa para quem nã...
Top músicas, criadores e tendências que dominam o YouTube Brasil em 2024: Descubra o que bombou no paísO YouTube divulgou sua lista anual de fim de ano, destacando os maiores sucessos e tendências no Brasil em 2024. A plata...
Jogos da seleção brasileira: Datas, horários e como assistir nas eliminatóriasAs Eliminatórias Sul-Americanas para a Copa do Mundo de 2026 estão prestes a começar, trazendo consigo uma nova era para...
Mundial de Clubes 2025: Datas, confrontos e a jornada dos brasileiros no Super Torneio da FIFAA FIFA, liderada por Gianni Infantino, divulgou o calendário do novo formato do Mundial de Clubes 2025, que será disputa...
Vacina contra Aids - Lenacapavir: Por que o Brasil não está entre os 120 países com acesso ao combate ao HIV?O Lenacapavir, um medicamento injetável de aplicação semestral, foi eleito o avanço científico de 2024 pela revista Scie...
Rosa Parks e o 'Não' que mudou a história dos Direitos Civis nos EUAEm 1º de dezembro de 1955, Rosa Parks, uma mulher afro-americana de 42 anos, desafiou as leis segregacionistas ao se rec...
Mercúrio retrógrado: Desvendando o segredo por trás do fenômenoVocê já ouviu falar sobre o Mercúrio retrógrado e como ele afeta nossas vidas? Para muitas pessoas, essa expressão está ...
Quem compete com o Brasil pela liderança do 'Sul Global'? Saiba quais os principais rivais e suas estratégiasA liderança do 'Sul Global' é uma posição de grande importância geopolítica e econômica. O termo "Sul Global" refere-se ...
Reflexão: O STF no poder - A nova regra do foro privilegiado e o futuro da política brasileiraA discussão sobre o foro privilegiado no Brasil ganhou um novo capítulo com a proposta de alteração que pode ampliar os ...
Onda de calor no Brasil: Sensação térmica pode realmente chegar a 70°C?O Brasil enfrenta sua terceira onda de calor em 2025, e os efeitos já são sentidos em várias regiões do país. Com record...