INTRODUÇÃO
Um grupo de senadores dos Estados Unidos enviou uma carta dura aos líderes das principais plataformas de tecnologia - X, Meta, Alphabet, Snap, Reddit e TikTok - exigindo respostas concretas sobre como estão combatendo a epidemia de deepfakes sexuais não consensuais. A iniciativa surge horas após o X anunciar restrições ao seu modelo de IA Grok, que vinha sendo criticado por gerar facilmente imagens sexualizadas de mulheres e crianças.
DESENVOLVIMENTO
Os legisladores pedem provas de que as empresas possuem "proteções e políticas robustas" e detalhes sobre seus planos para conter a proliferação desse conteúdo. A carta também exige a preservação de todos os documentos relacionados à criação, detecção, moderação e monetização de imagens sexualizadas geradas por IA. "Reconhecemos que muitas empresas mantêm políticas contra imagens íntimas não consensuais e exploração sexual, e que muitos sistemas de IA afirmam bloquear pornografia explícita. Na prática, no entanto, como visto nos exemplos acima, os usuários estão encontrando maneiras de contornar essas barreiras. Ou essas barreiras estão falhando", afirma o texto.
CONCLUSÃO
Embora o Grok e o X tenham sido alvo de críticas recentes por facilitarem essa tendência, o problema é sistêmico e atinge todas as plataformas. Deepfakes sexuais já se multiplicaram no TikTok e YouTube, enquanto o Reddit teve que remover uma página viral de pornografia sintética de celebridades em 2018. A pressão regulatória aumenta enquanto as empresas tentam equilibrar inovação em IA com a proteção dos usuários contra abusos digitais.
