Em uma ação conjunta, a Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) emitiram recomendações à empresa controladora da plataforma digital X para que a ferramenta de inteligência artificial Grok não seja usada indevidamente para a geração e circulação de conteúdos sexualizados. O documento, divulgado na terça-feira (20), surge diante de denúncias de usuários e reportagens nacionais e internacionais sobre a produção de deepfakes – técnica que cria imagens falsas a partir de pessoas reais – com conotação sexual.
Entre as principais recomendações está a criação, no prazo máximo de 30 dias, de procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos desse tipo ainda disponíveis no X, quando gerados pelo Grok a partir de comandos de usuários. As instituições também pedem a suspensão imediata das contas envolvidas na produção de imagens sexuais ou erotizadas, tanto de crianças e adolescentes quanto de maiores de idade sem autorização.
O documento destaca que, apesar de o artigo 19 do Marco Civil da Internet prever que provedores de aplicação não seriam responsáveis por conteúdo danoso de terceiros salvo após decisão judicial, a retirada deve ser executada. Isso porque os deepfakes sexualizados não são produzidos exclusivamente por terceiros, mas por meio de uma interação entre usuários e a ferramenta de inteligência artificial criada e disponibilizada pelo X, o que o torna coautor de tais conteúdos, e não mero intermediador.
As instituições alertam que esse tipo de conteúdo pode impactar a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos difusos, coletivos e individuais indisponíveis, especialmente de mulheres, crianças e adolescentes. Entre as recomendações conjuntas, está a de que sejam implementadas, de forma imediata, medidas destinadas a impedir que o Grok gere novas imagens, vídeos ou arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados.
Também foi recomendada a implementação de um mecanismo transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais, especialmente nos casos de criação de conteúdos sintéticos sexualizados sem consentimento, assegurando resposta adequada e em prazo razoável.
O documento cita ainda que, recentemente, o Supremo Tribunal Federal (STF) declarou a parcial inconstitucionalidade do artigo 19 do Marco Civil da Internet, por entender que ele não oferece proteção suficiente a direitos constitucionais relevantes. No julgamento, a Corte fixou que os provedores de aplicação da internet teriam especial dever de cuidado, de adotar todas as providências necessárias para evitar a circulação massiva de crimes especialmente graves, como os praticados contra as mulheres em razão da condição do sexo feminino.
As instituições lembram que a própria política de autorregulação do X relacionada à nudez não consensual proíbe a publicação e o compartilhamento de imagens ou vídeos explícitos produzidos ou compartilhados sem consentimento. A plataforma também veda a produção, manipulação e disseminação de imagens de terceiros com conteúdo sexual ou erotizado em contextos envolvendo o Grok, o que torna insustentável, também sob esse prisma, a disponibilização de uma ferramenta de inteligência artificial sem filtros rigorosos que favoreça tais condutas.
Caso as recomendações não sejam acatadas ou sejam implementadas de modo insuficiente para amenizar os riscos identificados, outras medidas poderão ser consideradas e adotadas pelas três instituições. Essas medidas poderão ser adotadas em sede administrativa e em sede judicial, para garantir a proteção adequada dos cidadãos e cidadãs do país, especialmente de mulheres, crianças e adolescentes.
