O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) divulgaram, nesta quarta-feira (11), uma nova manifestação conjunta em que consideram insuficientes as respostas apresentadas pela plataforma X (antigo Twitter) sobre o uso indevido de sua ferramenta de inteligência artificial, o Grok. As instituições avaliaram que as providências informadas pela empresa para conter a geração e circulação de imagens de pessoas em contexto de sexualização, de forma não autorizada, não foram acompanhadas de evidências concretas que comprovem sua efetividade.
Em nota, os três órgãos afirmaram que, apesar de a plataforma X ter declarado a remoção de milhares de publicações e a suspensão de centenas de contas por violação de políticas, as informações "não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam aferir sua efetividade". Testes preliminares realizados pelas equipes técnicas das instituições indicaram a persistência das falhas, com a continuidade da geração e da circulação de conteúdos incompatíveis com recomendações já emitidas.
No mês passado, o MPF, a ANPD e a Senacon emitiram uma série de recomendações à plataforma, incluindo a adoção de procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos desse tipo gerados pelo Grok. A nova determinação, divulgada nesta quarta, exige que o X implemente, de forma imediata, medidas efetivas para impedir a produção, a partir da IA, de conteúdo sexualizado ou erotizado de crianças e adolescentes e de adultos que não expressaram consentimento.
Cada instituição atua dentro de sua competência, com procedimentos administrativos em aberto contra a plataforma. A ANPD exigiu que os recursos para impedir o uso indevido da ferramenta abranjam todas as versões, planos e modalidades do Grok. O MPF determinou o envio de relatórios mensais, a partir de fevereiro, com detalhes sobre como o X está atuando para impedir e reprimir a produção de deepfakes envolvendo crianças, adolescentes e maiores de idade sem autorização prévia, incluindo números de postagens removidas e contas suspensas.
A Senacon, por meio de medida cautelar administrativa, cobrou a comprovação das providências já adotadas e a remessa de um relatório métrico detalhado, com dados quantitativos verificáveis sobre identificação, moderação, remoção e indisponibilização de conteúdos sexualizados relacionados ao funcionamento do Grok. O relatório deve incluir prazos médios de resposta, critérios técnicos utilizados e eventuais medidas corretivas adicionais, como suspensão de contas.
O MPF ressaltou que a empresa não foi transparente em sua resposta inicial e alertou para consequências em caso de descumprimento. A plataforma X poderá ser multada diariamente, e os envolvidos podem responder pelo crime de desobediência. A empresa também pode sofrer medidas investigatórias mais severas e ser alvo de ação judicial.
A reportagem tentou contato com a assessoria da Plataforma X no Brasil para obter um posicionamento sobre a nova manifestação conjunta, mas não obteve resposta até o fechamento desta matéria. Os órgãos mantêm atuação coordenada na apuração dos fatos, destacando a gravidade do uso indevido de ferramentas de IA para a geração de conteúdos que violam direitos fundamentais.
