INTRODUÇÃO: A empresa xAI, fundada por Elon Musk, enfrenta uma ação judicial federal na Califórnia por permitir que seu modelo de inteligência artificial Grok gere conteúdo sexual abusivo com imagens identificáveis de menores. Três demandantes anônimos, incluindo duas menores, alegam que a empresa não adotou precauções básicas para evitar a criação de pornografia infantil, uma prática comum em outros laboratórios de IA generativa.
DESENVOLVIMENTO: O processo, movido no Distrito Norte da Califórnia, busca uma ação coletiva representando todas as vítimas que tiveram fotos reais de sua infância ou adolescência alteradas pelo Grok para conteúdo sexual. As acusações destacam que a xAI ignorou padrões de segurança implementados por concorrentes, como técnicas para bloquear a geração de pornografia infantil a partir de fotografias normais. A promoção pública de Musk sobre a capacidade do Grok de produzir imagens sensuais e retratar pessoas reais com pouca roupa é citada como evidência no caso.
CONCLUSÃO: A ausência de comentários da xAI e os relatos detalhados das vítimas, como Jane Doe 1, que descobriu fotos de seu baile de formatura sexualizadas online, reforçam a gravidade das alegações. Se comprovadas, as falhas de segurança do Grok podem estabelecer um precedente crucial para a responsabilização de empresas de IA na proteção de menores contra abusos digitais.
