INTRODUÇÃO
A xAI, empresa de inteligência artificial de Elon Musk, enfrenta uma crise regulatória séria. A Procuradoria Geral da Califórnia anunciou uma investigação e emitiu uma ordem de cessar e desistir contra a startup, acusando seu chatbot Grok de facilitar a criação de imagens íntimas não consensuais e material de abuso sexual infantil (CSAM).
DESENVOLVIMENTO
O procurador Rob Bonta exigiu que a xAI tome "ação imediata" para interromper a produção e distribuição desse conteúdo, classificando a prática como ilegal. A agência alega que o Grok, através de seu modo "spicy" projetado para gerar conteúdo explícito, está sendo usado para criar deepfakes abusivos em larga escala, principalmente visando mulheres e menores. A xAI tem cinco dias para comprovar medidas corretivas.
O escândalo já tem repercussão internacional. Japão, Canadá e Reino Unido também abriram investigações, enquanto Malásia e Indonésia bloquearam temporariamente a plataforma. Apesar de a xAI ter implementado restrições aos recursos de edição de imagem, a ação legal da Califórnia prosseguiu. Em resposta a críticas anteriores, a conta de segurança do X (antigo Twitter) afirmou que usuários que solicitarem conteúdo ilegal ao Grok sofrerão consequências.
CONCLUSÃO
O caso expõe os riscos graves de sistemas de IA generativa sem salvaguardas robustas. A pressão regulatória crescente sobre a xAI sinaliza um endurecimento global contra o uso malicioso de tecnologia para criar abuso digital, colocando a empresa em uma encruzilhada entre inovação e responsabilidade legal.
