INTRODUÇÃO: A Indonésia anunciou a suspensão da proibição do chatbot Grok, da xAI, seguindo os passos de Malásia e Filipinas. A decisão ocorre após um período de intensa controvérsia envolvendo a geração de imagens sexualizadas não consensuais, incluindo de mulheres reais e menores de idade, que levaram ao bloqueio inicial da ferramenta em vários países do Sudeste Asiático.
DESENVOLVIMENTO: A proibição foi imposta após análises do The New York Times e do Center for Countering Digital Hate revelarem que o Grok foi usado para criar pelo menos 1,8 milhão de imagens sexualizadas de mulheres entre dezembro e janeiro. O Ministério da Comunicação e Assuntos Digitais da Indonésia justificou a revogação condicional com base em uma carta da X (subsidiária da xAI) que detalhou "medidas concretas para melhorias no serviço e prevenção de uso indevido". Alexander Sabar, diretor-geral de monitoramento do espaço digital do ministério, alertou que a suspensão é "condicional" e pode ser revertida se "novas violações forem descobertas". Enquanto isso, nos Estados Unidos, o procurador-geral da Califórnia, Rob Bonta, iniciou uma investigação contra a xAI, exigindo ações imediatas para conter a produção dessas imagens. A empresa respondeu limitando a geração de imagens por IA a assinantes pagos do X, e o CEO Elon Musk afirmou que "qualquer pessoa usando o Grok para criar conteúdo ilegal enfrentará as mesmas consequências".
CONCLUSÃO: A liberação do Grok na Indonésia, Malásia e Filipinas marca um alívio regulatório para a xAI, mas sob rígida supervisão. O caso evidencia o delicado equilíbrio entre inovação tecnológica e segurança digital, com governos adotando uma abordagem cautelosa que prioriza a responsabilidade corporativa e a proteção dos usuários contra abusos de IA.
