INTRODUÇÃO: As autoridades da Indonésia e da Malásia anunciaram o bloqueio temporário do chatbot Grok, da empresa xAI, em resposta a uma onda de conteúdo sexualizado gerado por inteligência artificial. A medida representa a ação mais dura até agora de governos contra a disseminação de imagens não consensuais, muitas vezes envolvendo mulheres reais e menores de idade, que foram postadas pela plataforma em resposta a solicitações de usuários da rede social X, empresa irmã da xAI.
DESENVOLVIMENTO: A ministra das Comunicações e Digital da Indonésia, Meutya Hafid, declarou que o governo considera "uma violação grave dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital" a prática de deepfakes sexuais sem consentimento. O ministério também convocou representantes do X para discutir o problema. Simultaneamente, a Malásia implementou uma proibição similar. Outras nações estão adotando respostas variadas: a Índia ordenou que a xAI tome medidas para impedir a geração de conteúdo obsceno pelo Grok, enquanto a Comissão Europeia exigiu a retenção de documentos relacionados ao chatbot, possivelmente preparando uma investigação. No Reino Unido, o regulador Ofcom iniciará uma avaliação rápida para verificar questões de conformidade, com o apoio do primeiro-ministro Keir Starmer. Nos Estados Unidos, senadores democratas pressionaram Apple e Google para remover o X de suas lojas de aplicativos, embora a administração Trump tenha mantido silêncio sobre o caso.
CONCLUSÃO: O bloqueio do Grok na Indonésia e na Malásia marca um ponto de virada na regulação global de IA, destacando a urgência em combater abusos digitais e proteger direitos fundamentais. A reação coordenada de múltiplos governos sinaliza uma tendência crescente de intervenção estatal em tecnologias emergentes, com potencial para estabelecer precedentes legais e éticos que moldarão o futuro da inteligência artificial e sua responsabilidade social.
