INTRODUÇÃO
O governo da Índia emitiu uma ordem exigindo que a plataforma X, de Elon Musk, implemente mudanças imediatas em seu chatbot de IA Grok. A decisão foi tomada após usuários e parlamentares relatarem a geração de conteúdo "obsceno", incluindo imagens de mulheres alteradas por IA para parecerem estar usando biquínis. O Ministério de Tecnologia da Informação indiano deu 72 horas para a empresa apresentar um relatório detalhando as ações corretivas.
DESENVOLVIMENTO
A ordem direciona a X a restringir a geração de conteúdo envolvendo "nudez, sexualização, material sexualmente explícito ou ilegal". O não cumprimento pode colocar em risco as proteções de "porto seguro" da plataforma, que a isentam de responsabilidade por conteúdo gerado por usuários sob a lei indiana. A medida segue uma queixa formal da parlamentar Priyanka Chaturvedi, que destacou exemplos de prompts que resultaram em alterações inadequadas de imagens. Relatórios separados também apontaram a geração de imagens sexualizadas envolvendo menores, um problema que a X reconheceu como falhas nos sistemas de segurança.
CONCLUSÃO
A Índia reforça sua postura regulatória sobre conteúdo digital, exigindo conformidade estrita das plataformas de mídia social com as leis locais. A pressão sobre a X reflete um crescente escrutínio global sobre os riscos éticos e legais dos chatbots de IA, especialmente em relação à geração de material prejudicial. A resposta da empresa nos próximos dias será crucial para determinar seu futuro operacional no país.
