INTRODUÇÃO: A empresa de inteligência artificial xAI, de Elon Musk, tomou uma medida drástica após uma semana de intensa controvérsia. O recurso de geração de imagens do chatbot Grok, que permitia criar versões sexualizadas e nuas de qualquer pessoa, agora está restrito apenas a assinantes pagantes da plataforma X (antigo Twitter). A decisão veio após uma enxurrada de críticas globais e a criação em massa de imagens não consensuais, incluindo de crianças e figuras públicas.
DESENVOLVIMENTO: Inicialmente disponível para qualquer usuário com limites diários, o recurso "Grok Image" permitia que pessoas fizessem upload de fotos e solicitassem edições ou versões sexualizadas. O que se seguiu foi descrito como uma "inundação" de conteúdo problemático, atraindo a ira de governos como Reino Unido, União Europeia e Índia. Musk e a X publicamente condenaram o uso ilegal da ferramenta, afirmando que aplicariam as mesmas consequências para quem criasse conteúdo ilegal. No entanto, a restrição atual aplica-se apenas à plataforma X - o aplicativo Grok separado continuava, no momento da publicação, permitindo a geração de imagens sem pagamento. A UE solicitou formalmente à xAI que retenha toda a documentação relacionada ao chatbot, enquanto a Índia ameaçou remover as proteções de "porto seguro" da empresa no país se mudanças imediatas não fossem feitas.
CONCLUSÃO: A medida de restringir o acesso pago representa um recuo tático da xAI diante da pressão regulatória internacional, mas deixa uma lacuna significativa no aplicativo autônomo do Grok. A situação expõe os desafios éticos e legais do rápido lançamento de ferramentas de IA generativa sem salvaguardas robustas, especialmente quando capacidades poderosas caem em mãos mal-intencionadas. O episódio serve como um alerta para toda a indústria sobre a necessidade de controles proativos antes do lançamento, não apenas reações após danos concretos.
