INTRODUÇÃO
Uma análise da startup de detecção de IA GPTZero revelou que 51 dos 4.841 artigos aceitos pela prestigiada conferência NeurIPS continham citações "alucinadas" por inteligência artificial. A empresa confirmou 100 referências falsas, levantando questões sobre o uso de grandes modelos de linguagem (LLMs) em trabalhos acadêmicos de alto nível.
DESENVOLVIMENTO
Embora o número pareça significativo, especialistas apontam que, considerando os milhares de citações presentes nos artigos, o percentual é estatisticamente irrelevante. A própria NeurIPS destacou que mesmo com 1,1% dos trabalhos contendo referências incorretas, o conteúdo das pesquisas não é necessariamente invalidado. O processo de revisão por pares, embora rigoroso, enfrenta desafios para identificar todas as citações fabricadas por IA devido ao volume envolvido.
CONCLUSÃO
O episódio serve como alerta sobre os riscos do uso indiscriminado de IA na academia, mas não compromete a credibilidade geral dos trabalhos apresentados na NeurIPS. A comunidade científica precisa desenvolver mecanismos mais eficazes para preservar a integridade das citações, que funcionam como moeda de valor na carreira dos pesquisadores.
