O Superior Tribunal de Justiça (STJ) determinou nesta quarta-feira (20) a abertura de uma investigação para apurar o uso depromptsde inteligência artificial para burlar o sistema eletrônico de petições do tribunal.Por ordem do presidente do STJ, Herman Benjamin,um inquérito policial e um procedimento administrativo interno foram instaurados para apurar tentativas de fraudes, que teriam sido cometidas por advogados e escritórios de advocacia.Notícias relacionadas:STJ lança curso gratuito sobre equidade racial na Justiça.STJ rejeita uso de inteligência artificial como prova em ação penal.A medida foi tomada após técnicos do tribunal identificarem a entrada de petições comprompt injection, mecanismo usado para enganar modelos de IA e favorecer partes durante o andamento eletrônico de um processo.Os comandos ocultos são inseridos em petições para tentar forçar o sistema de IA a ignorar filtros de seleção que impedem, por exemplo, a admissão de um documento que não contém os requisitos básicos de admissibilidade.Segundo o STJ, osistema do tribunal já tem travas contra o uso depromptse impedem que as ordens sejam executadas pela plataforma que recebe as petições.
