INTRODUÇÃO
A OpenAI anunciou nesta terça-feira o lançamento de um conjunto de políticas de segurança voltadas especificamente para a proteção de adolescentes em aplicativos que utilizam inteligência artificial. Desenvolvidas em colaboração com organizações especializadas em segurança digital, essas diretrizes vêm na forma de prompts que podem ser integrados por desenvolvedores para fortalecer a segurança de suas plataformas.
DESENVOLVIMENTO
As políticas abordam uma ampla gama de riscos potenciais, incluindo conteúdo de violência gráfica e sexual, ideais corporais e comportamentos prejudiciais, atividades e desafios perigosos, role play romântico ou violento, e bens e serviços com restrição de idade. A iniciativa parte do reconhecimento de que mesmo equipes experientes frequentemente enfrentam dificuldades para traduzir objetivos de segurança em regras operacionais precisas, o que pode resultar em lacunas de proteção ou filtragem excessiva.
Robbie Torney, da Common Sense Media, uma das organizações parceiras, destacou que "essas políticas baseadas em prompts ajudam a estabelecer um piso significativo de segurança em todo o ecossistema, e por serem lançadas como código aberto, podem ser adaptadas e melhoradas ao longo do tempo". Embora sejam compatíveis com diversos modelos, espera-se que sejam mais eficazes dentro do próprio ecossistema da OpenAI.
CONCLUSÃO
A OpenAI deixa claro que essas políticas não representam uma solução completa para os complexos desafios de segurança em IA, mas constituem um avanço importante. Elas se somam a esforços anteriores da empresa, como controles parentais e previsão de idade, e visam criar uma base mais sólida para proteger os usuários mais jovens. A abertura do código permite que a comunidade de desenvolvedores contribua para o aprimoramento contínuo dessas salvaguardas.
