A renomada jornalista e ex-diretora de notícias do Facebook, Campbell Brown, está alertando que a inteligência artificial pode repetir os mesmos erros das redes sociais na disseminação de informações. Em vez de esperar por uma solução externa, ela fundou a Forum AI, uma empresa que avalia o desempenho de modelos de IA em tópicos de alto risco, como geopolítica, saúde mental, finanças e contratações.
Em entrevista ao TechCrunch, Brown explicou que a ideia é reunir especialistas de renome mundial — incluindo Niall Ferguson, Fareed Zakaria, o ex-secretário de Estado Tony Blinken, o ex-presidente da Câmara Kevin McCarthy e Anne Neuberger — para criar benchmarks e treinar juízes de IA que avaliem os modelos em escala. O objetivo é alcançar cerca de 90% de concordância com esses especialistas humanos, meta que a Forum AI já atingiu em alguns casos.
A motivação de Brown veio do lançamento do ChatGPT, quando ela ainda estava no Meta. "Percebi que a IA seria o funil por onde toda a informação passaria, e não era muito boa", disse. Preocupada com o impacto em seus filhos, ela decidiu agir. "Minha frustração é que a precisão não era prioridade para ninguém. As empresas de IA focam em código e matemática, enquanto notícias e informação são deixadas de lado", concluiu.
A Forum AI, fundada há 17 meses em Nova York, busca preencher essa lacuna, garantindo que a IA lide com questões complexas de forma responsável e precisa.
