INTRODUÇÃO
Para quem se preocupa com privacidade, o avanço dos assistentes pessoais de IA pode ser alarmante. É difícil usar um sem compartilhar informações pessoais, que são retidas pelas empresas controladoras. Com a OpenAI já testando publicidade, é fácil imaginar a mesma coleta de dados que alimenta Facebook e Google infiltrando-se nas conversas com chatbots. Um novo projeto, lançado em dezembro pelo cofundador do Signal, Moxie Marlinspike, mostra como poderia ser um serviço de IA consciente da privacidade.
DESENVOLVIMENTO
O Confer foi projetado para parecer e funcionar como ChatGPT ou Claude, mas seu backend é organizado para evitar a coleta de dados, com o rigor de código aberto que torna o Signal tão confiável. Suas conversas no Confer não podem ser usadas para treinar o modelo ou direcionar anúncios, pelo simples motivo de que o host nunca terá acesso a elas. Para Marlinspike, essas proteções são uma resposta à natureza íntima do serviço. "É uma forma de tecnologia que convida ativamente à confissão", diz ele. "Interfaces de chat como o ChatGPT sabem mais sobre as pessoas do que qualquer outra tecnologia antes. Quando você combina isso com publicidade, é como alguém pagando seu terapeuta para convencê-lo a comprar algo."
Garantir essa privacidade requer vários sistemas trabalhando em conjunto. Primeiro, o Confer criptografa mensagens de e para o sistema usando o sistema de chave de acesso WebAuthn. Infelizmente, esse padrão funciona melhor em dispositivos móveis ou Macs rodando Sequoia, embora também possa funcionar no Windows ou Linux com um gerenciador de senhas. No lado do servidor, todo o processamento de inferência do Confer é feito em um Ambiente de Execução Confiável (TEE), com sistemas de atestado remoto para verificar se o sistema não foi comprometido. Dentro disso, há uma série de modelos de base de peso aberto lidando com qualquer consulta que chegar.
CONCLUSÃO
O Confer representa um marco importante na busca por IA ética e privada, desafiando o modelo dominante de coleta de dados dos gigantes tecnológicos. Ao combinar criptografia robusta, ambientes seguros e transparência de código aberto, ele oferece uma alternativa viável para usuários que valorizam sua intimidade digital. Se adotado amplamente, pode forçar uma mudança de paradigma na indústria, provando que assistentes inteligentes não precisam sacrificar a privacidade para serem úteis.
