Desenvolvido durante o Mundial de Seleções deste ano, o Rune Score, chatbot de análise esportiva, passou a combinar Redis e a técnica RAG (retrieval-augmented generation) para reduzir em até 80% o custo de consultas repetidas. A arquitetura também ampliou a flexibilidade do sistema para lidar com perguntas formuladas de maneiras diferentes pelos torcedores.
Embora tenha uma interface simples, o Rune Score é um sistema distribuído que precisa trabalhar com dados esportivos atualizados, reformulações de perguntas, falhas na extração de informações, custos de chamadas a grandes modelos de linguagem, transmissão das respostas, memória e mecanismos de segurança.
A primeira etapa da equipe técnica foi criar um cache em Redis baseado em uma regra direta: pedidos idênticos recebem a mesma chave, como uma consulta sobre o confronto entre Argentina e Espanha. Quando alguém faz uma pergunta já respondida recentemente, o sistema reaproveita a análise armazenada na memória, em vez de executar novamente todo o pipeline de inteligência artificial.
Segundo o desenvolvedor responsável, sem o cache, uma extração de dados seguida por uma análise pode consumir até 23 mil tokens de entrada, incluindo conteúdo coletado, contexto e histórico. Com o cache identificando a mesma chave, esse volume cai para cerca de 5 mil tokens, uma redução de aproximadamente 4,5 vezes na etapa mais cara do pipeline. Em termos relativos, a economia é de cerca de 80% dos tokens em consultas repetidas.
O Redis, porém, é limitado quando a mesma intenção aparece em formatos diferentes. Se um torcedor escreve “FC Barcelona vs Real Madrid” e outro digita “Barça – Madrid”, o cache pode tratar as solicitações como distintas. Isso gera trabalho duplicado, aumenta os custos e reduz a eficiência, mesmo quando o assunto é o mesmo.
Para enfrentar esse problema, a equipe incorporou o RAG, técnica que utiliza embeddings, representações numéricas de textos, para buscar informações com base no significado, e não apenas na combinação exata de palavras. Dessa forma, o chatbot consegue recuperar uma análise já produzida mesmo quando o usuário reformula a pergunta usando outras expressões.
Nos testes com o Rune Score, uma recuperação bem-sucedida por RAG reduziu o volume de tokens de 20 mil para 8 mil em determinadas consultas, uma queda de 60%. O resultado é menos econômico do que o obtido pelo cache exato em Redis, mas oferece maior tolerância às diferentes formas de comunicação dos usuários, preserva informações além do prazo de expiração do cache e cria uma arquitetura que pode ser aproveitada em outros produtos de inteligência artificial.
A combinação entre Redis e RAG torna as respostas mais rápidas, econômicas e consistentes. Na prática, isso contribui para uma experiência mais fluida de quem busca estatísticas ou análises de partidas.
Quando o cache identifica uma solicitação, o torcedor recebe em segundos uma resposta detalhada sobre um confronto já analisado, sem que o sistema precise executar uma nova chamada extensa ao modelo de linguagem. Em vez de recalcular o resultado a cada acesso, o chatbot reaproveita o processamento realizado anteriormente.
O RAG apresenta maior utilidade em perguntas reformuladas. Se o usuário começa com uma dúvida extensa sobre o desempenho recente de uma equipe e depois a resume ou muda o foco para outro recorte da mesma partida, o sistema consegue reconhecer a proximidade semântica, recuperar o conteúdo relacionado e adaptar a resposta sem começar do zero.
Essa memória não representa, no sentido humano, a capacidade de lembrar tudo o que uma pessoa disse. Trata-se do reconhecimento de padrões recorrentes e contextos semelhantes em um grande volume de interações. Para o usuário, o efeito é a percepção de que o chatbot acompanha o raciocínio, em vez de apresentar respostas desconectadas a cada nova pergunta.
No experimento do Rune Score, as informações não são armazenadas como um histórico infinito de conversas. Elas ficam organizadas em estruturas otimizadas para recuperação rápida, como chaves de cache no Redis e vetores de embeddings utilizados pelo RAG.
No Redis, cada pergunta que exige um processamento completo gera uma chave associada à resposta e aos dados de contexto. Dentro de uma janela de tempo configurada, se outro usuário fizer essencialmente o mesmo pedido, o chatbot acessa esse registro e entrega o resultado consumindo uma quantidade muito menor de tokens de entrada.
No sistema de RAG, respostas e conteúdos relevantes são convertidos em vetores em um espaço matemático no qual a distância representa a semelhança de significado. Quando uma nova pergunta chega, ela também é transformada em um vetor. O mecanismo então procura os pontos mais próximos, que correspondem às informações mais semelhantes ao conteúdo da consulta.
Os criadores do Rune Score afirmam que o principal gargalo de qualidade nesse tipo de sistema não está necessariamente na tecnologia de recuperação, mas nos dados fornecidos a ela. Eles citam o princípio conhecido em computação como “garbage in, garbage out”, ou GIGO, segundo o qual a qualidade do resultado depende da qualidade da informação de entrada. Quando a extração de dados esportivos é simplificada em excesso, a análise final tende a perder precisão.
Ao comparar Redis e RAG, a equipe concluiu que as duas soluções não competem entre si, mas funcionam em sequência. Primeiro, o cache rápido e de baixo custo ajuda a identificar o que os usuários realmente perguntam e reduz o volume de chamadas ao modelo de linguagem. Em seguida, o RAG atende aos casos que não são resolvidos pelo cache, como variações de linguagem e perguntas mais abertas.
Os desenvolvedores também destacam que depender de um único critério para classificar a relevância dos resultados pode ser uma estratégia frágil. Por isso, defendem a combinação de buscas por palavras-chave exatas, pesquisas baseadas em significado e critérios relacionados à atualidade dos dados. Estudos técnicos citados pela equipe indicam que a combinação de diferentes mecanismos de recuperação tende a produzir resultados mais relevantes nas primeiras posições do que qualquer método utilizado isoladamente.
Os próximos passos do projeto incluem aprimorar as fontes de dados esportivos, calibrar o tempo de vida do cache e testar combinações de métodos de recuperação que possam ser reaproveitadas em outros produtos de tecnologia esportiva e análise de dados. A arquitetura foi planejada para permitir reversões rápidas caso uma mudança prejudique os resultados, o que possibilita a realização de novos testes sem interromper o serviço.