Agentic Search da Mistral deixa o modelo abrir e ler o documento
No dia 20 de agosto, a Mistral lançou o Agentic Search, um jeito de modelos de IA procurarem informação dentro dos documentos de uma empresa em várias etapas. Ele foi feito para os arquivos em que a resposta se esconde numa tabela da página 90: relatórios financeiros, contratos, manuais, registros do governo.
A maioria dos chatbots de empresa hoje usa RAG, sigla em inglês para geração aumentada por recuperação. O sistema pega alguns trechos de texto que parecem relevantes e pede ao modelo que responda com base neles, de uma vez só. Quando a resposta está numa nota de rodapé que os trechos não pegaram, o modelo não tem como voltar e procurar.
Cinco ferramentas no lugar de uma passada
O Agentic Search dá ao modelo cinco ferramentas que funcionam em cima de um índice de busca que já existe: searchopennavigateread e grep (um comando que acha uma palavra ou padrão dentro de um arquivo aberto). O modelo pode buscar, abrir um arquivo promissor, pular para uma seção, ler e buscar de novo se os primeiros resultados forem fracos. A Mistral diz que não é preciso fazer ajuste fino, ou seja, não é preciso treinar o modelo de novo com os seus dados. Ele está disponível pelo Mistral Search Toolkit e já vem dentro das Libraries nos produtos Studio e Vibe da Mistral.
O que a Mistral mediu
A Mistral fez os testes com as configurações padrão e dois modelos, o Mistral Medium 3.5, da própria empresa, e o GLM-5.2, da Z.ai. No FinanceBench, um conjunto de 150 perguntas sobre 368 relatórios entregues à SEC, o órgão que regula o mercado de ações americano, com cerca de 147 páginas cada, o melhor resultado foi de 26,7% de acerto com RAG de uma passada para 86% com o Agentic Search. No OfficeQA Pro, que faz perguntas cheias de tabelas sobre vários documentos, o acerto foi de 6,3% para 51,9%. A Mistral também diz que o tempo de resposta nos casos mais lentos caiu até 39,6% e o uso de tokens caiu até um terço, porque o modelo repete menos buscas amplas.
São números da própria Mistral em benchmarks públicos. O post não traz preço para as novas ferramentas.
Quando a busca simples basta
A Mistral deixa claro que o jeito antigo ainda serve para várias tarefas. Para documentos curtos e limpos, buscas por palavra-chave em grande volume e perguntas em que você já sabe onde a resposta está, a recuperação de uma passada costuma bastar. O Agentic Search é para os casos em que o modelo precisa cavar, comparar fontes ou conferir um número na página de onde ele saiu.
O que fazer com isso
Se a sua equipe tem um assistente interno que responde perguntas sobre PDFs longos, junte dez perguntas que ele errou e anote onde estava a resposta certa. Se a maioria estava em tabelas ou notas de rodapé, vale testar uma busca em várias etapas como esta. Se eram consultas simples que falharam, o problema provavelmente está no próprio índice.
O que a gente pensa
O maior ganho nos testes da Mistral veio de deixar o modelo buscar mais de uma vez, antes mesmo de entrarem as novas ferramentas de leitura. É o que esperaria qualquer pessoa que já viu um chatbot errar uma resposta que estava num PDF longo. O custo é mais tempo e mais tokens por pergunta, então a gente guardaria isso para as perguntas que precisam.
Fontes