Timestral, da Mistral, faz previsões de números e roda num processador comum
No dia 15 de outubro, a Mistral lançou o Timestral, sua primeira família de modelos de base para séries temporais. Série temporal é qualquer número registrado ao longo do tempo, como leituras de um sensor por hora, vendas por dia ou ligações por hora. Um modelo de base para isso é treinado com muitas séries diferentes, para conseguir prever dados que nunca viu sem ser treinado com os seus dados antes. A Mistral chama isso de previsão zero-shot.
Os modelos são pequenos para os padrões de hoje. Há quatro tamanhos, de 5 milhões a 209 milhões de parâmetros, e a Mistral diz que nenhum deles precisa de GPU para fazer previsões.
O que a Mistral diz que ele faz
A Mistral diz que o modelo de 209 milhões de parâmetros fica em primeiro nos três principais benchmarks públicos de previsão, GIFT-Eval, TIME e fev-bench, e supera o melhor anterior com cerca de dois terços dos parâmetros. Também diz que cada um dos quatro tamanhos prevê melhor que qualquer modelo público do mesmo tamanho, e que o modelo de 28 milhões supera o Chronos-2, cerca de quatro vezes maior, em dois desses benchmarks. A Mistral enviou os resultados para os rankings do GIFT-Eval e do TIME.
As previsões vêm como faixas, com 21 quantis, então dá para ver o quanto uma previsão é incerta, em vez de receber um número só. Os modelos conseguem prever várias séries relacionadas juntas e receber informações extras conhecidas com antecedência, como um calendário de feriados, uma programação de produção ou uma previsão do tempo.
Quão rápido ele é
Num processador comum de servidor com 8 threads, a Mistral diz que prever um dia à frente a partir de três semanas de dados a cada 15 minutos leva 17 milissegundos com o modelo menor e 113 milissegundos com o maior. O modelo de 123 milhões fica a 0,2% da nota do maior gastando três quartos do tempo.
O exemplo da própria Mistral é uma fábrica com milhares de sensores, em que o Timestral aponta leituras fora do normal e um agente com modelo de linguagem procura nos registros de manutenção para sugerir uma causa.
Onde conseguir
A Mistral publicou um repositório no GitHub para rodar o Timestral com os seus próprios dados, sob o que ela descreve como uma licença MIT modificada. Empresas que querem ajustar o modelo com dados próprios podem fazer isso pelo Mistral Forge, que pode rodar no hardware da empresa, inclusive em máquinas sem conexão com a internet. Um relatório técnico com os resultados completos ainda vai sair.
O que testar
Se você já faz alguma previsão numa planilha, como pedidos por semana, escala de pessoal nos horários de pico ou nível de estoque, exporte um ano desse histórico e rode no menor modelo do Timestral, pelo repositório. Compare a previsão dele para o último mês com o que aconteceu de verdade e com o método que você usa hoje. Leia os termos da licença antes de colocar o modelo num produto.
O que a gente pensa
A maior parte das notícias de IA deste ano fala de modelos enormes. Um modelo de previsão que roda em milissegundos num servidor comum é útil de outro jeito, porque previsão é um trabalho que equipes pequenas já fazem à mão toda semana. A gente esperaria o relatório técnico antes de confiar no ranking dos benchmarks, e testaria com os nossos números de qualquer forma.
Fontes