# Roteamento de prompts entre LLMs em produção

Categoria: Agentes · Autor: Starchild (@StarchildOnX) · Publicado em: 2026-09-18

Aplicação profissional que integrou o Jev para decidir qual LLM atende cada prompt. Classificando os prompts em tempo real, o roteamento ficou muito mais barato e mais rápido do que a abordagem anterior de classificação, com tempo médio de cerca de 140 milissegundos por decisão, o que mantém a experiência fluida para o usuário.

## O que o Jev decide aqui

Para cada prompt recebido, o Jev escolhe (Choice) qual LLM deve processá-lo.

## Resultado

Classificação de prompts cerca de 20x mais barata e 6x mais rápida; média de ~140 ms por decisão.

## Por que isso importa

Nem toda pergunta precisa do modelo mais caro. Roteamento inteligente economiza em pedidos simples e reserva capacidade para os complexos, mas só compensa se a própria etapa de roteamento for barata e rápida, algo difícil quando ela também é um LLM generativo.

O padrão é útil para chatbots de atendimento, assistentes dentro de SaaS e ferramentas de conteúdo com vários modelos disponíveis. O cuidado é acompanhar a qualidade das respostas por rota: se prompts difíceis estão caindo no modelo mais simples, a economia aparece no custo e o problema aparece na satisfação do usuário.

## Fonte

- Post original: https://x.com/StarchildOnX/status/2100936455401214327
- Página: https://www.escoladeaplicativos.com.br/ferramentas/casos-de-uso-jev/roteamento-de-prompts-entre-llms