Embeddings como pré-filtro antes da classificação com Jev
tonis · @totovoto33,1 mil visualizações no X
Uma recomendação de arquitetura: em bases grandes, usar embeddings para reduzir os candidatos e só depois aplicar o Jev na classificação. O argumento é de custo, já que embeddings continuam mais baratos por etapa comparável e seguem sendo a ferramenta principal quando o volume de dados é alto.
O que o Jev decide aqui?
Depois que os embeddings reduzem o conjunto, o Jev classifica apenas os candidatos que sobraram.
Qual foi o resultado?
Custo por etapa comparável: Voyage4 a US$ 0,02 contra Jev a US$ 0,042.
Por que isso importa?
Combinar ferramentas em cascata costuma ser mais eficiente que escolher uma só. Busca vetorial é ótima para recuperar o que é parecido; um classificador tipado é melhor para decidir se o item atende a um critério específico.
Esse desenho serve para RAG, recomendação em e-commerce e deduplicação de leads. O cuidado é o recall da primeira etapa: se o pré-filtro corta um item relevante, nenhuma classificação posterior consegue recuperá-lo.