Introdução: tokens, janela de contexto e por que as LLMs alucinam
Por Mauro Mequelussi · Curso gratuito SurrealDB para engenheiros de IA: RAG e agentes · Português (PT-BR)
Resposta direta · O que esta aula resolve
A Aula 1 de 11 ("Introdução: tokens, janela de contexto e por que as LLMs alucinam"), parte do módulo "Fundamentos de busca para IA" do curso gratuito "SurrealDB para engenheiros de IA: RAG e agentes" na Escola de Aplicativos (ministrado por Mauro Mequelussi), ensina na prática: o aluno descobre a mecânica por trás das alucinações de LLMs e por que dados existentes no banco não chegam sozinhos até a IA. Exploramos a diferença fundamental entre engenharia de prompt e engenharia de contexto usando o exemplo prático de um rastreamento de pedidos. Você também entende o papel de um banco moderno como o SurrealDB para entregar a informação certa no momento exato.
O que você vai aprender
- Como os modelos de linguagem geram respostas a partir da previsão de tokens.
- O funcionamento da janela de contexto através da metáfora da mesa de trabalho.
- Por que IDs, números de pedidos e termos técnicos sofrem maior fragmentação na tokenização.
- A diferença prática entre engenharia de prompt e engenharia de contexto.
- Por que colocar informação em excesso no contexto prejudica a qualidade da resposta.
- A vantagem de centralizar vetores, textos e relações dentro do SurrealDB.
Pontos-chave da aula
- A IA não valida fatos: ela apenas seleciona a continuação de texto que soa mais natural estatisticamente.
- Se o dado não estiver explicitamente colocado em cima da mesa (janela de contexto), para a IA ele não existe.
- Habilidade de escrita vem do treinamento do modelo; dados do negócio chegam na hora da pergunta via banco de dados.
- Mais contexto nem sempre é melhor: a meta técnica é enviar menos volume, mas com precisão máxima.
Capítulos e roteiro técnico da aula
7 capítulos minutadosPor que a IA alucina com o dado correto no banco
Descubra o motivo de modelos de IA inventarem respostas mesmo quando a informação correta já existe no seu banco de dados.
Como a IA monta respostas e a analogia da mesa
Entenda a previsão de tokens e por que a janela de contexto funciona exatamente como uma mesa de trabalho física.
Como a tokenização fragmenta códigos e números
Veja como palavras incomuns e códigos de pedidos são fatiados em múltiplos pedaços, dificultando a interpretação do modelo.
Engenharia de prompt versus engenharia de contexto
Diferencie a instrução fixa do sistema da seleção dinâmica de dados necessários para responder a cada pergunta do usuário.
Por que o SurrealDB unifica busca vetorial e textual
Compare a arquitetura necessária para agentes no Supabase com os recursos nativos de busca híbrida no SurrealDB.
O perigo do excesso de contexto e dados obsoletos
Entenda por que enviar informação demais confunde o modelo e como lidar com informações que perdem a validade no tempo.
Corrigindo o caso prático e introdução às buscas
Veja o problema do pedido 4821 resolvido com contexto correto e conheça os dois tipos fundamentais de busca: sentido e palavra exata.
Momentos de destaque na prática
A metáfora da mesa de trabalho na janela de contexto
Entenda de forma definitiva por que a IA não acessa seu banco sozinha e só consegue usar o que está na mesa.
Engenharia de prompt vs engenharia de contexto
Descubra a diferença prática entre escrever uma boa instrução e buscar dinamicamente os dados exatos da resposta.
Por que mais dados na janela podem arruinar a resposta
Veja por que empilhar documentos confunde a IA e como resolver alucinações enviando menos informação, mas a certa.
Notas de aula e guia de estudo
Se você já integrou uma IA ao seu aplicativo, provavelmente viu ela responder com total convicção algo que não condizia com a realidade do seu banco de dados. Nesta aula inicial, desmistificamos o funcionamento interno dos modelos de linguagem e explicamos por que a IA não busca informações por conta própria. Compreender como a janela de contexto opera é o primeiro passo para criar agentes confiáveis usando o SurrealDB.
O que você vai aprender
- Como os modelos de linguagem geram respostas a partir da previsão de tokens.
- O funcionamento da janela de contexto através da metáfora da mesa de trabalho.
- Por que IDs, números de pedidos e termos técnicos sofrem maior fragmentação na tokenização.
- A diferença prática entre engenharia de prompt e engenharia de contexto.
- Por que colocar informação em excesso no contexto prejudica a qualidade da resposta.
- A vantagem de centralizar vetores, textos e relações dentro do SurrealDB.
Pontos-chave
- A IA não valida fatos: ela apenas seleciona a continuação de texto que soa mais natural estatisticamente.
- Se o dado não estiver explicitamente colocado em cima da mesa (janela de contexto), para a IA ele não existe.
- Habilidade de escrita vem do treinamento do modelo; dados do negócio chegam na hora da pergunta via banco de dados.
- Mais contexto nem sempre é melhor: a meta técnica é enviar menos volume, mas com precisão máxima.