Módulo 4: IA na borda e segurançaAula 13 de 175 minResumo aberto · Vídeo com cadastro grátis

Cloudflare AI Gateway: controle gastos e chamadas de IA

Por Mauro Mequelussi · Curso gratuito Cloudflare Workers sem mistério: back-end e IA sem servidor · Português (PT-BR)

Resposta direta · O que esta aula resolve

A Aula 13 de 17 ("Cloudflare AI Gateway: controle gastos e chamadas de IA"), parte do módulo "IA na borda e segurança" do curso gratuito "Cloudflare Workers sem mistério: back-end e IA sem servidor" na Escola de Aplicativos (ministrado por Mauro Mequelussi), ensina na prática: o aluno vai entender o que é o Cloudflare AI Gateway e como ele funciona como um intermediário central para suas chamadas de inteligência artificial. Conheça recursos como cache de respostas idênticas, teto de gastos, rate limiting e o Auto Router para corte de custos. Veja também cuidados essenciais de privacidade e como integrá-lo diretamente aos Cloudflare Workers.

Aula gratuita · Cadastro rápido

Crie sua conta grátis para assistir a esta videoaula em HD

O resumo técnico e os capítulos abaixo são abertos para consulta. Crie sua conta 100% gratuita em segundos para liberar todas as 17 videoaulas em HD, controle automático de progresso, Tutor IA e certificado gratuito verificável.

  • R$ 0 · Sem cartão de crédito
  • Tutor IA tira-dúvidas da aula
  • Certificado gratuito incluso

O que você vai aprender

  • O que é o AI Gateway e como ele centraliza o tráfego de IA da sua aplicação
  • Como ativar cache para economizar dinheiro em perguntas repetitivas
  • Como configurar limites de taxa (rate limiting) e teto de gastos em dólar
  • Como usar o recurso Auto Router para direcionar pedidos a modelos mais baratos automaticamente
  • Cuidados fundamentais ao colocar respostas em cache e analisar logs de conversas
  • Diferenças entre o Cloudflare AI Gateway e alternativas como OpenRouter, Helicone e LiteLLM

Pontos-chave da aula

  • O AI Gateway funciona tanto com o Workers AI nativo quanto com provedores externos como OpenAI e Google.
  • O cache armazena respostas para requisições idênticas, poupando tempo e tokens; use apenas para dados não sensíveis.
  • O teto de gastos permite bloquear chamadas ou direcioná-las a modelos econômicos assim que o limite financeiro for atingido.
  • O Auto Router analisa a complexidade do prompt e seleciona o modelo de menor custo capaz de resolver a tarefa.
  • A camada principal (cache, analytics e rate limit) é gratuita em todos os planos da Cloudflare.

Capítulos e roteiro técnico da aula

9 capítulos minutados
  1. 00:00

    O risco da fatura alta com IA no app

    O problema de expor um chat de IA sem controle e o risco de abusos gerarem surpresas na fatura.

  2. 00:17

    A analogia da portaria e o AI Gateway

    Como o AI Gateway centraliza todas as requisições de IA para registrar, limitar e economizar.

  3. 00:45

    Os 4 pilares: visão, cache, limites e rotas

    As funcionalidades fundamentais do AI Gateway para observabilidade, cache de respostas, teto de gastos e fallback.

  4. 01:38

    Como usar no código e o recurso Auto Router

    Ajustando o Worker para passar pelo gateway e como o Auto Router reduz custos selecionando modelos dinamicamente.

  5. 02:23

    Exemplo prático no AgendaJá com cache e limites

    Aplicação de cache para respostas frequentes e divisão de orçamentos por cliente no app de agendamento.

  6. 02:49

    Quando não usar e cuidados com cache e logs

    Casos onde o gateway é desnecessário e os cuidados com privacidade em logs, respostas pessoais e precisão do teto de gastos.

  7. 03:29

    Alternativas do mercado ao AI Gateway

    Comparativo do Cloudflare AI Gateway com ferramentas como OpenRouter, Helicone, Portkey e LiteLLM.

  8. 03:59

    Preços, planos e taxas de créditos

    Entenda os limites do plano gratuito, os custos de logs e como funciona a taxa sobre créditos de provedores externos.

  9. 04:25

    Resumo e onde configurar o teto de gastos

    Recapitulação dos conceitos, localização da configuração de teto de gastos no painel e introdução ao RAG com Vectorize.

Momentos de destaque na prática

00:45

Os 4 recursos que tornam o AI Gateway essencial

Descubra como colocar observabilidade, cache e travas de orçamento na sua IA com um único serviço.

02:00

Economize até 30% em IA usando o Auto Router

Veja como deixar a Cloudflare escolher automaticamente o modelo ideal mais barato para cada pergunta.

02:59

Cuidados com cache e limite de gastos na IA

Evite vazar dados de usuários em cache compartilhado e entenda as limitações do teto de gastos.

Notas de aula e guia de estudo

O Cloudflare AI Gateway atua como um ponto central entre sua aplicação e os provedores de modelos de linguagem (como OpenAI, Anthropic ou Workers AI). Ele oferece controle total sobre as requisições, trazendo visibilidade de métricas, cache de respostas idênticas e travas de segurança orçamentária para que seu app nunca estoure a fatura de surpresa.

O que você vai aprender

  • O que é o AI Gateway e como ele centraliza o tráfego de IA da sua aplicação
  • Como ativar cache para economizar dinheiro em perguntas repetitivas
  • Como configurar limites de taxa (rate limiting) e teto de gastos em dólar
  • Como usar o recurso Auto Router para direcionar pedidos a modelos mais baratos automaticamente
  • Cuidados fundamentais ao colocar respostas em cache e analisar logs de conversas
  • Diferenças entre o Cloudflare AI Gateway e alternativas como OpenRouter, Helicone e LiteLLM

Pontos-chave

  • O AI Gateway funciona tanto com o Workers AI nativo quanto com provedores externos como OpenAI e Google.
  • O cache armazena respostas para requisições idênticas, poupando tempo e tokens; use apenas para dados não sensíveis.
  • O teto de gastos permite bloquear chamadas ou direcioná-las a modelos econômicos assim que o limite financeiro for atingido.
  • O Auto Router analisa a complexidade do prompt e seleciona o modelo de menor custo capaz de resolver a tarefa.
  • A camada principal (cache, analytics e rate limit) é gratuita em todos os planos da Cloudflare.

Conceitos e ferramentas abordados nesta aula

Cloudflare AI GatewayControle de custos de IACache de prompts e respostasTeto de gastos e rate limitingAuto Router da CloudflareComparativo de gateways de IACloudflareAI GatewayWorkers AIOpenAIAnthropicGoogleOpenRouterLiteLLM

Perguntas frequentes sobre esta aula

Nesta aula do módulo "IA na borda e segurança" na Escola de Aplicativos, você aprende de forma prática: O que é o AI Gateway e como ele centraliza o tráfego de IA da sua aplicação; Como ativar cache para economizar dinheiro em perguntas repetitivas; Como configurar limites de taxa (rate limiting) e teto de gastos em dólar; Como usar o recurso Auto Router para direcionar pedidos a modelos mais baratos automaticamente.