Visão geral do episódio
Colibri: como rodar modelos gigantes de inteligência artificial no seu PC sem exigir uma GPU? Entenda o motor open source que distribui os pesos entre memória, disco e, quando disponível, placa de vídeo.
Entenda a mistura de especialistas, o roteamento de cada token, o cache, a leitura do disco em paralelo e as APIs compatíveis com OpenAI e Anthropic. Também mostro como o Colibri conecta ferramentas de programação, como Claude Code, a um modelo local.
O detalhe que importa: conseguir executar não significa ter uma experiência rápida. Modelos gigantes podem gerar menos de um token por segundo em um notebook. Para uso diário, comece com modelos pequenos e confira os requisitos de memória e armazenamento do modelo escolhido. Os números citados são exemplos documentados pelo projeto, não benchmarks executados por nós.
Projeto e documentação oficial:
Fontes e links citados no vídeo
Continue aprendendo na Escola de Aplicativos
- Curso Gratuito: Claude Code sem Mistério: Domine CLAUDE.md, skills reutilizáveis, subagentes, hooks, MCP e criação de plugins.
- Curso Gratuito: Mastra sem Mistério: Construa agentes e workflows tipados em TypeScript com memória, RAG e observabilidade.