Use o Mac M5 Max como fábrica de pré-processamento para modelos Frontier: barato, privado e sob seu controle.
AGENTS.md no projeto — descreve a diretriz de loop engineering e a arquitetura de publicação do curso.
O cluster local não substitui a nuvem: ele é uma fábrica de pré-processamento que recebe dados brutos — PDFs, imagens, áudio, prompts longos — e entrega um pacote enxuto e bem estruturado para um modelo Frontier. Quase todo o trabalho pesado acontece em casa; a nuvem só recebe o que realmente precisa de raciocínio de ponta.
Pense em uma refinaria: o petróleo bruto é separado, filtrado e classificado localmente antes de ir para a indústria química de alto valor. Se você enviasse o óleo cru, pagaria caro e demoraria mais.
O fluxo técnico é: ingestão → chunking → OCR/ASR/VLM → embedding → busca semântica → síntese local → validação → chamada à API Frontier. Modelos locais como Qwen3.6-35B-A3B, Gemma-4-26B-A4B e DeepSeek-V4-Flash dividem as etapas; bge-m3 e pgvector cuidam da memória de longo prazo. O resultado é um contexto menor, mais relevante e muito mais barato de enviar para gpt-5.5 ou claude-opus-4.8.
Loop engineering é o hábito de aprender, executar, verificar e melhorar uma unidade por vez. Já AI Developer Workflows são processos em que agentes de IA fazem parte da equipe: planejam, codificam, revisam e testam. O cluster local torna ambos viáveis porque barateia cada iteração.
A diferença prática: no loop você verifica antes de continuar; no workflow agentic você delega tarefas a modelos especialistas e só intervém nos gates. Os dois se complementam — e o cluster é o terreno comum onde eles rodam.
Em um workflow agentic, cada etapa pode ser uma chamada a um endpoint local. O orquestrador decide qual modelo executa: mlx_lm.server para texto/código, mlx_vlm.server para visão, mlx_audio para fala. O loop de feedback usa a saída de um worker para montar o prompt do próximo. Tudo fica dentro do Mac, então iterar 50 vezes custa quase zero.
Para transformar dados brutos em um pacote pronto para Frontier, dividimos o trabalho em sete fases. Cada fase pode ser executada por um agente local diferente, e o resultado de uma alimenta a próxima.
As fases mapeiam para chamadas reais: ingestão (curl ou watcher), classificação (classifier prompt no Qwen3.6-35B-A3B), extração (GLM-OCR-bf16, Qwen3-ASR-1.7B-8bit, mlx_vlm), RAG (bge-m3 + pgvector), geração de hipóteses (/opinion com múltiplos modelos), validação (/auto-validate com testes/shell), e entrega (/fusion para resumo decisão-ready).
/opinion com modelos locais para obter vários ângulos./auto-validate: testes, lint, schema, política.Em vez de escrever um PRD de 30 páginas, construa um protótipo descartável em minutos no cluster local. Modelos rápidos e baratos respondem perguntas que você ainda não sabe fazer. Quando o protótipo provar que a direção funciona, você escreve a especificação com dados reais.
Pense em esboço arquitetônico: você faz maquetes baratas antes de contratar a construtura. Especificar sem protótipo é encomendar um prédio sem saber se o terreno aguenta.
Um protótipo agentic pode ser um script Python de 40 linhas chamando mlx_lm.server ou ollama. Use logs simples, sem banco de dados. O objetivo é validar a decomposição das tarefas e o formato da saída. Quando funcionar, substitua o script por um orquestrador robusto — LangGraph, n8n ou um servidor próprio.
import requests def ask_local(prompt): r = requests.post("http://localhost:8080/v1/chat/completions", json={"model": "Qwen3.6-35B-A3B", "messages": [{"role": "user", "content": prompt}]}, timeout=120) return r.json()["choices"][0]["message"]["content"] outline = ask_local("Resuma este PDF em 3 tópicos.") print(outline)
Imagine que o modelo Frontier é o CEO de uma empresa: caro, ocupado e decisivo. O cluster local é o estagiário de elite que chega antes da reunião: lê todos os documentos, destaca os números, marca inconsistências, prepara três opções e só pede a decisão final ao CEO.
Sem o estagiário, o CEO passa a reunião inteira lendo planilhas. Com ele, o CEO decide em cinco minutos. Esse é o papel do cluster local em um workflow agentic: preparar o briefing.
O "briefing" é um objeto bem definido: prompt final, contexto comprimido, referências RAG, hipóteses geradas por /opinion, resultados de /auto-validate e uma recomendação de ação. Quanto melhor for o briefing, menos tokens a nuvem precisa processar. O estagiário local roda 24/7 sem custo por chamada.
Teste o que aprendeu com exercícios rápidos.
/opinion pede a múltiplos modelos ou prompts que gerem ângulos diferentes sobre o mesmo problema.