Modelos

Velocidades observadas no tráfego dos últimos 30 dias, por modelo e provedor, com pelo menos três amostras elegíveis. O custo é o equivalente — quanto a mesma chamada custaria num provedor comercial de porte parecido.

Aplicações:agentes e ferramentascódigoimagem e OCRatendimento e textoraciocínio e decisãobusca (vetores)áudio e voz

Provedores e infraestrutura

A inferência ocorre nos servidores abaixo, em datacenter no Brasil, mais a API parceira de decisão tipada. Hardware é informação documental revisada em 25/10/2026, não inspeção ao vivo das máquinas.

GPU · 2× NVIDIA L40S

Identificador da API: gpu-l40s

2× NVIDIA L40S · vLLM com tensor parallel

Fonte: Medição real em 10/10 e 24/10/2026.

Modelos: mangaba-titan, mangaba-multimodal, mangaba-operador.

Serve o mangaba-titan, o modelo mais capaz da plataforma: 1º lugar na bateria agêntica, visão nativa e 192 mil tokens de contexto. ~80 tok/s com 1 usuário e ~640 tok/s somados com 48 simultâneos. Desde 24/10 reaproveita o prompt repetido (cache de prefixo): agentes que mandam o mesmo prompt de sistema começam a responder até 3x mais rápido. Também atende mangaba-coder, mangaba-multimodal, mangaba-raciocinio, mangaba-visao, mangaba-mini, mangaba-fast, mangaba-operador e mangaba-agente-hibrido. Se a GPU cair, a reserva assume automaticamente: primeiro uma GPU compartilhada, depois o mangaba-agente (CPU).

CPU · Xeon Gold 5218R

Identificador da API: mangaba-nordeste

Intel Xeon Gold 5218R · 48 vCPU

Fonte: Inventário do responsável.

Modelos: mangaba-coder, mangaba-raciocinio, mangaba-mini, mangaba-visao.

Servidor em CPU de reforço. Desde 25/10 nenhuma marca da vitrine depende dele: mangaba-coder, mangaba-raciocinio, mangaba-visao e mangaba-mini são atendidos pelo mangaba-titan (GPU); os nomes continuam valendo.

CPU · Xeon Gold 6258R

Identificador da API: poc

Intel Xeon Gold 6258R · 64 vCPU

Fonte: Medição real em 25/10/2026.

Modelos: mangaba-agente, mangaba-agente-hibrido, mangaba-embed, mangaba-embed-pro, mangaba-rerank, mangaba-audio, mangaba-audio-hq, mangaba-voz, kev-4b, kev-0.8b, brier-v5.

Serve o mangaba-agente (~37 tok/s), que também é a reserva automática do mangaba-titan, e é a reserva em CPU do mangaba-bolt e do mangaba-agente-rapido, que rodam na GPU NVIDIA GB10. Também atende vetores (mangaba-embed), reordenação, voz e a decisão tipada aberta (brier-v5, kev-4b, kev-0.8b). Ferramentas em todas as rotas de conversa (/v1/chat/completions e /v1/messages); áudio em /v1/audio/transcriptions e /v1/audio/speech.

GPU · NVIDIA GB10

Identificador da API: gb10-bolt

NVIDIA GB10 (Grace Blackwell) · llama.cpp

Fonte: Medição real em 25/10/2026.

Modelos: mangaba-bolt.

Serve o mangaba-bolt na GPU (~48 tok/s). A CPU continua como reserva do mesmo modelo.

GPU · NVIDIA GB10

Identificador da API: gb10-ling

NVIDIA GB10 (Grace Blackwell) · llama.cpp

Fonte: Medição real em 25/10/2026.

Modelos: mangaba-agente-rapido.

Serve o mangaba-agente-rapido (~110 tok/s, ferramentas 6/6). A CPU continua como reserva do mesmo modelo.

GPU · NVIDIA GB10

Identificador da API: gb10

NVIDIA GB10 (Grace Blackwell) · 121 GB de memória unificada · vLLM

Fonte: Medição real em 25/10/2026.

Modelos: mangaba-vl, mangaba-embed-gpu.

Serve o mangaba-vl (visão, documentos e ferramentas) e o mangaba-embed-gpu (vetores de 4096 dimensões, só neste servidor). Responde direto por padrão; o raciocínio liga por requisição. Também atende um cliente dedicado: o router divide a máquina com ele.

CPU · Xeon Sapphire Rapids (AMX)

Identificador da API: kleos

Intel Xeon Sapphire Rapids com aceleração AMX

Fonte: Medição real em 24/10/2026.

Modelos: mangaba-flash, mangaba-leve.

Serve os modelos leves: mangaba-flash (classificação e respostas curtas) e mangaba-leve, de 52 a 115 tok/s, sempre carregados.

CPU · OCR e vetores

Identificador da API: mangaba-ai

Intel Xeon Gold 6258R (mesmo servidor do mangaba-agente)

Fonte: Configuração conferida em 04/10/2026.

Modelos: mangaba-fast, mangaba-ocr, mangaba-embed-1536.

Atende mangaba-ocr (texto de documentos, ~3 s por página) e mangaba-embed-1536 (vetores). O mangaba-fast é atendido pelo mangaba-titan desde 20/10.

GPU compartilhada · 14B

Identificador da API: hf-zero-14b

GPU compartilhada sob demanda (fatia de 48 GB)

Fonte: Medição real em 03/10/2026.

Modelos: mangaba-zero-14b.

Serve o mangaba-zero-14b: agente leve, 6/6 na bateria agêntica (ferramentas, chamadas paralelas, JSON), 1–6 s por chamada. Sem visão. Usa uma cota diária de GPU compartilhada: bom para demonstração e volume baixo; quando a cota acaba, as chamadas falham até o dia seguinte.

GPU compartilhada · 32B

Identificador da API: hf-zero-32b

GPU compartilhada sob demanda (fatia de 48 GB) · pesos FP8

Fonte: Medição real em 03/10/2026.

Modelos: mangaba-zero-32b.

Serve o mangaba-zero-32b: agente de capacidade média, 6/6 na bateria agêntica, 4–12 s por chamada (a primeira após ociosidade leva ~60 s para carregar). Sem visão. É a primeira reserva do mangaba-titan; mesma cota diária compartilhada.

GPU compartilhada · código

Identificador da API: hf-zero-coder

GPU compartilhada sob demanda (fatia de 48 GB) · pesos FP8

Fonte: Criado em 20/10/2026.

Modelos: mangaba-zero-coder.

Serve o mangaba-zero-coder: modelo especializado em código, com ferramentas. Divide a cota diária de GPU compartilhada.

TypeSafe · Jev · API parceira (decisão tipada)

Identificador da API: typesafe

Serviço da TypeSafe AI; sem pesos abertos

Fonte: docs.typesafe.ai e teste real da API em 20/09/2026.

Modelos: jev-latest, jev-preview.

Modelo de decisão, não de conversa: só atende POST /v1/systemone com state + questions (choice, score, noul) e devolve respostas tipadas com probabilidade e confiança. Cobra só a entrada (US$ 0,042 por milhão de tokens). Limites do provedor: 1.200 requisições por minuto, 64k de contexto. Sem streaming, ferramentas, imagem ou áudio.

Endereços de administração, portas internas e credenciais não fazem parte deste inventário público. Se o catálogo falhar, a última lista pode permanecer visível.

ModeloProvedorUsoContexto1º tokenRespostaGeraçãoTool callEquivalente (US$/1M)
mangaba-auto
Deixe o roteador escolher: o Jev lê cada pedido e manda para o modelo certo. Código vai para o mangaba-coder, perguntas simples para o mangaba-mini, imagens e tarefas difíceis para o mangaba-titan. Quando não tem certeza, usa o mais capaz. A resposta informa o modelo escolhido no campo model.
conversaferramentasvisãostreaming
Roteador · escolhe entre os provedores
ocupação não disponível
escolha automática
não informadosem amostrassem amostras aindasem amostras aindasim0.60 entrada · 2.40 saída
vs. porte médio
mangaba-titan
O modelo mais capaz da Mangaba. Conduz agentes longos com várias ferramentas, raciocina sobre problemas complexos e lê imagens (prints, fotos, documentos). Também é a melhor escolha para código pesado ou com prazo: é o mais rápido da plataforma: ~76 tok/s por usuário e ~600 tok/s no total, começando a responder em até 4 s mesmo com 32 pedidos simultâneos. Contexto de 192 mil tokens. Roda em GPU dedicada; se ela cair, o mangaba-agente (CPU) assume automaticamente. Se a GPU ficar fora do ar, a conversa segue na reserva automática: mangaba-zero-32b (GPU compartilhada) e, depois, o mangaba-agente (CPU, mais lento).
ferramentasvisão
GPU · 2× NVIDIA L40S
tranquilo agora
agentescódigovisão
196.6080.9s1.9s
mediana em 1602 chamadas
74.9 tok/s
velocidade alta
medido em 1602 chamadas
sim0.60 entrada · 2.40 saída
vs. porte médio
mangaba-coder
Especialista em programação: escreve, revisa e corrige código, e opera como agente que chama ferramentas. Indicado para assistentes de código e automações. Desde 08/10 é atendido pelo mangaba-titan (GPU), bem mais rápido que o modelo original em CPU; o nome continua valendo.
Atendido pelo mangaba-titan (GPU)
conversaferramentasferramentas em streamingagente multi-turnostreaming
CPU · Xeon Gold 5218R
tranquilo agora
códigoagentes
65.5360.9s1.9s
mediana em 1602 chamadas
74.9 tok/s
velocidade alta
medido em 1602 chamadas
sim0.90 entrada · 3.60 saída
vs. comercial de porte médio
mangaba-agente
Agente de uso geral: conversa, segue instruções e chama ferramentas com rapidez. Bom padrão para atendimento e fluxos de trabalho em texto. Desde 27/10 é atendido pelo mangaba-titan (GPU), bem mais rápido que o modelo original em CPU, que continua como reserva; o nome continua valendo. Não lê imagens.
Atendido pelo mangaba-titan (GPU)
ferramentas
CPU · Xeon Gold 6258R
tranquilo agora
agentesatendimento
65.5360.9s1.9s
mediana em 1602 chamadas
74.9 tok/s
velocidade alta
medido em 1602 chamadas
sim0.90 entrada · 3.60 saída
vs. comercial de porte médio
mangaba-agente-hibrido
Agente para fluxos com ferramentas e contexto longo. Desde 25/10 é atendido pelo mangaba-titan (GPU), cerca de 6 vezes mais rápido que o modelo original em CPU; o nome continua valendo. Contexto de 192 mil tokens.
Atendido pelo mangaba-titan (GPU)
ferramentas
CPU · Xeon Gold 6258R
tranquilo agora
agentescontexto longo
não informado0.9s1.9s
mediana em 1602 chamadas
74.9 tok/s
velocidade alta
medido em 1602 chamadas
sim0.60 entrada · 2.40 saída
vs. porte médio
mangaba-bolt
Modelo compacto que pensa antes de responder: o mais preciso entre os modelos leves. Na bateria de 25/10 acertou 12 de 12 questões de contas e lógica e fez 6/6 com ferramentas, inclusive chamadas paralelas. Roda em GPU dedicada desde 25/10: ~48 tok/s e ~3 s por conta curta, já com o raciocínio. Se a GPU estiver ocupada, a CPU assume (mais lenta). Contexto de 16 mil tokens. Não lê imagens.
ferramentas
GPU · NVIDIA GB10
tranquilo agora
raciocínio leve
16.384sem amostrassem amostras aindasem amostras aindasim0.60 entrada · 2.40 saída
vs. porte médio
mangaba-agente-rapido
O agente mais rápido da plataforma: ~110 tok/s e prompt de 3 mil tokens lido em ~1 s, em GPU dedicada. Na bateria de 25/10 fez 6/6 com ferramentas (inclusive chamadas paralelas) e 11 de 12 em contas e lógica. Ideal para atendimento, triagem e agentes que precisam responder na hora; para tarefas longas e difíceis, use o mangaba-titan. Não lê imagens.
ferramentas
GPU · NVIDIA GB10
tranquilo agora
agentesatendimento
16.384sem amostrassem amostras aindasem amostras aindasim0.15 entrada · 0.60 saída
vs. comercial compacto
mangaba-vl
Visão e documentos em GPU dedicada: lê imagens, prints, notas e PDFs digitalizados, transcreve texto e chama ferramentas. Na bateria de 25/10 transcreveu a nota de teste sem erro em ~3 s e respondeu contas curtas em menos de 1 s. Responde direto por padrão; para pensar antes de responder, envie chat_template_kwargs.enable_thinking=true. Contexto de 65 mil tokens.
ferramentasvisão
GPU · NVIDIA GB10
tranquilo agora
visãoOCR
65.536sem amostrassem amostras aindasem amostras aindasim0.60 entrada · 2.40 saída
vs. porte médio
mangaba-multimodal
Agente que combina texto e imagem: interpreta fotos, telas e documentos e, na mesma conversa, chama ferramentas. Atendido pelo mangaba-titan (GPU): contexto de 192 mil tokens.
ferramentasvisão
GPU · 2× NVIDIA L40S
tranquilo agora
agentesvisão
não informado0.9s1.9s
mediana em 1602 chamadas
74.9 tok/s
velocidade alta
medido em 1602 chamadas
sim0.60 entrada · 2.40 saída
vs. porte médio
mangaba-raciocinio
Raciocínio passo a passo para análises, cálculos e decisões que pedem cuidado. Atendido pelo mangaba-titan (GPU) com o raciocínio ligado: pensa antes de responder, por isso demora mais (dezenas de segundos em problemas difíceis) e acerta mais. Contexto de 192 mil tokens.
Atendido pelo mangaba-titan (GPU)
conversaferramentasferramentas em streamingagente multi-turnostreamingraciocínio
CPU · Xeon Gold 5218R
tranquilo agora
raciocínio
65.5360.9s1.9s
mediana em 1602 chamadas
74.9 tok/s
velocidade alta
medido em 1602 chamadas
sim0.90 entrada · 3.60 saída
vs. comercial de porte médio
mangaba-mini
Atendimento geral, perguntas e respostas e textos curtos. Desde 25/10 é atendido pelo mangaba-titan (GPU); o nome continua valendo.
Atendido pelo mangaba-titan (GPU)
conversaferramentasstreamingraciocínio
CPU · Xeon Gold 5218R
tranquilo agora
atendimento
65.5360.9s1.9s
mediana em 1602 chamadas
74.9 tok/s
velocidade alta
medido em 1602 chamadas
sim0.15 entrada · 0.60 saída
vs. comercial compacto
mangaba-flash
O mais leve e rápido: classifica, roteia pedidos, extrai campos e dá respostas curtíssimas. Não indicado para agentes: na bateria de 11/10 chamou ferramenta sem necessidade e errou JSON (3/6). Para código ou agentes, use o mangaba-titan.
ferramentas
CPU · Xeon Sapphire Rapids (AMX)
tranquilo agora
classificação
não informadosem amostrassem amostras aindasem amostras aindasim0.15 entrada · 0.60 saída
vs. comercial compacto
mangaba-visao
Leitura de imagens: OCR, documentos digitalizados, notas e telas. Envie a imagem como image_url no chat. Desde 11/10 é atendido pelo mangaba-titan (GPU), sete vezes mais rápido que o modelo original em CPU; contexto de 192 mil tokens.
Atendido pelo mangaba-titan (GPU)
conversaferramentasstreamingvisão
CPU · Xeon Gold 5218R
tranquilo agora
visãoOCR
8.1920.9s1.9s
mediana em 1602 chamadas
74.9 tok/s
velocidade alta
medido em 1602 chamadas
sim0.15 entrada · 0.60 saída
vs. comercial compacto
mangaba-fast
Respostas rápidas em texto, com uma imagem por chamada quando precisar. Aceita ferramentas homologadas pelo router. Contexto de 8 mil tokens e até 4 mil de saída. Roda em CPU.
Atendido pelo mangaba-titan (GPU)
conversavisãostreamingferramentas
CPU · OCR e vetores
tranquilo agora
textovisão
8.1920.9s1.9s
mediana em 1602 chamadas
74.9 tok/s
velocidade alta
medido em 1602 chamadas
sim0.60 entrada · 2.40 saída
vs. porte médio
mangaba-ocr
Extrai o texto de documentos, formulários e tabelas em imagem, preservando a estrutura e a acentuação. Envie só a imagem e o pedido (OCR:, Table Recognition:, Formula Recognition: ou Chart Recognition:), sem instrução de sistema. ~3 s por página, em CPU.
visão
CPU · OCR e vetores
tranquilo agora
OCR
não informado5s13.1s
mediana em 9 chamadas
2.1 tok/s
velocidade baixa
medido em 9 chamadas
não0.60 entrada · 2.40 saída
vs. porte médio
mangaba-embed
Recomendado para começar: transforma textos em vetores de 1024 dimensões para busca semântica e RAG, a ~4 textos por segundo mesmo com vários pedidos ao mesmo tempo. Use em /v1/embeddings. Não gera texto.
CPU · Xeon Gold 6258R
tranquilo agora
vetores
8.192sem amostrasnão se aplicanão se aplicanão se aplica0.60 entrada · 2.40 saída
vs. porte médio
mangaba-embed-pro
Vetores de alta precisão (4096 dimensões) para busca semântica exigente. Mais lento: ~1 texto por segundo no total, então indexe bases grandes aos poucos ou use o mangaba-embed. Use em /v1/embeddings. Não gera texto.
CPU · Xeon Gold 6258R
tranquilo agora
vetores
8.192sem amostrasnão se aplicanão se aplicanão se aplica0.60 entrada · 2.40 saída
vs. porte médio
mangaba-embed-1536
Vetores de 1536 dimensões, o tamanho que a maioria dos bancos vetoriais espera por padrão. Mesma velocidade do mangaba-embed-pro (~1 texto por segundo). Use em /v1/embeddings. Não gera texto.
CPU · OCR e vetores
tranquilo agora
vetores
não informadosem amostrasnão se aplicanão se aplicanão se aplica0.60 entrada · 2.40 saída
vs. porte médio
mangaba-embed-gpu
Vetores de alta precisão (4096 dimensões) calculados em GPU dedicada, com o modelo em precisão cheia. Não misture com o mangaba-embed-pro no mesmo índice: são parecidos, mas não idênticos. Use em /v1/embeddings. Não gera texto.
GPU · NVIDIA GB10
tranquilo agora
vetores
não informadosem amostrasnão se aplicanão se aplicanão se aplica0.60 entrada · 2.40 saída
vs. porte médio
mangaba-rerank
Reordena documentos pela relevância em relação a uma pergunta. Use depois da busca vetorial para entregar ao agente só o que importa.
CPU · Xeon Gold 6258R
tranquilo agora
reordenação
8.192sem amostrasnão se aplicanão se aplicanão se aplica0.60 entrada · 2.40 saída
vs. porte médio
mangaba-audio
Transcreve áudio em texto cerca de 10 vezes mais rápido que o tempo real, em 99 idiomas. Use em /v1/audio/transcriptions.
CPU · Xeon Gold 6258R
tranquilo agora
transcrição
não se aplicasem amostrasnão se aplicanão se aplicanão se aplica0.60 entrada · 2.40 saída
vs. porte médio
mangaba-audio-hq
Transcrição de áudio com máxima precisão, para gravações difíceis ou com termos técnicos. Cerca de 3 vezes mais rápido que o tempo real, em 99 idiomas.
CPU · Xeon Gold 6258R
tranquilo agora
transcrição
não se aplicasem amostrasnão se aplicanão se aplicanão se aplica0.60 entrada · 2.40 saída
vs. porte médio
mangaba-voz
Converte texto em fala em português do Brasil, com as vozes faber, cadu e jeff. Cerca de 13 vezes mais rápido que o tempo real. Use em /v1/audio/speech.
CPU · Xeon Gold 6258R
tranquilo agora
fala
não se aplicasem amostrasnão se aplicanão se aplicanão se aplica0.60 entrada · 2.40 saída
vs. porte médio
mangaba-leve
Agente leve e rápido (~52 tok/s) para tarefas simples, com uma ferramenta por vez. Responde direto, sem raciocínio longo. Em avaliação. Para agentes com várias ferramentas, use o mangaba-titan.
ferramentas
CPU · Xeon Sapphire Rapids (AMX)
tranquilo agora
agentes
em avaliação
não informado0.5s1.6s
mediana em 4 chamadas
58.6 tok/s
velocidade alta
medido em 4 chamadas
sim0.15 entrada · 0.60 saída
vs. comercial compacto
mangaba-operador
Subagente que executa passos delegados por um agente principal. Desde 08/10 é atendido pelo mangaba-titan (GPU), mais rápido que o modelo original; o nome continua valendo.
ferramentas
GPU · 2× NVIDIA L40S
tranquilo agora
subagente
em avaliação
não informado0.9s1.9s
mediana em 1602 chamadas
74.9 tok/s
velocidade alta
medido em 1602 chamadas
sim0.60 entrada · 2.40 saída
vs. porte médio
mangaba-zero-14b
Agente leve em GPU compartilhada: chama ferramentas, inclusive em paralelo, e responde em JSON. Sujeito à cota diária de GPU — indicado para testes e volume baixo; para uso contínuo, prefira o mangaba-titan. Não lê imagens.
ferramentas
GPU compartilhada · 14B
tranquilo agora
agentesvolume baixo
32.768sem amostrassem amostras aindasem amostras aindasim0.60 entrada · 2.40 saída
vs. porte médio
mangaba-zero-32b
Agente de capacidade média em GPU compartilhada: ferramentas, chamadas paralelas e JSON. A primeira chamada após ociosidade leva cerca de 1 minuto. Sujeito à cota diária de GPU — para uso contínuo, prefira o mangaba-titan. Não lê imagens.
ferramentas
GPU compartilhada · 32B
tranquilo agora
agentesvolume baixo
32.768sem amostrassem amostras aindasem amostras aindasim0.60 entrada · 2.40 saída
vs. porte médio
mangaba-zero-coder
Especialista em código em GPU compartilhada: escreve, revisa e corrige código e chama ferramentas (ler e editar arquivos, rodar comandos). A primeira chamada após ociosidade leva cerca de 1 minuto. Sujeito à cota diária de GPU — para agentes de código contínuos, prefira o mangaba-titan. Não lê imagens.
ferramentas
GPU compartilhada · código
tranquilo agora
códigovolume baixo
32.768sem amostrassem amostras aindasem amostras aindasim0.60 entrada · 2.40 saída
vs. porte médio

Decisão tipada

Modelos que não conversam: recebem um estado e perguntas fechadas (escolha, nota ou verdadeiro/falso) e devolvem a resposta com probabilidade e confiança. Todos usam o mesmo formato em POST /v1/systemone; troque só o campo model.

ModeloTipoProvedorEquivalente (US$/1M)
jev-latest
Modelo de decisão da TypeSafe: recebe um estado (texto ou JSON) e perguntas fechadas (escolha, nota) e devolve respostas tipadas com probabilidade e confiança. Só em POST /v1/systemone; não conversa.
decisão tipada
Pago / externo · maior qualidade
TypeSafe · Jev · API parceira (decisão tipada)0.042 entrada · saída grátis
jev-preview
Versão de prévia do Jev, da TypeSafe. Mesmo uso do jev-latest: decisões tipadas em POST /v1/systemone.
decisão tipada
Pago / externo · maior qualidade
TypeSafe · Jev · API parceira (decisão tipada)0.042 entrada · saída grátis
kev-4b
Modelo de decisão aberto: acertou de 62% a 80% no teste de 04/10 e em sentimento (TweetSentBR) superou o Jev, 66% contra 60%. Abaixo do brier-v5 em inferência e um pouco mais rápido: ~1,2 s por pergunta (~1,5 s com três).
decisão tipada
Aberto · mais rápido que o Brier
CPU · Xeon Gold 6258R0.042 entrada · saída grátis
kev-0.8b
Decisão tipada leve e multilíngue, em ~1 s. Em sentimento e avaliações de produtos acerta no nível do Jev (65% a 69%); em raciocínio fica bem atrás. Boa opção para alto volume.
decisão tipada
Aberto · alto volume
CPU · Xeon Gold 6258R0.042 entrada · saída grátis
brier-v5
Brier v5, o modelo de decisão da Mangaba AI, treinado em português e contra instruções injetadas no estado. No teste de 18/10 venceu o Jev em avaliações de produtos (B2W: 76% contra 67%, com probabilidades bem mais calibradas) e empatou em inferência (ASSIN2: 79% contra 78%); em sentimento ficou à frente (71% contra 68%). Substitui o brier-v2 e o brier-v3, cujos nomes seguem aceitos.
decisão tipada
Mangaba AI · recomendado entre os abertos
CPU · Xeon Gold 6258R0.042 entrada · saída grátis

Uma URL, quatro protocolos

OpenAI Chat Completions, Anthropic Messages, OpenAI Responses e MCP no mesmo endereço — troque a base URL e pronto.

Cache e fallback

Chamadas determinísticas repetidas voltam em milissegundos, e o roteador cai para o próximo gateway quando um falha.

Consumo medido

Cada chamada vira uma linha com latência, tokens e custo equivalente — p95 e tok/s da sua carga, não do folheto.