Status da Plataforma
Monitoramento em tempo real dos provedores LLM
Atendidos pela reserva (últimas 24 h)
nenhum: os provedores principais responderamQuando o provedor de um modelo falha, o roteador tenta outro e a resposta chega mesmo assim. Aqui aparecem esses casos: sinal de que houve queda, sem erro para o cliente.
Provedores
GPU · 2× NVIDIA L40S
2× NVIDIA L40S · vLLM com tensor parallel
GPU · NVIDIA GB10
NVIDIA GB10 (Grace Blackwell) · 121 GB de memória unificada · vLLM
GPU · NVIDIA GB10
NVIDIA GB10 (Grace Blackwell) · llama.cpp
GPU · NVIDIA GB10
NVIDIA GB10 (Grace Blackwell) · llama.cpp
CPU · Xeon Gold 5218R
Intel Xeon Gold 5218R · 48 vCPU
CPU · Xeon Gold 6258R
Intel Xeon Gold 6258R · 64 vCPU
CPU · Xeon Sapphire Rapids (AMX)
Intel Xeon Sapphire Rapids com aceleração AMX
CPU · OCR e vetores
Intel Xeon Gold 6258R (mesmo servidor do mangaba-agente)
TypeSafe · Jev · API parceira (decisão tipada)
Serviço da TypeSafe AI; sem pesos abertos
Reserva em GPU compartilhada (desligada)
GPU compartilhada sob demanda
GPU compartilhada · 14B
GPU compartilhada sob demanda (fatia de 48 GB)
GPU compartilhada · 32B
GPU compartilhada sob demanda (fatia de 48 GB) · pesos FP8
GPU compartilhada · código
GPU compartilhada sob demanda (fatia de 48 GB) · pesos FP8
⚡ Dicas de Performance
Para Classificações
Envie response_format json_schema com opções fechadas (enum, nota, sim/não) — o Jev decide e devolve a confiança de cada campo
Sem saber qual modelo usar
Peça mangaba-auto: o Jev classifica o pedido e manda para o modelo mais adequado
Latência de Cold Start
Primeira requisição espera ~300-500ms — subsequentes <2ms via cache
Monitoramento
Circuit breaker detecta falhas em <100ms — fallback automático entre provedores
Código pesado ou com prazo
Use o mangaba-titan (~76 tok/s por usuário, ~600 tok/s somados). O mangaba-coder também é atendido por ele desde 08/10
mangaba-zero-14b e mangaba-zero-32b
Usam cota diária de GPU compartilhada: bons para testes, não para uso contínuo
Infraestrutura & Atualizações
🎙️ Áudio compatível com a OpenAI · mangaba-agente pelo titan
Transcrição aceita OGG (WhatsApp), WebM, M4A e FLAC além de WAV/MP3 · nomes whisper-1, tts-1 e vozes como alloy funcionam sem mudar o código · mangaba-agente de ~7 s para ~2 s
⚡ Novo: mangaba-agente-rapido · mangaba-bolt em GPU
O agente mais rápido da plataforma (~110 tok/s, ferramentas 6/6) e o mangaba-bolt de 17 para ~48 tok/s, os dois em GPU dedicada com a CPU de reserva
🖼️ Novo: mangaba-vl
Visão e documentos em uma segunda GPU (NVIDIA GB10): transcreve imagens em ~2 s, chama ferramentas e responde direto · e mangaba-embed-gpu, vetores de 4096 dimensões em GPU
🧪 Novo: mangaba-bolt
Modelo compacto que pensa antes de responder: 12/12 em contas e lógica e 6/6 com ferramentas na bateria de 25/10 · desde 25/10 em GPU, ~48 tok/s
🛟 mangaba-mini atendido pelo titan
O modelo original parou de responder em 25/10; o nome continua valendo · erro do provedor no meio do streaming agora chega como evento de erro, não como página 500
⚡ Titan reaproveita o prompt repetido
Cache de prefixo ativo de verdade: agentes e chats que repetem o mesmo prompt de sistema e ferramentas começam a responder até 3x mais rápido · reserva do titan lê prompts longos 3-4x mais rápido
🏎️ mangaba-flash e mangaba-leve mais rápidos
Novos modelos leves ajustados no Kleos: 52 a 115 tok/s e resposta em ~2 s
📊 Planos no console
Plano e consumo do mês visíveis no painel · contas existentes continuam sem mudança de limite
🛠️ api.mangaba.ia.br refeito
Gateway e OCR reescritos · mangaba-ocr 40x mais rápido (~3 s por página) · mangaba-fast e mangaba-embed-1536 iguais ao que eram
🧠 mangaba-raciocinio pensa antes de responder
Raciocínio ligado no titan para esta marca: mais lento e mais certeiro em cálculos e lógica · mangaba-auto ganha o brier-v5 como reserva do Jev
📈 Selo de velocidade e alerta de lentidão
Coluna Geração com velocidade alta, média ou baixa medida no tráfego real · aviso quando um provedor passa de 60 s de mediana
🎯 Brier na decisão tipada
brier-v5 (Mangaba AI) é o recomendado entre os abertos: venceu o Jev em avaliações de produtos e empatou em inferência · brier-v2 e brier-v3 passam a ser atendidos pelo v5
🧪 Novo: mangaba-agente-hibrido
6/6 na bateria agêntica · ~12 tok/s em CPU · sob demanda · 8 modelos sem uso em 30 dias saíram do catálogo
🚀 Titan mais rápido sob carga
Até ~640 tok/s somados e 1º token em até 4 s com 32 pedidos simultâneos · se a GPU cair, o mangaba-agente assume
🛟 mangaba-funcoes sem queda por cota
Atendido pelo mangaba-titan; antes falhava quando acabava a cota diária da GPU compartilhada
⚡ Modelos lentos na GPU
coder, multimodal, raciocinio e operador passam a ser atendidos pelo mangaba-titan · decisão aberta fica com kev-4b e kev-0.8b
⚡ GPU L40S no ar
mangaba-titan · 1º na bateria agêntica (7/7) · ~80-93 tok/s com kernel Marlin · visão nativa
🔁 Kleos de volta
Fora do ar de 27 a 30/09 · túnel restabelecido · respondendo normalmente
📊 Status com checagem real
Esta página agora consulta cada provedor de verdade; antes podia mostrar todos como offline
🧭 mangaba-auto e Jev para todas as contas
O Jev escolhe o modelo de cada pedido · decisões em JSON trazem a confiança de cada campo · fim da detecção por palavra-chave
🛡️ Circuit Breaker Ativo
Detecta provedores instáveis · Fallback automático · 60x mais rápido que antes
📊 Health Check em Tempo Real
GET /api/health/providers · Latência por provedor · Estado do circuit breaker
🔄 Frontend Atualizado
Dados dinâmicos dos provedores · Status em tempo real · Métricas de performance
💡 Dicas de Performance
Guia prático para otimizar requisições · Cold start vs warm cache