AI Gateway com governança para os seus modelos Mangaba

Deixe o roteador escolher: o Jev lê cada pedido e manda para o modelo certo. Código vai para o mangaba-coder, perguntas simples para o mangaba-mini, imagens e tarefas difíceis para o mangaba-titan. Quando não tem certeza, usa o mais capaz. A resposta informa o modelo escolhido no campo model.

Geração

sem amostras

1º token

sem amostras

Amostras

0

ainda sem chamadas suficientes para medir

O modelo mais capaz da Mangaba. Conduz agentes longos com várias ferramentas, raciocina sobre problemas complexos e lê imagens (prints, fotos, documentos). Também é a melhor escolha para código pesado ou com prazo: é o mais rápido da plataforma: ~76 tok/s por usuário e ~600 tok/s no total, começando a responder em até 4 s mesmo com 32 pedidos simultâneos. Contexto de 192 mil tokens. Roda em GPU dedicada; se ela cair, o mangaba-agente (CPU) assume automaticamente. Se a GPU ficar fora do ar, a conversa segue na reserva automática: mangaba-zero-32b (GPU compartilhada) e, depois, o mangaba-agente (CPU, mais lento).

contexto 196.608 tokens

Geração

74.9 tok/s

1º token

0.9s

Amostras

1602

medido no tráfego real

Especialista em programação: escreve, revisa e corrige código, e opera como agente que chama ferramentas. Indicado para assistentes de código e automações. Desde 08/10 é atendido pelo mangaba-titan (GPU), bem mais rápido que o modelo original em CPU; o nome continua valendo.

contexto 65.536 tokens

Geração

74.9 tok/s

1º token

0.9s

Amostras

1602

medido no tráfego real

Agente de uso geral: conversa, segue instruções e chama ferramentas com rapidez. Bom padrão para atendimento e fluxos de trabalho em texto. Desde 27/10 é atendido pelo mangaba-titan (GPU), bem mais rápido que o modelo original em CPU, que continua como reserva; o nome continua valendo. Não lê imagens.

contexto 65.536 tokens

Geração

74.9 tok/s

1º token

0.9s

Amostras

1602

medido no tráfego real

Agente para fluxos com ferramentas e contexto longo. Desde 25/10 é atendido pelo mangaba-titan (GPU), cerca de 6 vezes mais rápido que o modelo original em CPU; o nome continua valendo. Contexto de 192 mil tokens.

Geração

74.9 tok/s

1º token

0.9s

Amostras

1602

medido no tráfego real

Modelo compacto que pensa antes de responder: o mais preciso entre os modelos leves. Na bateria de 25/10 acertou 12 de 12 questões de contas e lógica e fez 6/6 com ferramentas, inclusive chamadas paralelas. Roda em GPU dedicada desde 25/10: ~48 tok/s e ~3 s por conta curta, já com o raciocínio. Se a GPU estiver ocupada, a CPU assume (mais lenta). Contexto de 16 mil tokens. Não lê imagens.

contexto 16.384 tokens

Geração

sem amostras

1º token

sem amostras

Amostras

0

ainda sem chamadas suficientes para medir

O agente mais rápido da plataforma: ~110 tok/s e prompt de 3 mil tokens lido em ~1 s, em GPU dedicada. Na bateria de 25/10 fez 6/6 com ferramentas (inclusive chamadas paralelas) e 11 de 12 em contas e lógica. Ideal para atendimento, triagem e agentes que precisam responder na hora; para tarefas longas e difíceis, use o mangaba-titan. Não lê imagens.

contexto 16.384 tokens

Geração

sem amostras

1º token

sem amostras

Amostras

0

ainda sem chamadas suficientes para medir

Visão e documentos em GPU dedicada: lê imagens, prints, notas e PDFs digitalizados, transcreve texto e chama ferramentas. Na bateria de 25/10 transcreveu a nota de teste sem erro em ~3 s e respondeu contas curtas em menos de 1 s. Responde direto por padrão; para pensar antes de responder, envie chat_template_kwargs.enable_thinking=true. Contexto de 65 mil tokens.

contexto 65.536 tokens

Geração

sem amostras

1º token

sem amostras

Amostras

0

ainda sem chamadas suficientes para medir

Agente que combina texto e imagem: interpreta fotos, telas e documentos e, na mesma conversa, chama ferramentas. Atendido pelo mangaba-titan (GPU): contexto de 192 mil tokens.

Geração

74.9 tok/s

1º token

0.9s

Amostras

1602

medido no tráfego real

Raciocínio passo a passo para análises, cálculos e decisões que pedem cuidado. Atendido pelo mangaba-titan (GPU) com o raciocínio ligado: pensa antes de responder, por isso demora mais (dezenas de segundos em problemas difíceis) e acerta mais. Contexto de 192 mil tokens.

contexto 65.536 tokens

Geração

74.9 tok/s

1º token

0.9s

Amostras

1602

medido no tráfego real

Atendimento geral, perguntas e respostas e textos curtos. Desde 25/10 é atendido pelo mangaba-titan (GPU); o nome continua valendo.

contexto 65.536 tokens

Geração

74.9 tok/s

1º token

0.9s

Amostras

1602

medido no tráfego real

O mais leve e rápido: classifica, roteia pedidos, extrai campos e dá respostas curtíssimas. Não indicado para agentes: na bateria de 11/10 chamou ferramenta sem necessidade e errou JSON (3/6). Para código ou agentes, use o mangaba-titan.

Geração

sem amostras

1º token

sem amostras

Amostras

0

ainda sem chamadas suficientes para medir

Leitura de imagens: OCR, documentos digitalizados, notas e telas. Envie a imagem como image_url no chat. Desde 11/10 é atendido pelo mangaba-titan (GPU), sete vezes mais rápido que o modelo original em CPU; contexto de 192 mil tokens.

contexto 8.192 tokens

Geração

74.9 tok/s

1º token

0.9s

Amostras

1602

medido no tráfego real

Respostas rápidas em texto, com uma imagem por chamada quando precisar. Aceita ferramentas homologadas pelo router. Contexto de 8 mil tokens e até 4 mil de saída. Roda em CPU.

contexto 8.192 tokens

Geração

74.9 tok/s

1º token

0.9s

Amostras

1602

medido no tráfego real

Extrai o texto de documentos, formulários e tabelas em imagem, preservando a estrutura e a acentuação. Envie só a imagem e o pedido (OCR:, Table Recognition:, Formula Recognition: ou Chart Recognition:), sem instrução de sistema. ~3 s por página, em CPU.

Geração

2.1 tok/s

1º token

5s

Amostras

9

medido no tráfego real

Recomendado para começar: transforma textos em vetores de 1024 dimensões para busca semântica e RAG, a ~4 textos por segundo mesmo com vários pedidos ao mesmo tempo. Use em /v1/embeddings. Não gera texto.

contexto 8.192 tokens

Geração

sem amostras

1º token

sem amostras

Amostras

0

utilitário — não gera texto, usa rota própria

Vetores de alta precisão (4096 dimensões) para busca semântica exigente. Mais lento: ~1 texto por segundo no total, então indexe bases grandes aos poucos ou use o mangaba-embed. Use em /v1/embeddings. Não gera texto.

contexto 8.192 tokens

Geração

sem amostras

1º token

sem amostras

Amostras

0

utilitário — não gera texto, usa rota própria

Vetores de 1536 dimensões, o tamanho que a maioria dos bancos vetoriais espera por padrão. Mesma velocidade do mangaba-embed-pro (~1 texto por segundo). Use em /v1/embeddings. Não gera texto.

Geração

sem amostras

1º token

sem amostras

Amostras

0

utilitário — não gera texto, usa rota própria

Vetores de alta precisão (4096 dimensões) calculados em GPU dedicada, com o modelo em precisão cheia. Não misture com o mangaba-embed-pro no mesmo índice: são parecidos, mas não idênticos. Use em /v1/embeddings. Não gera texto.

Geração

sem amostras

1º token

sem amostras

Amostras

0

utilitário — não gera texto, usa rota própria

Reordena documentos pela relevância em relação a uma pergunta. Use depois da busca vetorial para entregar ao agente só o que importa.

contexto 8.192 tokens

Geração

sem amostras

1º token

sem amostras

Amostras

0

utilitário — não gera texto, usa rota própria

Transcreve áudio em texto cerca de 10 vezes mais rápido que o tempo real, em 99 idiomas. Use em /v1/audio/transcriptions.

Geração

sem amostras

1º token

sem amostras

Amostras

0

utilitário — não gera texto, usa rota própria

Transcrição de áudio com máxima precisão, para gravações difíceis ou com termos técnicos. Cerca de 3 vezes mais rápido que o tempo real, em 99 idiomas.

Geração

sem amostras

1º token

sem amostras

Amostras

0

utilitário — não gera texto, usa rota própria

Converte texto em fala em português do Brasil, com as vozes faber, cadu e jeff. Cerca de 13 vezes mais rápido que o tempo real. Use em /v1/audio/speech.

Geração

sem amostras

1º token

sem amostras

Amostras

0

utilitário — não gera texto, usa rota própria

Agente leve e rápido (~52 tok/s) para tarefas simples, com uma ferramenta por vez. Responde direto, sem raciocínio longo. Em avaliação. Para agentes com várias ferramentas, use o mangaba-titan.

· em avaliação

Geração

58.6 tok/s

1º token

0.5s

Amostras

4

medido no tráfego real

Subagente que executa passos delegados por um agente principal. Desde 08/10 é atendido pelo mangaba-titan (GPU), mais rápido que o modelo original; o nome continua valendo.

· em avaliação

Geração

74.9 tok/s

1º token

0.9s

Amostras

1602

medido no tráfego real

Agente leve em GPU compartilhada: chama ferramentas, inclusive em paralelo, e responde em JSON. Sujeito à cota diária de GPU — indicado para testes e volume baixo; para uso contínuo, prefira o mangaba-titan. Não lê imagens.

contexto 32.768 tokens

Geração

sem amostras

1º token

sem amostras

Amostras

0

ainda sem chamadas suficientes para medir

Agente de capacidade média em GPU compartilhada: ferramentas, chamadas paralelas e JSON. A primeira chamada após ociosidade leva cerca de 1 minuto. Sujeito à cota diária de GPU — para uso contínuo, prefira o mangaba-titan. Não lê imagens.

contexto 32.768 tokens

Geração

sem amostras

1º token

sem amostras

Amostras

0

ainda sem chamadas suficientes para medir

Especialista em código em GPU compartilhada: escreve, revisa e corrige código e chama ferramentas (ler e editar arquivos, rodar comandos). A primeira chamada após ociosidade leva cerca de 1 minuto. Sujeito à cota diária de GPU — para agentes de código contínuos, prefira o mangaba-titan. Não lê imagens.

contexto 32.768 tokens

Geração

sem amostras

1º token

sem amostras

Amostras

0

ainda sem chamadas suficientes para medir

Modelo de decisão da TypeSafe: recebe um estado (texto ou JSON) e perguntas fechadas (escolha, nota) e devolve respostas tipadas com probabilidade e confiança. Só em POST /v1/systemone; não conversa.

contexto 65.536 tokens

Geração

164.8 tok/s

1º token

0.2s

Amostras

11

medido no tráfego real

Versão de prévia do Jev, da TypeSafe. Mesmo uso do jev-latest: decisões tipadas em POST /v1/systemone.

contexto 65.536 tokens

Geração

sem amostras

1º token

sem amostras

Amostras

0

ainda sem chamadas suficientes para medir

Modelo de decisão aberto: acertou de 62% a 80% no teste de 04/10 e em sentimento (TweetSentBR) superou o Jev, 66% contra 60%. Abaixo do brier-v5 em inferência e um pouco mais rápido: ~1,2 s por pergunta (~1,5 s com três).

Geração

sem amostras

1º token

sem amostras

Amostras

0

ainda sem chamadas suficientes para medir

Decisão tipada leve e multilíngue, em ~1 s. Em sentimento e avaliações de produtos acerta no nível do Jev (65% a 69%); em raciocínio fica bem atrás. Boa opção para alto volume.

Geração

sem amostras

1º token

sem amostras

Amostras

0

ainda sem chamadas suficientes para medir

Brier v5, o modelo de decisão da Mangaba AI, treinado em português e contra instruções injetadas no estado. No teste de 18/10 venceu o Jev em avaliações de produtos (B2W: 76% contra 67%, com probabilidades bem mais calibradas) e empatou em inferência (ASSIN2: 79% contra 78%); em sentimento ficou à frente (71% contra 68%). Substitui o brier-v2 e o brier-v3, cujos nomes seguem aceitos.

Geração

sem amostras

1º token

sem amostras

Amostras

0

ainda sem chamadas suficientes para medir