tutorial

Otimização de custo de LLM: quando trocar o GPT-4o por modelos mais baratos

O GPT-4o é o padrão, mas a maioria das tarefas não precisa de toda essa capacidade. Um guia prático pra identificar quais requisições podem ir pra alternativas mais baratas (DeepSeek V3, Gemini Flash, Llama) — com benchmarks de qualidade e trechos de teste A/B.

Em 2026, o padrão ainda é apelar pro GPT-4o ou pro Claude Sonnet 4.6. Os dois são excelentes. E os dois também são 10 a 15x mais caros que o DeepSeek V3 ou o Gemini 2.5 Flash em tarefas onde os modelos baratos entregam a mesma coisa.

Este post é um guia prático de decisão: como saber quais das suas requisições podem ser roteadas com segurança pra alternativas mais baratas, com benchmarks de qualidade, código de teste A/B e os números do nosso próprio tráfego de produção.

A "regra dos 10x"

Modelos premium (GPT-4o, Claude Sonnet 4.6, Gemini 1.5 Pro) custam mais ou menos US$ 2,50-3 por 1M de tokens de entrada e US$ 10-15 por 1M de saída.

Modelos baratos (DeepSeek V3, Gemini 2.5 Flash, GPT-4o-mini, Llama 3.3 70b) custam US$ 0,10-0,40 por 1M de entrada e US$ 0,30-1,10 por 1M de saída.

Isso dá mais ou menos uma proporção de 10x. A pergunta é: a sua tarefa realmente precisa desse prêmio de 10x em qualidade?

A maioria não precisa. Veja como identificar.

As 5 categorias de carga de trabalho de LLM

Categoria 1 — Classificação (o modelo barato ganha)

Caso de uso: roteamento de tickets, sentimento, detecção de intenção, moderação de conteúdo.

Exemplos:

  • "Este e-mail é um pedido de reembolso, uma reclamação ou um lead de vendas?"
  • "Dê uma nota de 1 a 5 estrelas pra esta avaliação de produto"
  • "Classifique esta dúvida: técnica / financeira / vendas"

Recomendação: DeepSeek V3 ou Llama 3.3 70b. Nos nossos testes, os modelos premium não acrescentam nenhuma precisão mensurável (97% vs 96% de F1 em 10 mil amostras).

Economia estimada: 90%+

Categoria 2 — Sumarização (o modelo barato ganha, com ressalvas)

Caso de uso: notas de reunião, resumos de artigo, condensação de logs.

Pra resumos factuais com saída estruturada, os modelos baratos dão conta. Pra resumos com nuance que exigem manter o tom ou um raciocínio mais sutil (ex.: peças jurídicas, memorandos executivos), os modelos premium ainda ganham.

Recomendação: Gemini 2.5 Flash pra 90% dos resumos. Claude Sonnet pros 10% que têm nuance.

Categoria 3 — Geração de código (depende)

Caso de uso: autocomplete, sugestões de refatoração, boilerplate simples.

Pra geração em uma tacada só de código bem delimitado (um endpoint CRUD, um regex, um teste unitário), o DeepSeek V3 é excelente e mais barato que o GPT-4o-mini.

Pra refatorações multiarquivo ou código arquitetural onde o modelo precisa segurar muito contexto e raciocinar sobre interações, o Claude Sonnet 4.6 ainda ganha com folga.

Recomendação: DeepSeek V3 pro inline (Cursor Cmd+K), Claude Sonnet pro chat (Cursor Cmd+L).

Categoria 4 — Cadeias de raciocínio (o modelo premium ganha)

Caso de uso: problemas de matemática, lógica em vários passos, planejamento, perguntas ambíguas.

Modelos baratos alucinam com confiança em problemas de vários passos. Os modelos premium pensam mais antes de responder. Não economize aqui.

Recomendação: GPT-4o ou Claude Sonnet 4.6. Não tente otimizar custo nessa.

Categoria 5 — Escrita criativa (o modelo barato ganha mais do que você imagina)

Caso de uso: copy de marketing, posts pra redes sociais, variações de texto.

O Gemini 2.5 Flash produz uma copy surpreendentemente boa. O problema de "uniformidade" que os modelos baratos antigos tinham (tudo soa igual) está em grande parte resolvido na geração de modelos baratos de 2026.

Recomendação: Gemini 2.5 Flash, rodando A/B contra o GPT-4o-mini pra descobrir qual voz combina com a sua marca.

O padrão de teste A/B

Este é o trecho que recomendamos pra toda decisão de produção:

import random
from tokia import Tokia

client = Tokia(api_key="sk-tokia-...")

PREMIUM = "claude-sonnet-46"
CHEAP = "deepseek-v3"

def chat(messages):
    # 10% of traffic to cheap model, log outcomes
    use_cheap = random.random() < 0.1
    model = CHEAP if use_cheap else PREMIUM

    response = client.chat.completions.create(
        model=model,
        messages=messages,
    )

    # Log so you can measure quality drift
    log_request(model=model, response=response.choices[0].message.content,
                user_id=current_user.id)
    return response

Depois monte uma UI simples de "joinha pra cima/pra baixo" na resposta e acompanhe a variação de satisfação por modelo. Depois de 2 semanas de dados, você vai saber se dá pra virar a proporção pra 50/50 ou 90/10 favorecendo o barato.

O atalho "use o painel de recomendações"

Se você usa a Tokia, a página /dashboard/recommendations faz essa análise automaticamente. Ela olha os seus últimos 30 dias de uso, identifica modelos em que você gasta mais de R$ 10/mês e sugere alternativas que tenham pelo menos 10 chamadas comprovadas no mesmo upstream — pra que a comparação seja baseada em dados, não em heurística.

Depois projeta a sua economia mensal com a troca (usando médias reais de BRL-por-1k-tokens da produção, não preços de tabela).

Números da nossa própria produção

A Tokia roteia cerca de 8M de tokens/dia entre uns 600 usuários ativos. Veja a distribuição do nosso tráfego interno depois que começamos a rotear de forma agressiva:

Modelo% das requisições% do custo
deepseek-v352%18%
gpt-4o-mini28%22%
gemini-2-flash12%5%
claude-sonnet-466%41%
gpt-4o2%14%

Os dois modelos premium respondem por 55% do custo vindo de apenas 8% do tráfego. Vale a pena pras requisições que precisam deles — mas é desperdício se você jogar tudo pra lá.

Resumo

  1. Use modelos baratos por padrão (DeepSeek V3 / Gemini 2.5 Flash) pra classificação, código simples e escrita criativa.
  2. Reserve os modelos premium pra cadeias de raciocínio e código complexo multiarquivo.
  3. Teste A/B com 10% de canário pra validar que a troca não derruba a qualidade.
  4. Meça custo por tarefa, não custo por token, já que em alguns casos você pode precisar de 2 tentativas nos modelos baratos.

Se você usa a Tokia, o /dashboard/recommendations automatiza essa análise.