Calculadora de Custo da API LLM

Um token é um trecho de texto que o modelo lê e escreve — aproximadamente uma palavra, um sub-termo ou um marcador de pontuação. O texto em inglês tem cerca de quatro caracteres por token. Os LLMs cobram por token porque o custo de computação aumenta com o número de tokens processados: cada token de entrada precisa ser atendido e cada token de saída é gerado passo a passo. O preço por token oferece um modelo de custo linear e previsível que se alinha diretamente ao trabalho que o GPU realmente realiza.

Os tokens de entrada são processados em uma única passagem paralela: o modelo lê todo o prompt de uma só vez. Os tokens de saída, por outro lado, são gerados de forma autoregressiva — cada novo token exige outra passagem para o contexto crescente. Esse processo de geração passo a passo é mais caro por token, o que é a razão pela qual os provedores geralmente cobram 2x a 5x mais pelos tokens de saída do que pelos de entrada.

O preço em lote permite que você envie muitas solicitações juntas e receba os resultados dentro de um intervalo especificado pelo provedor — geralmente 24 horas em OpenAI, Anthropic e Google. Como essas tarefas podem ser agendadas em capacidades fora do horário de pico, os provedores oferecem um desconto de 50% tanto para tokens de entrada quanto para saída. O lote é ideal para cargas de trabalho off-line, como enriquecimento de documentos, execuções de avaliação, preenchimentos de embeddings e relatórios noturnos. Não é adequado para qualquer coisa que um usuário esteja esperando, como chat ou busca interativa.

Modelos maiores têm mais parâmetros, o que significa que cada passagem requer mais computação e mais largura de banda de memória. Um modelo de 405 bilhões de parâmetros simplesmente realiza mais cálculos por token do que um modelo de 8 bilhões. Os provedores passam esse custo como um preço maior por token. É também por isso que um modelo menor e mais rápido é muitas vezes a resposta certa para tarefas simples de classificação ou extração — você paga menos e recebe uma resposta mais rapidamente.

Não sempre. Os preços listados são apenas um ponto de partida, mas a maioria dos provedores oferece descontos de uso comprometido, contratos empresariais, créditos pré-pagos e níveis de volume que reduzem a taxa efetiva por token. Além disso, prompts armazenados, funcionalidades de compressão de prompts e armazenamento de contexto específicos dos provedores podem reduzir significativamente os custos de entrada para cargas de trabalho repetitivas. Trate os calculadores de preços listados como um limite superior para planejamento, e adicione os descontos contratualmente acordados em cima.