Calculadora de Costo de API de LLM

Un token es un fragmento de texto que el modelo lee y escribe — aproximadamente una palabra, un sub-fragmento o un marcador de puntuación. El texto en inglés promedia aproximadamente cuatro caracteres por token. Los LLMs cobran por token porque el costo de cómputo aumenta con el número de tokens procesados: cada token de entrada debe ser atendido, y cada token de salida se genera paso a paso. El precio por token proporciona un modelo de costo lineal y predecible que se alinea directamente con el trabajo que realiza realmente la GPU.

Los tokens de entrada se procesan en una sola pasada paralela: el modelo lee todo el prompt de una sola vez. Los tokens de salida, por otro lado, se generan de forma autoregresiva — cada nuevo token requiere otra pasada hacia adelante sobre el contexto creciente. Esa generación paso a paso es más costosa por token, lo que es la razón por la que los proveedores suelen cobrar entre 2 y 5 veces más por los tokens de salida que por los de entrada.

El precio en lote te permite enviar muchas solicitudes juntas y recibir los resultados dentro de un periodo especificado por el proveedor — típicamente 24 horas en OpenAI, Anthropic y Google. Dado que estos trabajos pueden programarse en capacidad fuera de pico, los proveedores ofrecen un descuento de 50% tanto para tokens de entrada como de salida. El precio en lote es ideal para cargas of-line como enriquecimiento de documentos, ejecuciones de evaluación, rellenos de embeddings y informes nocturnos. No es adecuado para nada que un usuario esté esperando, como chat o búsqueda interactiva.

Los modelos más grandes tienen más parámetros, lo que significa que cada pasada hacia adelante requiere más cómputo y más ancho de banda de memoria. Un modelo de 405 mil millones de parámetros simplemente realiza más cálculos por token que uno de 8 mil millones. Los proveedores transfieren ese costo como un precio por token más alto. Es también por eso que un modelo más pequeño y rápido suele ser la respuesta adecuada para tareas simples de clasificación o extracción — pagas menos y obtienes una respuesta más rápidamente.

No siempre. Los precios listados son el punto de partida, pero la mayoría de los proveedores ofrecen descuentos por uso comprometido, contratos empresariales, créditos prepagados y niveles de volumen que reducen el precio efectivo por token. Además, las promesas almacenadas, funciones de compresión de prompts y almacenamiento de contexto específicos de proveedor pueden reducir significativamente los costos de entrada para cargas repetitivas. Trata los calculadores de precios listados como un límite superior para la planificación, y luego añade tus descuentos contractuales encima.