Cómo presupuestar el consumo de IA: tokens, documentos y controles de gasto
El coste variable de una solución de IA no se entiende con una licencia genérica por usuario. Depende del volumen y formato de la entrada, la salida, el modelo, las herramientas, la caché y los intentos necesarios para obtener un resultado válido. La forma útil de presupuestarlo es elegir una unidad de trabajo —consulta, documento, expediente o caso resuelto— y medir cuánto cuesta procesarla de principio a fin.
Lo esencial, antes de empezar
- Presupuesta por unidad de trabajo y resultado aceptado, no por una llamada aislada ni solo por usuarios.
- Incluye instrucciones, historial, documentos, salida, herramientas, caché, OCR, reintentos y revisión humana cuando corresponda.
- Trabaja con escenarios base, alto y estrés y sustituye cuanto antes los supuestos por telemetría propia.
- Aplica límites por entorno, proceso y cliente; una alerta sin propietario ni acción no controla el gasto.
Primero identifica todo lo que puede consumir la operación
La documentación de facturación de Gemini muestra que los conceptos dependen del modelo y la función: entrada, salida, caché y otras capacidades pueden tener reglas distintas. Consulta siempre la fuente oficial del proveedor al cerrar el presupuesto; una tabla copiada envejece rápido.
- Entrada: instrucciones del sistema, pregunta, historial, fragmentos recuperados, esquemas de herramientas, imágenes y texto extraído.
- Salida: respuesta visible, razonamiento facturable si aplica, datos estructurados y llamadas a herramientas.
- Preparación: OCR, extracción, embeddings, almacenamiento y recuperación documental.
- Operación: reintentos, moderación, observabilidad, revisión humana y casos fallidos.
Calcula por unidad de trabajo empresarial
Una fórmula adaptable es: coste por operación = entrada × tarifa de entrada + salida × tarifa de salida + extras + reintentos. Convierte todas las tarifas a la misma unidad y añade impuestos o cambio de divisa solo en la capa financiera correspondiente.
| Campo | Qué registrar |
|---|---|
| Unidad | Consulta, documento, expediente, ticket o caso aceptado |
| Entrada | Tokens o unidades por llamada y número de llamadas |
| Salida | Límite configurado y uso real |
| Extras | OCR, herramientas, búsquedas, caché, imágenes o alojamiento |
| Reintentos | Motivo, número y coste, sin esconderlos en la media |
| Resultado | Aceptado, corregido, rechazado o derivado |
Ejemplo hipotético: un expediente de 18 páginas usa 14.000 tokens de entrada y 1.200 de salida, y se procesan 3.000 expedientes al mes. La base son 42 millones de entrada y 3,6 millones de salida. Faltan todavía las tarifas vigentes, extras, reintentos y revisión; el ejemplo ilustra la fórmula y no representa un precio ni un proyecto de NAS.
Los documentos necesitan una muestra propia
Dos PDF con veinte páginas pueden consumir de forma muy distinta. Un archivo puede contener texto limpio; otro, escaneos, tablas e imágenes. El flujo quizá haga OCR, divida el archivo, recupere fragmentos y llame varias veces al modelo.
| Dato | Para qué sirve |
|---|---|
| Páginas, tamaño y formato | Segmentar la muestra |
| Texto o escaneado | Determinar OCR y calidad |
| Tokens contados | Estimar la entrada real |
| Fragmentos enviados | Controlar el contexto recuperado |
| Llamadas por documento | Detectar cadenas costosas |
| Resultado aceptado | Relacionar gasto con utilidad |
Google documenta conteo previo y metadatos de uso para sus modelos. El mecanismo cambia por proveedor, pero el principio es el mismo: cuenta antes cuando puedas y registra el consumo efectivo después, con muestras reales en español y sin almacenar contenido sensible en la telemetría.
Si el asistente recupera documentos internos, la guía de permisos para asistentes de IA ayuda a separar coste, autorización y trazabilidad.
Presupuesta tres escenarios y mide percentiles
- 01
Base
Volumen habitual, tamaño mediano, tasa observada de éxito y reintentos normales.
- 02
Alto
Campaña, cierre de periodo, crecimiento de uso o documentos más largos.
- 03
Estrés
Entradas grandes, proveedor lento, más reintentos, salida extensa y cola de recuperación.
No uses solo la media: compara percentil 50 y 95 de consumo por operación. Un grupo pequeño de expedientes anómalos puede dominar el gasto. Separa desarrollo, pruebas y producción para que un experimento no agote el servicio real.
Convierte el presupuesto en controles ejecutables
| Control | Acción al alcanzarlo |
|---|---|
| Entrada máxima | Recortar de forma segura, dividir o derivar el caso |
| Salida máxima | Detener generación y ofrecer continuación controlada |
| Iteraciones y herramientas | Cerrar bucle y pasar a revisión |
| Soft limit | Alertar, reducir contexto o usar una ruta aprobada más económica |
| Hard limit | Bloquear uso no crítico sin interrumpir el proceso esencial |
| Presupuesto por ámbito | Atribuir y limitar por entorno, equipo, cliente o flujo |
Microsoft incluye costes, observabilidad y gobierno dentro de su marco de gestión de cargas de IA. Un gateway puede centralizar controles, pero una aplicación pequeña también puede imponer límites en su capa de servicio. Lo esencial es que cada alerta tenga responsable y respuesta definida.
Los reintentos pueden multiplicar gasto y concurrencia. La guía sobre límites de API y picos explica backoff, idempotencia y colas.
Hoja mensual para sustituir supuestos por datos
- Proceso, propietario, modelo, versión y entorno.
- Operaciones, entrada, salida, caché, herramientas y extras.
- Errores, reintentos, latencia y resultado aceptado.
- Coste por resultado útil y desviación frente al presupuesto.
- Diez operaciones más caras y explicación de cada anomalía.
- Cambios de tarifa, modelo o prompt con fecha de entrada en vigor.
Valida primero el valor del caso con los criterios del piloto de IA. Reducir tokens no compensa una salida que ya no resuelve el proceso.
Fuentes y referencias
Documentación oficial y referencias de mercado consultadas para verificar los puntos que cambian con el tiempo.
