Una tarea ejecutada por un agente de inteligencia artificial puede generar varias consultas a un modelo, además de utilizar herramientas y servicios de infraestructura. Por eso, el precio de una inferencia no describe necesariamente el costo de completar un proceso empresarial.
Ivan
En Oracle Cloud Infrastructure (OCI), la diferencia comienza en la facturación, porque algunos modelos se cobran por caracteres, otros por tokens y determinados despliegues utilizan capacidad dedicada. A esas partidas se suma el consumo de los servicios empleados durante la ejecución.
El costo por tarea depende de los recursos utilizados en cada flujo agéntico, además del precio unitario de los modelos. La documentación comercial de Oracle permite identificar las partidas facturables, aunque no determina por sí sola el gasto de un proceso empresarial.
Admin
Cómo se cobran los modelos y la infraestructura en OCI
OCI Generative AI dispone de una modalidad de inferencia bajo demanda, cuyos cargos dependen del modelo y del consumo registrado. Para determinadas solicitudes conversacionales, Oracle contabiliza los caracteres de entrada y salida, mientras que en la generación de embeddings considera únicamente los caracteres de entrada.
En estos servicios, cada carácter equivale a una transacción y los precios se expresan por bloques de 10000 transacciones. Sin embargo, esta regla no es universal, porque la misma lista comercial incluye modelos facturados por millón de tokens, con tarifas diferenciadas según el tipo de consumo.
Las categorías pueden distinguir tokens de entrada, salida y entrada almacenada en caché, dependiendo del modelo utilizado. Por este motivo, una empresa debe consultar la unidad de facturación correspondiente antes de proyectar costos y comparar alternativas disponibles en OCI.
El ejemplo de Claude Sonnet 5.5 ilustra otra variable del costo por tarea: la cantidad de tokens necesarios para completar una operación. La comparación entre proveedores requiere considerar tanto ese consumo como las respectivas tarifas unitarias.
Admin
Capacidad dedicada y compromisos mínimos
La modalidad de capacidad dedicada responde a una estructura diferente. Los clústeres dedicados de OCI Generative AI se cobran por unidad-hora, tanto para alojar modelos como para realizar determinados trabajos de ajuste, lo que introduce compromisos de consumo independientes de cada consulta.
Para alojar modelos preentrenados, Oracle establece un compromiso mínimo de 744 unidades-hora por clúster. En uno de sus ejemplos, tres unidades contratadas durante cinco días representan 360 unidades-hora de utilización, pero la facturación considera el mínimo de 744 unidades-hora.
La documentación distingue excepciones para modelos importados, que no están sujetos al compromiso mínimo de alojamiento mencionado. Los trabajos de ajuste también cuentan con condiciones diferentes, por lo que la comparación económica debe considerar el tipo de modelo, la capacidad contratada y la duración de su utilización.
En consecuencia, el costo de la capacidad reservada no equivale necesariamente al consumo efectivo de inferencia. Una infraestructura dedicada puede ofrecer condiciones de operación previsibles, pero su evaluación económica requiere considerar la utilización real de los recursos y los compromisos comerciales aplicables.
Qué medir para calcular el costo de una tarea completada
Oracle Fusion AI Agent Studio incorpora métricas para examinar el funcionamiento de los agentes, aunque su documentación no presenta un cálculo monetario consolidado por proceso empresarial completado. El sistema permite consultar sesiones, errores, latencias P50 y P99, consumo acumulado de tokens y unidades de IA.
Estas últimas, denominadas AI Units, representan una medida que Oracle calcula a partir de los tokens consumidos por sus servicios. No deben confundirse automáticamente con las unidades-hora utilizadas para facturar clústeres dedicados de OCI, porque corresponden a conceptos documentados en productos diferentes.
Columnas al director
El monitoreo permite identificar errores y variaciones en el consumo, pero una sesión no equivale necesariamente a una tarea finalizada. Para obtener ese resultado también es necesario conocer cuántas operaciones llegaron a completarse y qué recursos se utilizaron durante su ejecución.
Intel propone evaluar los flujos agénticos completados por rack como indicador de capacidad efectiva. En esa medición intervienen la concurrencia, las colas y la latencia, aspectos que pueden alterar el rendimiento obtenido respecto de la capacidad teórica de la infraestructura.
Admin
Del consumo técnico al costo de una operación finalizada
Una forma de evaluar el proceso consiste en dividir el gasto atribuible a una carga de trabajo entre las tareas completadas conforme a un criterio verificable. Para aplicar esta medición, la organización debe definir previamente qué constituye un resultado satisfactorio y cuáles son los consumos incluidos.
Ivan
El cálculo debe considerar las llamadas al modelo y los reintentos que generan consumo, incluyendo aquellas ejecuciones que no consiguen completar la operación. También corresponde identificar los costos de procesamiento, almacenamiento y herramientas adicionales cuando intervienen directamente en el mismo flujo.
Esta metodología constituye un criterio de evaluación empresarial y no una funcionalidad automática atribuida por Oracle a AI Agent Studio. Su aplicación requiere combinar registros de consumo, información de facturación y resultados obtenidos en los sistemas donde los agentes ejecutan sus tareas.
Durante Oracle AI World 2026, NVIDIA abordará estos asuntos en la sesión Optimizing the Economics of AI Inference With NVIDIA Rack-Scale Architecture on OCI, programada para el 27 de octubre. La presentación examinará factores económicos de la inferencia y métricas como la cantidad de tokens procesados por vatio.
Admin
El rendimiento energético constituye un indicador para comparar la eficiencia de la infraestructura, pero no reemplaza la medición del costo por tarea completada. La sesión permitirá conocer los criterios y resultados que NVIDIA presente para OCI, sin anticipar ahorros que todavía no han sido documentados.
Admin
