Los costes de la IA están dejando de ser una partida presupuestaria para convertirse en un problema operativo dentro de las grandes organizaciones. Un artículo de 404 Media publicado en junio, basado en grabaciones filtradas de reuniones, muestra ese giro con crudeza a través de una discusión interna en Accenture.

Un consumidor inesperado

Justice Kwak, responsable de estrategia de IA de agentes en Accenture, cuenta que los datos internos dicen algo sorprendente:

"Por lo que vemos al menos en algunos datos internos, quienes impulsan el consumo de tokens no son en realidad nuestros ingenieros. Son en buena medida comportamientos de quienes no son ingenieros."

Eso invierte casi todos los supuestos de la planificación de costes: las organizaciones presupuestan según lo que usarán sus equipos de software, pero quien dispara la factura es el grupo mucho más amplio que usa la herramienta a diario sin intuición de lo que cuesta.

El problema de los PDF

La continuación de la conversación identifica el origen concreto. Stuart Henderson, responsable del grupo de clientes de Accenture, interrumpe para bromear diciendo que espera que Kwak no acabe de convertir un PDF en imágenes y luego en archivos markdown:

"Estoy aprendiendo que eso es uno de los grandes devoradores de tokens. Convertir PDF en markdown, ¿es así?"

Kwak confirma que es exactamente lo que muestran los datos de la propia empresa.

Por qué sale tan caro

La razón es técnica y aburrida. El PDF es un formato diseñado no para transportar texto, sino para fijar el aspecto de una página. El texto que contiene suele estar como fragmentos posicionados; el orden de lectura, la disposición en columnas y la estructura de las tablas no constan en ninguna parte del archivo.

Por eso la forma más fiable de convertir un PDF en texto es representar la página como imagen y hacer que el modelo la mire. Y para un modelo las imágenes salen mucho más caras: una página de texto plano cuesta unos cientos de tokens; su imagen, miles.

Procesado así, un informe de cien páginas se convierte por sí solo en una partida de coste considerable, y quien lo hace suele creer que ha pulsado un botón.

La lección

El hallazgo de fondo es que el coste no viene del precio de los modelos, sino de los formatos documentales y los hábitos de trabajo dentro de la organización. Eso explica la aparente contradicción de que las facturas empresariales suban mientras bajan los precios de los modelos: el coste unitario baja, pero el número de unidades consumidas sube mucho más deprisa.

La conclusión práctica sale del mismo sitio. La manera más eficaz de recortar el gasto en IA no es elegir un modelo más barato: es conservar los documentos como texto en origen, cachear los resultados de conversión e impedir que el mismo archivo se reprocese en cada consulta.

Dicho de otro modo: el problema no está en la IA, sino en lo que le entregamos.

Qué están haciendo las organizaciones

La expresión "apocalipsis de los tokens" puede parecer exagerada, pero el comportamiento que señala es real: las empresas intentan por primera vez controlar en serio el gasto en IA. El primer paso suele ser la visibilidad: un panel que muestre quién gasta cuánto.

Como demuestra el caso de Accenture, esos paneles suelen arrojar un cuadro inesperado. La mayor parte del gasto no viene de donde se preveía, sino de trabajos corrientes que nadie estaba mirando: resumir informes, leer contratos, preparar presentaciones.

El segundo paso es la restricción: presupuesto por usuario, límite de tamaño de documento, aprobación para las operaciones caras. Todo eso reduce el coste, pero también resta atractivo a la herramienta: las organizaciones acaban buscando un equilibrio entre la promesa de productividad y el control del gasto.

Cuatro pasos que reducen el coste

  • Conservar los documentos como texto en origen; pasar a PDF solo al compartirlos.
  • Cachear los resultados de conversión para no reprocesar el mismo archivo en cada consulta.
  • Tratar la conversión a imagen como último recurso; usar la capa de texto cuando exista.
  • Hacer visible el gasto por usuario: sin saber quién consume qué, cualquier límite es una conjetura.