Los costes de la IA están dejando de ser una partida presupuestaria para convertirse en un problema operativo dentro de las grandes organizaciones. Un artículo de 404 Media publicado en junio, basado en grabaciones filtradas de reuniones, muestra ese giro con crudeza a través de una discusión interna en Accenture.

Un consumidor inesperado

Justice Kwak, responsable de estrategia de IA de agentes en Accenture, cuenta que los datos internos dicen algo sorprendente:

"Por lo que vemos al menos en algunos datos internos, quienes impulsan el consumo de tokens no son en realidad nuestros ingenieros. Son en buena medida comportamientos de quienes no son ingenieros."

Eso invierte casi todos los supuestos de la planificación de costes. Las organizaciones presupuestan la IA según lo que usarán sus equipos de software; pero quien dispara la factura es el grupo mucho más amplio que usa la herramienta en su trabajo diario y no tiene ninguna intuición sobre lo que cuesta cada cosa.

El problema de los PDF

La continuación de la conversación identifica el origen concreto. Stuart Henderson, responsable del grupo de clientes de Accenture, interrumpe para bromear diciendo que espera que Kwak no acabe de convertir un PDF en imágenes y luego en archivos markdown:

"Estoy aprendiendo que eso es uno de los grandes devoradores de tokens. Convertir PDF en markdown, ¿es así?"

Kwak confirma que es exactamente lo que muestran los datos de la propia empresa.

Por qué sale tan caro

La razón es técnica y aburrida. El PDF es un formato diseñado no para transportar texto, sino para fijar el aspecto de una página. El texto que contiene suele estar como fragmentos posicionados; el orden de lectura, la disposición en columnas y la estructura de las tablas no constan en ninguna parte del archivo.

Por eso la forma más práctica de convertir un PDF en texto de manera fiable es representar la página como imagen y hacer que el modelo la mire. Y las imágenes resultan mucho más caras que el texto para un modelo de lenguaje: una página de texto plano puede costar unos cientos de tokens, mientras que la imagen de esa misma página puede costar miles.

Procesado así, un informe de cien páginas se convierte por sí solo en una partida de coste considerable, y quien lo hace suele creer que ha pulsado un botón.

La lección

El hallazgo de fondo es que el coste no viene del precio de los modelos, sino de los formatos documentales y los hábitos de trabajo dentro de la organización. Eso explica la aparente contradicción de que las facturas empresariales suban mientras bajan los precios de los modelos: el coste unitario baja, pero el número de unidades consumidas sube mucho más deprisa.

La conclusión práctica sale del mismo sitio. La manera más eficaz de recortar el gasto en IA no es elegir un modelo más barato: es conservar los documentos como texto en origen, cachear los resultados de conversión e impedir que el mismo archivo se reprocese en cada consulta.

Dicho de otro modo: el problema no está en la IA, sino en lo que le entregamos.

Cuatro pasos que reducen el coste

  • Conservar los documentos como texto en origen; pasar a PDF solo al compartirlos.
  • Cachear los resultados de conversión para no reprocesar el mismo archivo en cada consulta.
  • Tratar la conversión a imagen como último recurso; usar la capa de texto cuando exista.
  • Hacer visible el gasto por usuario: sin saber quién consume qué, cualquier límite es una conjetura.