Dos capas que bajan la factura de un LLM: caché de prefijo y caché semántica
En una aplicación LLM en producción el coste se acumula en dos sitios distintos. Esta guía separa la caché de prefijo de la semántica y dice qué medir.
Modelos
Coste de LLM
El mayor cliente de la IA es ya la propia IA: el uso de tokens por agentes se multiplicó por catorce
Según un analista, el 6 de febrero de 2026 pudo ser el último día en que los humanos consumieron más tokens que los agentes.
Investigación
En la memoria de agentes la diferencia está en la entrega, no en el aprendizaje: ALTK-Evolve frente a ACE
IBM Research comparó su sistema de memoria de agentes ALTK-Evolve con ACE sobre el mismo agente. Ambos se niegan a comprimir las lecciones aprendidas; se separan en cómo llegan esas lecciones al modelo, y de ahí sale la factura.
Investigación