OpenAI ha abierto una vista previa de una versión acelerada de su modelo más potente, GPT-5.6 Sol. El nuevo modo de inferencia, llamado Ultrafast, alcanza hasta 750 tokens de salida por segundo, una aceleración de hasta 14 veces respecto al modo estándar.
El hardware: Cerebras
La velocidad no procede de una optimización de software, sino de un silicio distinto. Ultrafast se ejecuta en chips procedentes de la alianza de 10.000 millones de dólares entre OpenAI y Cerebras.
Cerebras sigue un enfoque distinto al de los fabricantes de GPU: construye una oblea de silicio entera como un único chip, una arquitectura conocida como escala de oblea. La ventaja más clara de ese diseño es que los pesos del modelo pueden mantenerse en el propio chip, lo que elimina en gran medida el tráfico entre memoria y procesador. En la generación de tokens el cuello de botella no suele ser la potencia de cálculo, sino precisamente ese tráfico.
Una estructura de tres niveles
Ultrafast no llega solo. Junto a Standard y Fast, OpenAI ofrece ahora tres niveles:
- Standard: velocidad y precio por defecto.
- Fast: el nivel intermedio.
- Ultrafast: hasta 750 tokens por segundo, al precio más alto.
La noticia de fondo es más comercial que técnica. El mismo modelo, la misma calidad de salida, distinta velocidad y distinto precio. La velocidad de inferencia se convierte en un producto por derecho propio.
Por qué importa tanto la velocidad
En una interfaz de chat, la diferencia entre 50 y 750 tokens por segundo apenas significa nada más allá de la velocidad de lectura, y nadie lee tan rápido. Donde sí cuenta esa diferencia es en los flujos de trabajo con agentes.
Para completar una tarea, un agente hace decenas o incluso centenares de llamadas al modelo: planifica, llama a una herramienta, lee el resultado, replanifica. La latencia se acumula en cada paso de esa cadena. Unos segundos ahorrados en una sola llamada se convierten en minutos a lo largo de una cadena de treinta pasos.
En el ámbito empresarial eso es directamente una cuestión de viabilidad. Una tarea de agente que termina en medio minuto puede insertarse en un flujo de trabajo; la misma tarea, si tarda diez minutos, solo puede ejecutarse por lotes durante la noche.
El ángulo competitivo
Poner precio a la velocidad por separado es un intento de reforzar la posición de OpenAI en el mercado empresarial. A medida que se estrecha la diferencia de calidad con sus rivales, los puntos de diferenciación se desplazan: de la calidad a la latencia y de la latencia al coste.
El tamaño de la alianza con Cerebras respalda esa lectura. Un compromiso de 10.000 millones de dólares sugiere que la velocidad se plantea como una línea de producto duradera y no como una promoción pasajera.