Cerebras ha presentado el acelerador de inteligencia artificial CS-4, que su director ejecutivo, Andrew Feldman, describe como el sistema más rápido del sector. El CS-4 es un producto a escala de armario: un bastidor completo que entra en el centro de datos como una sola unidad, con sus unidades de cómputo, alimentación y refrigeración.

Qué es nuevo y qué no

Lo interesante de este anuncio es de dónde no procede la mejora de rendimiento. El CS-4 sigue funcionando con el chip WSE-3 de 5 nanómetros. Duplica el rendimiento del anterior CS-3 elevando la frecuencia de reloj mediante más potencia y mejor refrigeración.

Lo que ha cambiado:

  • Obleas por armario: ahora tres, en lugar de dos.
  • Rendimiento por usuario: hasta 4.400 tokens por segundo.
  • Diseño modular: una nueva disposición llamada "Backpack" para un montaje más rápido.
  • Inferencia desagregada: a través de socios como AMD y AWS Trainium.

Lo que no ha cambiado es la memoria: se mantiene en 44 GB por oblea.

Contexto: qué es la escala de oblea

Lo que separa a Cerebras del resto del sector es que no corta la oblea de silicio. En la fabricación habitual, una oblea se trocea en decenas de chips independientes que después se conectan entre sí sobre una placa. Cerebras deja la oblea entera y la emplea como un único procesador enorme.

La ventaja es que desaparece la comunicación entre chips. En los modelos grandes, el cuello de botella no suele ser el cálculo sino mover los datos entre procesadores. Con la oblea intacta, ese tráfico se queda dentro del silicio y circula mucho más rápido.

El coste es la memoria. La memoria sobre la oblea es rápida pero limitada: aquí, 44 GB por oblea. Como referencia, los pesos de un modelo de lenguaje grande pueden ocupar muchas veces esa cifra. Por eso que la memoria se mantenga igual es la restricción que determina para qué cargas de trabajo sirve este sistema.

La comparación y una advertencia

Cerebras afirma que esto resulta hasta 30 veces más rápido que las configuraciones construidas sobre procesadores gráficos de Nvidia. Conviene leer esas proporciones con cautela: las comparaciones de fabricante suelen ejecutarse con cargas de trabajo donde su propia arquitectura destaca, y no se detalla la configuración del rival.

Los analistas de SemiAnalysis consideran además que las ganancias en la parte de red son bastante modestas. Se esperan más detalles en la conferencia Hot Chips.

Por qué importa

El anuncio muestra hacia dónde se desplaza la atención en el hardware de inteligencia artificial. Durante años el sector habló de procesos de fabricación: cuántos nanómetros, cuántos transistores. Al duplicar el rendimiento con el mismo chip, el CS-4 sugiere que la ganancia puede venir ya del sistema que rodea al silicio y no del silicio mismo: distribución de potencia, capacidad de refrigeración, densidad del armario.

La consecuencia práctica es que se puede subir el rendimiento sin esperar a un nuevo nodo de fabricación. Pero tiene un coste. Elevar la frecuencia con potencia y refrigeración aumenta el consumo eléctrico por armario. En una etapa en la que la restricción real del centro de datos son los megavatios, eso significa trasladar la factura de una columna a otra.

El hardware de Cerebras lo utiliza, entre otros, OpenAI para Codex Spark. Que la compañía se centre en la velocidad de inferencia es otra señal del desplazamiento del sector desde el entrenamiento hacia la inferencia.