Cerebras, üst düzey yöneticisi Andrew Feldman'ın sektördeki en hızlı sistem olarak nitelendirdiği CS-4 yapay zeka hızlandırıcısını tanıttı. CS-4 bir kabin ölçeğinde ürün: hesaplama birimleri, güç ve soğutmasıyla birlikte veri merkezine tek parça olarak giren bir sunucu dolabı.

Yeni olan ne, olmayan ne

Haberin asıl ilginç yanı, başarım artışının nereden gelmediği. CS-4 hâlâ 5 nanometrelik WSE-3 çipini çalıştırıyor. Bir önceki CS-3'ün iki katı başarımı, daha fazla güç ve daha iyi soğutma yoluyla saat hızını yükselterek elde ediyor.

Değişenler şunlar:

  • Kabin başına gofret — artık iki yerine üç.
  • Kullanıcı başına hız — saniyede 4.400 jetona kadar.
  • Modüler tasarım — "Backpack" adı verilen yeni düzen daha hızlı montaj sağlıyor.
  • Ayrıştırılmış çıkarım — AMD ve AWS Trainium gibi ortaklar üzerinden.

Değişmeyen ise bellek: gofret başına 44 gigabaytta sabit kaldı.

Arka plan: gofret ölçekli mimari nedir

Cerebras'ın yaklaşımını sektörün geri kalanından ayıran şey, silikon gofretini kesmemesi. Olağan üretimde bir gofret onlarca ayrı çipe bölünüyor ve bu çipler sonradan kart üzerinde birbirine bağlanıyor. Cerebras gofreti bütün hâlde bırakıp tek bir devasa işlemci olarak kullanıyor.

Bunun getirisi, çipler arası iletişimin ortadan kalkması. Büyük modellerde asıl darboğaz çoğu zaman hesaplama değil, veriyi işlemciler arasında taşımak. Gofret bütün kalınca bu trafik silikonun içinde kalıyor ve çok daha hızlı akıyor.

Bedeli ise bellek. Gofret üzerindeki bellek hızlı ama sınırlı — burada gofret başına 44 gigabayt. Karşılaştırma için, büyük bir dil modelinin ağırlıkları bunun kat kat üzerinde yer kaplayabiliyor. Bu yüzden belleğin sabit kalması, sistemin hangi iş yükleri için uygun olduğunu belirleyen asıl kısıt.

Karşılaştırma iddiası ve çekince

Cerebras, bu hızın Nvidia işlemcileriyle kurulmuş sistemlerden 30 kata kadar yüksek olduğunu söylüyor. Bu tür oranları temkinli okumak gerekiyor: üretici karşılaştırmaları genellikle kendi mimarisinin güçlü olduğu iş yüküyle yapılıyor ve karşı tarafın yapılandırması belirtilmiyor.

SemiAnalysis analistleri de ağ tarafındaki kazanımları oldukça küçük buluyor. Ayrıntıların Hot Chips konferansında paylaşılması bekleniyor.

Neden önemli

Bu duyuru, yapay zeka donanımında dikkatin nereye kaydığını gösteriyor. Sektör yıllardır çip üretim süreçlerini konuşuyordu: kaç nanometre, kaç transistör. CS-4 aynı çiple iki kat başarım vererek, kazancın artık çipin kendisinden değil onu saran sistemden gelebileceğini gösteriyor — güç dağıtımı, soğutma kapasitesi, kabin yoğunluğu.

Bunun pratik sonucu şu: yeni bir üretim süreci beklemek zorunda kalmadan başarım artırmak mümkün. Ama bedeli var. Saat hızını güç ve soğutmayla yükseltmek, kabin başına elektrik tüketimini artırıyor. Veri merkezi tarafındaki asıl kısıtın megavat olduğu bir dönemde bu, hesabın bir yerden diğerine taşınması anlamına geliyor.

Cerebras donanımı başkalarının yanı sıra OpenAI tarafından Codex Spark için kullanılıyor. Şirketin çıkarım hızına odaklanması, sektörde eğitimden çıkarıma kayan ağırlığın bir başka işareti.