Ağustos ayında bir akşamüstü, Silikon Vadisi'nde hava sıcakken ve klima yükü tepe yaparken yerel elektrik şirketi bir veri merkezine sinyal gönderdi: tüketimini ayarla.
Kimse hiçbir şeye dokunmadı. Veri merkezindeki iş yükü yönetim katmanı sinyali aldı, bekleyebilecek işleri yavaşlattı ve tüketim ekranda düşmeye başladı.
Bu rehber o mekanizmanın nasıl çalıştığını, hangi işlerin esnetilebildiğini ve bir veri merkezinin bunu uygulayabilmesi için önce neyi çözmesi gerektiğini anlatıyor. Anlatılan yaklaşım tek bir ürüne bağlı değil; mantığı her tesiste aynı şekilde kuruluyor.
Sorun neden ortaya çıktı
Yapay zeka yükleri elektrik şebekesi için alışılmadık bir müşteri. Talepleri büyük, sürekli ve tek noktada yoğunlaşıyor.
Şebeke tarafında sıkıntı ortalama tüketimde değil tepe anlarında. Sıcak bir yaz akşamında klima yükü zirveye çıktığında, şebekenin o anki kapasitesi belirleyici oluyor ve veri merkezi o tepeye bir yük daha ekliyor.
Klasik çözüm kapasite inşa etmek: daha fazla santral, daha fazla hat. Ama bu çözümün süresi yıllarla ölçülüyor, oysa yapay zeka talebi aylarla büyüyor.
İkinci bir zorluk da konum. Veri merkezleri şebekenin belirli noktalarında kümeleniyor ve o noktadaki hat kapasitesi, ülke genelindeki üretim kapasitesinden bağımsız bir kısıt oluşturuyor. Yeni bir santral kurmak, yanlış yerdeki bir darboğazı çözmüyor.
Esneklik nasıl bir çözüm
Alternatif yaklaşım kapasiteyi artırmak yerine talebi zamanda kaydırmak. Mantık basit: bir veri merkezindeki her iş aynı aciliyette değil.
- Kullanıcıya anlık yanıt veren çıkarım servisleri bekleyemez.
- Model eğitimi çoğu zaman birkaç saat gecikmeyi kaldırabilir.
- Toplu veri işleme ve yedekleme gece yarısına kaydırılabilir.
- Deneysel işler tamamen durdurulup sonra devam ettirilebilir.
Bu ayrım yapıldığında elde edilen şey bir tampon. Şebeke sıkıştığında ikinci ve üçüncü gruptaki işler yavaşlatılıyor, birinci gruptaki servisler hiç etkilenmiyor.
Hangi işler ne kadar bekleyebilir
Esnekliğin işe yaraması için ayrımın kaba değil ayrıntılı olması gerekiyor. "Eğitim beklesin, çıkarım beklemesin" iyi bir başlangıç ama tek başına yetersiz.
Eğitim işlerinin kendi içinde de fark var. Kontrol noktası alınmış ve durdurulup devam ettirilebilen bir eğitim, birkaç saat beklemeyi hiç kayıpsız kaldırabiliyor. Kontrol noktası olmayan bir eğitim durdurulduğunda baştan başlıyor ve o durumda esneklik kazanç değil zarar üretiyor.
Aynı ayrım çıkarım tarafında da var. Kullanıcı ekranının arkasındaki çıkarım anlık, ama gece çalışan toplu bir sınıflandırma işi de çıkarım sayılıyor ve o saatlerce bekleyebiliyor.
Sinyal nasıl geliyor
Sistemin çalışması için şebeke ile veri merkezi arasında bir iletişim kanalı gerekiyor. Elektrik şirketi şebekenin durumu hakkında sinyal gönderiyor, veri merkezindeki orkestrasyon katmanı bu sinyali alıp esnek yükleri ayarlıyor.
Anlatılan denemede bu döngü elle müdahale olmadan işledi. Ekip ekrandan izledi, azalma göründüğünde alkışladı; ama sürecin kendisi otomatikti. Denemede binlerce grafik işlemci üzerinde aynı anda uygulandı ve kimse elle bir ayar değiştirmedi.
| Adım | Kim yapıyor |
|---|---|
| Şebeke durumu sinyali | Elektrik şirketi |
| Sinyali yorumlama | Orkestrasyon katmanı |
| Yükleri yavaşlatma veya erteleme | Otomatik |
| Kritik servisleri sürdürme | Otomatik |
Sinyalin kendisi de tek tip değil. Bazı pazarlarda önceden haber veriliyor ve tesis hazırlanabiliyor; bazılarında ise anlık talep geliyor ve tepki süresi dakikalarla ölçülüyor. İkinci durum, yük yönetiminin önceden kurulmuş olmasını zorunlu kılıyor.
Sözleşme tarafı
Teknik kurulum hazır olsa bile esnekliği devreye almak bir imza meselesi. Çünkü yavaşlatılan iş birinin işi ve o kişinin bundan haberi olması gerekiyor.
- Kurum içi kullanımda karar kolay: yük sahibi de tesis sahibi de aynı şirket.
- Kiralık kapasitede müşteriye tanımlı bir hizmet seviyesi sözü verilmiş oluyor.
- Esneklik, o sözün içine ayrı bir madde olarak yazılmadan uygulanamıyor.
- Karşılığında genellikle indirimli fiyat teklif ediliyor.
Son madde bu modelin nasıl yayıldığını da gösteriyor. Müşteri daha ucuz kapasite alıyor, tesis tepe anında esneme hakkı kazanıyor ve iki taraf da kazanıyor; bunun işlemesi için tek şart, hangi işin ne kadar bekleyebileceğinin sözleşmede yazılı olması.
Asıl zor kısım: sınıflandırma
Teknolojinin göründüğü kadar kolay olmayan tarafı burası. Bir veri merkezinin yüklerini esnetebilmesi için önce hangi işin ne kadar bekleyebileceğini bilmesi gerekiyor.
Çoğu kurumda bu bilgi yazılı değil. İşler kuyruklara giriyor ve hepsi aynı öncelikle çalışıyor; "bu iş iki saat bekleyebilir" bilgisi genellikle yalnızca o işi yazan kişinin kafasında.
Dolayısıyla esneklik bir enerji projesi gibi görünse de aslında bir envanter projesi. Yükleri sınıflandırmadan sinyal alacak bir sistem kurmanın anlamı yok.
Kaç megavat esnetilebiliyor
Buradaki rakam tesise göre değişiyor ve tek bir yüzde vermek yanıltıcı olur. Yine de hesabın mantığı basit.
Toplam tüketimin içinde esnek yükün payı ne kadarsa, tepe anında düşürülebilecek miktar da kabaca o oranda. Bir tesisin yükünün yüzde kırkı ertelenebilir eğitim işiyse, tepe anında ciddi bir pay geri verilebiliyor.
Ancak bu payın tamamı kullanılamıyor. Yavaşlatılan işlerin bir kısmı zaten devam etmek zorunda ve sıfıra indirmek çoğu zaman mümkün değil; gerçekçi hedef yüzdelik bir kısıntı, tam durdurma değil.
Kimin için işe yarıyor
Bu yaklaşım her veri merkezi için aynı değeri üretmiyor. Fayda, esnek yükün toplam içindeki payına bağlı.
- Ağırlıkla eğitim yapan bir tesis geniş bir esneklik penceresine sahip.
- Ağırlıkla çıkarım servisi çalıştıran bir tesiste pencere çok dar.
- Karma yük çalıştıran tesislerde ayrım yapılabilirse kazanç anlamlı.
- Tek müşteriye hizmet eden tesislerde karar o müşteriye ait.
Son madde önemli bir sınır çiziyor. Kiralık kapasite modelinde işleten şirket, müşterisinin işini kendi kararıyla yavaşlatamıyor; bunun sözleşmede tanımlı olması gerekiyor.
Bu ayrımı yapabilmek, veri merkezinin iş yükü hakkında bilgi sahibi olmasını gerektiriyor. Sunucuların ne çalıştırdığını bilmeyen bir operatör, hangi işi yavaşlatacağına da karar veremiyor.
Şebeke tarafındaki karşılığı
Elektrik şirketi açısından bakıldığında bu, bir tür sanal kapasite. Tepe anında 50 megavat düşürebilen bir veri merkezi, şebeke için 50 megavatlık yeni bir santral kurmaya yakın bir değer üretiyor.
Bu yüzden bazı pazarlarda esneklik ayrı bir ürün olarak fiyatlanıyor. Veri merkezi elektriği ucuza almıyor; tepe anında talebini kısma taahhüdü karşılığında ödeme alıyor.
Bu model şebeke planlamasının mantığını da değiştiriyor. Talep sabit bir veri olmaktan çıkıp pazarlık edilebilir bir değişkene dönüştüğünde, kapasite hesabı yalnızca üretim tarafından yapılmıyor.
Türkiye açısından
Türkiye'de veri merkezi yatırımları büyürken aynı tartışma henüz bu biçimde kurulmuş değil. Buna karşılık talep tarafı katılımı, şebeke mevzuatında yeni olan bir başlık değil.
Pratik sonuç şu: yeni kurulacak bir tesiste yük sınıflandırmasını baştan yapmak, sonradan yapmaktan çok daha kolay. Kuyruk yapısı ve önceliklendirme kurulduktan sonra değiştirmek, çalışan bir sistemi yeniden yazmak anlamına geliyor. Yeni tesislerde bu maliyet sıfıra yakınken, işleyen bir tesiste aylarla ölçülüyor.
Bu fiyatlandırma, veri merkezini enerji piyasasında pasif bir tüketiciden aktif bir katılımcıya dönüştürüyor. Aynı tesis hem elektrik alıyor hem de esneme kapasitesini satıyor.
Sınırları
Esneklik bir çözüm değil, bir tampon. Toplam talep büyümeye devam ettiği sürece tepe yönetimi zaman kazandırıyor ama kapasite ihtiyacını ortadan kaldırmıyor.
İkinci sınır güvenilirlik algısı. Bir tesisin müşterisine "işiniz bazen yavaşlayabilir" demesi, satış tarafında kolay bir cümle değil; bu yüzden esnekliğin sözleşmeye nasıl yazıldığı teknik tarafından daha belirleyici olabiliyor.
Üçüncü sınır teknik: her yük yavaşlatılabilir değil. Bir eğitim işini duraklatmak kontrol noktası gerektiriyor ve bu altyapı her kurumda hazır değil; hazır olmayan yerde esneklik vaadi kâğıt üstünde kalıyor.
Ölçüm olmadan olmuyor
Esnekliği devreye alan bir tesisin cevaplaması gereken üç soru var ve üçü de ölçümle cevaplanıyor.
- Tepe anında ne kadar düşürüldü: taahhüdün gerçekten yerine getirilip getirilmediğini gösteriyor.
- Kritik servisler etkilendi mi: esnekliğin sınırı aşıp aşmadığını gösteriyor.
- Ertelenen işler ne zaman tamamlandı: gecikmenin operasyonel bedelini gösteriyor.
- Kaç kez sinyal geldi: modelin yıllık getirisini hesaplamayı sağlıyor.
Dördüncü madde beklenenden önemli. Yılda iki kez sinyal gelen bir bölgede esneklik altyapısı kurmanın getirisi, haftada bir sinyal gelen bir bölgeye göre bambaşka.
Nereden başlanır
Bir tesiste bu yönde ilk adım ölçüm değil sınıflandırma. Çalışan işlerin listesini çıkarıp her birine tek bir soru sormak yeterli: bu iş iki saat gecikse ne olur?
Cevabı "hiçbir şey" olan her iş, esneklik havuzunun parçası. O havuzun toplam tüketim içindeki payı yüzde onun altındaysa, bu yaklaşımın getirisi kurulum maliyetini karşılamıyor; üzerindeyse konuşmaya değer bir rakam çıkıyor. Bu hesabı yapmak için yeni bir sistem kurmak da gerekmiyor; mevcut iş kuyruklarının bir haftalık kaydı çoğu zaman yeterli oluyor.