IBM, Granite 4.2 dil modellerini 3, 8 ve 30 milyar parametreli boyutlarda yayımladı. Modeller sıfırdan yaklaşık 15 trilyon jetonla eğitildi ve şirketin verdiği bilgiye göre 512 bin jetona kadar bağlam penceresi destekliyor.

Öne çıkan özellikler

  • Denetlenebilir hesaplama — modeller "düşünme" ve "düşünmeme" kipleri arasında geçiş yapabiliyor; görev başına harcanan hesaplama böylece ayarlanabiliyor. Ayrıca basit sorgularda kaynak tasarrufu sağlayan bir "düşük efor" kipi var.
  • Ajan eğitimi — 8B ve 30B sürümleri IBM'in "ajansal pekiştirmeli öğrenme" dediği bir eğitimden geçiyor. Bu eğitimde modeller gerçek kum havuzu ortamlarında araç kullanmayı, kod yazıp çalıştırmayı ve web'de arama yapmayı öğreniyor.
  • Uyumluluk — tüm modeller OpenAI biçiminde araç çağırmayı destekliyor ve yaygın çıkarım sunucularında çalışıyor.

Aynı duyuruda konuşma tanıma modelleri de yenilendi. Yeni Granite Speech 5.0 Turbo modelleri yalnızca 470 milyon parametreye sahip ve IBM'e göre açık konuşma tanıma sıralamasındaki önceki liderlerin iki katı hızda. Şirketin verdiği ölçüye göre üç saatlik sesi bir saniyede yazıya çevirebiliyorlar.

Boyut seçimi de anlamlı. Üç model de sınırdaki devasa modellerle yarışmayı hedeflemiyor; 30 milyar parametre bugünün ölçeğinde orta sınıf sayılıyor. IBM'in hedeflediği yer başka: kendi donanımında çalıştırılabilen, denetlenebilir ve lisansı net modeller.

Lisans asıl haber

Modellerin tamamı Apache 2.0 lisansıyla dağıtılıyor ve yaygın model dağıtım platformlarında erişilebilir durumda.

Bu ayrıntı teknik özelliklerden daha belirleyici. Açık ağırlıklı model sürümlerinin çoğu, ticari kullanımı sınırlayan ya da izin gerektiren özel lisanslarla geliyor. Apache 2.0 ise izin gerektirmeyen bir lisans: modeli alıp değiştirebilir, ürününüze gömebilir ve kaynağını açmak zorunda kalmadan satabilirsiniz.

Kurumsal bir alıcı için fark burada. Lisans belirsizliği, hukuk departmanının onay vermediği pek çok yapay zeka projesinin gerçek sebebi oluyor.

Bir ayrıntı daha var: lisansın izin gerektirmemesi, modelin ince ayarla değiştirilip yeniden dağıtılmasının önünü de açıyor. Türkçe gibi veri hacmi görece küçük diller için bu önemli — küçük bir ekip modeli alıp kendi verisiyle uyarlayabiliyor ve sonucu paylaşabiliyor.

Neden önemli

Granite 4.2, yerel çalışan dil modellerine yönelik büyüyen ilginin üzerine geliyor. Küçük boyutlar burada bilinçli bir tercih: 3 ve 8 milyar parametreli modeller sıradan bir dizüstü bilgisayarda ya da mütevazı bir sunucuda çalışabiliyor.

Bunun anlamı jeton faturasının ortadan kalkması değil yalnızca. Veri dışarı çıkmıyor, sağlayıcı fiyat değiştiremiyor ve model bir gün emekliye ayrılmıyor. Düzenlemeye tabi sektörlerde bu üçü çoğu zaman bir kıyaslama puanından daha ağır basıyor.

Ajan eğitiminin modelin içine konması da kayda değer. Şimdiye kadar bir modele araç kullandırmak, çevresine yazılan koşum takımının işiydi. Eğitim sırasında gerçek ortamlarda araç kullanmayı öğrenmiş bir model, o koşum takımının bir bölümünü gereksiz kılabilir — küçük ekipler için bu, kurulum maliyetinde doğrudan tasarruf demek.