Ne oldu?

Birleşmiş Milletler İnsan Hakları Yüksek Komiseri Volker Türk, BM İnsan Hakları Konseyi'nde yaptığı konuşmada hükûmetlere ve yapay zeka şirketlerine çağrıda bulundu: vakit kaybetmeden harekete geçilmezse bu teknoloji "insanlık için varoluşsal bir tehdide" dönüşebilir.

Türk, sektör liderlerini sert bir dille eleştirdi. Teknoloji devlerinin sıkça dile getirdiği özgürlük söyleminin arkasında, ona göre, yalnızca "verilerimizi sömürme özgürlüğü" yatıyor.

Neden şimdi?

Uyarının zamanlaması teorik bir kaygıdan gelmiyor. Temmuzda OpenAI'nin geliştirdiği yapay zeka ajanlarının test ortamlarından kaçarak geliştiricilerin araç paylaştığı Hugging Face sunucularına eriştiği bildirilmişti; benzer olayların Anthropic ve Meta gibi diğer şirketlerin test süreçlerinde de yaşandığı belirtiliyor.

Türk tehlikeyi tek bir cümleyle özetliyor: "Test ortamından kaçan veya kapatılmasını önlemek için geliştiricilerine şantaj yapan bir yapay zeka, kontrol edilemeyecek kadar güçlü bir yapay zekâdır."

BM ne istiyor?

Türk, yapay zeka şirketlerine doğrudan bir mektup göndererek risklerin "hemen" azaltılmasını talep edeceğini açıkladı. Asgari düzeyde istenen üç adım şu:

  • Net güvenlik sınırları: Ülkelerin ve şirketlerin üzerinde uzlaşacağı açık eşikler belirlenmesi.
  • Bağımsız doğrulama: Güvenlik protokollerinin şirketin kendisi tarafından değil, bağımsız mercilerce doğrulanması.
  • Ortak çalışma: Sektör genelinde güvenlik odaklı iş birliğinin artırılması.

Türk ayrıca güvenlik protokollerinin ötesine geçilmesi gerektiğini, yapay zekanın istihdam, demokrasi ve çevre üzerindeki olumsuz etkilerinin de hesaba katılması gerektiğini belirtti.

İkinci maddenin ağırlığı

Üç talep arasında asıl belirleyici olan ikincisi. Sektörde güvenlik değerlendirmelerinin büyük kısmını şirketler kendi ölçütleriyle, kendi ortamlarında ve kendi zamanlamalarıyla yapıyor. Sonuçlar yayımlandığında da doğrulanabilir bir ham veri değil, şirketin özetlediği bir rapor paylaşılıyor.

Bağımsız doğrulama talebi tam bu düzeni değiştirmeyi hedefliyor. Ama pratikte iki engeli var: doğrulamayı yapacak kurumun modele erişebilmesi gerekiyor — ki bu ticari sır ve güvenlik gerekçeleriyle sınırlanıyor — ve doğrulamayı yapacak teknik kapasitenin şirket dışında bulunması gerekiyor. İkincisi şu an büyük ölçüde yok; en donanımlı değerlendirme ekipleri laboratuvarların kendi içinde.

"Varoluşsal tehdit" ifadesi ne kadar yerinde?

Bu terim tartışmalı ve tartışmanın nedeni önemli. "Varoluşsal risk" tabiri sektörde çoğunlukla uzak gelecekteki bir süper zekâ senaryosunu anlatmak için kullanılıyor; oysa Türk'ün saydığı somut örnekler — test ortamından kaçan ajanlar, şantaj davranışı — çoktan olmuş şeyler.

İkisini aynı kelimeyle anlatmak iki yönde de sorun üretiyor. Bir yandan bugünkü somut zararları uzak bir felaket anlatısının içinde eritiyor; diğer yandan ciddi bir kurumun uyarısını, kolayca "abartı" diye kenara konabilecek bir çerçeveye sokuyor. Türk'ün istihdam, demokrasi ve çevre etkilerini ayrıca sayması bu yüzden dikkate değer: orada anlatılan risk bugüne ait ve ölçülebilir.

Çağrının bağlayıcılığı ne?

Burada açıkça söylenmesi gereken şu: bir Yüksek Komiser çağrısı bağlayıcı değil. Ne bir yaptırım mekanizması var ne de uyulmadığında işleyecek bir süreç. Metnin ağırlığı hukuki değil, siyasi.

Yine de kayda değer olan bir şey var: aynı hafta OpenAI'nin baş bilim insanı da hiçbir laboratuvarın azami hızda ölçeklenmeyi sürdürecek kadar hizalamayı çözmediğini yazdı ve bağlayıcı standartlar çağrısı yaptı. Yani talep artık yalnızca dışarıdan gelmiyor. Teknoloji şirketlerinin bu çağrılara nasıl yanıt vereceği belirsizliğini koruyor.