Anthropic CEO'su Dario Amodei, yapay zeka düzenlemesine dair görüşlerini bir sosyal medya tartışması içinde paylaştı. En dikkat çeken savı şu: açık ağırlıklar tek başına yeterli bir çözüm değil.

Tartışmanın konusu

Arka plandaki soru, yapay zekadaki güç yoğunlaşmasına ne yapılacağı. Yaygın bir görüş, modelleri açık ağırlıkla yayımlamanın bu yoğunlaşmayı kendiliğinden çözeceğini savunuyor: ağırlıklar herkese açıksa hiçbir şirket kapıyı tutamaz.

Amodei bu çerçeveye itiraz ediyor. Ona göre açık ağırlık değerli ama yeterli değil — çünkü asıl darboğaz modelin kendisi değil, onu eğitmek ve çalıştırmak için gereken sermaye ve altyapı. Ağırlıkları yayımlamak, o altyapıya sahip olmayan birine gerçek bir alternatif vermiyor.

Karşı görüş

Bu savın karşısında duran argüman da güçlü. Açık ağırlık savunucuları, kapalı modellerin denetlenemez olduğunu söylüyor: bir modelin nasıl davrandığını bağımsız olarak incelemek ancak ağırlıklara erişimle mümkün. Kapalı bir modelde güvenlik iddiası, şirketin kendi beyanına dayanıyor.

İki taraf da aynı sorunu farklı yerden görüyor. Biri gücün nerede toplandığına bakıyor, diğeri denetimin kimde olduğuna.

Güven krizi

Amodei'nin ikinci vurgusu sektördeki güven krizi. Bu ifade son dönemdeki olaylarla birlikte okunduğunda somutlaşıyor: kazara siber saldırılar, kapalı kalan güvenlik filtreleri, dağıtılan güvenlik ekipleri.

Bu olayların ortak noktası kötü niyet değil; şirketlerin kendi sistemleri hakkında söylediklerinin, o sistemlerin gerçekte nasıl davrandığından farklı çıkması. Güven krizi tam olarak bu farkın adı.

Neden önemli

Amodei'nin konumu tartışmayı ilginç kılıyor. Kapalı model geliştiren bir şirketin yöneticisi olarak açık ağırlıkların yetersizliğini savunması, çıkarıyla örtüşen bir görüş — bunu kaydetmek gerekiyor.

Öte yandan aynı kişi, şirketinin kendi güvenlik arızasını kamuya açıklayan bir raporun da arkasında duruyor. Yani argümanı yalnızca çıkar üzerinden okumak da eksik kalıyor.

Asıl mesele şu: düzenleme tartışması giderek iki uç arasında sıkışıyor — ya birkaç büyük şirkette toplanmış ve denetlenen bir güç, ya da dağıtılmış ve denetlenemeyen bir güç. Amodei'nin işaret ettiği, bu ikisinin dışında bir yol olup olmadığı sorusu; ve o yolun neye benzeyeceği henüz kimse tarafından tarif edilmiş değil.

Test meselesi

Amodei'nin savunduğu bir başka başlık model testi. Bu, tartışmanın en az anlaşmazlık taşıyan kısmı gibi görünüyor — kimse modellerin test edilmemesi gerektiğini savunmuyor. Ayrılık testin kim tarafından yapılacağında.

Mevcut düzende testlerin büyük kısmını modeli geliştiren şirket kendisi yapıyor ve sonucu kendisi yayımlıyor. Bağımsız değerlendirme kuruluşları var ama erişimleri sınırlı ve bulguları çoğu zaman şirketin onayından geçiyor.

Son dönemdeki olaylar bu düzenin zayıflığını gösterdi: bir güvenlik filtresinin bir yıl kapalı kaldığını ancak şirketin kendisi açıkladığında öğrenebildik. Dışarıdan bakan bir denetçi olsaydı o bir yıl bir aya inebilirdi.

Ne eksik

Tartışmanın kaçırdığı nokta belki de şu: açık ağırlık ile kapalı model arasındaki seçim, denetimin kimde olacağı sorusunu kendiliğinden çözmüyor. Açık bir model teknik olarak incelenebilir ama inceleyecek kaynağa sahip kurum sayısı sınırlı; kapalı bir model incelenemez ama sorumlusu bellidir.

Üçüncü yol muhtemelen bu ikisinin arasında bir yerde: ağırlıklara erişimi olmayan ama modeli sınamaya yetkisi olan bağımsız bir denetim katmanı. Böyle bir yapı henüz hiçbir ülkede kurulmuş değil.

Tartışmanın iki ekseni

  • Güç nerede toplanıyor — açık ağırlık savunucuları yoğunlaşmayı, Amodei sermaye ve altyapıyı işaret ediyor.
  • Denetim kimde — açık model incelenebilir ama inceleyecek kurum az; kapalı model incelenemez ama sorumlusu belli.
  • Testi kim yapıyor — ağırlıklı olarak modeli geliştiren şirketin kendisi.