Anthropic CEO'su Dario Amodei, yapay zeka gelişiminin yavaşlatılma zamanının geldiğini söyleyen uzun bir metin yayımladı. Metnin merkezinde üç adımlı bir plan var.
Amodei bunu "sınırın hızını ayarlamak" diye adlandırıyor: eğitim ve geliştirme temposunu düşürerek şirketlere koruma inşa etme, düzenleyicilere de model değerlendirme zamanı tanımak. Metnin adı da buradan geliyor: sınırı durdurmak değil, hızını ayarlamak.
Üç adım
Planın kademeli olması kasıtlı. Her adım bir öncekinden daha geniş bir katılım gerektiriyor.
| Adım | Kapsam |
|---|---|
| Gömülü denetçi | Şirketlerin içinde kalıcı, bağımsız denetçiler |
| Ortak standart | Demokratik ülkeler arasında ortak güvenlik ölçütleri |
| Küresel anlaşma | Çin'in de dahil olduğu uluslararası anlaşma |
Birinci adımı Anthropic tek taraflı olarak şimdi atıyor. Şirket, METR gibi üçüncü taraf değerlendiricilere modellerine geniş erişim vereceğini açıkladı; amaç güvenlik uygulamalarına ve taahhütlerine uyumun dışarıdan doğrulanması.
Gömülü denetçi ne demek
Anthropic'in taahhüdü yalnızca erişim vermekle sınırlı değil. Şirket, iç sistemlerine erişimi olan ve bulgularını yayımlama hakkı bulunan kalıcı denetçiler kabul edeceğini söylüyor.
Amodei hükümetlerden bunu sektörün tamamına zorunlu kılmasını istiyor. Fark burada: bir şirketin gönüllü şeffaflığı ile yasayla tanımlanmış bir denetim yükümlülüğü aynı şey değil ve ikincisi olmadan birincisi rekabet dezavantajına dönüşüyor.
Gömülü denetçi fikri aynı zamanda bir sınav. Bir denetçinin bulgularını yayımlayabilmesi, şirketin kendi aleyhine çıkabilecek sonuçları da kabul etmesi anlamına geliyor; taahhüdün ciddiyeti ilk olumsuz raporda ölçülecek.
Anlaşma nasıl kurgulanıyor
Üçüncü adımdaki öneri dört kademeli bir yapı içeriyor ve en üstte özyinelemeli kendini geliştirmeye konulacak bir hız sınırı duruyor. Amodei bunu Soğuk Savaş dönemindeki silah azaltma anlaşmalarına benzetiyor.
Aciliyet gerekçesi de somut: özerk siber saldırı yapabilen sistemlerin altı ila on iki ay içinde tüm interneti tehdit edebileceğini savunuyor ve bunu OpenAI ile Anthropic'te belgelenmiş olaylara dayandırıyor.
Çin'in dahil olduğu bir anlaşma fikri planın en zorlu kısmı. Silah anlaşmalarında doğrulama fiziksel denetime dayanıyordu; yazılımda karşılığının ne olacağı metinde açık bir yanıt bulmuyor.
Kazanılan zaman neye harcanacak
Amodei yavaşlamanın kendisinin bir amaç olmadığını vurguluyor. Kazanılan zamanın güvenlik araştırmasına, yorumlanabilirlik çalışmasına ve daha sıkı testlere gitmesi gerektiğini söylüyor.
Kullandığı benzetme havacılık: sektörün güvenlik standartlarının onlarca yılda oturması. Metnin zayıf noktası da burada; havacılıkta standartları kazalar şekillendirdi, burada ise henüz gerçekleşmemiş bir riske karşı önceden anlaşma isteniyor.
Zamanlama neden dikkat çekiyor
Metin, şirketin kasımda beklenen ve tarihin en büyüğü olabilecek halka arzının hemen öncesinde geldi. Aynı hafta Nvidia'nın bu arza 10 milyar dolara kadar girmek için görüştüğü de bildirildi.
Bu, çağrıyı otomatik olarak samimiyetsiz yapmıyor ama okunuşunu değiştiriyor. Yavaşlama çağrısı yapan şirketin aynı anda rekor bir sermaye turu hazırlaması, önerinin nasıl karşılanacağını da belirleyecek. Rakiplerin bu çağrıya katılıp katılmayacağı ise planın ikinci adımının kaderini doğrudan belirliyor.