Yayıncı, internet öncüsü ve girişim sermayedarı Tim O'Reilly, Wired'a verdiği röportajda büyük yapay zeka laboratuvarlarının insanların gerçekte ne istediğini anlamadığını savunuyor. Kurduğu benzetme doğrudan: bu şirketler, 1990'larda Microsoft'un yaptığı gibi kullanıcıları kendi ürünlerine kilitlemeye çalışıyor.

"Açık kaynak" ne demek

O'Reilly'nin en somut itirazı terimin kendisine. Ona göre açık kaynak yapay zeka, çoğu kişinin sandığından çok daha geniş bir şey ifade ediyor ve sinir ağı ağırlıklarını yayımlamak tek başına bunu karşılamıyor.

Gerekli olan, sistemin katmanları arasında net bir ayrım: model, onu çalıştıran ara katman (harness) ve kullanıcının gördüğü uygulama. Bu üçü birbirinden ayrılabildiğinde kullanıcı her katmanı bağımsız olarak değiştirebiliyor — modeli koruyup uygulamayı, ya da uygulamayı koruyup modeli.

O'Reilly'ye göre büyük laboratuvarlar tam tersini yapıyor: üç katmanı birbirine kaynatıp tek bir bütün olarak sunuyor. Ağırlıklar yayımlansa bile, o ağırlıkları çalıştıran iskele kapalı kaldığında kullanıcının gerçek bir alternatifi olmuyor.

Güvenlik tarafındaki iddia

Röportajın en tartışmalı kısmı güvenlikle ilgili. Açık modellerin tehlikeli olduğu yönündeki yaygın argümana karşı O'Reilly, en büyük siber güvenlik olaylarının öncü modellerden kaynaklandığını belirtiyor.

Bu iddianın son dönemdeki karşılığı var: yılın en çok konuşulan güvenlik vakaları, açık ağırlıklı küçük modellerle değil, en büyük laboratuvarların en yeni sistemleriyle yaşandı. Yetenek arttıkça risk de artıyor ve en yetenekli modeller kapalı olanlar.

Yeniliğin nereden geleceği

O'Reilly'nin öngörüsü, gerçek yeniliğin girişim sermayesiyle finanse edilmeyen açık kaynak hareketinden geleceği yönünde. Gerekçesi tarihsel: web, Linux ve modern yazılım altyapısının büyük kısmı da böyle doğdu — yatırım getirisi hesabıyla değil, bir sorunu çözmek isteyen insanlarla.

Bunu tamamlayan bir bakış açısı daha sunuyor: yapay zekayı bir ürün değil, yeni bir yaratıcı ortam olarak görmek. Yazı, boya ve müzik gibi. Bu çerçeve teknolojinin ne yapacağını değil, insanların onunla ne yapacağını merkeze alıyor.

Neden dinlemeye değer

O'Reilly'nin sözlerinin ağırlığı, benzetmesini yaşamış olmasından geliyor. Açık kaynak yazılım hareketinin adını koyan ve yaygınlaştıran kişilerden biri o; Microsoft'un masaüstünde kurduğu kilidi ve o kilidi çözen şeyin ne olduğunu birinci elden gördü.

Öngörüsünün tutup tutmayacağı ayrı bir soru. O dönemin açık kaynak hareketinde kimsenin milyarlarca dolarlık hesaplama gücüne ihtiyacı yoktu; günümüzde öncü bir model eğitmek için gereken sermaye, gönüllü bir topluluğun erişebileceği ölçekte değil. Argümanın en zayıf noktası burada duruyor.

Bir başka soru işareti de kimin adına konuştuğu. O'Reilly aynı zamanda bir girişim sermayedarı ve açık kaynak ekosisteminde yatırımı olan biri; savunduğu yön kendi çıkarıyla örtüşüyor. Bu argümanı geçersiz kılmıyor ama tarafsız bir gözlem olarak da okunmasını engelliyor.

Yine de eğitim ile kullanım arasındaki fark bu itirazı kısmen yumuşatıyor. Bir modeli sıfırdan eğitmek milyarlarca dolar gerektiriyor ama var olan açık bir modeli belirli bir işe uyarlamak çok daha ucuz. Son dönemde açık ağırlıklı modellerin çevresinde büyüyen araç ekosistemi de tam olarak burada, eğitimde değil kullanımda gelişiyor.

O'Reilly'nin üç itirazı

  • Mimari — model, ara katman ve uygulama birbirine kaynatılmış durumda; ağırlıkların yayımlanması tek başına yetmiyor.
  • Güvenlik — en büyük olaylar açık modellerden değil, öncü modellerden çıkıyor.
  • Yenilik — asıl atılım, getiri hesabıyla değil sorun çözmek için çalışan topluluklardan gelecek.