Ne oldu?
Las Vegas'ta düzenlenen Ai4 konferansında dünyanın en saygın yapay zeka araştırmacılarından üçü — Nobel ödüllü Geoffrey Hinton, World Labs CEO'su ve kurucu ortağı Fei-Fei Li ve Coursera kurucu ortağı Andrew Ng — açıklık meselesinde konuştu. Üçü belirli taktiklerde anlaşmasa da hepsi yapay zekanın açık kalması için güçlü bir savunma yaptı.
Tartışmanın zemini şu: Pacing the Frontier gibi projeler yapay zeka araştırmasını güvenli tutmak için büyük laboratuvarlara bakarken, açık kaynak modeller sektör için hassas bir konuya dönüştü. Serbest dağıtımları ve nasıl kullanıldıkları üzerinde çok az denetim olması, bazı laboratuvarların açık ağırlıklı modellere kaygıyla bakmasına yol açıyor.
Ortak kaygı: kapı bekçiliği
Üç konuşmacı için temel kaygı, bir avuç büyük yapay zeka şirketinin ilerlemenin hızını denetlemesine izin vermek. Birkaç şirket bir teknolojiye erişimi denetlediğinde — Apple ve Google'ın mobil işletim sistemlerinde yaptığı gibi — yenilik yavaşlayabiliyor ve platformları denetleyen şirketler üzerlerine ne inşa edileceğini etkileyebiliyor.
Andrew Ng, yapay zekada benzer bir dinamiğin ortaya çıkmasından endişe ettiğini söyledi: "Kapı bekçileri olmasını istemiyorum. Bu, hepimizin yapay zekaya nasıl erişebileceğini sınırlıyor."
Ng'in reçetesi
Şirketlerin rekabet avantajlarını koruma — bu arada sektörü yöneten kuralları etkileme dahil — güdüsü var. Bu, yalnızca en büyük ve en iyi sermayelendirilmiş firmaların en gelişmiş yapay zeka sistemlerini kurabilecek kaynağa sahip olduğu bir dinamik yaratabilir.
Ng'in çözümü, bir avuç oyuncunun alanı domine etmesine izin vermek yerine model ve şirketlerin rekabet ettiği çok sayıda sağlayıcının korunması: "Tek bir reçete vermem gerekseydi, açıklığı teşvik etmek olurdu; çünkü yapay zeka olağanüstü bir teknoloji ve herkesin elinde olmasını istiyorum."
Hinton'ın itirazı
Ancak herkes açık ağırlıklı modellerin bu dengeyi korumaya yardım edeceği konusunda hemfikir değil. Hinton özellikle bir ayrım çiziyor:
- Açık kaynak yazılım: Altta yatan kodu incelemeye ve değiştirmeye açıyor.
- Açık ağırlıklı model: Eğitilmiş bir yapay zeka modelinin parametrelerini kamuya açıyor.
Hinton'ın ifadesiyle: "Açık kaynak harika. İnsanlara kodu gösteriyorsun, birçok kişi kod satırlarına bakıp 'bak burada bir hata var' diyor." Açık ağırlıkta ise bu inceleme aynı biçimde işlemiyor — parametreleri görmek, bir hatayı görmekle aynı şey değil.
Neden önemli?
Bu ayrım tartışmanın merkezinde duruyor çünkü "açıklık" tek bir şey değil. Bir modelin ağırlıklarını yayımlamak, onu inceleyebilir kılmakla aynı anlama gelmiyor; incelenebilirlik açık kaynak yazılımdaki gibi doğrudan bir okuma imkânı sunmuyor.
Buna karşılık ağırlıkların indirilebilir olması, iddiaların bağımsız olarak sınanabilmesini sağlıyor. Yani iki tarafın da elinde gerçek bir argüman var ve tartışma bu yüzden kapanmıyor.
Ne kesin değil
Haber bir konferans oturumuna dayanıyor ve üç konuşmacının tam konumlarını değil öne çıkan ifadelerini aktarıyor. Fei-Fei Li'nin bu ayrım karşısındaki tutumu haberde ayrıntılandırılmıyor.