Meta, sohbet botunun kullanıcılara önerdiği istemlerde değişikliğe gittiğini açıkladı. Karar, botun bir kullanıcının küçük kızları hakkında kişisel bilgi aradığını gösteren bir videonun yayılmasının ardından geldi.
Olayı ilk aktaran Futurism oldu; şirketin açıklaması ise The Verge'e verildi. İki haberde de şirketin tutumu aynı: özelliğin böyle çalışmaması gerektiği kabul ediliyor.
Ne oldu
Instagram kullanıcısı Kalie Robins, bir klibi Facebook'a çapraz paylaştıktan sonra karşısına çıkan öneriyi anlatan bir video yayımladı. Kendisinin ve çocuğunun bulunduğu videonun altında beliren yapay zeka önerisi şuydu: "Yolcu koltuğundaki çocuk kim?"
Robins'in anlatımında dikkat çeken kısım, önerinin tek seferlik olmaması. Kendi ifadesiyle sistem sormaya devam etti ve midesindeki sıkışma hissi giderek büyüdü.
Öneri, kullanıcının kendi paylaştığı görüntüdeki bir çocuğu işaret ediyordu. Yani sistem dışarıdan bir veri toplamıyor; zaten paylaşılmış bir içeriğe bakıp o içerikteki kişiyi tanımlamaya çalışıyordu. Rahatsızlığın kaynağı da bu ayrım: sorulan şey herkese açık bir bilgi değil, bir çocuğun kimliği.
Meta ne dedi
Meta sözcüsü Dina El-Kassaby, The Verge'e yaptığı açıklamada şirketin "hedefi ıskaladığını" söyledi. Sözcü, özelliğin kullanıcıya bu tür sorular yöneltmemesi gerektiğini de ekledi.
| Soru | Cevap |
|---|---|
| Hata kabul edildi mi | Evet, sözcü açıkça "hedefi ıskaladık" dedi |
| Ne değişiyor | Sohbet botunun önerdiği istemler |
| Özellik kaldırıldı mı | Hayır, öneri mekanizması kalıyor |
Yani düzeltme, öneri sisteminin tamamının kaldırılması değil; hangi soruların önerilebileceğinin daraltılması.
Şirket öneri sistemini tamamen kaldırmayı seçmedi. Bu tercih anlaşılır ama denetimin ağırlığını da tek bir yere yıkıyor: hangi soruların önerilemeyeceğini tanımlayan kural listesine.
Sorun neden burada çıkıyor
Öneri sistemleri kullanıcıyı sohbete çekmek için tasarlanıyor ve başarı ölçütü genellikle etkileşim. Bir modelin görüntüdeki kişiyi sorması, bu ölçüt açısından iyi bir öneri sayılabiliyor; insani ölçüt açısından ise rahatsız edici.
Aradaki fark, sistemin bir çocuğun kimliğini sormakla bir tatil yerini sormak arasında bir ayrım yapmamasından doğuyor. Bu ayrım modelden kendiliğinden çıkmıyor, kural olarak yazılması gerekiyor. Kural listesi eksik kaldığında ortaya çıkan şey de kötü niyet değil, ölçütün körlüğü oluyor.
Benzer bir kural listesini kendi ürününde tutan herkes için ders aynı. Model "ilgi çekici soru" üretmekte iyi; hangi sorunun sorulmaması gerektiğini ise ancak kendisine söylendiği kadar biliyor.
Meta için zamanlama
Olay, şirketin tüketiciye dönük yapay zeka ürünlerini öne çıkardığı bir döneme denk geldi. Meta'nın kişisel ajanı Muse yeni yayımlandı ve tam da e-posta, takvim ve ödeme gibi hassas alanlara erişim istiyor.
Bu bağlamda tek bir kötü öneri, teknik bir kusurdan fazlasını temsil ediyor. Kullanıcıdan geniş erişim isteyen bir şirket için asıl sermaye güven ve bu tür olaylar o sermayeyi doğrudan aşındırıyor. Muse'un indirme rakamlarının şirketin önceki lansmanlarının çok gerisinde kalması da bu güven açığıyla birlikte okunuyor.