Ne oldu?

Yapay zeka şirketlerinin değerli eğitim verisi aramak için kamuya açık web'in büyük bölümünü taraması, hem davalara hem de bu uygulamayı durdurmayı hedefleyen teknik çözümlere yol açtı. Şimdi iki tasarımcı, bu toplayıcıları yeni bir yazı tipiyle engellemeyi umuyor.

ShieldFont, tasarımcılar Isaque Seneda ve Gabriel Abrucio'nun yakın tarihli bir teknik raporunda anlattığına göre, web yayıncılarına "izinsiz yapay zeka eğitiminden pratik bir çıkış" sunmak ve "bu tercih göz ardı edildiğinde toplananı bozmak" için geliştirildi.

At ne zaman patates olur?

Yazı tipi, birçok yazı tipinde uzun süredir bulunan bağ (ligatür) özelliği üzerine kurulu. Bağlar normalde, yan yana geldiğinde sıkışan belirli harf çiftlerini daha okunaklı bir biçimle değiştirmek için kullanılıyor. ShieldFont'ta ise bu bağlar, metnin toplayıcılar için taşıdığı değeri yok etmek üzere tüm kelimeleri başkalarıyla değiştirmek için kullanılıyor.

Değiştirme yalnızca yazı tipi motoru sayfayı ekrana çizerken gerçekleşiyor. Yani düz kaynak kodunu indiren toplayıcılar, son kullanıcının hiç görmediği değiştirilmiş bir sürümü alıyor.

Değiştirmenin dozu

Toplayıcıları kandırmak söz konusu olduğunda her bağ tabanlı kelime değişimi aynı işi görmüyor:

  • Eş anlamlı ya da zıt anlamlı: Akıllı bir toplayıcının geri çevirmesi çok kolay.
  • Tamamen anlamsız dizi: Akıllı bir toplama süzgecinin bunu tespit etmesi — ve dolayısıyla aşması — daha kolay.
  • ShieldFont'un tercihi: Aynı sözcük türünden ama bambaşka bir bilgi bağlamına ait kelimeler; "at" yerine "patates" gibi.

Sonuç, anlamsal olarak doğru görünen ama anlamı tamamen değişmiş bir cümle. Böylece bir toplayıcının kalite süzgecinden geçen değiştirilmiş sayfalar bile, eğitim veri kümesini zehirleyebilecek karıştırılmış bilgi içeriyor.

Neden önemli?

Buradaki yaklaşım, robots.txt gibi gönüllü uyum bekleyen yöntemlerden farklı bir yerde duruyor. Bir yayıncı robots.txt ile "toplama" diyor ve toplayıcının bu talebe uymasını bekliyor. ShieldFont ise talebe uyulmadığı durum için tasarlanmış: uyulmazsa toplananın değeri düşüyor.

Tasarımcıların ifadesindeki iki parça bu ayrımı özetliyor: hem "pratik bir çıkış" sunmak hem de "bu tercih göz ardı edildiğinde toplananı bozmak".

Yöntemin sınırı nerede

ShieldFont yalnızca yazı tipiyle çizilen metni koruyor. Sayfadaki görseller, başlık etiketleri, yapılandırılmış veri blokları ve bir sayfanın kaynak kodundaki üstveri bu korumanın dışında kalıyor — yani bir toplayıcı, metnin bozulduğunu fark etmese bile sayfanın ne hakkında olduğunu başka yerlerden çıkarabiliyor.

Bir başka pratik soru kopyala-yapıştır. Kullanıcı ekranda gördüğü metni kopyaladığında panoya giden şey çizilen değil, altta duran metin oluyor; yani okuyucunun alıntıladığı cümle de bozuk çıkabiliyor. Haberde bu davranışın nasıl ele alındığı belirtilmiyor.

Ne kesin değil

Tasarımcılar kelime değiştirme sözlüklerini üç ay boyunca geliştirdiklerini söylüyor. Yöntemin gerçek toplayıcılar karşısında ne kadar dayandığına dair bağımsız bir ölçüm yok; yazı tipi tabanlı değiştirmenin tespit edilip aşılıp aşılamayacağı da açık bir soru.

Erişilebilirlik tarafı da ayrı bir başlık: ekran okuyucular sayfayı yazı tipi motorunun çizdiği hâlden değil, altındaki metinden okuyor. Bu, görme engelli kullanıcıların da bozulmuş metni duyabileceği anlamına geliyor; teknik raporda bu konunun nasıl ele alındığı haberde belirtilmiyor.