Ne oldu?

Anthropic, Claude'un çıktılarına filigran koyma kararı aldı: sohbet botunun ürettiği metne, onu yapay zeka üretimi olarak işaretleyen görünmez bir kod yerleştiriliyor.

Şirket bu politikayı AB Yapay Zeka Yasası'nın Şeffaflık Kuralları'na uymak için devreye soktu. Kurallar artık teknoloji şirketlerinden, yapay zeka tarafından üretilmiş ya da düzenlenmiş içeriği bilgisayar sistemlerince tanınabilir biçimde etiketlemesini istiyor. Avrupalı düzenleyiciler bundan memnun olabilir; ancak bazı yapay zeka kullanıcıları kesinlikle değil.

Tepki nerede?

Hoşnutsuzluğun izini sürmek için Reddit'e bakmak yeterli — ancak sitedeki diğer kullanıcılar bu tepkiye katılmıyor. Öne çıkan gönderilerden biri, hesabı yalnızca üç haftalık olan visionode adlı bir kullanıcıya ait. Bu kullanıcıya göre yeni filigran sistemi, dünya çapındaki masum sohbet botu kullanıcılarını mağdur etmek üzere tasarlanmış bir komplo.

Gönderinin temel savı şu: teknik bilgisi olan Claude kullanıcıları metni başka yapay zeka servislerinden geçirerek ya da başka sözcüklerle yeniden yazarak izlerini gizleyebilirken, ortalama kullanıcı yakalanacak.

Verilen örnekler

Gönderide sayılan örnekler şunlar:

  • Claude'a bir paragrafı yeniden düzenleten öğrenci
  • Yapay zekadan iki yüz sayfalık bir dökümü özetlemesini isteyen gazeteci
  • Yaratıcı tıkanma yaşayıp eş anlamlı sözcük isteyen yazar

TechCrunch'ın değerlendirmesi bu örneklerin ikna edici olmadığı yönünde: iki yüz sayfalık bir dökümü özetleten gazetecinin filigrandan rahatsız olması, ancak o özeti kelimesi kelimesine yazısına kopyalaması hâlinde söz konusu — ki bu zaten açıkça etik dışı ve olmaması gereken bir şey. Aynı şey, "bir paragrafı yeniden düzenle" dedikten sonra çıktıyı ödevine yapıştıran öğrenci için de geçerli.

Diğer kullanıcılar ne dedi?

Reddit'teki diğer kullanıcılar da bu öfkeye pek destek vermedi. Bir kullanıcı yalnızca "şu adama bakın" diye yorum yaptı; bir başkası gönderi sahibinden "derin bir nefes" almasını istedi. Şikâyet eden tek kişi visionode değildi, ancak tartışma tek yönlü ilerlemedi.

Kuralın kapsamı

AB Yapay Zeka Yasası'nın şeffaflık maddesi, içeriğin insan gözüyle etiketlenmesini değil, bilgisayar sistemlerince tanınabilir biçimde işaretlenmesini istiyor. Bu ayrım filigranın neden görünmez olduğunu açıklıyor: amaç okuyucuya bir uyarı göstermek değil, bir aracın metni sonradan sınayabilmesi.

Yükümlülüğün model sağlayıcısında olması da kritik. Kuralı uygulayan taraf metni kullanan kişi değil, metni üreten şirket; dolayısıyla kullanıcının bu işaretleme üzerinde bir tercihi bulunmuyor.

Neden önemli?

Tepkinin kendisi, filigran teknolojisinin ne işe yaradığına dair bir şey söylüyor. Bir şeffaflık aracının en görünür etkisi, onu gizlemek isteyenler üzerinde oluyor — ve bu, düzenlemenin amacıyla kullanıcının beklentisi arasındaki mesafeyi ortaya koyuyor.

AB kuralının gerekçesi okuyucunun bir metnin nasıl üretildiğini bilebilmesi. Şikâyetin gerekçesi ise tam tersi: metnin nasıl üretildiğinin bilinmemesi. İki taraf da aynı özelliğin aynı sonucundan söz ediyor.

Ne kesin değil

Tepkinin ne kadar yaygın olduğuna dair bir ölçüm yok; haber tek tek gönderilere dayanıyor ve öne çıkan gönderinin sahibinin hesabı üç haftalık. Filigranın gerçekte hangi koşullarda tespit edilebildiği ve ne kadar dayanıklı olduğu da bu haberin kapsamı dışında.