Ne oldu?
Anthropic, Claude modellerinin ürettiği metinlere gömülü bir filigran uygulamaya başladığını duyurdu ve bu filigranın nasıl çalıştığına dair teknik ayrıntıları paylaştı. Şirkete göre filigran, kelime seçimi sırasında sık kullanılan yüksek olasılıklı belirteçler (token) arasından belirli bir örüntüye göre seçim yapılmasıyla oluşturuluyor. Anthropic, bu yöntemin metnin görünümünü veya kalitesini pratikte etkilemediğini savunuyor.
Şirketin açıklamasına göre filigran, bir metnin Claude tarafından üretilmiş olma ihtimalini göstermek üzere tasarlandı; kesin bir kanıt sunmuyor. Kod ve olgusal metinlerde kelime seçimi kısıtlı olduğundan filigran izleri daha seyrek bulunuyor. Metin tamamen yeniden yazıldığında ise filigran kayboluyor.
Neden önemli?
Anthropic ayrıca üçüncü tarafların Claude tarafından üretilmiş metinleri tespit edebilmesi için bir filigran tespit API'si duyurdu. Bu adım, yapay zeka üretimi metinlerin akademik ve profesyonel ortamlarda tespitine yönelik artan talebe bir yanıt olarak görülüyor.
Duyuru, kullanıcılar ve geliştiriciler arasında karışık tepkilere yol açtı. Bazı kullanıcılar, filigranın çeviri gibi işlemlerde metni