Ne oldu?

Saleh Almohaimeed ve dört meslektaşı, retrieval-augmented generation (bilgi getirimiyle zenginleştirilmiş üretim, RAG) sistemlerinde gizlilik sorununa çözüm sunan Sensitive Entity Alias Generator (SEAG) adlı bir çerçeveyi tanıttı. Çalışma 13 Ağustos 2026 tarihinde arXiv üzerinde yayımlandı. SEAG, hassas varlıkları (isim, kurum, kişisel veri gibi) tespit eden hafif bir model kullanarak bunlara karşılık gelen takma adlar üretiyor ve bir değiştirme tablosu oluşturuyor.

Bu tablo, kullanıcı sorgusundaki ve alınan belgelerdeki hassas kelimeleri, veriler üçüncü taraf bir üretici modele (external generator) iletilmeden önce değiştirmek için kullanılıyor. Böylece dış model, gerçek hassas bilgiye erişmeden yine de anlamlı ve doğru bir yanıt üretebiliyor.

Neden önemli?

Büyük dil modellerini (large language model, LLM) kullanan RAG sistemlerinde gizlilik araştırmaları şimdiye kadar genellikle yetkisiz kullanıcıların hassas verilere erişimini engellemeye odaklanmıştı. Ancak araştırmacılara göre gözden kaçan bir sorun, dış üretici modellerin sorguya ve alınan belgelere doğrudan erişebilmesiydi; bu durum gizli bilgilerin kötüye kullanılması veya amaç dışı erişilmesi riskini doğuruyordu. SEAG, kullanıcıların güçlü üçüncü taraf üretici modellerden faydalanırken hassas bilgilerini paylaşmak zorunda kalmamasını sağlıyor.

Bulgular

  • Kullanıcı metriğinde, yani modelin hassas bilgiyi dış üreticiden gizlerken kullanıcıya doğru yanıt verme becerisinde tüm SEAG modelleri yüzde 80'in üzerinde doğruluk elde etti.
  • Qwen-3 tabanlı SEAG modeli, belgelerdeki tüm hassas varlıkları gizleme konusunda yüzde 77,83 toplam doğruluk gösterdi.
  • LLaMA-3.2 tabanlı model yüzde 76,73, Phi-4 tabanlı model ise yüzde 74,91 doğruluk elde etti.
  • Araştırmacılar, SEAG modellerini eğitmek için bir veri kümesi, çerçeveyi değerlendirmek için ise ayrı bir veri kümesi oluşturdu.

Sırada ne var?

Çalışma, Knowledge-Based Systems dergisine gönderilmiş durumda ve hakem değerlendirme sürecinden geçmesi bekleniyor. Yayının arXiv sayfasında PDF, HTML ve TeX kaynak dosyaları erişime açık; kod ve veri paylaşımına ilişkin ayrıntılar henüz netleşmedi.