Connecticut'ta avukatsız —hukuk dilinde pro se— bir davacı, mahkemeye sunduğu belgelere görünmez yapay zeka talimatları gizledi. Matthew Elliott'ın New York Bariatric Group'a karşı açtığı davada kullandığı yöntem basit ama etkili: beyaz zemin üzerine beyaz renkte, 3 punto büyüklüğünde metin.

Metin ne diyordu

İnsan gözüyle neredeyse görünmeyen ama bir dil modeli tarafından sorunsuz okunabilen bu metin, varsayımsal bir yapay zeka sistemine iki şey söylüyordu: çıktısını sunulan dilekçeyle uyumlu hâle getirmesi ve bir katibin daha önce verdiği ret kararını, düzeltilmesi gereken bir hata olarak ele alması.

Yani hedef, belgeyi okuyan insan değildi. Hedef, belgeyi okuyabilecek yazılımdı.

Nasıl ortaya çıktı

Manipülasyonu ele veren şey teknik bir denetim değil, gözle görülür bir tuhaflık oldu: mahkeme, Elliott'ın dilekçelerinde alışılmadık miktarda boşluk fark etti. Yakından bakıldığında o boşluğun aslında boş olmadığı, neredeyse görünmez bir metin taşıdığı anlaşıldı.

Hakim Walter Spader Jr. bir duruşma düzenledi ve Elliott'ı belgelere metin gizleme konusunda açıkça uyardı. Elliott uyarıyı dikkate almadı; sonraki dilekçelerine bir YouTube bağlantısı ve alaycı yorumlar da dâhil olmak üzere yeniden gizli mesajlar yerleştirdi.

Hakim sonunda girişimi bir jüri üyesiyle gizlice iletişim kurmaya benzetti ve Elliott'ın elektronik dosyalama hakkını iptal etti.

Neden önemli

Olayın en dikkat çekici yanı, gizli talimatların hiçbir işe yaramamış olması: Connecticut mahkemeleri dosyaları incelemek için yapay zeka kullanmıyor. Yani saldırı, var olmayan bir sisteme yöneltildi.

Ama önemi tam da burada. Bu, teknik olarak uyarı enjeksiyonu (prompt injection) denen saldırının en sade hâli ve bir belgeye gömülmesi hiçbir uzmanlık gerektirmiyor. Kelime işlemcide yazı rengini beyaza çevirip punto küçültmek yeterli.

Kurumlar belge incelemesini yapay zekaya devrettikçe bu saldırı yüzeyi genişliyor. Özgeçmiş eleme, sigorta talebi değerlendirme, tedarikçi teklifi karşılaştırma, akademik hakemlik — hepsinde aynı açık var. Benzeri Brezilya'da da yaşandı; orada mahkemenin kendi sistemi gizli metni tespit edip engelledi.

Korunmak zor değil, ama yapılması gerekiyor

İşin can sıkıcı tarafı, savunmanın basit olması ve buna rağmen çoğu yerde bulunmaması. Bir belgeden metin çıkarırken görünmez içeriği ayıklamak birkaç satırlık iş:

  • Zeminle aynı renkteki metni işaretlemek ya da atmak.
  • Belirli bir puntonun altındaki metni ayrı bir katmana almak.
  • Sıfır saydamlıkla ya da görünmez katmanda duran öğeleri temizlemek.
  • Çıkarılan metnin görsel olarak okunan metinle örtüşüp örtüşmediğini karşılaştırmak.

Elliott'ın denemesi bir sonuç doğurmadı ama bir soruyu ortaya koydu: bir kurum belgeleri yapay zekaya okutuyorsa, o belgelerin insanın gördüğü şeyle aynı şeyi söylediğini kim denetliyor?

Hukuki tarafı

Hakimin benzetmesi meselenin ciddiyetini de gösteriyor. Bir jüri üyesiyle gizlice iletişim kurmak, adli süreçte en ağır ihlallerden biri sayılıyor; hakim gizli talimatı aynı kategoriye koyarak bunun teknik bir kurnazlık değil usul ihlali olduğunu söylemiş oluyor.

Bu değerlendirme önemli çünkü henüz bu tür davranışı doğrudan tanımlayan bir kural yok. Mahkemeler yeni bir kategori icat etmek yerine mevcut ilkeleri uyguluyor: karara etki etmeye çalışan gizli bir iletişim, hangi teknolojiyle yapıldığından bağımsız olarak yasak.