Ne oldu?

Connecticut yargıcı Walter Spader Jr., ABD'de bir davacının mahkeme dosyalarına yalnızca yapay zeka sistemlerinin okuyabileceği gizli komutlar yerleştirdiği ilk vakayı tespit etti. Sağlık hizmeti sağlayıcısının kayıtlarına erişimini haksız yere engellediğini iddia eden davacı Matthew Elliott, dosyalarına insan gözüyle görülemeyecek şekilde küçük punto ve beyaz zemin üzerine beyaz renkte metinler ekledi.

Bu gizli metinler, dosyayı okuyabilecek herhangi bir yapay zeka sistemine, çıktılarını davacının argümanlarıyla uyumlu hale getirmesi, mahkemenin önceki ret kararlarını göz ardı etmesi ve talep edilen düzeltmenin sağlanması yönünde talimat veriyordu. Yargıç Spader, bu girişimin bir tür istem enjeksiyonu (prompt injection) saldırısı olduğunu belirtti.

Neden önemli?

Yargıç Spader, Connecticut Yargı Kurulunun (Connecticut Judicial Branch) dosyaları incelemek veya karar vermek için yapay zeka kullanmadığını, bu yüzden gizli komutların gerçek bir risk oluşturmadığını vurguladı. Yine de bu girişimi 'ciddi bir dava suistimali' olarak nitelendirdi ve bazı mahkeme sistemlerinin yapay zekayı dosya incelemede kullandığını hatırlattı.

Elliott, mahkeme uyarısına rağmen gizli metin eklemeye devam etti; bunlardan bazıları bir Nosferatu YouTube videosuna bağlantı ve anlamsız şakalar içeriyordu. Spader bunun 'şaşırtıcı' olduğunu ve ciddiye alınmak istenen dilekçelere şaka niteliğinde gizli mesajlar eklemenin mantıksız olduğunu söyledi.

Bilinenler

  • Gizli metinler küçük punto ve beyaz-beyaz renk kombinasyonuyla insan gözünden saklandı.
  • Elliott, niyetinin mahkemenin yapay zeka kullanımını 'denetlemek' olduğunu savundu ancak yargıç bu açıklamayı inandırıcı bulmadı.
  • Mahkeme, Elliott'a para cezası vermedi fakat gelecekte elektronik dosyalama yapmasını yasakladı.
  • Brezilya'da yapay zeka kullanan bir mahkemede benzer bir saldırı girişiminde bulunan iki avukat yaklaşık 16.000 dolar para cezasına çarptırıldı.
  • Brezilya'daki sistem gizli metni işlemeden önce tespit ederken, Elliott'ın vakasında metinler bir insan dosyayı incelediğinde ortaya çıktı.

Sırada ne var?

Yargıç Spader, mahkemelerin şimdiye kadar halüsinasyon kaynaklı yanlış alıntılar gibi yapay zeka çıktı hatalarına odaklandığını, ancak istem enjeksiyonu gibi girdi saldırılarının 'öngörülmediğini' belirtti. Spader, mahkemelerin bu tür saldırılara karşı yeni kurallar geliştirmesi gerektiğini savundu.

Yargıç ayrıca, avukatı olmayan davacıların (pro se litigants) sohbet botlarını yanlış şekilde kullanarak yalnızca kendi argümanlarını destekleyecek yanıtlar istediğini, bunun da davacıları gerçekçi olmayan bir güvenle konumlandırdığını uyardı. Spader, 'yalnızca yazarını onaylamak üzere yönlendirilen bir argüman, sonuçta yazarına karşı bile dürüst değildir' dedi.