Washington Post'un incelemesine göre ABD Kongresi üyeleri ve yardımcıları, yapay zeka araçlarını günlük işlerinde çok az denetimle kullanıyor. Kullanım alanları konuşma yazmaktan basın bülteni hazırlamaya, seçmenden gelen postayı ayıklamaya kadar uzanıyor.

Neden dikkat çekici

Bu işlerin bir kısmı sıradan ofis işi. Bir basın bültenini taslak hâlde bir modele yazdırmak, herhangi bir kurumda olduğu gibi Kongre'de de verimlilik meselesi.

Ama liste bununla sınırlı değil. Seçmen postasının ayıklanması, hangi vatandaş talebinin bir yasa yapıcının önüne çıkacağını belirliyor. Bu bir filtreleme kararı ve filtreyi kimin kurduğu, hangi ölçütle çalıştığı temsili demokrasinin işleyişine doğrudan dokunuyor.

Denetimsizliğin anlamı

Haberin kilit ifadesi "çok az denetim". Bu, kullanımın yasak olduğu ama gizlice yapıldığı anlamına gelmiyor; ortak bir kuralın hiç bulunmadığı anlamına geliyor.

Pratikte her ofis kendi kararını veriyor: hangi aracı kullanacağı, hangi işte kullanacağı, çıktıyı ne kadar denetleyeceği ve bunu açıklayıp açıklamayacağı. Ortaya çıkan tablo, aynı kurumda birbirinden çok farklı uygulamaların yan yana durması.

Asıl risk nerede

Kongre'nin yapay zeka kullanması kendiliğinden sorun değil. Sorun, kullanımın izlenebilir olmaması:

  • Kaynak belirsizliği — bir konuşmadaki iddianın nereden geldiği, model tarafından mı üretildiği bilinmiyor.
  • Hata dağılımı — model bir olguyu yanlış aktardığında, o yanlış resmî bir metne girmiş oluyor.
  • Veri güvenliği — seçmen postası kişisel veri; hangi araca gönderildiği ve orada ne olduğu belirsiz.

Düzenleyicinin ikilemi

Buradaki durum ayrı bir ironi taşıyor: yapay zekayı düzenlemekle görevli kurum, kendi kullanımını düzenlememiş durumda. Yasama organında biriken tecrübe, çıkacak mevzuatı iyi yönde etkileyebilir — kullanmayan biri neyin düzenlenmesi gerektiğini de bilmiyor.

Ama aynı tecrübe bir çıkar çatışması da yaratıyor. Kendi çalışma düzenini kolaylaştıran bir aracı sınırlandırmak, hiç kullanmayan bir yasa yapıcı için daha kolay.

Bu tartışma ABD'ye özgü de değil. Yapay zeka araçları kamu yönetiminde hızla yayılıyor ve çoğu ülkede bu yayılma, kullanımını tanımlayan bir çerçeve oluşmadan gerçekleşiyor. Kural sonradan geldiğinde, çoğu zaman bir olay yaşandıktan sonra ve alışkanlıkların üzerine geliyor.

Neyin yasaklanması değil, neyin yazılması

Çözüm büyük ihtimalle yasak değil. Yapay zeka kullanmayan bir yasama ofisi, kullananın hızına yetişemez ve bu fark bir süre sonra kalitede de görünür hâle gelir.

Eksik olan, kullanımı görünür kılan basit kurallar:

  • Resmî bir metnin hangi bölümlerinin model yardımıyla hazırlandığının kayda geçmesi.
  • Seçmenden gelen kişisel verinin hangi araçlara gönderilebileceğinin belirlenmesi.
  • Bir modelin ürettiği olgusal iddianın, yayımlanmadan önce doğrulanmasının zorunlu tutulması.

Bunların hiçbiri yapay zeka kullanımını engellemiyor; yalnızca sonradan sorulacak "bu nereden geldi" sorusunun cevabını bırakıyor.

Sonuç olarak buradaki mesele bir teknoloji tartışmasından çok bir kayıt tutma tartışması. Yasama süreci zaten belgeye dayanıyor: kimin ne zaman ne önerdiği, hangi gerekçeyle oy verdiği kayıtlı. Yapay zeka bu zincire giren ilk araç değil, ama izini bırakmayan ilk araç olma yolunda.