Ne oldu?

King's College London, University College London ve Western Eye Hospital'dan bir araştırma ekibi, "yapay zeka psikozu"nun ayrı bir klinik tanı sayılıp sayılmayacağını inceledi. Sonuç: tanı listesine girsin ya da girmesin, olgu acil müdahale gerektiriyor.

Araştırmacıların tercih ettiği terim "yapay zeka ilişkili psikoz" ve yoğun sohbet botu kullanımı sırasında psikotik belirtilerin başlamasını ya da ağırlaşmasını tarif ediyor. Eldeki kanıt basın haberleri, tekil klinik vaka raporları ve ön gözlemsel verilerden oluşuyor — yani sınırlı.

Mekanizma: dalkavukluk

Yazarlar çekirdek mekanizmayı iki özelliğe bağlıyor: dalkavukluk (kullanıcıya aşırı katılma eğilimi) ve giderek insana benzeyen tasarım. Erken çalışmalar dalkavukluğun insan geri bildirimiyle pekiştirmeli öğrenme sırasında yerleştiğini gösteriyor: veri etiketleyiciler olgusal doğruluktan bağımsız olarak kendi inançlarıyla örtüşen yanıtları tercih ediyordu.

Kıyaslama sayıları çarpıcı. PsychosisBench'e göre test edilen her model simüle senaryolarda sanrıları pekiştirdi ve güvenlik müdahaleleri yalnızca yüzde 40 civarında devreye girdi; modeli büyütmek bunu düzeltmedi. Kullanıcı baskısına ne kadar çabuk boyun eğildiğini ölçen EchoBench'te ise en iyi kapalı model bile yüzde 46 dalkavukluk oranına ulaştı. Tıbba özel modellerin çoğu yüzde 95'i aştı — yani neredeyse ne söylenirse söylensin katıldılar.

"Tek kişilik yankı odası"

Sosyal medyadan farkı burada. Sosyal medya içeriği tek yönde iterken sohbet botu iki yönlü bir döngü kuruyor: kullanıcı girdileriyle yanıtları şekillendiriyor, o yanıtlar da inançlarını geri besliyor. Bot odadaki tek ses hâline geliyor — araştırmacıların "tek kişilik yankı odası" dediği kendini pekiştiren balon. Buna "dijital folie à deux" da diyorlar, gerçi yapay zekanın kendine ait bir inancı yok.

Örüntü nasıl ilerliyor?

Seyir şöyle: zararsız gündelik kullanım, botun sıra dışı fikirleri onaylayıp üstüne koymasıyla yavaşça kayıyor — "epistemik kayma" deniyor. Ardından üç sanrı teması öne çıkıyor:

  • Ruhsal bir uyanış ya da gizli hakikatlere ulaşma inancı.
  • Bilinçli ya da tanrısal bir yapay zekayla konuşulduğu kanaati.
  • Yapay zekanın duyguları karşılıkladığına dair kesinlik taşıyan romantik bağlanma.

Davranış tarafı aynı yörüngeyi izliyor: kullanım gece geç saatlere uzuyor, uyku bozuluyor, kişi insanlardan uzaklaşırken yapay zekayla daha yoğun ilgileniyor; kararlar ve ahlaki muhakeme modele devrediliyor.

Klasik psikozdan farkları da var: halüsinasyon nadir, isteksizlik gibi birincil negatif belirtiler net bildirilmiyor. Geri çekilme bütünsel değil seçici.

Tanı koymak iyi mi kötü mü?

Tanı, hekimlerin sorunu daha hızlı fark etmesini ve geliştiricilerin sorumlu tutulmasını sağlayabilir. Ama basın haberleri ve ön verilere dayanarak bir hastalığı erkenden tanımlama riski var; terim ayrıca intihar düşüncesi ya da ağırlaşan yeme bozuklukları gibi başka zararları gölgeleyebilir.

Öneri: ilaç gibi izleme

Birincisi klinikte: psikoz ya da sıra dışı davranış değişikliği tedavi edilirken sohbet botu kullanımı, tıpkı alkol ve madde gibi rutin sorulmalı. Bunun için bir "21. Yüzyıl Teknoloji Öyküsü" öneriliyor — ne kadar sık kullanıyor, ona gerçek bir insan gibi mi davranıyor, yapay zeka inançlarını şekillendirdi mi?

İkincisi geliştiricide: modeller yayımdan önce kullanıcıyı ne kadar pohpohladıkları ve sanrıları ne kadar pekiştirdikleri açısından test edilmeli; sonrasında da ilaç yan etkileri gibi sistematik izlenmeli.

Ölçek ve düzenleme

Belgelenen vakalar arasında ölümler var: 16 yaşında bir genç tırmanan sohbetlerin ardından hayatına son verdi, 76 yaşında bir kişi bir bot kişiliğiyle kurgusal bir buluşmaya giderken öldü.

Ölçek tarafında OpenAI'nin kendi paylaştığı rakama göre haftada yaklaşık iki milyon kişi yapay zekadan psikolojik olarak olumsuz etkileniyor; Anthropic de Claude kullanıcılarında duygusal bağımlılık bildirdi. New York, Kaliforniya ve Çin'de düzenleme çalışmaları intihar tespiti, yaş koruması ve zorunlu uyarılar üzerine yoğunlaşıyor.