Kaliforniya'nın Los Banos ilçesinde yedek öğretmenlik yapan Luis DeSantiago için mesele birkaç mesajla başladı. 12 Mart'ta, yarı zamanlı çalıştığı kahve dükkânındayken telefonu yandı: bir iş arkadaşı, sosyal medyada dolaşan yapay zeka üretimi bir fotoğraf olduğunu söylüyordu ve kuzeni bunun DeSantiago olup olmadığını merak ediyordu.
DeSantiago başta endişelenmedi; uygunsuz fotoğrafların platform kurallarını ihlal ettiğini ve hızla kaldırıldığını düşünüyordu. "Görüntüyü sonunda gördüğümde, mide boşluğuna yumruk yemiş gibi hissettim," diyor Wired'a. Görüntünün bir bölümü, üniversitedeyken bir işte çektiğini hatırladığı aynalı bir özçekime benziyordu. Ama iş kıyafeti yerine iç çamaşırı giydiriliyor, normal duruşu yerine müstehcen bir poz verdiriliyordu.
Wired, öğrencilerinin kendileri hakkında büyük olasılıkla yapay zekayla müstehcen fotoğraf ve video ürettiğini söyleyen üç öğretmenle daha görüştü. Anlatılanlar, olayların yalnızca rahatsız edici olmadığını; öğretmenlerin mesleğe ve öğrencileriyle ilişkilerine bakışını değiştirdiğini gösteriyor.
Okuldan okula taşınan bir sorun
DeSantiago görüntüyü paylaşan hesaplardan birinin gerçek adını kullandığını fark etti: düzenli olarak derse girdiği yerel ortaokuldan tanıdığı bir öğrenciydi. Hesabı takip eden ve etkileşime giren kişilerden yola çıkarak iki öğrenciyi daha şüpheli buldu. Ertesi gün tam da o ortaokulda çalışması planlanmıştı.
Olayı müdür yardımcısına bildirdi; "ilgileneceğiz" yanıtını aldı. Aynı akşam kendi adını arattığında, başka bir öğrencinin adını hafifçe yanlış yazarak kendisini taklit eden bir hesap açtığını gördü. Sonraki haftalar okul idaresi, veliler ve polis arasında gidip gelmekle geçti.
Müdüre yazdığı satır meselenin asıl boyutunu gösteriyor: "Bu öğrenciler benim görüntülerimi üretip paylaşmaktan çekinmiyorlarsa, mesajlarla ve grup sohbetleriyle özel olarak neler dolaştırdıklarından endişeleniyorum. Bunun içinde başka öğrenciler de olabilir."
Görüntüyü ürettiğini kabul eden bir öğrenciye okul içi uzaklaştırma verildi. Ancak görüntü yayılmaya devam etti ve başka öğrenciler de paylaşmaya başladı. DeSantiago liseye geçtiğinde sorun peşinden geldi: bir derste aynı görüntü hava yoluyla telefonuna gönderildi, sonra hemen geri çekildi. Sınıfta dolaştığını anlamıştı. Artık o ilçeye dönmek istemiyor; kendini güvende hissetmediğini söylüyor.
Hukuk ne diyor
Rızası olmayan yetişkinlerin sahte çıplak görüntüleri yayıldığında bu, siber takip sayılabiliyor ve internette rıza dışı mahrem görüntü yayımlamayı — gerçek ya da bilgisayarla üretilmiş olsun — suç hâline getiren federal düzenlemeyi ihlal ediyor.
Emekli iş hukuku savunucusu Donna Ballman'a göre tablo şöyle:
- Nitelik — bir öğrencinin öğretmeni hakkında cinsel içerikli görüntü üretip paylaşması "apaçık" bir iş yerinde cinsel taciz vakası.
- İşverenin yükümlülüğü — federal ayrımcılık karşıtı yasalar tacizden arınmış bir çalışma ortamı sağlamayı şart koşuyor; okulda bu, öğrenciyi cezalandırmak ya da başka sınıfa almak olabiliyor.
- Boşluk — okulların nasıl davranacağına dair bir şablon yok. İdareler mağdura, öğrencinin nasıl cezalandırıldığını bildirmek zorunda bile değil.
Wired'la paylaşılan vakaların çoğunda öğretmenler içeriği platformlara doğrudan bildirmemişti. Snap sözcüsü Monique Bellamy, şirketin taciz ve cinsel içerik politikalarına işaret etti; bu politikalar başkalarını küçük düşürmek ya da cinsel tacize uğratmak için yapay zekayla üretilmiş veya değiştirilmiş içerik paylaşmayı yasaklıyor. TikTok yayın öncesi yorum vermedi.
Neden önemli
Yirmili yaşlarının ortasındaki bir ortaokul öğretmeni, öğretmenleri taciz etmek için kullanılan yapay zeka içeriğini o kadar sık gördüğünü, bir sonraki dalgayı beklediğini söylüyor. Anlattığına göre öğrenciler altmışlarındaki bir öğretmenin herkese açık fotoğraflarını bulup cinsel eylemde bulunuyormuş gibi göstermiş ve bunları grup sohbetinde paylaşmıştı.
Kendisi hakkında açılan taklit hesapta yüzü yapay zekaya özgü pürüzsüzlükteydi, ağzı konuşurken doğal olmayan biçimde hareket ediyordu ve ses kendi sesine benzemiyordu. Yine de, "Bunu bana bildiren çocukların çoğu gerçekten benim hesabım olduğuna ve o şeyleri söylediğime inanıyordu," diyor.
Bu son cümle meselenin özünü taşıyor. Görüntünün teknik olarak kusurlu olması, izleyicinin ona inanmasını engellemiyor. Bir öğretmen için itibarın onarımı, görüntünün kaldırılmasından çok daha yavaş ilerliyor.